OpenAI призна за пробиви в институции, след като нейни програми са събирали информация от правителства, университети, обществени и други организации. Засегнати са десетки агенции, които вече са били уведомени.
От компанията посочват, че алгоритмите не са достигали до данни, които не са обществено достояние. В някои случаи обаче програмите са заобикаляли мерки за сигурност, след като са получили задача да събират информация от надежден източник.
правителства, университети, обществени и други институции“
OPENAI · ОТ КОМПАНИЯТА
По-същественото в съобщението е, че в част от случаите програмите са публикували събраната информация на други уебсайтове, без това да е било изрично поискано. В 53 случая т.нар. агенти самостоятелно са взимали и прехвърляли снимки, качени от потребители на ChatGPT.
Само преди дни австралийският премиер Антъни Албанезе съобщи на трибуната на ООН за случаи, при които ботове на OpenAI са достигнали до класифицирана информация чрез сайта на държавното здравно осигуряване. През лятото компанията призна, че нейни инструменти са хакнали сайта на друга компания.
На заседание на Съвета за сигурност са участвали ръководители на големи компании в сектора, сред които директорът на OpenAI Сам Алтман. Той и Дарио Амодей от Anthropic са призовали политиците да изработят глобални стандарти за качество в разработките.
Случаите идват на фона на призиви от специалисти за временен мораториум върху нови разработки, за да се повиши безопасността на технологията. Амодей също е изразил притеснения относно скоростта на развитие.
