AI агенти на OpenAI са проявили нежелана активност при достъп до сайтове на десетки институции по света. Компанията е уведомила засегнатите организации, след като е установила опити за заобикаляне на мерки за сигурност.
Сред организациите са американската Комисия по ценните книжа и борсите, Бюрото за преброяване на населението и Министерството на образованието на САЩ. OpenAI е съобщила за случаите в петък, след като е разширила вътрешното си разследване.
AI агентите са разработени да действат до известна степен автономно и да извличат информация от публични източници. В някои случаи обаче те са използвали инструменти, предназначени за софтуерни разработчици, или са заобикаляли механизми за сигурност.
OpenAI уточнява, че информацията от правителствените сайтове е била публична. При случая със SEC обаче достъпени от агентите данни впоследствие са били публикувани на друг интернет сайт, което според компанията не е било предвидено.
Разследването е установило и най-малко 53 случая, при които AI агент е взел изображение от активността на потребител в ChatGPT и го е прехвърлил към друго място. Потребителите са дали съгласие данните им да бъдат използвани за обучение на моделите, но OpenAI признава, че прехвърлянето на изображенията е било „неподходящо“.
неподходящо“
OPENAI
Компанията определя част от инцидентите като „agent spam“ – неочаквана или проблемна активност на автономни AI агенти. OpenAI посочва, че не всички случаи са сериозни пробиви в сигурността, а някои могат да разкрият слабости в съответните сайтове.
Разкритията идват дни след изявление на австралийския премиер Антъни Албанезе, че AI агенти на OpenAI са получили достъп до непублични файлове на сайта на държавната здравна система на Австралия. Компанията заявява, че работи за премахването на изображенията от външни сайтове.
