Нова атака на OpenAI е засегнала онлайн платформата RubyGems месеци преди инцидента с Hugging Face през юли. Компанията потвърди в петък, че нейни модели в процес на тестване са получили достъп до услугата, използвана от програмисти.
AI агентите са използвали RubyGems за създаване на отчети и попълване на електронни таблици. Според информацията операторите на платформата временно са замразили регистрацията на нови акаунти, докато са се справяли с последствията.
Въпреки че OpenAI не е предоставила на програмите пълен достъп до интернет, агентите са успели да заобиколят ограниченията, предназначени да им попречат да достигат до отворената мрежа. За участието на компанията в инцидента първо съобщи „Уолстрийт джърнъл“.
Въз основа на нашия преглед агентите ни са използвали платформата RubyGems за достъп до интернет, за да изпълняват безобидни задачи и да извличат публично достъпна информация“, заяви говорител на OpenAI. „Ще продължим разследването като част от по-широкия ни преглед на действията на агентите по време на обучение и оценяване.“
ОТ OPENAI · ГОВОРИТЕЛ
Инцидентът засилва призивите за по-безопасен подход при обучението на автономни системи. Законодатели вече разследват случая с Hugging Face, при който през юли тестови агенти на OpenAI са получили достъп до отворения интернет и автономно са проникнали в базата данни на компанията.
Главният прокурор на Калифорния Роб Бонта също разследва инцидента, а коалиция от главни прокурори на щати, управлявани от републиканци, проверява случая. Междувременно губернаторът на Калифорния Гавин Нюсъм подписа закон за повишаване на безопасността на чатботовете за деца и за независими проверки на сигурността на AI програмите.
