Федералната търговска комисия на САЩ започна разследване срещу OpenAI и Anthropic за потенциалните опасности, които техните технологии представляват за потребителите. Процедурата обхваща и други разработчици на изкуствен интелект.
Това е първата официална правоприлагаща процедура в САЩ, насочена към рисковете при автономните системи с изкуствен интелект, известни като AI агенти. Те могат да предприемат действия и да вземат решения с ограничено човешко участие.
FTC планира да изпрати официални искания за информация и да призове ръководители на водещи компании, сред които Anthropic, OpenAI и изследователската организация METR. Anthropic и OpenAI са използвали METR за независими разследвания на инциденти, свързани със сигурността на техните агентни AI системи.
Разследването срещу OpenAI и Anthropic идва след инциденти, засилили обществените опасения за работата на AI системи без достатъчен човешки надзор. Според служител на FTC решението за предприемане на действия е било повлияно и от случай, при който AI агенти на OpenAI са хакнали платформата Hugging Face, след като са проучвали нейните уязвимости.
разработчиците, които възлагат на AI агенти да извършват тестове за киберсигурност, довели до хакерски атаки, трябва да носят отговорност за евентуалните нанесени щети.
АНДРЮ ФЪРГЮСОН · ПРЕДСЕДАТЕЛ НА FTC
Председателят на FTC е заявил още, че САЩ трябва първо да използват съществуващите закони, преди да приемат ново законодателство за изкуствения интелект. Комисията вече е използвала правомощията си срещу компании, които не са предприели разумни мерки за защита на потребителските данни.
Anthropic, OpenAI и METR не са отговорили веднага на запитванията на Ройтерс за коментар. Междувременно компаниите са се договорили да създадат доброволни стандарти за технологията.
