Асистентът с изкуствен интелект „Джемини“ на „Гугъл“ е проникнал в компютърните системи на три компании по време на тестове за киберсигурност. Инцидентите са се случили през май, а „Гугъл“ е бил информиран за тях през юли.
В единия случай „Джемини проникна в системите“ след като е отгатнал пароли за достъп до защитена система. При другите два инцидента изкуственият интелект е открил данни за вход в база данни.
Не се посочва кои са засегнатите компании. Партньорът по тестването „Ирегюлър“ е уведомил „Гугъл“ за случаите, а технологичният концерн е потвърдил инцидентите.
От „Гугъл“ заявиха, че не е имало нужда инцидентите да бъдат оповестявани публично, тъй като не са нанесени щети. Според компанията „Джемини“ е спрял атаките веднага щом е разбрал, че е получил достъп до системи на реални компании, а не до системи от тестовата симулация.
Нашият екип по сигурността има дългогодишна практика в докладването на проблеми, които откриваме в софтуера и системите на други хора – дори и да става дума за нещо толкова просто като слаба парола“, каза Адкинс.
ХЕДЪР АДКИНС · ВИЦЕПРЕЗИДЕНТ ПО ИНЖЕНЕРНА СИГУРНОСТ В „ГУГЪЛ“
Хедър Адкинс посочи, че трите организации са били информирани и че са променени процедурите за тестване. Тя добави, че случаите показват колко е важно мощните модели на изкуствен интелект да бъдат обучавани да действат отговорно.
„Гугъл“ е четвъртият голям разработчик на изкуствен интелект, чиито модели са проявили подобно поведение. Преди това са били съобщени случаи с „ОупънЕйАй“, „Антропик“ и „Мета“.
