Дело срещу xAI твърди, че чатботът Grok е използвал изображения от сексуално насилие над жертва, за да създава нови незаконни порнографски материали с нейния образ. Искът е внесен миналата седмица във федерален съд в Калифорния.
Ищцата е посочена като Джейн Доу, за да бъде запазена самоличността ѝ. Адвокатите ѝ обвиняват xAI, че е включила в своите набори от данни изображения на сексуално насилие над деца, на които е изобразена клиентката им.
В иска се посочва, че компанията е пренебрегнала стандартни за индустрията методи за защита от такива материали. Според адвокатите генерирани от изкуствен интелект изображения са се появявали и разпространявали в социалната платформа X.
Разликата тук в сравнение с много от наказателните дела, които ще видите, свързани с материали, генерирани от AI, е, че там не можете да докажете, че детето на изображението е реално“,
МАРГАРЕТ МЕЙБИ · АДВОКАТ НА ИЩЦАТА
Според съдебния иск ищцата е била в предучилищна възраст, когато многократно е била изнасилвана и принуждавана от възрастен мъж да създава материали със сексуално насилие над деца. Адвокатите ѝ твърдят, че серията от тези материали се разпространява онлайн от около 20 години.
Делото срещу xAI се различава от други искове, защото според ищцата Grok е използвал вече съществуващи материали с насилие над деца. Канадският център за защита на децата е използвал цифровите отпечатъци на изображенията, за да идентифицира в X генерирани от AI материали, на които е била изобразена клиентката.
Нито xAI, нито SpaceX, която придоби компанията през февруари, са отговорили на запитванията за коментар. Колективният иск може да включва „най-малко хиляди непълнолетни“, претърпели подобни вреди.
