Рисковете от развитието на AI и последиците за глобалната сигурност бяха обсъдени на заседание на Съвета за сигурност на ООН, посветено на изкуствения интелект.
Съпредседателят на Международната независима експертна група на ООН по въпросите на изкуствения интелект професор Йошуа Бенджио предупреди, че някои от най-развитите AI модели могат да излязат извън контрол.
опасностите са реални и непосредствени
ЙОШУА БЕНДЖИО · СЪПРЕДСЕДАТЕЛ НА МЕЖДУНАРОДНАТА НЕЗАВИСИМА ЕКСПЕРТНА ГРУПА НА ООН
Бенджио призова държавите и компаниите да се договорят нито една от тях да не разработва система, способна да причини вреди в голям мащаб. Той настоя разработчиците да доказват пред независими експерти, че системите са безопасни по време на обучението и при внедряването им.
По думите му надпреварата за създаване на все по-мощни модели не е неизбежна, а е резултат от решенията на самите компании. Той предупреди, че ако развитието продължи без достатъчно мерки за безопасност, „всички губят“.
Главният изпълнителен директор на OpenAI Сам Олтман заяви, че AI трябва да дава на хората повече възможности да учат, творят, откриват и участват активно в обществото. Той подчерта, че има дейности, които технологията не може и не бива да автоматизира.
Главният изпълнителен директор на Anthropic Дарио Амодей призова за международни усилия. Според него ограничаването на рисковете надхвърля възможностите на отделна компания и изисква координация на ниво индустрия и международна общност.
