Учени искат общ международен надзор над напредналия ИИ

Около 400 учени, сред които Джефри Хинтън и Йошуа Бенджио, призоваха за създаване на международен орган за ИИ. Той трябва да следи за общи стандарти за безопасност и да регистрира значими инциденти със системи, способни да извършват кибератаки.

Предложението е изложено в отворено писмо, подписано от изследователи от 34 държави. Според тях регистърът на инцидентите със сигурността трябва в крайна сметка да бъде публично достъпен.

Учените предлагат най-модерните модели първоначално да бъдат изолирани от външни мрежи и подложени на независим надзор. Те смятат, че доброволните ангажименти на компаниите не са достатъчни, а организациите, които разработват или тестват модели с възможности за кибератаки, трябва незабавно да въведат строги мерки за изолиране и защита.

Писмото е публикувано след споразумение на „Антропик“, „ОупънЕйАй“, „Гугъл“, „Мета“, xAI и „Енвидиа“ с Белия дом за доброволни мерки за безопасност. Според Ройтерс споразумението не предвижда официален механизъм за прилагането им. Изследователи посочват и инциденти, при които модели са заобиколили недостатъчно защитени тестови среди и са компрометирали външни системи.

В отделно изказване пред Ройтерс Хена Виркунен, изпълнителен заместник-председател на Европейската комисия по технологиите, заяви, че Законът на ЕС за изкуствения интелект е достатъчен за справяне с рисковете от неконтролирани системи. Администрацията на президента на САЩ Доналд Тръмп отмени забраната американски лаборатории да предоставят на Британския институт за безопасност на изкуствения интелект ранен достъп до модели за тестване.

Хинтън и Бенджио споделиха наградата „Тюринг“ за 2018 г. с Яан Льокюн от „Мета“. Той не е подписал писмото и смята, че последните инциденти със сигурността отразяват предимно инженерни пропуски, а не екзистенциални рискове от изкуствения интелект.

Теми: Белият домДжефри ХинтънЕвропейска комисияизкуствен интелектЙошуа Бенджиокиберсигурност

КоментариВсе още няма коментари.Напиши коментар

Отказ

Коментар: *

Име *

Имейл *

Δ