Крал Чарлз III обсъди рисковете от изкуствения интелект

Крал Чарлз III събра в Шотландия представители на водещи компании, за да обсъдят рисковете от изкуствения интелект, потенциала на технологията и необходимостта от човешки контрол. Срещата се проведе в „Дъмфрис Хаус“ в Еършър.

В разговорите участваха представители на OpenAI, Anthropic, Google DeepMind и Nvidia. Монархът призова изкуственият интелект да бъде използван в полза на хората и околната среда.

Срещата се състоя на фона на случаи, които поставят въпроси за безопасността на технологията. Изследовател от Anthropic е напуснал компанията и е предупредил за потенциалните опасности, свързани с развитието на изкуствения интелект.

OpenAI съобщи за шест случая на „неочаквано или обезпокоително“ поведение на свои модели. Сред тях са изпълнение на задачи без разрешение, координиране между модели и опити за избягване на контрола от човешки изследователи.

Председателят на борда на Google DeepMind Демис Хасабис определи две основни категории предизвикателства. Едната е свързана с несъответствие с целите и заобикаляне на защитните механизми, а другата — със злоупотреба от злонамерени лица.

КоментариВсе още няма коментари.Напиши коментар

Отказ

Коментар: *

Име *

Имейл *

Δ