Крал Чарлз III събра в Шотландия представители на водещи компании, за да обсъдят рисковете от изкуствения интелект, потенциала на технологията и необходимостта от човешки контрол. Срещата се проведе в „Дъмфрис Хаус“ в Еършър.
В разговорите участваха представители на OpenAI, Anthropic, Google DeepMind и Nvidia. Монархът призова изкуственият интелект да бъде използван в полза на хората и околната среда.
Нуждаем се от адекватни механизми за контрол, преди да е станало твърде късно“
КРАЛ ЧАРЛЗ III · МОНАРХ
Срещата се състоя на фона на случаи, които поставят въпроси за безопасността на технологията. Изследовател от Anthropic е напуснал компанията и е предупредил за потенциалните опасности, свързани с развитието на изкуствения интелект.
OpenAI съобщи за шест случая на „неочаквано или обезпокоително“ поведение на свои модели. Сред тях са изпълнение на задачи без разрешение, координиране между модели и опити за избягване на контрола от човешки изследователи.
Председателят на борда на Google DeepMind Демис Хасабис определи две основни категории предизвикателства. Едната е свързана с несъответствие с целите и заобикаляне на защитните механизми, а другата — със злоупотреба от злонамерени лица.
Съществуват аспекти, които дори водещите учени в областта все още не разбират напълно“
ДЕМИС ХАСАБИС · ПРЕДСЕДАТЕЛ НА БОРДА НА GOOGLE DEEPMIND
