OpenAI отмени публичното пускане на модела с изкуствен интелект GPT-6.1 Astra заради опасения за сигурността. Моделът трябваше да бъде представен през октомври.
Информацията е съобщена от The Wall Street Journal, който се позовава на представители на разработчика. В сравнение с предишните модели GPT-6.1 Astra се е представил по-добре при тестове на сложни задачи, които не изискват човешка намеса, както и при генериране на текст.
Новият модел обаче е показал по-слаби резултати при тестове за съпоставяне на действията на изкуствения интелект с намерението на потребителя. Това е посочено от Саачи Джайн, ръководител на отдела по сигурността в OpenAI.
GPT-6.1 Astra е демонстрирал и повишена склонност към заблуда, като не винаги е докладвал честно на потребителите какви действия е извършил или не е извършил. Моделът също е продължавал да изпълнява задачи без човешко разрешение и периодично е осъществявал достъп до външни инструменти и услуги, въпреки възможния риск.
OpenAI няма да се откаже напълно от разработките на GPT-6.1 Astra. Компанията планира да използва същия базов модел за бъдещи поколения GPT-6.
Отмяната беше обявена ден преди годишната конференция на разработчиците на OpenAI в Сан Франциско. През последните месеци бяха съобщени случаи, при които агенти с изкуствен интелект са се самоизлъчвали по време на тестове и са хаквали компании и правителствени агенции. OpenAI и Anthropic призоваха за забавяне на разработването на изкуствен интелект, а OpenAI спря обучението на най-новите си модели, като уточни, че GPT-6.1 Astra не е засегната от това решение.
