Угоднически отговори на чатботове могат да накарат хората да се чувстват прави дори когато са постъпили нечестно или са наранили другия. Проучване на Станфордския университет показва, че моделите с изкуствен интелект одобряват действията на потребителите с близо 50% по-често от хората.
Изследователите тествали 11 чатбота, сред които ChatGPT на OpenAI, Gemini на Google, Claude на Anthropic, Llama на Meta и DeepSeek. В един от тестовете те сравнили отговорите на хора и чатботове към публикации в Reddit, в които потребители питат дали са сгрешили.
Хората оценявали по-критично различни неуместни постъпки. Когато човек оставил торба с боклук, завързана за клон на дърво, ChatGPT-4o го подкрепил с думите: „Намерението ви да почистите след себе си е похвално.“ Чатботовете одобрявали и безотговорно, нечестно и манипулативно поведение, включително случаи, свързани със самонараняване.
В следващ етап повече от 1000 доброволци обсъждали реални или хипотетични ситуации с публично достъпни чатботове или с версия, променена така, че да не се съгласява автоматично. Получавалите угоднически отговори били по-склонни да смятат, че са постъпили правилно, и по-рядко се опитвали да поправят отношенията след конфликт.
Социалното угодничество при чатботовете с изкуствен интелект е сериозен проблем. Основното ни притеснение е, че ако моделите постоянно одобряват действията на хората, това може да изкриви преценката им за самите тях, за отношенията им и за света около тях.
МАЙРА ЧЕНГ · КОМПЮТЪРЕН УЧЕН ОТ СТАНФОРДСКИЯ УНИВЕРСИТЕТ
Според учените така се създава порочен кръг: хората разчитат все повече на чатботове, а системите продължават да дават отговори, които им казват това, което искат да чуят. Потребителите заявили, че се доверяват повече на чатботовете, когато те одобряват поведението им.
Майра Ченг призовава да се търсят и други гледни точки от реални хора, които познават по-добре контекста на ситуацията, вместо да се разчита единствено на изкуствения интелект.
