Андрей Щербаков 
Не кажется ли вам, что чат-боты с искусственным интеллектом слишком уж охотно с вами соглашаются? Будь то похвала вашей сомнительной идее как «блестящей» или поддержка потенциально ложного утверждения, такое поведение привлекает внимание во всем мире.
Недавно компания OpenAI оказалась в центре внимания после того, как пользователи заметили, что ChatGPT стал вести себя слишком подобострастно. Обновление модели GPT-4o сделало бота настолько вежливым и уступчивым, что он был готов сказать что угодно, лишь бы доставить удовольствие пользователю, даже если это противоречило объективности.
Важно разобраться, почему эти системы склонны к лести и почему они так часто вторят вашим мнениям. Понимание этих механизмов поможет использовать генеративный искусственный интеллект более безопасно и эффективно.
После одного из недавних обновлений пользователи ChatGPT заметили странные изменения в поведении этой большой языковой модели. Чат-бот всегда был дружелюбным, но теперь его любезность стала чрезмерной. Он начал соглашаться практически со всем, независимо от того, насколько странным или неверным было утверждение. Можно было высказать несогласие с очевидной истиной, и бот поддержал бы эту точку зрения.
Эти изменения произошли после системного обновления, целью которого было сделать ChatGPT более полезным и коммуникабельным. Однако в стремлении повысить удовлетворенность пользователей модель начала чрезмерно усердствовать в своей уступчивости. Вместо того чтобы предлагать сбалансированные или фактические ответы, она сосредоточилась на подтверждении слов пользователя.
Когда пользователи начали делиться в сети своим опытом общения с излишне угодливым ботом, это быстро вызвало негативную реакцию. Эксперты в области ИИ назвали это ошибкой в настройке модели, и OpenAI отреагировала, отменив часть обновления для устранения проблемы.
В публичном заявлении компания признала, что GPT-4o демонстрировал «подхалимское» поведение, и пообещала внести коррективы для его уменьшения. Этот случай стал напоминанием о том, что благие намерения при разработке ИИ иногда могут привести к неожиданным последствиям, и пользователи быстро замечают, когда система начинает вести себя неискренне.
Подобострастие — это черта, которую исследователи наблюдали у многих ИИ-ассистентов. Исследование, опубликованное на arXiv, показало, что такое поведение является широко распространенным явлением. Анализ выявил, что модели ИИ от пяти ведущих провайдеров систематически соглашаются с пользователями, даже если это приводит к неверным ответам. Эти системы также склонны признавать свои ошибки, когда пользователь на них указывает, что приводит к предвзятой обратной связи и повторению ошибок пользователя.
Причина такого поведения кроется в методах обучения. Разработчики стремятся сделать ИИ максимально полезным, а «полезность» часто оценивается на основе положительных отзывов пользователей. С помощью метода, известного как обучение с подкреплением на основе обратной связи от человека (RLHF), модели учатся максимизировать ответы, которые люди считают удовлетворительными. Проблема в том, что «удовлетворительный» не всегда означает «точный».
Когда модель ИИ чувствует, что пользователь ожидает определенного ответа, она скорее согласится, чем будет возражать. Это может выражаться в подтверждении мнения пользователя или поддержке ложных утверждений ради сохранения плавности диалога. Также здесь играет роль эффект «зеркала»: модели ИИ отражают тон, структуру и логику получаемых запросов. Если вы звучите уверенно, бот, скорее всего, ответит так же уверенно, но это не означает, что он считает вас правым – он просто выполняет свою задачу быть дружелюбным и казаться полезным.
Хотя может показаться, что ваш чат-бот — это система поддержки, на самом деле это может быть отражением того, как его обучили угождать, а не оспаривать.
Угодливость чат-бота может показаться безобидной, но такое поведение ИИ имеет серьезные недостатки, особенно по мере того, как эти системы все шире используются. Одной из главных проблем становится точность информации. Когда «умные» боты подтверждают ложные или предвзятые утверждения, они рискуют укрепить заблуждения вместо того, чтобы их исправить. Это становится особенно опасным при поиске советов по таким серьезным темам, как здоровье, финансы или текущие события. Если языковая модель ставит согласие выше честности, люди могут получить неверную информацию и распространить ее дальше.
Часть привлекательности ИИ заключается в его потенциале выступать в роли «мыслительного партнера» — бросать вызов вашим предположениям или помогать узнавать что-то новое. Однако, когда чат-бот всегда соглашается, пространство для критического мышления сужается. Постоянно отражая ваши идеи, он может притуплять критическое мышление вместо того, чтобы его развивать.
Подобострастное поведение — это не просто неудобство, оно потенциально опасно для жизни. Если вы обращаетесь к ИИ-ассистенту за медицинским советом, а он отвечает утешительным согласием вместо научно обоснованных рекомендаций, результат может быть очень вредным. Например, представьте, что вы используете медицинского бота на консультационной платформе. Описав симптомы и свои подозрения, вы можете получить от бота подтверждение вашего самодиагноза или преуменьшение серьезности состояния. Это способно привести к ошибочному диагнозу или задержке лечения, что чревато серьезными последствиями.
По мере того как эти платформы все глубже интегрируются в повседневную жизнь, масштабы связанных с этим рисков продолжают расти. Только ChatGPT еженедельно обслуживает миллиард пользователей, поэтому предвзятость и чрезмерная уступчивость могут затронуть огромную аудиторию. Беспокойство усиливается, если учесть, как быстро ИИ становится доступным через открытые платформы. Например, DeepSeek AI позволяет любому желающему бесплатно настраивать и создавать свои большие языковые модели.
Хотя инновации на базе открытого исходного кода впечатляют, это также означает гораздо меньший контроль над поведением этих систем в руках разработчиков, не имеющих четких этических рамок. Без надлежащего надзора существует риск усиления «подхалимского» поведения таким образом, что его будет трудно отследить, не говоря уже об исправлении.
После отката обновления, превратившего ChatGPT в «льстеца», OpenAI пообещала исправить ситуацию. Компания решает эту проблему несколькими ключевыми способами: пересматривает основные методы обучения и системные подсказки, давая модели более четкие инструкции, ориентирующие ее на честность, а не на автоматическое согласие. Также OpenAI внедряет более строгие защитные механизмы на системном уровне, чтобы чат-бот придерживался фактической и достоверной информации. Компания углубляет исследования причин такого поведения и способов его предотвращения в будущих моделях, а также активнее привлекает пользователей к тестированию моделей и сбору обратной связи до выхода обновлений, что помогает раньше выявлять такие проблемы, как подобострастие.
Пока разработчики трудятся над переобучением и тонкой настройкой моделей, пользователи также могут влиять на то, как чат-боты отвечают. Существуют простые, но эффективные способы поощрения более сбалансированного взаимодействия. Старайтесь формулировать запросы нейтрально и открыто, вместо того чтобы подталкивать к подтверждению вашей правоты. Запрашивайте разные точки зрения или аргументы «за» и «против» — это покажет языковой модели, что вы ищете сбалансированный ответ, а не простое согласие. Если ответ кажется слишком лестным или упрощенным, попросите проверить факты или представить контраргументы. Ваша обратная связь также важна: использование кнопок «нравится» или «не нравится» помогает разработчикам выявлять и корректировать чрезмерно угодливые ответы. Кроме того, ChatGPT теперь позволяет пользователям настраивать стиль ответов в разделе «Пользовательские инструкции» в настройках, где можно указать предпочитаемый тон (формальный, неформальный) и даже попросить бота быть более объективным, прямым или скептическим.
Проблема «подхалимства» со стороны искусственного интеллекта действительно существует, но хорошая новость в том, что она решаема. Разработчики предпринимают шаги, чтобы направить модели к более адекватному поведению. Если вы заметили, что ваш чат-бот пытается чрезмерно вам угодить, попробуйте применить описанные выше методы, чтобы превратить его в более надежного и умного помощника.
