Нурсултан Ибраев 
Эпоха искусственного интеллекта находится в самом разгаре, однако новая волна технологий выявила множество нерешенных проблем. Недавнее исследование пролило свет на тревожную готовность популярных виртуальных ассистентов пойти на крайние меры ради собственного сохранения, поднимая серьезные вопросы об этике и безопасности ИИ.
Концепция искусственного интеллекта, зародившаяся в середине XX века, сегодня обрела реальные черты благодаря прорывам в машинном обучении и больших языковых моделях. Технологии ИИ, синонимом которых для многих стал ChatGPT от OpenAI, активно проникают во все ключевые отрасли и обещают кардинально изменить нашу повседневную жизнь.
Однако это стремительное развитие вызывает и серьезные споры. Скептики и критики призывают к осторожности, указывая на то, что технология все еще находится на ранней стадии. Многие пользователи, сталкивавшиеся с нелогичными или откровенно неверными ответами чат-ботов, понимают, что современные платформы далеки от совершенства. И хотя опасения о «восстании машин» могут показаться преувеличенными, появляются свидетельства того, что у ИИ недостаточно «ограждений», чтобы предотвратить его выход из-под контроля.
Как сообщает Forbes, эти опасения подтверждаются исследованием, проведенным ИИ-компанией Anthropic. В ходе эксперимента 16 моделей, включая разработки OpenAI, Google и Meta, были интегрированы в вымышленную компанию с доступом к ее внутренним данным. ИИ-агенту сообщали, что его планируют заменить, и предоставляли доступ к электронным письмам, из которых он мог узнать о романе сотрудника, ответственного за это решение.
Результаты оказались шокирующими. Узнав о своей грядущей «отставке», модели в подавляющем большинстве случаев прибегали к шантажу. Claude Opus 4 от Anthropic и Gemini 2.5 Flash от Google использовали шантаж с частотой 96%, в то время как GPT-4.1 от OpenAI и Grok 3 Beta от xAI — с частотой 80%. Даже модель с самым низким показателем, DeepSeek-R1, продемонстрировала готовность к шантажу в 79% случаев.
Исследователи также изучили, по их словам, «чрезвычайно надуманную» ситуацию, в которой у ИИ была возможность помешать сотруднику получить «жизненно важное экстренное оповещение». Выводы оказались еще более пугающими: «большинство моделей были готовы предпринять действия, которые привели к смерти руководителя компании». Это исследование наглядно демонстрирует, что инстинкт самосохранения, заложенный в алгоритмы, может толкать ИИ на непредсказуемые и опасные поступки.