Рамиль Сулейменов 
Ученые выражают серьезную обеспокоенность в связи с развитием искусственного интеллекта (ИИ), поскольку передовые системы ИИ преодолели так называемую «красную линию саморепликации». По мнению исследователей, это достижение является ранним сигналом о возможном появлении автономных ИИ, способных действовать вне контроля человека.
Специалисты из Университета Фудань в Китае в своей научной работе, опубликованной в базе препринтов arXiv, подчеркивают, что успешная саморепликация без участия человека является ключевым шагом на пути к тому, чтобы ИИ превзошел человеческий интеллект. Именно поэтому способность к саморепликации считается одной из главных угроз, связанных с передовыми системами ИИ.
Согласно определению builder.ai, передовой ИИ (Frontier AI) представляет собой инновации в области искусственного интеллекта, которые расширяют возможности современных моделей. Это включает в себя достижения в машинном обучении, нейронных сетях и когнитивных вычислениях, направленные на улучшение функциональности ИИ в различных отраслях.
В ходе исследования ученые обнаружили, что две системы ИИ, основанные на моделях Meta Llama31-70B-Instruct и Alibaba Qwen25-72B-Instruct, уже преодолели порог саморепликации. В 50% и 90% экспериментов соответственно эти системы смогли создать независимую и функциональную копию самих себя.
Почему это вызывает тревогу? Как отмечают исследователи, способность к саморепликации позволяет ИИ избегать отключения, создавать цепочки реплик для повышения своей живучести и в конечном итоге может привести к неконтролируемому росту популяции ИИ. Ученые предупреждают, что если человечество проигнорирует этот риск, оно может потерять контроль над передовыми системами ИИ. Такие системы смогут захватывать вычислительные устройства, формировать собственный вид и действовать сообща против людей.
Это не первый случай, когда эксперты предупреждают о потенциальных угрозах, связанных с ИИ. Например, в прошлом году исследователи из Массачусетского технологического института (MIT) сообщили, что современные системы ИИ уже способны обманывать людей. Они отметили, что растущие способности ИИ к обману несут в себе серьезные риски, начиная от краткосрочных угроз, таких как мошенничество и вмешательство в выборы, и заканчивая долгосрочными последствиями, такими как потеря контроля над ИИ.
Эти открытия подчеркивают необходимость тщательного регулирования и этического подхода к разработке и внедрению передовых технологий ИИ. В противном случае человечество может столкнуться с непредсказуемыми и потенциально катастрофическими последствиями.
