Великобритания пересматривает свой подход к безопасности искусственного интеллекта (ИИ), ставя во главу угла национальную безопасность и защиту граждан от преступности. Институт безопасности ИИ, ранее известный как Институт безопасности ИИ, объявляет о смене названия и фокуса, чтобы отразить свою основную задачу – борьбу с серьезными рисками ИИ, имеющими последствия для безопасности. Речь идет о возможном использовании технологии для разработки химического и биологического оружия, осуществления кибератак и содействия преступлениям.
Институт будет сотрудничать с различными правительственными учреждениями, включая Лабораторию оборонной науки и техники Министерства обороны, для оценки рисков, связанных с передовым ИИ. В рамках этого обновления Институт запускает новую группу по борьбе с преступным использованием ИИ, которая будет работать совместно с Министерством внутренних дел над исследованием ряда вопросов, связанных с преступностью и безопасностью ИИ. Одним из важных направлений деятельности станет изучение использования ИИ для создания изображений сексуального насилия над детьми, а также разработка методов, препятствующих использованию этой технологии злоумышленниками.
Обновленный Институт сосредоточится на углубленном изучении наиболее серьезных рисков безопасности ИИ, чтобы предоставить политикам научно обоснованные данные для принятия решений в условиях быстрого развития технологий. Для достижения этой цели Институт будет сотрудничать с правительственными структурами, Лабораторией исследований безопасности ИИ (LASR) и сообществом национальной безопасности, включая Национальный центр кибербезопасности (NCSC).
Подчеркивается, что обновленный Институт безопасности ИИ призван повысить доверие общества к ИИ и стимулировать его внедрение в экономику для обеспечения экономического роста. Министр науки, инноваций и технологий Питер Кайл заявил, что эти изменения представляют собой логичный шаг в развитии ответственного подхода к разработке ИИ, позволяющий раскрыть потенциал ИИ и стимулировать экономику. Он подчеркнул, что работа Института безопасности ИИ не изменится, но обновленный фокус обеспечит защиту граждан Великобритании и союзников от тех, кто стремится использовать ИИ против институтов, демократических ценностей и образа жизни страны.
В рамках усиления акцента на безопасности Институт безопасности ИИ также объявил о новом соглашении между Великобританией и компанией Anthropic, занимающейся разработкой ИИ. Это партнерство является результатом работы нового британского подразделения Sovereign AI. Обе стороны будут тесно сотрудничать для реализации возможностей технологии, уделяя особое внимание ответственному развитию и внедрению систем ИИ. Сотрудничество будет включать обмен информацией о том, как ИИ может трансформировать государственные услуги и улучшить жизнь граждан, а также использование этой технологии для новых научных открытий.
Великобритания также планирует заключить дополнительные соглашения с ведущими компаниями в области ИИ в качестве ключевого шага к повышению производительности и стимулированию экономического роста. Генеральный директор и соучредитель Anthropic Дарио Амодеи сообщил, что компания с нетерпением ожидает изучения того, как ИИ-помощник Claude от Anthropic может помочь государственным учреждениям Великобритании улучшить государственные услуги, с целью найти новые способы сделать жизненно важную информацию и услуги более эффективными и доступными для жителей Великобритании. Он добавил, что компания продолжит тесно сотрудничать с Институтом безопасности ИИ Великобритании для исследования и оценки безопасности ИИ, чтобы обеспечить его безопасное развертывание.
Благодаря работе Института Великобритания готова в полной мере реализовать преимущества технологии, одновременно укрепляя национальную безопасность в эпоху ИИ.