Билл Гейтс определил три главных риска, связанных с развитием ИИ

Билл Гейтс понимает, что искусственный интеллект (ИИ) со временем станет только более мощным, и определяет три основных риска, которые, по его мнению, связаны с его быстро растущим развитием.

Во время написания обзора о своей любимой книге по ИИ, Грядущая волна, основатель Microsoft объяснил: “В своих разговорах об ИИ я часто выделяю три основных риска, которые нам необходимо учитывать.

“Во-первых, это быстрые темпы экономических потрясений. ИИ может фундаментально изменить характер самой работы и повлиять на рабочие места в большинстве отраслей, включая роли белых воротничков, которые традиционно были защищены от автоматизации.

“Во-вторых, это проблема контроля или сложность обеспечения соответствия систем искусственного интеллекта человеческим ценностям и интересам по мере их развития.

“Третий риск заключается в том, что когда плохой актор имеет доступ к ИИ, он становится более мощным — и более способным проводить кибератаки, создавать биологическое оружие и даже ставить под угрозу национальную безопасность.”

Затем Билл Гейтс немного глубже погружается в последний риск, о котором он упоминает при разработке искусственного интеллекта.

“Этот последний риск — расширения прав и возможностей плохих игроков — это то, что приводит к самой большой проблеме нашего времени: сдерживанию. Как нам ограничить опасность этих технологий, используя при этом их преимущества?

“Это вопрос лежит в основе книги Грядущая волна, потому что сдерживание является основой всего остального. Без него риски ИИ и биотехнологии становятся еще более острыми. Решая это в первую очередь, мы создаем стабильность и доверие, необходимые для решения всего остального.”

Затем он добавляет: “Конечно, это легче сказать, чем сделать.”

Автор книги Грядущая волна, Мустафа Сулейман, не решает эту проблему, признается Гейтс, но некоторые идеи предлагает.

…он излагает повестку дня, которая достаточно амбициозна для масштаба проблемы, начиная от технических решений (например, создания аварийного выключателя для систем искусственного интеллекта) и заканчивая радикальными институциональными изменениями, включая новые глобальные договоры, модернизированную нормативную базу и историческое сотрудничество между правительствами, компаниями, и ученые. Когда вы закончите его список рекомендаций, вы можете задаться вопросом, сможем ли мы действительно успеть все это вовремя.

Несмотря на вполне реальные риски, которые Билл Гейтс видит в развитии искусственного интеллекта, он говорит, что по-прежнему остается “оптимистом.”

“Я твердо верю, что достижения в области искусственного интеллекта и биотехнологий могут помочь сделать революционные методы лечения смертельных заболеваний, инновационные решения для борьбы с изменением климата и высококачественное образование для всех реальностью, — пишет Гейтс. “Но истинный оптимизм заключается не в слепой вере. Речь идет о том, чтобы увидеть и плюсы, и риски, а затем работать над формированием лучших результатов.”