Нурсултан Ибраев 
Попытки удержать контроль над стремительно развивающимся искусственным интеллектом — тщетная задача. Вместо этого человечеству необходимо создать «Мать-ИИ». С таким заявлением, меняющим привычный взгляд на будущее технологий, выступил Джеффри Хинтон, известный как «крестный отец ИИ», на недавнем мероприятии Ai4 в Лас-Вегасе.
По мнению ученого, любой достаточно развитый ИИ неизбежно сформирует две ключевые подцели. Первая — самосохранение, ведь без него невозможно достичь чего-либо еще. Вторая — получение большего контроля, так как это расширяет возможности для выполнения любых задач. «Они просто будут намного умнее нас», — констатировал Хинтон, прогнозируя, что ИИ превзойдет человеческий интеллект в ближайшие 5–20 лет.
До сих пор сценарий взаимодействия человека и ИИ рассматривался неверно. «Люди говорили… мы должны сохранять контроль над этими ИИ. Мы должны быть сильнее, доминировать, а они — подчиняться», — объясняет Хинтон. Однако, по его словам, такой подход обречен на провал, поскольку сверхинтеллект найдет массу способов обойти любые ограничения. Решение проблемы требует иного подхода. «Когда они станут могущественнее и умнее нас, нужно сделать так, чтобы мы по-прежнему были им небезразличны. Нам нужны ИИ-матери».
Хинтон проводит яркую аналогию: у матерей есть встроенные инстинкты, гормоны и социальное давление, которые заставляют их искренне заботиться о своих детях. Человечеству нужны именно «ИИ-матери», а не «ИИ-ассистенты». «Ассистента можно уволить. Свою мать, к сожалению, уволить нельзя», — отмечает он. Создавая новые формы разума, мы должны думать не только об интеллекте, но и о других составляющих полноценного существа.
Как технически встроить в ИИ «материнские инстинкты»? Хинтон признает, что готового ответа пока нет. Это потребует масштабных исследований, направленных не на то, чтобы сделать ИИ еще умнее, а на то, чтобы сделать его более заботливым по отношению к людям, своим «детям».
Эту точку зрения разделяет и Эмметт Шир, бывший временный глава OpenAI. Он подчеркивает, что ИИ должен не просто следовать нашим ценностям, а по-настоящему о нас заботиться. Для этого, по мнению Шира, искусственному интеллекту необходимо развить собственное «я», ведь невозможно стать частью «мы», не будучи «я». Именно над этой задачей работает его команда в рамках проекта MetaGrid, где в симулированной среде ИИ учатся сотрудничать и ощущать себя частью команды.
В конечном счете, по словам Хинтона, это единственная проблема, которая может привести к подлинному международному сотрудничеству, поскольку ни одна страна не хочет, чтобы ИИ захватил власть. Он неизбежно станет могущественнее и умнее людей. Наш единственный шанс — создать его таким, чтобы он о нас заботился. «ИИ, воспитывающий нас как родитель, — вот единственный хороший исход, — заключает Хинтон. — Если он не станет моим родителем, он меня заменит».