Оборонный подрядчик говорит, что ИИ стопроцентно будет убивать невинных людей в будущем

Миллиардер Oculus, создатель и основатель оборонного подрядчика Anduril Industries Палмер Лаки считает, что если системы искусственного интеллекта будут использоваться в войнах в будущем, это “стопроцентно”, что они убьют невинных людей.

“Будут люди, убитые ИИ, которых не следовало убивать. Это несомненно, если искусственный интеллект станет основной частью того, как мы ведем войны, — заявил Лаки в программе Трасса с Эмили Чанг. “Нам нужно убедиться, что люди продолжают нести за это ответственность, потому что это единственное, что приведет нас к лучшим решениям и меньшему количеству непреднамеренных смертей, меньшему количеству жертв среди гражданского населения.”

Лаки также заявил: “Ключевым моментом является то, что человек несет ответственность за развертывание этой системы. Существование алгоритма не может заменить человеческую ответственность за развертывание этой системы вооружения. И это должен быть человек, который глубоко понимает ограничения этой системы и которого будут привлекать к ответственности, когда она пойдет не так, но война — это ад, и она не будет идеальной.”

Палмер Лаки добавил, что война между Украиной и Россией ускорила использование ИИ на полях сражений.

“То, что происходит на Украине, завораживает, потому что они не могут позволить себе относиться к войне как к предмету, который нужно продумать, или как к предмету, который будет обсуждаться в официальных документах,” сказал он . “Они должны действительно победить сегодня, а это означает, что многие барьеры на пути к опробованию новых идей были сняты.

“И это одна из причин, по которой вы видели, например, распространение небольших беспилотных вооруженных квадрокоптеров. Поэтому вы видели распространение множества действительно интересных систем борьбы с дронами. Вещи, которые не были достаточно зрелыми, чтобы быть развернутыми, скажем, Соединенными Штатами, но они готовы развернуть их в очень ранней стадии зрелости, потому что они знают, что не могут выиграть, делая вещи старым способом.”

Лаки знает, о чем говорит, поскольку его компания Anduril имеет оборонные контракты с США на миллиарды долларов. Министерство обороны США. Министерство внутренней безопасности, Силы обороны Австралии, Министерство обороны Великобритании.

Он говорит, что занялся оборонными технологиями из-за того, что ему говорили друзья в отрасли.

“До того, как я начал Oculus, я поддерживал связь со многими друзьями в оборонной промышленности, и то, что я слышал снова и снова, это то, что в отрасли что-то сломалось,” сказал он. “Стимулы были неправильными. Их наказывали за правильные поступки, вознаграждали за неправильные поступки, они зарабатывали больше денег, когда у них был избыток бюджета, и это меня действительно беспокоило. Особенно в мире, где мы как страна проводили новый эксперимент, эксперимент, в котором впервые в американской истории технологические компании не работали с Министерством обороны.”

Anduril специализируется на искусственном интеллекте и робототехнике, включая автономные дроны и датчики, автономные системы наблюдения, а также программное обеспечение для управления и контроля, которое их запускает.

“Мы создаем инструменты, которые позволяют нашим партнерам и союзникам по всему миру делать себя намного более колючими — так, чтобы люди не хотели наступать на них,” он сказал Эмили Чанг.

Он утверждает, что одна из его целей — модернизировать американскую оборонную промышленность, в которой уже давно доминируют несколько избранных компаний, таких как Boeing и Lockheed Martin.

«Некоторые технологии США очень плохи,” сказал он. “Это также чрезвычайно дорого и не обязательно адаптировано к типам конфликтов, которые мы увидим в будущем. У США есть много инвестиций в устаревшие системы вооружения, которых Китай не обязательно должен пугаться».