Бауыржан Жакиев 
Инструменты на базе искусственного интеллекта, такие как ChatGPT и Slack, стали для компании Lava Roofing Maui на Гавайях способом улучшить взаимодействие между сотрудниками, повысить организованность и эффективность. Однако владелец и генеральный директор Дэниел Робертс не сразу осознал, что эти платформы могут нести кибернетические риски. «Безопасность поначалу не была главным приоритетом, в основном потому, что кровельные и строительные работы обычно кажутся далекими от киберугроз», — поделился Робертс. Ситуация изменилась, когда ИТ-отдел компании обнаружил необычные попытки входа в их корпоративные платформы для совместной работы на базе ИИ. Кроме того, по словам Робертса, новые сотрудники неосознанно делились конфиденциальными данными клиентов в открытых каналах. «К счастью, серьезных утечек не произошло, но это стало для нас явным тревожным сигналом», — отметил он. В ответ компания внедрила многофакторную аутентификацию на всех платформах, что за последний год сократило количество попыток несанкционированного входа на 22%, и начала проводить ежеквартальные тренинги по кибербезопасности для сотрудников.
История Lava Roofing не уникальна: все больше организаций активно внедряют стратегии генеративного ИИ, особенно для улучшения совместной работы и производительности. Недавний опрос KPMG AI Quarterly Pulse Survey показал, что 82% руководителей считают управление рисками главной проблемой при использовании генеративного ИИ. Важно понимать, какие киберриски несут платформы для совместной работы на базе ИИ и как им противостоять.
Одним из самых значительных рисков при использовании платформ для совместной работы является утечка конфиденциальной информации. Вахид Бехзадан, доцент кафедры компьютерных наук и науки о данных Университета Нью-Хейвена, поясняет, что многие организации применяют эти инструменты совместно с генеративным ИИ для сбора и интеграции данных из различных источников, однако не всегда ясно, как программное обеспечение обеспечивает конфиденциальность этих данных. Интеграция множества инструментов без должного контроля доступа к ним и содержащейся в них информации также создает уязвимости.
Серьезную угрозу представляют и так называемые атаки с внедрением вредоносных запросов (prompt injection attacks), когда злоумышленники маскируют опасные команды под обычные запросы к системе генеративного ИИ с целью утечки и распространения конфиденциальных данных. По словам Бехзадана, это может произойти, например, с чат-ботами, используемыми для ответов на кадровые или другие вопросы: атака «может в конечном итоге заставить чат-бота извлечь данные, выполнить вредоносный код или раскрыть защищенную интеллектуальную собственность». Мохамед Гебрил, доцент кафедры инженерии кибербезопасности Университета Джорджа Мейсона, добавляет, что неправильное использование ИИ сотрудниками (случайное или преднамеренное) или внешними злоумышленниками также подвергает организации риску. Слишком часто компании внедряют генеративный ИИ и платформы для совместной работы ради повышения эффективности и производительности, не до конца предвидя сопутствующие киберриски.
Райли Уэстбрук, совладелец Valor Coffee в Альфаретте, штат Джорджия, признается, что его компания также изначально не уделила должного внимания этим аспектам. Valor Coffee использует Slack, Trello, ChatGPT и другие инструменты для ускорения коммуникации, обмена данными, отслеживания продукции, создания учебных материалов и координации команды, работающей в двух кафе, на обжарочном производстве, в кейтеринге и оптовых продажах. «Риски стали очевидны после того, как один из сотрудников случайно поделился конфиденциальным документом в незащищенном канале Slack», — рассказал Уэстбрук. Другой сотрудник использовал частную обратную связь по найму в запросе к ChatGPT. «Именно тогда мы поняли, что нам нужны защитные меры», — добавил он. Организация внедрила контроль доступа и программное обеспечение для защиты устройств и шифрования данных.
Как и любое другое программное обеспечение, генеративный ИИ и платформы для совместной работы на его основе несут в себе риски, однако существуют способы защитить организацию. Прежде всего, необходимо глубоко понимать весь спектр угроз, связанных с этими системами. «Нужно осознавать ландшафт всех рисков, которые сопутствуют этим системам», — говорит Бехзадан, считая это «огромным вкладом» в их смягчение. Тестирование системы на уязвимости — лучший способ оценить ее безопасность. Одним из методов является так называемый red teaming, когда этичные хакеры имитируют кибератаку. По словам Гебрила, можно провести внутреннее тестирование системы или нанять консультанта или стороннюю организацию. Уэстбрук также советует обращать внимание на возникающие проблемы и учиться на них.
Многие утечки данных и проблемы безопасности происходят из-за внутренних угроз, включая ошибки сотрудников, поэтому крайне важно проводить увлекательные и интерактивные тренинги. Обучение персонала повышает осведомленность о рисках, правилах использования программного обеспечения и обращения с данными. Тренинги должны включать обучение распознаванию атак социальной инженерии, таких как фишинговые аферы, использующие поддельные сообщения или веб-сайты для обмана людей с целью получения конфиденциальной информации или загрузки вредоносного ПО. «Образование абсолютно необходимо не только для безопасности, но и для удобства использования, — подчеркивает Бехзадан. — Важно, чтобы сотрудники знали как о возможностях, так и об ограничениях этих систем». Ежеквартальные тренинги в компании Робертса делают акцент на «правильном обращении с информацией о клиентах и безопасном использовании инструментов». Обучение в Valor Coffee, по словам Уэстбрука, сосредоточено на лучших практиках безопасности данных, чтобы сотрудники знали, как обращаться с конфиденциальной информацией. Команда теперь гораздо лучше осведомлена о рисках, и с начала обучения количество случайных утечек данных сократилось.
Эффективные меры кибербезопасности индивидуальны для каждой компании, поэтому первым шагом является понимание собственных рисков. Например, Valor Coffee использует платформу кибербезопасности CrowdStrike Falcon на компьютерах сотрудников, терминалах в кафе, ноутбуках и других устройствах для мониторинга в реальном времени и оповещения о необычных событиях, таких как внутреннее злоупотребление, попытка атаки программы-вымогателя или установка бэкдора. Компания также применяет Palantir Artificial Intelligence Platform для контроля генерируемого инструментами ИИ контента. Прежде чем любое сообщение, созданное ИИ, будет отправлено, инструмент проверяет его на наличие конфиденциальных данных и блокирует все, что выглядит рискованно. Кроме того, внедрены средства контроля доступа, гарантирующие, что сотрудники имеют доступ только к той информации, которая необходима для выполнения их должностных обязанностей. «Без этой системы мы были бы слепы к тому, что ИИ раскрывает и как наши системы ведут себя под капотом, — поясняет Уэстбрук. — Эти инструменты ловят то, чего вы не ожидаете, и останавливают это до того, как оно распространится». Lava Roofing, в свою очередь, использует программное обеспечение для защиты конечных точек и сканеры уязвимостей на базе ИИ для обнаружения угроз до того, как они перерастут в проблемы. «В целом, наша команда чувствует себя более защищенной, клиенты спокойны, и мы предотвратили превращение потенциальных проблем в большие головные боли», — отмечает Робертс.
Постоянный мониторинг уязвимостей, плана кибербезопасности и осведомленности сотрудников помогает поддерживать безопасность систем. Важно вносить изменения по мере появления новых рисков или при внедрении новых платформ. Valor Coffee внедрила автоматизированные системы, которые отслеживают активность в Slack и на других платформах, помечая любое подозрительное или несанкционированное распространение конфиденциальных данных. С момента внедрения мер кибербезопасности количество проблем с безопасностью «значительно сократилось». Компании должны проявлять инициативу при использовании генеративного ИИ и инструментов для совместной работы на его основе. Они полезны, но подвергают организации из разных отраслей новым рискам. «Не ждите, пока что-то пойдет не так, прежде чем предпринимать действия, — призывает Уэстбрук. — Не полагайтесь только на то, что сами инструменты безопасны. Сделайте безопасность частью своей повседневной работы».
