Первая волна беспокойства по поводу корпоративного ИИ была довольно простой. Сотрудники просто вставляли чувствительные данные в публичные инструменты ИИ. Команды безопасности реагировали на это, разрабатывая политики использования, блокируя домены и устанавливая правила предотвращения утечек данных. Эта реакция в то время имела смысл, но в настоящее время она не соответствует реальной проблеме.

Сейчас угроза, связанная с Shadow AI, сместилась с утечек данных на проблему контроля доступа. Основная проблема заключается не только в том, что данные могут быть случайно раскрыты, но и в том, что доступ к чувствительной информации может быть предоставлен несанкционированным пользователям. Это создает новые риски для организаций, которые не всегда могут контролировать, кто и как использует их данные.

С ростом популярности ИИ-технологий сотрудники могут использовать различные инструменты без ведома своих руководителей или ИТ-отделов. Это приводит к ситуации, когда данные могут быть обработаны и проанализированы в сторонних системах, что ставит под угрозу безопасность информации.

Организациям необходимо переосмыслить свои подходы к управлению доступом и безопасности данных. Важно не только внедрять технологии для защиты данных, но и обеспечивать контроль за тем, кто имеет доступ к этим данным и как они используются. Это требует от компаний более тщательной оценки рисков и разработки новых стратегий защиты.

Специалисты в области кибербезопасности подчеркивают, что необходимо разработать более строгие меры контроля доступа, включая многофакторную аутентификацию и мониторинг активности пользователей. Также важна регулярная оценка и обновление политик безопасности в соответствии с изменениями в использовании технологий ИИ.

Таким образом, организации должны быть готовы адаптировать свои стратегии к новым вызовам, связанным с Shadow AI, и активно работать над минимизацией рисков, связанных с контролем доступа к чувствительной информации.

Источник новости:
The Hacker News

Читать полностью