В последние годы использование искусственного интеллекта в бизнесе стало обыденностью, однако с этим трендом связаны и серьезные угрозы безопасности. Как показывают исследования, 5% пользователей ИИ в организациях представляют собой наибольшую опасность для информационной безопасности. Эти 'суперпользователи' активно внедряют непроверенные инструменты ИИ в критически важные бизнес-процессы, что может привести к серьезным последствиям.

Исследование, проведенное компанией Akamai, показывает, что большинство команд по информационной безопасности сосредоточены на контроле за массовым использованием таких инструментов, как ChatGPT и Claude для выполнения рутинных задач. Однако именно ограниченное число пользователей, использующих эти технологии на более глубоком уровне, создает наибольшие риски. Они могут неосознанно интегрировать уязвимые решения в ключевые операции компании.

Суперпользователи, как правило, обладают высокой квалификацией и могут разрабатывать собственные решения, однако отсутствие контроля и проверки этих инструментов может привести к утечкам данных и другим инцидентам безопасности. Необходимость в строгом управлении и мониторинге использования ИИ становится все более актуальной для организаций.

Анализируя поведение этих пользователей, эксперты отмечают, что многие из них не осознают потенциальные риски, связанные с использованием несертифицированных инструментов. Это подчеркивает важность обучения и повышения осведомленности сотрудников о вопросах кибербезопасности, особенно в контексте интеграции ИИ в бизнес-процессы.

Организациям рекомендуется разработать четкие политики и процедуры, направленные на управление использованием ИИ, а также внедрить регулярные проверки и аудиты для выявления возможных уязвимостей. Только так можно минимизировать риски и обеспечить безопасность данных в условиях стремительного роста технологий ИИ.

Источник новости:
The Hacker News

Читать полностью