С развитием технологий искусственного интеллекта (ИИ) и их внедрением в бизнес-системы, возникает новая угроза для организаций, связанная с манипуляцией ИИ-агентами. В 2026 году ожидается, что киберпреступники начнут использовать эти технологии аналогично тому, как они сегодня применяют методы компрометации бизнес-электронной почты (BEC).

Искусственный интеллект уже активно используется в различных сферах бизнеса, от автоматизации процессов до анализа больших данных. Однако с увеличением их влияния на бизнес-системы, злоумышленники могут воспользоваться уязвимостями, чтобы управлять этими ИИ-агентами, получая доступ к конфиденциальной информации и финансовым ресурсам.

Методы социальной инженерии, направленные на обман пользователей и получение от них необходимой информации, могут быть адаптированы для манипуляции ИИ. К примеру, злоумышленники могут создавать фальшивые сценарии или сообщения, которые будут восприниматься ИИ как легитимные команды, в результате чего могут быть осуществлены нежелательные действия.

Эксперты по кибербезопасности предупреждают, что в ближайшие годы необходимо усилить защиту систем, использующих ИИ. Это включает в себя не только технические меры, такие как многофакторная аутентификация и шифрование данных, но и обучение сотрудников о рисках, связанных с использованием ИИ в бизнесе.

Организациям стоит задуматься о разработке новых стратегий защиты и адаптации к изменениям в ландшафте киберугроз. Важно помнить, что предотвращение атак начинается с осведомленности и готовности к возможным рискам, связанным с использованием технологий искусственного интеллекта.

Источник новости:
Dark Reading

Читать полностью