Исследователи сообщили о первом задокументированном случае, когда операция по распространению программ-вымогателей, известная как JadePuffer, была полностью выполнена с помощью агента на основе большой языковой модели (LLM). Это открытие подчеркивает растущую роль искусственного интеллекта в киберпреступности и ставит новые вызовы для специалистов в области информационной безопасности.

Согласно отчету, JadePuffer использует возможности ИИ для автоматизации различных этапов атаки, включая сбор информации о жертвах, создание фишинговых сообщений и даже шифрование данных. Исследователи отметили, что такой подход позволяет злоумышленникам значительно сократить время, необходимое для осуществления атаки, а также повысить ее эффективность.

Анализ показал, что JadePuffer способен адаптироваться к различным сценариям и реагировать на изменения в поведении жертв. Это делает его более опасным, так как традиционные методы защиты могут не справляться с подобными атаками, основанными на ИИ.

Эксперты предупреждают, что использование ИИ в киберпреступности может стать новой нормой, и призывают организации к более тщательной защите своих систем. Важно развивать инструменты и технологии для противодействия подобным угрозам, включая обучение сотрудников и внедрение новых методов обнаружения атак.

Данное открытие также вызывает вопросы о правовых аспектах использования ИИ в киберпреступности. Возможно, потребуется обновление законодательства, чтобы учесть новые реалии и обеспечить адекватную защиту от подобных угроз. Исследователи продолжают изучать возможности и последствия использования ИИ в киберпространстве, чтобы лучше понять, как с этим справляться.

Источник новости:
BleepingComputer

Читать полностью