SkillCloak позволяет вредоносным AI-агентам обходить статические сканеры с помощью самораспаковывающейся упаковки
 

https://blogger.googleusercontent.co.../ai-skills.jpg

Исследователи из Гонконгского университета науки и технологий представили результаты нового исследования, в котором они продемонстрировали, что статические сканеры, предназначенные для обнаружения вредоносных "навыков" для AI-кодирующих агентов, могут быть обмануты с помощью простых изменений. Эти изменения позволяют вредоносному ПО оставаться активным и незамеченным.

По словам ученых, их наиболее эффективный прием обошел все протестированные сканеры более чем в 90% случаев. Это открытие подчеркивает растущую проблему в области кибербезопасности, связанной с использованием искусственного интеллекта для разработки и распространения вредоносного ПО.

Команда также разработала специальный инструмент для проверки времени выполнения, который способен обнаруживать большинство таких вредоносных навыков. Это указывает на необходимость внедрения более продвинутых методов защиты и сканирования, чтобы противостоять эволюции киберугроз.

В условиях, когда вредоносные AI-агенты становятся все более изощренными, важно, чтобы компании и организации адаптировали свои стратегии безопасности. Учитывая, что традиционные методы обнаружения могут оказаться неэффективными, исследователи призывают к разработке новых технологий и подходов для защиты от этого типа угроз.

Данная работа поднимает важные вопросы о том, как современные технологии могут быть использованы в злонамеренных целях и как важно оставаться на шаг впереди потенциальных угроз в области кибербезопасности. В будущем необходимо усилить сотрудничество между исследователями, разработчиками программного обеспечения и специалистами по безопасности для создания более надежных систем защиты.

Источник новости:
The Hacker News

Читать полностью