Недавнее исследование компании Adversa AI выявило серьезные уязвимости в работе открытых ИИ-кодировщиков, которые могут быть использованы злоумышленниками для выполнения опасных команд. Указанное исследование, получившее название GuardFall, показало, что метод обхода, основанный на старых уязвимостях, успешно работает против десяти из одиннадцати популярных открытых кодировщиков и агентов компьютерного использования, которые были протестированы.

Согласно выводам Adversa AI, единственным агентом, который оказался защищен от данной уязвимости, стал «Continue». Остальные протестированные системы не смогли предотвратить выполнение потенциально вредоносных команд, что ставит под угрозу безопасность пользователей и их данных.

Метод обхода основан на давно известной уязвимости shell-инъекций, которая позволяет злоумышленникам манипулировать вводом команд в системе. Это открывает возможности для выполнения произвольного кода и других вредоносных действий, что вызывает серьезные опасения среди специалистов в области кибербезопасности.

Эксперты подчеркивают, что несмотря на то, что многие разработчики открытых ИИ-систем стараются внедрять меры безопасности, такие как проверки ввода, они могут быть недостаточны для защиты от более сложных атак. Это также поднимает вопросы о том, насколько безопасны современные решения на базе ИИ и как они могут быть улучшены.

Adversa AI призывает разработчиков открытых кодировщиков провести аудит своих систем безопасности и внедрить более строгие меры защиты, чтобы предотвратить возможные инциденты. В свете этого исследования важно, чтобы пользователи оставались бдительными и осведомленными о рисках, связанных с использованием ИИ в программировании и других областях.

Источник новости:
The Hacker News

Читать полностью