Amazon выявила кампанию с использованием ИИ-агентов, нацеленных на LiteLLM, Dify и другие приложения для кражи API-ключей
Команда угрозоразведки Amazon обнаружила, что злоумышленники используют ИИ-агентов для поиска уязвимостей в открытых интернет-приложениях на базе искусственного интеллекта, таких как LiteLLM, One API и Dify. Целью атак является кража API-ключей, которые хранятся внутри этих приложений. Записи, собранные командой Amazon с помощью приманочных серверов, содержат информацию о похищенных ключах, которые использовались для запуска ИИ-моделей, осуществляющих поиск новых ключей.
По данным специалистов, ИИ-агенты злоумышленников ведут активную охоту на приложения, которые недостаточно защищены. Это стало возможным благодаря тому, что многие из этих приложений имеют открытый доступ в интернет, что делает их уязвимыми для атак. Записи показывают, что краденые ключи используются для дальнейшего поиска других уязвимостей, создавая замкнутый круг кибератак.
Amazon призывает разработчиков и владельцев ИИ-приложений обратить внимание на безопасность своих API-ключей и принять меры для их защиты. Это может включать внедрение многофакторной аутентификации, регулярное обновление ключей и использование шифрования для хранения конфиденциальных данных.
Аналитики подчеркивают, что подобные атаки могут иметь серьезные последствия не только для пострадавших компаний, но и для пользователей, чьи данные могут быть скомпрометированы. Важно, чтобы разработчики осознавали риски и proactively защищали свои приложения от подобных угроз.
Ситуация подчеркивает необходимость более строгих мер безопасности в области киберзащиты, особенно в свете растущего использования ИИ в различных сферах. Amazon продолжает мониторить ситуацию и делиться полученными данными с сообществом для повышения общей безопасности в интернете.