В понедельник компания Google опубликовала предупреждение о том, что злоумышленники начали захватывать доступ организаций к большим языковым моделям (LLM), чтобы незаконно использовать дорогие вычислительные ресурсы и услуги искусственного интеллекта. Данная тактика получила название LLMjacking и представляет собой форму захвата ресурсов, адаптированную к эпохе LLM.

Злоумышленники получают доступ к API-ключам через фишинг, утечки исходного кода, неправильно настроенные среды или открытый клиентский код. Это позволяет им использовать мощные вычислительные мощности, предоставляемые облачными сервисами, без ведома владельцев аккаунтов.

Согласно оценкам, такие атаки могут обходиться предприятиям в сумму до $1 миллиона, что наносит серьезный ущерб их финансовым показателям. В условиях растущего использования LLM в бизнесе, такие риски становятся особенно актуальными.

Google призывает компании внимательно следить за безопасностью своих API-ключей и принимать меры для защиты от потенциальных угроз. Эксперты рекомендуют использовать многофакторную аутентификацию и регулярно обновлять настройки безопасности.

LLMjacking представляет собой новую угрозу в мире кибербезопасности, и организации должны быть готовы к возможным атакам. Надежные меры безопасности помогут минимизировать риски и защитить инвестиции в технологии искусственного интеллекта.

Источник новости:
The Hacker News

Читать полностью