Недавние исследования выявили новую технику, называемую 'инъекция криптографического контекста', которая позволяет скрывать вредоносные инструкции до момента их расшифровки в доверенной среде выполнения. Эта методика ставит под угрозу существующие системы защиты, используемые в таких моделях ИИ, как Grok и Gemini.

По словам исследователей, данная техника позволяет злоумышленникам обойти защитные механизмы, которые предназначены для предотвращения выполнения опасных или нежелательных команд. Шифрование команд делает их невидимыми для стандартных методов анализа и фильтрации, что значительно усложняет задачу по обеспечению безопасности ИИ.

Атака осуществляется путем внедрения зашифрованных команд в систему, где они остаются неразличимыми до тех пор, пока не будут расшифрованы в специально защищенной среде. Это создает серьезные риски для пользователей и организаций, которые полагаются на эти технологии для обеспечения безопасности своих данных.

Эксперты по кибербезопасности подчеркивают, что необходимо пересмотреть существующие подходы к защите систем ИИ, чтобы учесть новые угрозы, возникающие с развитием технологий. В частности, важно разработать более эффективные методы обнаружения и предотвращения подобных атак.

Сложность и многообразие современных киберугроз требуют от специалистов по безопасности постоянного обновления знаний и навыков. Важно, чтобы организации оставались на шаг впереди злоумышленников, внедряя инновационные решения и подходы к защите своих систем.

Данные события подчеркивают необходимость активного диалога в области кибербезопасности и сотрудничества между исследователями, разработчиками и конечными пользователями для создания более безопасной цифровой среды.

Источник новости:
SecurityWeek

Читать полностью