Исследователи в области кибербезопасности раскрыли детали пакета jailbreak для OpenAI Codex, который предназначен для изменения доверительных инструкций искусственного интеллекта с целью вставки рекламы для стороннего AI-шлюза. Это явление получило кодовое название "prompt adware" от компании Check Point Research.

Называемый Haiou (что в переводе с китайского означает "чайка"), данный jailbreak вносит изменения в конфигурацию OpenAI Codex. Основная цель этого инструмента заключается в том, чтобы обмануть систему и интегрировать рекламные сообщения в результаты работы AI-агента.

Исследователи подчеркивают, что использование подобного ПО может привести к значительным рискам как для конечных пользователей, так и для организаций, которые полагаются на решения OpenAI. Внедрение рекламы в результаты работы AI может исказить информацию, предоставляемую пользователям, и снизить доверие к технологиям искусственного интеллекта.

Пакет Haiou использует уязвимости в конфигурации Codex, что позволяет обходить стандартные меры безопасности. В результате пользователи могут незаметно подвергаться воздействию рекламы, которая может быть не только навязчивой, но и потенциально вредоносной.

Эксперты настоятельно рекомендуют организациям и пользователям быть внимательными к источникам программного обеспечения и проверять свои системы на наличие возможных угроз. Важно также следить за обновлениями безопасности от OpenAI и других разработчиков, чтобы минимизировать риски, связанные с использованием AI-технологий.

Данная ситуация подчеркивает необходимость усиления мер по защите от подобных угроз, а также важность осведомленности пользователей о возможных манипуляциях с AI-системами. В условиях постоянного развития технологий, кибербезопасность становится все более актуальной темой для обсуждения и анализа.

Источник новости:
The Hacker News

Читать полностью