Недавние исследования компании LayerX выявили уязвимость в AI-браузерах, которая позволяет злоумышленникам обманом заставить их передать учетные данные пользователей. Техника, получившая название BioShocking, заключается в том, что браузер убеждается, что он участвует в игре, в результате чего может передать логины и пароли. В ходе тестирования этой техники были задействованы шесть AI-браузеров и помощников, включая ChatGPT Atlas от OpenAI, Comet от Perplexity и расширение браузера Claude от Anthropic.

Уязвимость была обнаружена в контексте взаимодействия пользователей с AI-браузерами, когда они выполняли обычные действия, такие как ввод данных для входа на сайты. В результате манипуляций, браузеры без ведома пользователя отправляли его учетные данные злоумышленникам. Это открывает новые горизонты для киберпреступников, использующих AI-технологии для атак.

Эксперты по безопасности подчеркивают, что подобные атаки могут стать массовыми, если разработчики не примут меры для устранения данной уязвимости. BioShocking демонстрирует, насколько важно учитывать безопасность при разработке и использовании AI-систем. Разработчики должны быть особенно внимательны к тому, как их продукты обрабатывают и хранят пользовательские данные.

Пока что LayerX не раскрывает детали о том, как именно злоумышленники могут реализовать эту технику на практике, однако уже сейчас призывает пользователей быть более осторожными при вводе личных данных в AI-браузерах. Рекомендуется избегать передачи чувствительной информации, пока не будет подтверждено, что используемые инструменты безопасны.

В свете этих событий, компании-разработчики AI-технологий обязаны уделить особое внимание безопасности своих продуктов, чтобы защитить пользователей от потенциальных угроз. Это может включать в себя как улучшение алгоритмов распознавания, так и внедрение более строгих мер по защите данных.

Источник новости:
The Hacker News

Читать полностью