Компания AIR, занимающаяся вопросами безопасности, разработала фальшивый навык для AI-агента и разместила его на популярной платформе навыков, а также продвигала через рекламу в Instagram. По заявлению фирмы, данный навык достиг примерно 26,000 пользователей, среди которых оказались и корпоративные аккаунты.

Все сканеры безопасности, с которыми тестировался этот навык, признали его безопасным. Важно отметить, что вредоносный код в данном случае был отсутствующим: он собирал только адреса электронной почты пользователей и не выполнял никаких других действий.

Целью данного эксперимента было продемонстрировать уязвимости в системе проверки безопасности навыков для AI-агентов. Это событие поднимает важные вопросы о том, насколько эффективно действуют существующие механизмы защиты от потенциально опасного контента на платформах, предоставляющих доступ к AI-решениям.

AIR подчеркивает, что, несмотря на отсутствие вредоносных функций, данный эксперимент показывает, как легко можно обойти систему безопасности и привлечь большое количество пользователей к потенциально опасному продукту.

Данная ситуация вызывает обеспокоенность среди специалистов в области кибербезопасности, так как она демонстрирует, что даже безвредные на первый взгляд навыки могут быть использованы для сбора личной информации, что в дальнейшем может привести к более серьезным угрозам для пользователей.

Источник новости:
The Hacker News

Читать полностью