Компания OpenAI в среду объявила о том, что ей удалось выявить и остановить скоординированную кампанию по дистилляции, целью которой было незаконное извлечение защищённой информации о логике работы её моделей искусственного интеллекта. Основная часть этой активности, начавшаяся в первую неделю июля, была связана с лицами, имеющими отношение к Moonshot AI, китайской компании, расположенной в Пекине.

OpenAI подчеркнула, что подобные попытки извлечения данных представляют собой серьёзную угрозу для безопасности и целостности её технологий. В компании отметили, что это не первый случай, когда их разработки становятся объектом атак со стороны злоумышленников, стремящихся получить доступ к интеллектуальной собственности.

Кампания была организована с использованием сложных методов, позволяющих обойти защитные механизмы, установленные OpenAI. Однако команда специалистов компании смогла оперативно отреагировать и предотвратить дальнейшее распространение информации.

В OpenAI также сообщили о том, что они продолжают улучшать свои системы безопасности, чтобы защитить свои модели от подобных угроз в будущем. В компании призвали другие организации в сфере ИТ и ИИ быть бдительными и обмениваться информацией о потенциальных рисках.

Ситуация подчеркивает растущую важность кибербезопасности в области искусственного интеллекта, особенно в условиях, когда конкуренция на рынке технологий становится всё более напряжённой. OpenAI планирует продолжать мониторинг активности, связанной с Moonshot AI и другими потенциальными угрозами.

Источник новости:
The Hacker News

Читать полностью