Компания Anthropic в минувший вторник объявила о расширении программы, предоставляющей доступ к своим продвинутым моделям искусственного интеллекта (ИИ) для проверенных специалистов в области кибербезопасности. В рамках этой программы профессионалы смогут тестировать модели с уменьшенными мерами безопасности и блокирующими классификаторами. Это решение было принято на фоне успешного завершения инициативы Project Glasswing, в рамках которой с апреля по июль 2026 года было выявлено не менее 129,000 подтвержденных уязвимостей в программном обеспечении.

Anthropic отметила, что программа предназначена для повышения уровня безопасности программного обеспечения, позволяя экспертам более эффективно выявлять и устранять уязвимости. Доступ к Claude, как называется ИИ, предоставляется только проверенным командам, что должно минимизировать риски и обеспечить безопасное использование технологий.

В рамках инициативы Project Glasswing компания также обнаружила дополнительные уязвимости, которые могут быть использованы злоумышленниками. Это подчеркивает важность постоянного мониторинга и тестирования программного обеспечения для обеспечения его безопасности.

По словам представителей Anthropic, расширение программы поможет не только улучшить безопасность продуктов, но и даст возможность разработчикам лучше понимать, как их системы могут быть подвержены атакам. Это, в свою очередь, может привести к созданию более защищенных приложений и систем.

Специалисты по кибербезопасности приветствуют инициативу Anthropic, отмечая, что сотрудничество с опытными командами может значительно ускорить процесс выявления уязвимостей и их устранения. Однако они также подчеркивают необходимость строгого контроля и соблюдения этических норм при работе с мощными инструментами ИИ.

Источник новости:
The Hacker News

Читать полностью