Совсем недавно проведенные исследования показали, что современные большие языковые модели (LLM) имеют высокие показатели ложных срабатываний при анализе уязвимостей. Это создает дополнительные сложности для специалистов в области безопасности приложений (AppSec), которые вынуждены тратить больше времени на обработку результатов сканирования.

Основная проблема заключается в том, что LLM не учитывают контекст, в котором проводятся сканирования. Это приводит к тому, что многие уязвимости могут быть неверно интерпретированы или оценены как критические, в то время как на практике они могут быть несущественными или даже неактуальными.

Специалисты по кибербезопасности подчеркивают, что использование LLM для автоматизации процесса поиска уязвимостей требует дополнительных усилий по верификации и фильтрации полученных данных. В результате, время и ресурсы, которые могли бы быть использованы для исправления реальных проблем, уходят на анализ ложных срабатываний.

Несмотря на все преимущества, которые предоставляют большие языковые модели, их применение в области безопасности приложений требует тщательного подхода и осознания ограничений. Это особенно важно в условиях постоянно меняющихся угроз и уязвимостей, где скорость реагирования может иметь решающее значение.

Эксперты рекомендуют сочетать использование LLM с традиционными методами анализа и тестирования, чтобы обеспечить более точные результаты и снизить количество ложных срабатываний. Важно также развивать алгоритмы, которые смогут учитывать контекст сканирования, что повысит эффективность поиска уязвимостей и минимизирует риск пропуска критически важных проблем.

Источник новости:
Dark Reading

Читать полностью