Записи о безопасности все чаще используются поставщиками для обучения своих моделей, что создает новые риски для предприятий. В последние годы компании начали осознавать, что данные, которые они собирают в процессе управления инцидентами, могут быть полезны не только для внутреннего анализа, но и для обучения алгоритмов искусственного интеллекта. Это открывает новые возможности, но также и новые угрозы.

Поставщики программного обеспечения по кибербезопасности активно используют архивы инцидентов для улучшения своих моделей машинного обучения. Они обучают свои системы на реальных данных о кибератаках, что позволяет им более эффективно выявлять угрозы и реагировать на них. Однако такой подход создает риск утечки конфиденциальной информации, поскольку записи о безопасности могут содержать чувствительные данные.

Эксперты по информационной безопасности предупреждают, что использование записей о инцидентах для обучения ИИ может привести к нежелательным последствиям. В частности, существует вероятность того, что злоумышленники смогут получить доступ к обучающим данным и использовать их для разработки новых атак.

Кроме того, не все компании осознают, что их данные могут быть использованы третьими лицами. Это может привести к юридическим последствиям, если организации не обеспечат должную защиту своих записей о безопасности и не уведомят пользователей о возможном использовании их данных.

В связи с этим предприятиям рекомендуется тщательно оценивать риски, связанные с передачей своих данных поставщикам. Им следует создавать четкие политики по использованию архивов инцидентов и обеспечивать защиту конфиденциальной информации. Важно также проводить регулярные аудиты и анализы рисков, чтобы минимизировать потенциальные угрозы, связанные с использованием данных для обучения ИИ.

Таким образом, хотя использование архивов инцидентов для обучения моделей ИИ может принести значительную пользу в борьбе с киберугрозами, предприятиям необходимо быть осторожными и принимать меры для защиты своих данных.

Источник новости:
Dark Reading

Читать полностью