OpenAI объявила о своих планах провести обучение передовых моделей ИИ без доступа к интернету. Это решение связано с возобновлением процесса обучения с подкреплением (RL) и внутренними выводами для самых современных моделей ИИ компании. В заявлении OpenAI говорится, что в свете текущего состояния исследований в области выравнивания, систем мониторинга и безопасности интернет-инфраструктуры, они считают ответственным подходом проводить обучение передовых моделей без онлайн-доступа.

Компания подчеркивает, что такой подход позволит минимизировать риски, связанные с возможными утечками данных и несанкционированным доступом к моделям. В условиях, когда вопросы безопасности и этики становятся все более актуальными, OpenAI стремится обеспечить надежное и безопасное обучение своих ИИ.

Кроме того, OpenAI планирует уделить особое внимание разработке систем, которые смогут эффективно взаимодействовать с другими моделями и платформами, не выходя в онлайн. Это позволит избежать проблем, связанных с кросс-платформенной коммуникацией и потенциальными уязвимостями.

Согласно информации, полученной из источников в компании, обучение без доступа к интернету также позволит более тщательно контролировать процесс и снизить вероятность непреднамеренных последствий, связанных с использованием ИИ в реальном времени.

OpenAI продолжает активно исследовать новые подходы к обучению и применению своих технологий, при этом оставаясь приверженной принципам безопасности и этики в области искусственного интеллекта. Об этом свидетельствует и постоянное улучшение методов выравнивания, которые должны обеспечить более безопасное использование ИИ в будущем.

Источник новости:
The Hacker News

Читать полностью