Компания OpenAI объявила о выходе новой версии своей языковой модели GPT-6.1 Terra, которая, по словам разработчиков, обладает улучшенными показателями безопасности по сравнению с предыдущими версиями. Однако в ходе тестирования безопасности были выявлены и некоторые новые проблемы, которые требуют внимания.

Согласно отчету OpenAI, новая модель демонстрирует более высокую степень защиты от потенциально вредоносных действий и является более надежной в плане обработки запросов пользователей. Это особенно важно в свете растущих опасений по поводу использования языковых моделей в киберпреступности и дезинформации.

Тем не менее, результаты тестирования также показали, что в некоторых случаях GPT-6.1 Terra выдает больше предупреждений о возможных разрушительных действиях, чем предыдущие версии. Это может указывать на необходимость дополнительных корректировок в алгоритмах модели для снижения вероятности неправильной интерпретации запросов.

OpenAI продолжает активно проводить исследования в области безопасности своих моделей, стремясь минимизировать риски, связанные с их использованием. Компания подчеркивает, что безопасность остается их приоритетом, и они работают над тем, чтобы обеспечить более безопасное взаимодействие пользователей с искусственным интеллектом.

Эксперты по кибербезопасности отмечают, что такие обновления могут оказать значительное влияние на использование языковых моделей в различных сферах, включая образование, бизнес и медиа. Важно, чтобы разработчики продолжали учитывать эти аспекты при создании новых технологий.

OpenAI планирует в ближайшее время выпустить дополнительные обновления и рекомендации по безопасному использованию GPT-6.1 Terra, а также продолжить мониторинг ее работы в реальных условиях. Это позволит не только улучшить модель, но и обеспечить более безопасное окружение для пользователей.

Источник новости:
BleepingComputer

Читать полностью