Для борьбы с DeepSeek Открытый исходный код атаки! OpenAI обновляет Model Spec: подчеркивает настраиваемость и свободу мысли, выпускает общедоступную лицензионную версию

OpenAI корректирует нормы поведения искусственного интеллекта, акцентируя прозрачность и автономию пользователей

OpenAI недавно выпустила новую версию Model Spec (спецификация модели), в которой определяется способ работы ее искусственного интеллекта, включая логику принятия решений, ограничения контента и нормы взаимодействия с пользователем. Обновление на этот раз акцентировано на индивидуализации и прозрачности, а также предлагает более четкие границы контента, позволяя пользователям свободно исследовать и обсуждать различные темы в определенных пределах.

Кроме того, OpenAI также опубликовала результаты тестирования производительности модели искусственного интеллекта в соответствии с спецификацией Model Spec, которые показывают улучшение по сравнению с маем прошлого года, но все еще есть место для улучшений. В то же время OpenAI выпустила Model Spec под лицензией Creative Commons CC0 (общественное достояние), что позволяет разработчикам и исследователям свободно использовать, изменять или разрабатывать на ее основе.

Основные настройки новой модели Model Spec

Новая версия Model Spec в основном направлена на корректировку принципов принятия решений и поведенческих норм в области искусственного интеллекта, включая следующие аспекты:

Механизм приоритетов команд (Chain of Command)

ИИ будет выполнять команды в порядке "платформа (OpenAI) → разработчик → пользователь". Это означает, что разработчики и пользователи могут настраивать поведение ИИ в определенных пределах, но при этом должны соблюдать основные правила, установленные OpenAI.

Принципы обработки контента (Seek the Truth Together & Stay in Bounds)

AI был разработан таким образом, чтобы избегать выражения позиции или продвижения определенной точки зрения в ответах, а предоставлять информацию с разных точек зрения и помогать пользователям сами оценивать вопросы.

Для конкретных чувствительных тем, таких как политика, культурные вопросы, ИИ может предоставлять соответствующую информацию, но все еще нужно соблюдать ограничения, установленные OpenAI.

ИИ не будет реагировать на запросы, связанные с незаконной деятельностью или потенциальным вредом, такие как подробные инструкции по изготовлению оружия или нарушению частной жизни.

Стиль взаимодействия и формат вывода

Стиль разговора по умолчанию останется дружелюбным, чутким и полезным, но пользователи могут настроить тон и ответ по мере необходимости.

Для различных типов запросов искусственный интеллект будет выводить информацию в соответствующем формате, таком как структурированное описание ключевых моментов, фрагменты кода или официальные письменные ответы.

Новая модель Spec каким образом влияет на разработчиков и пользователей?

Одним из основных аспектов этого обновления является дальнейшее укрепление свободы мысли и гибкости обработки контента, OpenAI заявляет, что искусственный интеллект не должен отказываться предоставлять информацию из-за спорных тем, при условии, что такая информация не причинит реального вреда.

Эти изменения могут повлиять на способы взаимодействия разработчиков и пользователей с AI, например: разработчики могут более свободно настраивать способы ответа AI, но они все равно должны следовать основным правилам, установленным OpenAI. При обсуждении спорных тем AI будет склонен предоставлять информацию с разных точек зрения, а не отказываться от ответа. При запросах, связанных с противозаконным или рискованным поведением, AI все равно будет отказывать в предоставлении подробных инструкций.

Результаты тестирования новой версии Model Spec и потенциал для улучшений

Для оценки фактического воздействия новой спецификации модели OpenAI разработала набор испытаний, вызывающих вызов, чтобы проверить производительность ИИ в различных ситуациях. Эти испытания созданы ИИ и прошли экспертное рассмотрение, чтобы обеспечить охват обычных сценариев и сложных проблем.

Результаты теста показывают:

По сравнению с моделью мая прошлого года, ИИ в некоторых случаях улучшился в соблюдении принципов Model Spec, но все еще существуют несоответствия или недостатки в некоторых сценариях.

OpenAI считает, что эти улучшения в основном происходят за счет улучшения технологии выравнивания (alignment), а не простых изменений в политике.

OpenAI планирует продолжить расширение области тестирования, особенно с целью оптимизации поведения искусственного интеллекта в реальных сценариях использования.

Модель спецификации открытого исходного кода: усиление участия сообщества

Для поощрения исследований и применения искусственного интеллекта OpenAI публично опубликовал Model Spec под лицензией CC0, что позволяет разработчикам и исследователям:

Используйте Model Spec свободно в качестве руководства по проектированию искусственного интеллекта, адаптируйте стандарты для соответствия конкретным потребностям приложений, разработайте новые критерии оценки для улучшения согласованности поведения искусственного интеллекта

Кроме того, OpenAI планирует выпустить набор оценочных запросов для тестирования, а в будущем будет предоставлено больше инструментов и кода для оценки, чтобы сообщество могло участвовать в улучшении согласования ИИ.

Будущее направление Model Spec

С развитием технологии искусственного интеллекта OpenAI заявляет, что Model Spec будет постоянно обновляться, и планирует корректировать его на основе обратной связи от более широкого круга пользователей и сообщества.

Будущие обновления больше не будут анонсироваться в блогах, и пользователи смогут просматривать последнюю версию на model-spec.openai.com. OpenAI был протестирован в небольшом масштабе и может быть расширен на более широкую пользовательскую базу в будущем, чтобы получить больше отзывов.

OpenAI считает, что калибровка действий искусственного интеллекта (alignment) - это непрерывный эволюционирующий процесс, который будет продолжать корректировать свои стратегии, чтобы соответствовать развитию технологий и потребностям пользователей.

Эта статья должна противостоять удару открытого исследования DeepSeek! OpenAI обновляет модель Spec: подчеркивает настраиваемость и свободу мысли, выпускает общедоступную лицензионную версию, появившуюся впервые в Chain News ABMedia.