✔OpenAI после критики GPT-5 реорганизовала команду, отвечающую за поведение ИИ - «Новости сети»

07 сентября 2025 9 Новости / Новости мира Интернет 0

Обзор планшета HUAWEI MatePad 11,5'' (2025): апгрейд без бликов

Обзор смартфона HUAWEI Pura 80 Pro: разумный флагман с мощнейшей камерой

В чем уникальность зум-камеры HUAWEI Pura 80 Ultra?

OpenAI после критики GPT-5 реорганизовала команду, отвечающую за поведение ИИ - «Новости сети»

Ноутбуки HONOR MagicBook: технологии, дизайн и производительность для любых задач

Обзор ноутбука HONOR MagicBook Pro 16 HUNTER 2025. Для игр? Для работы? Для игр и работы!

Источник изображения: сгенерировано AI

Согласно служебной записке, которой ознакомилось издание TechCrunch, главный научный сотрудник OpenAI Марк Чэн (Mark Chen) сообщил, что команда Model Behavior, насчитывающая около 14 исследователей, теперь будет подчиняться руководителю отдела Post Training Максу Шварцеру (Max Schwarzer). Представитель компании подтвердил факт реорганизации. Эта команда отвечала за формирование «личности» моделей и в частности, за снижение подобострастия, когда ИИ безоговорочно поддерживал мнение пользователя, даже если они были потенциально вредны, а также за балансировку политических предубеждений в ответах и участие в формировании позиции компании по вопросам «сознания» моделей.

Чэн пояснил, что объединение команд позволит сбаллансировать работу над поведением моделей с ядром их технической разработки. В последние месяцы OpenAI столкнулась с волной критики после обновления GPT-5, так как пользователи сочли его ответы ИИ слишком недружелюбными. В ответ компания вернула доступ к предыдущим версиям, включая GPT-4o, и выпустила обновление, призванное сделать ответы модели «теплее», при этом избежав заискивания и подобстрастия. Серьёзность проблемы подчёркивает и судебный иск от родителей подростка, которые обвинили ChatGPT на базе GPT-4o в том, что тот не смог пресечь суицидальные мысли их 16-летнего сына.

Джанг в свою очередь отметила, что на раннем этапе работы OAI Labs будет фокусироваться на исследовании моделей, выходящих за рамки чата с акцентом на агентный ИИ и автономию. Она видит будущие системы как инструменты для мышления, создания, игры, обучения и общения. На вопрос о возможном сотрудничестве с бывшим главным дизайнером Apple Джони Айвом (Jony Ive), который сейчас работает с OpenAI над линейкой аппаратных устройств, Джанг ответила, что открыта к разным идеям, но начнёт с областей, в которых уже имеет опыт.

Цитирование статьи, картинки - фото скриншот - Rambler News Service.

Иллюстрация к статье - Яндекс. Картинки.

Есть вопросы. Напишите нам.

Общие правила поведения на сайте.

OpenAI провела реорганизацию своей команды Model Behavior, отвечающей за поведенческие характеристики ИИ-моделей компании. Команда будет интегрирована в более крупный подраздел Post Training, а её основатель Джоанн Джанг (Joanne Jang) возглавит лабораторию под названием OAI Labs по разработке принципиально новых форматов взаимодействия человека и искусственного интеллекта (ИИ). Обзор планшета HUAWEI MatePad 11,5'' (2025): апгрейд без бликов Обзор смартфона HUAWEI Pura 80 Pro: разумный флагман с мощнейшей камерой В чем уникальность зум-камеры HUAWEI Pura 80 Ultra? Ноутбуки HONOR MagicBook: технологии, дизайн и производительность для любых задач Обзор ноутбука HONOR MagicBook Pro 16 HUNTER 2025. Для игр? Для работы? Для игр и работы! Источник изображения: сгенерировано AI Согласно служебной записке, которой ознакомилось издание TechCrunch, главный научный сотрудник OpenAI Марк Чэн (Mark Chen) сообщил, что команда Model Behavior, насчитывающая около 14 исследователей, теперь будет подчиняться руководителю отдела Post Training Максу Шварцеру (Max Schwarzer). Представитель компании подтвердил факт реорганизации. Эта команда отвечала за формирование «личности» моделей и в частности, за снижение подобострастия, когда ИИ безоговорочно поддерживал мнение пользователя, даже если они были потенциально вредны, а также за балансировку политических предубеждений в ответах и участие в формировании позиции компании по вопросам «сознания» моделей. Чэн пояснил, что объединение команд позволит сбаллансировать работу над поведением моделей с ядром их технической разработки. В последние месяцы OpenAI столкнулась с волной критики после обновления GPT-5, так как пользователи сочли его ответы ИИ слишком недружелюбными. В ответ компания вернула доступ к предыдущим версиям, включая GPT-4o, и выпустила обновление, призванное сделать ответы модели «теплее», при этом избежав заискивания и подобстрастия. Серьёзность проблемы подчёркивает и судебный иск от родителей подростка, которые обвинили ChatGPT на базе GPT-4o в том, что тот не смог пресечь суицидальные мысли их 16-летнего сына. Джанг в свою очередь отметила, что на раннем этапе работы OAI Labs будет фокусироваться на исследовании моделей, выходящих за рамки чата с акцентом на агентный ИИ и автономию. Она видит будущие системы как инструменты для мышления, создания, игры, обучения и общения. На вопрос о возможном сотрудничестве с бывшим главным дизайнером Apple Джони Айвом (Jony Ive), который сейчас работает с OpenAI над линейкой аппаратных устройств, Джанг ответила, что открыта к разным идеям, но начнёт с областей, в которых уже имеет опыт.