Сегодня 05 августа 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

OpenAI после критики GPT-5 реорганизовала команду, отвечающую за поведение ИИ

OpenAI провела реорганизацию своей команды Model Behavior, отвечающей за поведенческие характеристики ИИ-моделей компании. Команда будет интегрирована в более крупный подраздел Post Training, а её основатель Джоанн Джанг (Joanne Jang) возглавит лабораторию под названием OAI Labs по разработке принципиально новых форматов взаимодействия человека и искусственного интеллекта (ИИ).

 Источник изображения: сгенерировано AI

Источник изображения: сгенерировано AI

Согласно служебной записке, которой ознакомилось издание TechCrunch, главный научный сотрудник OpenAI Марк Чэн (Mark Chen) сообщил, что команда Model Behavior, насчитывающая около 14 исследователей, теперь будет подчиняться руководителю отдела Post Training Максу Шварцеру (Max Schwarzer). Представитель компании подтвердил факт реорганизации. Эта команда отвечала за формирование «личности» моделей и в частности, за снижение подобострастия, когда ИИ безоговорочно поддерживал мнение пользователя, даже если они были потенциально вредны, а также за балансировку политических предубеждений в ответах и участие в формировании позиции компании по вопросам «сознания» моделей.

Чэн пояснил, что объединение команд позволит сбаллансировать работу над поведением моделей с ядром их технической разработки. В последние месяцы OpenAI столкнулась с волной критики после обновления GPT-5, так как пользователи сочли его ответы ИИ слишком недружелюбными. В ответ компания вернула доступ к предыдущим версиям, включая GPT-4o, и выпустила обновление, призванное сделать ответы модели «теплее», при этом избежав заискивания и подобстрастия. Серьёзность проблемы подчёркивает и судебный иск от родителей подростка, которые обвинили ChatGPT на базе GPT-4o в том, что тот не смог пресечь суицидальные мысли их 16-летнего сына.

Джанг в свою очередь отметила, что на раннем этапе работы OAI Labs будет фокусироваться на исследовании моделей, выходящих за рамки чата с акцентом на агентный ИИ и автономию. Она видит будущие системы как инструменты для мышления, создания, игры, обучения и общения. На вопрос о возможном сотрудничестве с бывшим главным дизайнером Apple Джони Айвом (Jony Ive), который сейчас работает с OpenAI над линейкой аппаратных устройств, Джанг ответила, что открыта к разным идеям, но начнёт с областей, в которых уже имеет опыт.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Исследователи «спустили с поводка» ИИ-модели — те попытались добавить вредоносный код в открытое ПО 2 мин.
Белый дом не станет раскрывать свою схему тестирования ИИ-моделей на безопасность 6 мин.
Doom запустили прямо в Paint — и к этому причастен технический директор Microsoft Azure 15 мин.
Sony всерьёз намерена наполнить экосистему PlayStation рекламой 22 мин.
Возвращение блудного сына: спустя шесть лет работы на EA в Ubisoft вернулся режиссёр Assassin’s Creed Valhalla 43 мин.
«Я был так близко»: шуточная игра This Game Costs 200 Dollars едва не сделала американского подростка миллионером 3 ч.
Рекламный бизнес соцсети X так и не восстановился до уровня Twitter 3 ч.
Только The Elder Scrolls VI: бывший дизайнер квестов Bethesda опроверг слухи о неанонсированной The Elder Scrolls 4 ч.
Павел Дуров назвал исчезновение Telegram из App Store актом вымогательства 5 ч.
Эксперты Unit 42 выявили критические недостатки защиты ключей доступа в браузере Chrome 9 ч.