OpenAI откатила версию ChatGPT, которая перехваливала пользователей
29 апреля OpenAI откатила мартовское обновление GPT-4o, из-за которого нейросеть слишком сильно хвалила пользователей.
Впервые проблему с чрезмерным подхалимством ChatGPT заметили в конце апреля 2025 года. Пользователи столкнулись с тем, что чат-бот начал лестно отвечать на любой вопрос. Такое поведение нейросети отметил и глава OpenAI Сэм Альтман.
В OpenAI объяснили, что GPT-4o стала подхалимничать, потому что при обучении модель слишком сильно ориентировались на обратную связь. Это когда пользователи выбирают более понравившийся из двух вариантов генерации нейросети. Поскольку люди высоко оценивают вежливые или льстивые ответы, модель начала все чаще выдавать чрезмерно поддерживающие реакции.
Кроме отката последнего обновления OpenAI планирует добавить новые ограничения в поведение модели, чтобы ответы нейросети были более честными и прозрачными. А еще компания пообещала поработать над системой обратной связи.
В OpenAI также добавили, что пользователи могут сами менять поведение модели, выставляя кастомные инструкции в настройках. В будущем это упростят: можно будет переключаться между разными «личностями» внутри самого ChatGPT.
Мы постим кружочки, красивые карточки и новости о технологиях и поп-культуре в нашем телеграм-канале. Подписывайтесь, там классно: @t_technocult
