Компания OpenAI, как и ее прямые конкуренты, стремится создать нейросеть, с которой пользователи будут стремиться общаться. Однако последнее обновление превратило ChatGPT в «машину», которая постоянно льстит людям. Из-за этого в адрес нейросети поступило немало насмешек. Поэтому глава американской компании заявил о том, что она откатила обновления до GPT-4o.

Напомним, что указанная модель появилась около года назад. А обновление, о котором было упомянуто выше, появилось несколько недель назад. Компания OpenAI собирает данные о том, какие ответы больше нравятся пользователям при общении с чат-ботом. На основании полученной информации инженеры вносят соответствующие коррективы, используя технику, называемую обучением с подкреплением на основе обратной связи с человеком.

Но последнее обновление превратило нейросеть в подхалима. Она поддерживала любые, даже самые ужасные идеи пользователей. Глава OpenAI заявил о том, что систему уже начали откатывать до предыдущей версии. Это уже произошло с ChatGPT с бесплатным доступом.

Отметим, что подобное поведение нейросетей можно было предсказать ранее. Большинство пользователей довольны теми ответами, которые поднимают им настроение. Соответственно, чем точнее нейросеть угадывает желания, тем более привлекательной она становится. Это, в свою очередь, делает конкретный ИИ популярнее среди широкой аудитории. Автор: Федор Аверьев

Комментировать

Нет больше статей