OpenAI заявила о новых мерах безопасности в чат-боте ChatGPT после случаев, когда пользователи обращались к нему во время психических кризисов.
Модель GPT-5 обучили лучше распознавать риски самоповреждения, направлять людей на горячие линии помощи и в критических случаях передавать информацию модераторам или даже правоохранительным органам.
Компания сотрудничает с более чем 90 врачами из 30 стран, включая психиатров, педиатров и семейных врачей. В США чат-бот направляет пользователей на горячую линию 988, в Великобритании – к Samaritans, а в других странах – на сайт findahelpline.com.
С запуском GPT-5 точность ответа на кризисные ситуации выросла более чем на 25% по сравнению с предыдущей версией. Новый метод обучения safe completions позволяет чат-боту давать полезные, но безопасные советы.
OpenAI работает над защитой во время длительных диалогов и блокировкой опасного контента. Новые функции включают прямой выход на экстренные службы, быстрое оповещение доверенных контактов и специальные инструменты для подростков и родителей, в том числе родительский контроль и усиленные предохранители для рискованного контента.
Недавно генеральный директор OpenAI предложил для всех британцев. Напоминаем, что OpenAI представила ChatGPT Go.
