Предстоящий «режим для взрослых» от OpenAI позволит пользователям вести непристойные беседы с ChatGPT, но не использовать чат-бота для создания откровенных изображений, аудио или видео. В ответ на сообщения The Wall Street Journal, представитель OpenAI охарактеризовал грядущий релиз как способный создавать «порнографию» (smut), а не «порно» (pornography).
Генеральный директор OpenAI Сэм Альтман впервые упомянул идею позволить людям использовать ChatGPT для эротики в октябре прошлого года, заявив, что компания хочет «относиться к совершеннолетним пользователям как к совершеннолетним». Изначально OpenAI планировала выпустить режим для взрослых в начале 2026 года. С тех пор компания несколько раз откладывала выпуск функции, причем последнее откладывание произошло в начале марта, чтобы OpenAI могла «сосредоточиться на работе, которая имеет более высокий приоритет для большего числа пользователей».
Из сообщений The Journal мы узнаем, что OpenAI продолжила работу над режимом для взрослых, несмотря на оговорки со стороны своего совета по благополучию и искусственному интеллекту. Группа из восьми исследователей и экспертов, как сообщается, была единодушна в предупреждении компании о том, что эротика, генерируемая ИИ, может привести к нездоровой эмоциональной зависимости людей от ChatGPT, и что несовершеннолетние пользователи почти наверняка найдут способы получить доступ к этой функции. По данным The Journal, один из членов совета, ссылаясь на случаи, когда люди совершали самоубийства после привязанности к ChatGPT, заявил, что компания рискует создать «сексуального тренера по суициду».
Эти опасения, похоже, были обоснованными. По данным The Journal, в какой-то момент технология проверки возраста компании ошибочно идентифицировала несовершеннолетних пользователей как взрослых примерно в 12 процентах случаев. В масштабах OpenAI, с примерно 100 миллионами подростков, использующих ChatGPT каждую неделю, такая частота ошибок привела бы к доступу миллионов несовершеннолетних к эротическим чатам. OpenAI заявила The Journal, что ее алгоритм прогнозирования соответствует отраслевым стандартам, и добавила, что ни одна такая система никогда не будет абсолютно безотказной.
