Мы уже видели, как искусственный интеллект давал весьма странные ответы на запросы по мере того, как чат-боты становятся все более распространенными. Сегодня Reddit Answers оказался в центре внимания после того, как модератор сообщил об инструменте ИИ за предоставление опасных медицинских советов, которые они не смогли отключить или скрыть.

Модератор увидел, как Reddit Answers предложил людям, страдающим хронической болью, прекратить прием текущих предписаний и принимать кратом в высоких дозах, который является нерегулируемым веществом, незаконным в некоторых штатах. Пользователь сказал, что затем он задал Reddit Answers другие медицинские вопросы. Они получили потенциально опасные советы по лечению неонатальной лихорадки, наряду с некоторыми точными действиями, а также предложения о том, что героин может быть использован для облегчения хронической боли. Несколько других модераторов, особенно из тематических сабреддитов, посвященных здоровью, ответили на исходный пост, добавив свои опасения, что у них нет возможности отключить или пометить проблему, когда Reddit Answers предоставил неточную или опасную информацию в их сообществах.

Представитель Reddit сообщил 404 Media, что Reddit Answers был обновлен для устранения некоторых опасений модераторов. «Это обновление гарантирует, что «Связанные ответы» на деликатные темы, которые могли быть ранее видны на странице деталей поста (также известной как страница обсуждения), больше не будут отображаться», — заявил представитель изданию. «Это изменение было реализовано для улучшения пользовательского опыта и поддержания соответствующей видимости контента на платформе». Мы обратились к Reddit за дополнительными комментариями о том, какие темы исключаются, но пока не получили ответа.

Хотя представитель сообщил 404 Media, что Reddit Answers «исключает контент из частных, карантинных и NSFW сообществ, а также некоторые зрелые темы», инструмент ИИ явно не приспособлен для правильного предоставления медицинской информации, тем более для обработки сарказма, иронии или потенциально плохих советов, которые могут давать другие пользователи Reddit. Помимо последнего шага по не отображению на «деликатных темах», похоже, что Reddit не планирует предоставлять никаких инструментов для контроля того, как или когда ИИ отображается в сабреддитах, что может сделать и без того сложную задачу модерации практически невыполнимой.