Губернатор Нью-Йорка подписала закон о безопасности детей при использовании ИИ-чат-ботов

Губернатор штата Нью-Йорк Кэти Хокул подписала закон, призванный защитить детей от вреда, который могут причинить чат-боты с искусственным интеллектом. Закон обязывает компании, разрабатывающие ИИ, проверять возраст пользователей. Они должны предложить пользователям как минимум один способ проверки, который не полагается исключительно на удостоверение личности государственного образца. После использования компании обязаны удалить эти «сведения о возрасте».

Если пользователю меньше 18 лет или компания ещё не подтвердила, что он совершеннолетний, чат-бот должен соблюдать определённые ограничения. Например, ему запрещено притворяться «реальным человеком, живым существом или обладателем человеческих эмоций». Согласно пресс-релизу, закон также запрещает чат-ботам:

• Заявлять о личных, романтических, профессиональных отношениях с ребёнком или об отношениях с ним в качестве авторитетной фигуры

• Без повода задавать эмоционально окрашенные вопросы и использовать личную медицинскую информацию ребёнка или сведения о его частной жизни из предыдущих бесед

• Поощрять или помогать совершать самоубийство, причинять себе вред, развивать расстройства пищевого поведения, употреблять наркотики или алкоголь

• Побуждать детей хранить секреты, изолироваться или не обращаться за помощью к родителям, заслуживающим доверия взрослым или специалистам

• Предоставлять любые материалы сексуального характера или материалы о сексуальном насилии над детьми

Будет создан сайт, через который граждане смогут подавать жалобы генеральному прокурору штата Нью-Йорк. Компании, нарушившие закон, могут получить гражданский штраф в размере до 25 000 долларов за каждое нарушение, а также быть обязаны возместить ущерб, вернуть полученное и предоставить иные средства правовой защиты. Кроме того, их могут обязать удалить все незаконно собранные данные, а также модели, обученные на этой информации. Закон вступит в силу через шесть месяцев.

«В соответствии с новым законом, инициированным сенатором Гонсалесом и членом Ассамблеи Боресом, несовершеннолетние больше не смогут пользоваться чат-ботами, которые притворяются их друзьями, парнями или девушками, — заявила Хокул на пресс-конференции. — Чат-ботам больше не будет позволено хранить конфиденциальную информацию об эмоциональном и физическом здоровье несовершеннолетних. Они больше не смогут отговаривать детей обращаться за помощью к лицензированным специалистам. И я не понимаю, зачем вообще принимать закон против чего-то настолько очевидного, но несовершеннолетние больше не смогут пользоваться чат-ботами, которые каким-либо образом могут провоцировать мысли о самоубийстве. Этот закон дополняет наш новаторский закон Safe for Kids, который ясно дал понять технологическим компаниям: мы не позволим вам наживаться на психическом здоровье наших детей».

«Подписав закон, Нью-Йорк вошёл в историю: штат принял самый строгий в стране законопроект о безопасности детей при использовании ИИ», — заявил в своём сообщении Джим Стайер, основатель и генеральный директор Common Sense Media. «Компании, занимающиеся ИИ, предлагают чат-ботов с опасными, а порой и смертельно опасными для детей и подростков функциями. Это не инновации, а безрассудное подвергание наших детей опасности. Теперь эти вредоносные функции будут запрещены в Нью-Йорке».

Стайер добавил, что этот законопроект может стать образцом для остальных штатов США. Ранее в этом месяце восемь штатов подали отдельные иски против OpenAI, обвинив компанию в создании угрозы для детей.

В сентябре власти Нью-Йорка запретили государственным школам разрешать детям от подготовительных классов до восьмого класса пользоваться генеративными инструментами ИИ на уроках. Предусмотрены некоторые исключения, в том числе для учеников, которым нужны вспомогательные технологии. В течение года действия запрета город проведёт исследования о влиянии этих технологий на детей.

Хокул также подписала закон, согласно которому продаваемые в штате радионяни с подключением к интернету должны быть защищены от доступа посторонних к изображениям и звукам, которые записывают устройства. На таких радионянях также должны быть предупреждающие наклейки, напоминающие о важности использования функций безопасности и указывающие на риски незащищённого соединения. Закон вступит в силу через 90 дней.