Ассамблея Калифорнии в США приняла законопроект SB 243, который будет регулировать чат-боты на основе искусственного интеллекта для защиты несовершеннолетних и уязвимых пользователей. Законопроект прошел с поддержкой обеих партий и теперь ожидает финального голосования в Сенате штата в пятницу, 12 сентября. Об этом сообщает издание TechCrunch.
Закон также позволит подавать иски против компаний, если чат-боты нарушают правила, включая компенсацию до $1000 за нарушение. Он направлен на предотвращение обсуждения самоубийств, самоповреждений и сексуального контента в общении с искусственным интеллектом.
Как пишет TechCrunch, Калифорния станет первым штатом в США, который введет такие правила для компаний, занимающихся ИИ, в то время как федеральные органы и другие штаты также ужесточают контроль над влиянием ИИ на детей. Проблема привлекла внимание после трагедии со смертью подростка в США, который покончил жизнь самоубийством после длительных чатов с ChatGPT.
Напоминаем, ChatGPT позволит родителям настраивать поведение модели для детей. OpenAI обучила GPT-5 помогать пользователям в сложных и опасных ситуациях.
