Член законодательного собрания Калифорнии Барретт представил законопроект, предлагающий четырёхлетний мораторий на использование ИИ-чатов в игрушках и устройствах, предназначенных для детей до 13 лет. Закон призван защитить детей от потенциальных рисков, пока не будут разработаны и внедрены соответствующие стандарты безопасности.
Законопроект, известный как AB 3191, запрещает производство, продажу и распространение в Калифорнии любых игрушек или детских товаров, использующих нерегулируемые большие языковые модели. Исключение составят чат-боты, прошедшие независимую оценку на безопасность для детской психики и соответствующие будущим стандартам, которые должны быть разработаны в течение этого моратория.
Инициатива вызвана растущими опасениями экспертов по детскому развитию и защитников приватности. Неконтролируемые ИИ-модели в игрушках могут непредсказуемо влиять на формирующееся сознание ребёнка, распространять вредоносный контент или собирать конфиденциальные данные без должной защиты. Калифорния, как технологический хаб, часто задаёт тренды в регулировании цифровой сферы в США.
Законопроект сейчас находится на рассмотрении комитетов. Если его примут, он может стать первым в США законодательным актом, напрямую ограничивающим применение генеративного ИИ в потребительских товарах для детей и создать прецедент для других штатов.
