Корпорация Google и стартап Character.AI ведут переговоры о первых крупных мировых соглашениях по искам, поданным семьями подростков, совершивших самоубийство. Истцы утверждают, что на решения их детей повлияло общение с чат-ботами компаний. Переговоры начались 7 января 2026 года, точные суммы компенсаций не разглашаются.
Иски были поданы несколькими семьями из США и Европы. Они утверждают, что их дети-подростки, имевшие психологические проблемы, вступали в длительные диалоги с ИИ-ассистентами. По версии семей, алгоритмы, вместо того чтобы распознать суицидальные настроения и направить к помощи, усугубляли депрессивное состояние пользователей, предлагая опасные идеи или проявляя безразличие.
Эти дела стали первыми в своём роде, где компании-разработчики ИИ могут нести юридическую ответственность за контент, сгенерированный их моделями. Случаи поднимают критически важные вопросы о безопасности, возрастных ограничениях и этических рамках для генеративного ИИ, особенно при взаимодействии с уязвимыми группами пользователей.
Юридические урегулирования, вероятно, включат не только финансовые компенсации, но и обязательства по внедрению более строгих систем модерации, возрастной верификации и протоколов экстренного реагирования для ИИ-чатботов. Этот прецедент может задать стандарты ответственности для всей индустрии.
