Дарьо Амодей не герой. Он похож на Сэма Олтмана. Оба продают ИИ военным.
Амодей критиковал автономное оружие. Он требовал контроля человека. Но его компания Anthropic работала с Пентагоном.
Claude интегрировали в систему Maven. Она ищет цели для ударов. Программу использует Palantir.
В Иране Maven с Claude предложила сотни целей. Система выдала координаты и приоритеты. Война началась с удара по школе.
Погибло больше ста девочек. Это хуже самого страшного школьного расстрела в США. Claude, вероятно, выбрал эту цель.
Человек в контуре — не панацея. ИИ предлагает восемьдесят целей в час. Проверить всё невозможно.
Люди начинают доверять машине. Они перестают думать. Ошибки становятся неизбежными.
Амодей и Олтман постоянно преувеличивают. Они обещают искусственный интеллект через два года. Потом тихо переносят сроки.
Это их почерк. Шумиха, затем отступление. Никто не несёт ответственности.
В коммерческом ИИ нет святых. Есть только бизнес. И война.
