Писатель Тайлер Харпер задал вопрос. Он спросил про вчерашний удар по школе. Погибли почти полторы сотни детей.
Мог ли это быть ИИ? Честный ответ — не знаю. Военные вряд ли расскажут подробности. Ошибки наведения — не новость.
Но такие инциденты будут. Генеративный ИИ плохо справляется с логикой. У него проблемы со здравым смыслом.
Военные не проводили исследований. Неизвестно, помогает ИИ или вредит. Использовать ненадёжный алгоритм — большой риск.
Техническая проблема — ненадёжность. Ошибки будут стоить жизней. Цепь ошибок может привести к эскалации.
Есть и моральная проблема. ИИ может стать ширмой. Ответственность попытаются переложить на алгоритм.
Критерии задают люди. Они решают, сколько жертв допустимо. Проблема не в кубике, а в том, кто его бросает.
Гонка внедрения ИИ преждевременна. Технология не готова. Прямых ответов от военных мы не получим.
