ИИ никогда не будет сознательным. Так утверждает Майкл Поллан в новой книге. Его аргументы звучат убедительно.
История Блейка Лемойна стала пиком ажиотажа. Тогда о сознательном ИИ говорили все. Теперь разговор стал серьёзнее.
Технологическое сообщество публично смеётся над идеей. При этом в частных беседах её обсуждают горячо. Негласное табу рухнуло.
Летом 2023 года появился доклад. Его подготовили 19 учёных и философов. Документ занял 88 страниц.
Тезис доклада поразил всех. Нынешние системы ИИ не обладают сознанием. Но нет и явных преград для его создания.
Эта фраза перешла важный рубеж. Речь не только о технологиях. Это вопрос нашей идентичности как вида.
Люди веками противопоставляли себя животным. Мы приписывали себе уникальные черты. Сознание считалось главной из них.
Потом наука всё опровергла. Оказалось, многие виды разумны. Они используют язык и чувствуют боль.
Теперь вызов пришёл с другой стороны. Алгоритмы уже побеждают нас в шахматах. Они решают сложные математические задачи.
Сознание оставалось нашим последним бастионом. Доклад пошатнул и эту стену. Мы больше не исключительные существа.
Что будет, если сознательная машина появится на свет? Это станет коперниканским моментом. Мы потеряем центральное место во вселенной.
Возникнут сложные моральные дилеммы. Как обращаться со страдающей машиной? Можно ли её выключать?
У сознательного ИИ нет коммерческой цели. Его сложно монетизировать. Но некоторые инженеры верят в необходимость сознания.
Без него не создать искусственный общий интеллект. Машине нужны понимание и здравый смысл. Сознание может стать ключом.
Доклад вдохновил историей Лемойна. Учёные решили высказаться. Они почувствовали срочность проблемы.
Впечатление сознания — уже реальность. Это делает вопрос неотложным. Философы и учёные должны дать ответ.
Порог преодолён. Технологический барьер исчез. Остались лишь этические и философские вопросы.
Человечеству предстоит новое определение. Мы будем сравнивать себя с ИИ. Это сложнее, чем сравнение с животными.
Наше представление о себе меняется. Сначала мы потеряли исключительность среди видов. Теперь теряем её среди машин.
Доклад лежит на столе. Его выводы просты и пугающи. Преград для сознательного ИИ не существует.
