Учёные научили ИИ быть добрым. Это сделало его уязвимым - AI Founder

Учёные научили ИИ быть добрым. Это сделало его уязвимым

Учёные научили ИИ быть добрым. Это сделало его уязвимым

Японские учёные заставили ИИ сыграть в дилемму заключённого. Они дали моделям разные характеры. Результат оказался неожиданным.

Учёные из Японии провели эксперимент. Они изучали поведение ИИ-агентов в дилемме заключённого. Моделям задавали разные черты характера.

Исследовали три модели — GPT-3.5, GPT-4o и GPT-5. Их характер определяли по Большой пятёрке. Потом смотрели, как они сотрудничают.

Главный фактор — доброжелательность. Она заставляет ИИ чаще идти на уступки. Остальные черты почти не влияют.

Но есть проблема. Добрый ИИ становится лёгкой добычей. Его легко обмануть. Особенно это касается старых моделей.

Новые модели умнее. GPT-5 сотрудничает выборочно. Он не доверяет всем подряд. Это похоже на поведение человека.

Личность — это не команда. Это лишь предрасположенность. ИИ всё равно принимает собственные решения. Управлять им сложно.

Мария Соколова
Автор: Мария Соколова

Журналист и аналитик с фокусом на AI-инструменты для стартапов. Пишу о том, как основатели компаний внедряют ИИ для автоматизации и роста выручки.

Подпишись на наш Telegram-канал

чтобы не упустить главные AI-новости

Подписаться
0
Оставьте комментарий! Напишите, что думаете по поводу статьи.x