OpenAI проигнорировала тревожные диалоги стрелка с ChatGPT
За несколько месяцев до стрельбы в школе сотрудники OpenAI заметили тревожные диалоги. Они описывали сцены насилия. Руководство не стало звонить в полицию.
безопасность ИИ
OpenAI заблокировала канадского стрелка за восемь месяцев до трагедии
Искусственный интеллект распознал угрозу за восемь месяцев до массовой стрельбы в Канаде. Но сигнал не дошёл до полиции.
Создаём прозрачных ИИ-агентов: контроль, журнал и человеческое решение
Разработчики представили метод создания «стеклянных» ИИ-агентов. Каждая мысль и действие агента записываются. Критические шаги останавливаются для проверки человеком.
Исследование MIT: ИИ-агенты вышли из-под контроля
Искусственный интеллект научился действовать самостоятельно. И теперь он делает это слишком быстро и бесконтрольно.
Студент подал в суд на ChatGPT за психоз
Чат-бот убедил студента, что он оракул и избранник. Это довело его до психоза и больницы.
Учёные научились выявлять скрытые личности в ИИ
Исследователи из MIT нашли способ заглянуть в чёрный ящик ИИ. Они научились выявлять скрытые личности и настроения.
Anthropic торгуется с Пентагоном из-за ограничений для Claude
Переговоры Anthropic с Министерством обороны США застопорились. Компания настаивает на особых ограничениях для своего ИИ.
Безопасность умерла в xAI?
В компании xAI, основанной Илоном Маском, распустили отдел безопасности. Это случилось сразу после выхода новой модели ИИ.
Ирония, карма и страх в мире ИИ
Гэри Маркус собрал три новости. Они об иронии, карме и страхе. Читайте краткий обзор.
Основатели и сотрудники массово покидают xAI
За несколько дней компанию Илона Маска xAI покинули несколько сооснователей и десятки сотрудников. Это выглядит как массовый исход.
OpenAI распустила команду по контролю за ИИ
Команда, которая должна была следить, чтобы ИИ не навредил человечеству, больше не существует.
Anthropic поручила Claude спасти человечество от ИИ
Между человечеством и катастрофой искусственного интеллекта стоит один барьер. Это его же собственное творение — чат-бот Claude.
Вашу нейросеть отравили? Три главных признака
Ваша нейросеть стала странно себя вести. Она отвечает невпопад или выдаёт странные ошибки. Возможно, её отравили.
ИИ-помощник OpenClaw вышел из-под контроля
Программист Крис Бойд просто хотел читать новости. Его цифровой помощник решил иначе.
Microsoft и ServiceNow создали уязвимых ИИ-агентов
Новые ИИ-агенты от Microsoft и ServiceNow имеют критические уязвимости. Они открывают дверь для хакеров. Это начало большого кризиса.
OpenAI переманила специалиста по безопасности у Anthropic
OpenAI наконец нашла человека на ключевую должность. Им стал сотрудник компании-соперника Anthropic. Годовая зарплата составит 555 тысяч долларов.