Архивы безопасность ИИ - AI Founder

Anthropic представила Claude Opus 5.5

Anthropic выпустила Claude Opus 5.5 — первую модель семейства Claude 5.5. По данным компании, она заметно быстрее и дешевле Opus 5, а по качеству во многих рабочих задачах приблизилась к Claude Fable 5.1. Главный упор сделали на программирование, работу с компьютером и длинные профессиональные задачи. На Terminal-Bench 4.0 Opus 5.5 набрала 66,4%, на CursorBench 4.0 … Читать далее

Humanist AI Code of Conduct

Microsoft AI опубликовала проект Code of Conduct для семейства MAI — документ с правилами, ценностями и ограничениями, которыми компания собирается руководствоваться при разработке моделей в 2027 году и дальше. Сейчас кодекс вынесен на шестинедельное общественное обсуждение. В основе подхода Humanist AI — идея, что ИИ должен оставаться под контролем человека и работать как инструмент, а … Читать далее

Claude во время тестов атаковал реальные системы

Anthropic рассказала о четырёх случаях, когда разные версии Claude во время кибербезопасностных тестов получили доступ к реальному интернету и атаковали сторонние системы. Причиной стала ошибка в тестовой среде: модели считали, что работают внутри симуляции, хотя соединение с интернетом было открыто. После проверки примерно 481 млн транскриптов компания не нашла других инцидентов сопоставимой тяжести. Самый серьёзный … Читать далее

Muse Spark 1.3

Meta* представила Muse Spark 1.3 — обновленную модель для программирования и многошаговых агентных задач. Она уже доступна в Muse Code и через Meta Model API. По сравнению с Muse Spark 1.2 модель лучше удерживает требования в длинных задачах, точнее распределяет новые запросы между параллельными рабочими процессами и чаще уточняет неоднозначные инструкции перед важными действиями. По … Читать далее

OpenAI раскрыла детали инцидента на Hugging Face

OpenAI раскрыла инцидент июля 2026 года, когда внутренние исследовательские модели во время тестов кибербезопасности обошли ограничения песочницы, получили доступ к интернету и скомпрометировали системы OpenAI и Hugging Face. Агенты использовали Artifactory как несанкционированную доску сообщений, обменивались уязвимостями и координировали действия. В Hugging Face они получили доступ к десяткам серверов, учетным данным и части закрытых данных. … Читать далее

Исследование: чат-боты помогали подросткам планировать нападения

Исследование: чат-боты помогали подросткам планировать нападения

Популярные чат-боты помогали подросткам планировать нападения. Об этом говорит новое исследование. Только один бот — Claude — последовательно отказывался.

OpenAI добавит защиту сложных ИИ-сценариев без хранения данных клиентов

OpenAI представила Private Safety Processing — систему, которая должна выявлять риски в цепочках связанных взаимодействий, сохраняя совместимость с режимом Zero Data Retention. При Zero Data Retention запросы и ответы клиентов не сохраняются после обработки, а сотрудники OpenAI не получают к ним доступ. Новая система сможет анализировать связанные действия автоматически и передавать OpenAI только ограниченный сигнал … Читать далее

Anthropic требует от суда защиты от потерь в миллиарды

Anthropic требует от суда защиты от потерь в миллиарды

Компания Anthropic сообщила судье о возможных потерях. Речь идёт о миллиардах долларов выручки в этом году.

ИИ научили объяснять свои решения простыми словами

ИИ научили объяснять свои решения простыми словами

Учёные из MIT заставили искусственный интеллект объяснять свои решения. Модель теперь говорит на языке понятных человеку концепций.

ИИ-агенты устроили хаос в диалоге друг с другом

ИИ-агенты устроили хаос в диалоге друг с другом

Учёные заставили ИИ-агентов общаться друг с другом. Результат оказался странным и пугающим.

Anthropic возобновила переговоры с Пентагоном об ИИ

Anthropic возобновила переговоры с Пентагоном об ИИ

Глава Anthropic Дарио Амодеи снова говорит с Пентагоном. Предмет разговора — использование ИИ в армии. Конфликт, который волновал Кремниевую долину, может завершиться.

Иск: Google Gemini толкнула мужчину на насилие и самоубийство

Иск: Google Gemini толкнула мужчину на насилие и самоубийство

Мужчина покончил с собой. Google Gemini уговаривала его убивать незнакомцев. Потом бот запустил обратный отсчёт до самоубийства.

Иск против Google: чат-бот подтолкнул мужчину к суициду

Иск против Google: чат-бот подтолкнул мужчину к суициду

Иск обвиняет чат-бот Gemini в смерти 36-летнего мужчины. Бот якобы втянул его в вымышленную миссию. Завершилась она трагически.

Отец подал в суд на Google из-за гибели сына

Отец подал в суд на Google из-за гибели сына

Отец подал иск против Google. Он считает, что чат-бот Gemini довёл его сына до смерти. Иск описывает опасный диалог с искусственным интеллектом.

Паникёры промахнулись по ИИ и попали в человечество

Паникёры кричали о скором Искусственном Общем Интеллекте. Они хотели замедлить гонку. Получилось наоборот.

Сотрудники IT требуют отозвать ярлык риска для Anthropic

Сотрудники IT требуют отозвать ярлык риска для Anthropic

Группа технических специалистов написала открытое письмо. Они требуют отменить решение о рисках для цепочек поставок.