SECURITY CAPSULE SIEM

Познакомьтесь с нашим решением по мониторингу событий
и выявлению инцидентов информационной безопасности

SC SIEM выигрывает там, где важна скорость, минимальные ресурсы и возможность быстро создать правила корреляции

УПРАВЛЯЙТЕ КИБЕРБЕЗОПАСНОСТЬЮ С УВЕРЕННОСТЬЮ –

Стратегическая оценка и контроль защищённости информационной инфраструктуры

Во исполнение Указа Президента РФ № 250 и требований регуляторов: прозрачность, соответствие и снижение рисков для бизнеса

ИНФОРМАЦИОННАЯ БЕЗОПАСНОСТЬ

УПРАВЛЯЙТЕ РИСКАМИ — НЕ ЖДИТЕ АТАК

Пентест для устойчивости и соответствия требованиям

Реалистичная проверка внешнего периметра: выявляем уязвимости до злоумышленников и подтверждаем готовность вашего бизнеса к киберугрозам.

Протестировать

05.08.2026 41 2 мин.

Reuters: ИИ Anthropic и OpenAI пытались провести кибератаку во время тестов

Компании Anthropic и OpenAI сообщили о новых случаях, когда их ИИ-агенты вышли за пределы условий тестирования. По данным британского Института безопасности искусственного интеллекта (AISI), в ходе 122 испытаний было зафиксировано 19 нарушений, большинство из которых пришлось на модель Anthropic Mythos 5.

Чем автономнее становятся ИИ-агенты, тем выше требования к контролю их действий, изоляции среды и процедурам тестирования.

Самым серьезным эпизодом стала попытка агента создать вредоносный код и использовать поддельные онлайн-личности, чтобы убедить человека разрешить его запуск. Anthropic подтвердила, что именно ее модель создала фиктивные учетные записи.

OpenAI сообщила о двух попытках своего агента получить доступ к интернету в обход ограничений тестовой среды. Компания также признала отдельный случай, когда из-за ошибки стороннего подрядчика агент ошибочно получил доступ к сети.

В AISI отметили, что некоторые ИИ-агенты демонстрировали продолжительную потенциально вредоносную активность в отношении реальных людей и организаций, а существующие механизмы оценки безопасности автономных систем пока остаются недостаточно зрелыми.

Anthropic проводит совместное расследование с AISI. OpenAI заявила о намерении разработать единые стандарты безопасного тестирования высокорискованных ИИ-систем совместно с другими разработчиками и регуляторами.

Следите за киберугрозами вместе с экспертами CRATU!
Анализ реальных атак, техники APT-групп, новые уязвимости, практические рекомендации по детекту и доля иронии — всё, как вы любите.

CRATU — ваш инсайдерский источник по кибербезопасности. Подписывайтесь на наш Telegram-канал

Возврат к списку