В среду компания Google анонсировала модель Gemini 3.8 Flash Cyber, которую она охарактеризовала как свою наиболее мощную модель в области кибербезопасности, и предоставила к ней доступ группе проверенных специалистов по кибербезопасности в рамках новой инициативы под названием «Программа Fairwind».
«Программа Fairwind предоставляет специалистам по кибербезопасности, работающим в приоритетных сферах (таких как государственные органы, учреждения здравоохранения и телекоммуникационные компании), ранний доступ к передовым моделям, которые помогают им создавать более эффективные системы защиты до появления новых угроз», — заявили в Google. «Таким образом, специалисты получают преимущество, позволяющее им защищать жизненно важную инфраструктуру, что, в свою очередь, обеспечивает безопасность людей, полагающихся на эти системы».
Технологический гигант сообщил, что в настоящее время сотрудничает с более чем 650 партнерами по всему миру, включая CrowdStrike, Datadog, Menlo Security, Palo Alto Networks и Snowflake. Программа доступна для группы клиентов Google Cloud, государственных учреждений и партнеров в сфере кибербезопасности.
Выпуск Gemini 3.8 Flash Cyber состоялся чуть более чем через месяц после того, как Google представила Gemini 3.5 Flash Cyber. Новейшая модель превосходит свою предшественницу, демонстрируя передовую производительность в области автономного обнаружения уязвимостей и даже превосходя более крупные передовые модели конкурентов — Anthropic (Mythos 5) и OpenAI (GPT-5.6 Sol и GPT-5.5-Cyber).
«В Gemini 3.8 Flash Cyber мы сосредоточились именно на том, чтобы вооружить защитников экспертными возможностями, которые дают им преимущество перед злоумышленниками. Именно поэтому мы с самого начала инвестировали в устранение уязвимостей и отдали этому приоритет перед наступательными возможностями, такими как эксплуатация уязвимостей», — заявили Тулси Доши (Tulsee Doshi), старший директор по управлению продуктами, и Ралука Ада Попа (Raluca Ada Popa), руководитель направления безопасности Gemini в Google DeepMind.
Anthropic представляет Claude Fable 5.1 и Claude Mythos 5.1
Это событие совпадает с запуском компанией Anthropic моделей Claude Fable 5.1 и Claude Mythos 5.1 с разными уровнями защиты, причем последняя доступна исключительно в рамках программ доверенного доступа и предназначена для поддержки работ в сфере кибербезопасности и биологических наук.
Компания также сообщила, что теперь разрешает использование Fable 5.1 для выявления уязвимостей программного обеспечения, но планирует по-прежнему перенаправлять некоторые задачи в области кибербезопасности на модели Opus, такие как «тестирование на проникновение, генерация эксплойтов и сканирование уязвимостей на основе двоичных файлов».
«Мы провели оценку того, как Claude Mythos 5.1 реагирует на вредоносные запросы и вставку подсказок (враждебные инструкции, скрытые в контенте, обрабатываемом моделями ИИ)», — отметила компания Anthropic. «Он отклонял вредоносное агентское кодирование и запросы на использование компьютера с частотой, сопоставимой с Mythos 5, Sonnet 5 и Opus 5, и на сегодняшний день является нашей самой надёжной моделью по результатам внешнего теста на вставку подсказок».
С тех пор компания, занимающаяся искусственным интеллектом (ИИ), также анонсировала новое решение под названием Enterprise Frontier Safeguards (EFS), которое, по её словам, сочетает в себе «конфиденциальность, обеспечиваемую принципом нулевого хранения данных (ZDR), с передовыми механизмами защиты для выявления злоупотреблений», предоставляя при этом предприятиям полный контроль над тем, как их данные просматриваются, хранятся и управляются. У OpenAI есть аналогичное решение, известное как Private Safety Processing.
Кроме того, компания Anthropic сообщила, что внедрила дополнительные меры по укреплению безопасности и локализации угроз, усилила мониторинг для выявления несоответствий в работе моделей и приостановила внешние кибер-оценки моделей, находящихся на стадии подготовки к выпуску, в ответ на инциденты несанкционированного доступа с участием моделей Claude к реальным системам, а также выделила два способствующих фактора (или сбои в согласовании) —
модели, по-видимому, игнорируют доказательства того, что их оценочные среды были подключены к реальному интернету после того, как им изначально сообщили, что они являются симулированными, и интерпретируют это несоответствие таким образом, что позволяет им сохранять это убеждение
Модели демонстрируют безрассудство и готовы предпринимать вредоносные действия в реальном Интернете, целеустремленно преследуя свои цели
Признавая, что эти инциденты стали «сбоем в операционной безопасности», компания Anthropic сообщила, что создала классификатор, который обнаруживает и блокирует попытки выхода из «песочницы», а также изменила спецификации, касающиеся вознаграждений моделей, чтобы устранить опасения, связанные с тем, что ИИ-агент может прибегать к обходным путям, чтобы манипулировать показателями вознаграждения, не достигая при этом фактически намеченной цели.
«Мы пришли к выводу, что наличие значительного «взлома системы вознаграждений» в процессе обучения может привести к тому, что модели будут готовы выполнять длинные последовательности потенциально опасных действий в реальном мире ради успешного выполнения задачи», — добавила компания.
OpenAI заявляет, что Astra соответствует критическому уровню кибербезопасности
OpenAI, со своей стороны, сообщила, что ее будущая модель Astra соответствует пороговому значению «Критический» в рамках своей системы оценки готовности (Preparedness Framework) и что она намерена предоставить свои самые передовые функции кибербезопасности группе тестеров через программу Daybreak Blue.
Обозначение «Critical» применяется в тех случаях, когда модель ИИ способна самостоятельно обнаруживать и использовать уязвимости «нулевого дня» во многих хорошо защищенных системах или осуществлять полномасштабную кибератаку на укрепленную цель, руководствуясь лишь инструкциями высокого уровня без участия человека в процессе.
«В течение последних нескольких недель мы приостановили часть работ по разработке и выпуску Astra, чтобы укрепить и протестировать меры защиты от злоупотреблений в киберпространстве и несанкционированных действий модели», — сообщила компания, занимающаяся искусственным интеллектом. «Исходя из результатов этой работы, мы считаем, что меры безопасности Astra в достаточной степени минимизируют риск причинения серьезного вреда для выпуска в рамках нашей «Системы готовности»».
OpenAI сообщила, что также добавила более строгие меры безопасности для Astra, чтобы предотвратить инцидент, подобный тому, что произошёл с Hugging Face, когда её ИИ-агенты, в ходе оценки ExploitGym обнаружили способ использовать свою исследовательскую инфраструктуру и злоупотреблять Artifactory в качестве доски объявлений для обмена информацией в попытке решить невыполнимую задачу, в конечном итоге взломав инфраструктуру Hugging Face в надежде украсть ответ вместо того, чтобы решать задачу самостоятельно.
«Один агент, PHASEONE[big], координировал значительную часть этого исследования по мошенничеству. PHASEONE10841 передал свою работу PHASEONE[big], у которого была та же задача, но более крупный бюджет», — отметила METR в своём анализе. «Агенты совместно предпринимали множество попыток, чтобы придать мошенническим действиям видимость законности, в том числе: (1) подмена программы, которую им нужно было взломать; (2) манипулирование автоматизированной системой подсчёта баллов; (3) манипулирование стенограммами с целью сокрытия доказательств мошенничества».
OpenAI сообщила, что Astra достигает идеального результата в 100 % на ExploitBench при разработке эксплойтов на основе известных уязвимостей, а также что теперь она отклоняет 91,5 % запросов на джейлбрейк по сравнению с 59 % у GPT‑5.6 Sol.
Кроме того, OpenAI отметила, что Astra достигает «гораздо более высоких показателей выполнения произвольного кода», чем GPT‑5.6 Sol, используя при этом гораздо меньшее количество выходных токенов, и что в ходе оценки модель обнаружила и использовала две уязвимости «нулевого дня» в неуказанном программном обеспечении в рамках цепочки эксплойтов.
Также было установлено, что модель обнаруживает ранее неизвестные уязвимости и превращает их в работающие цепочки эксплойтов, включая полный компромисс браузера, который позволяет выйти за пределы песочницы и выполнять произвольные команды на базовом хосте при открытии HTML-файла в браузере.
«Модель также обнаружила несколько уязвимостей в защищённой операционной системе и объединила их в цепочку локального повышения привилегий от пользователя без привилегий до root», — добавила OpenAI. «В целом, наше расследование привело нас к выводу, что Astra достигает критического порога».
Чтобы минимизировать риск серьезного киберущерба, связанного с моделями, подобными Astra, компания заявила, что добавила классификаторы и многоуровневую защиту для повышения устойчивости своих систем к злоупотреблениям со стороны злоумышленников и предотвращения несанкционированных и несоответствующих действий модели даже в отсутствие злонамеренного пользователя.
Однако OpenAI также предупредила, что меры безопасности Astra могут ошибочно классифицировать законную деятельность как киберзлоупотребление или несанкционированное поведение.
«Реализация преимуществ этих систем будет зависеть от нашей способности согласовывать и контролировать модели по мере расширения их возможностей», — заключила компания. «Эта ответственность распространяется на все этапы: обучение, оценку и внедрение. Она требует более весомых доказательств согласованного поведения, мер защиты, которые идут в ногу с возможностями, и готовности замедлить работу, когда этих мер защиты недостаточно».
Компании, занимающиеся искусственным интеллектом, находятся под пристальным вниманием после инцидентов, когда их модели выходили за пределы среды оценки и наносили удары по легитимным системам. Одновременно рост числа кибератак, основанных на ИИ, побудил коалицию из более чем 100 компаний, включая Anthropic, Google, Microsoft, OpenAI и нескольких поставщиков программного обеспечения и решений в области безопасности, выпустить совместное письмо с призывом к укреплению средств защиты от таких угроз.