ИНФОРМАЦИОННАЯ БЕЗОПАСНОСТЬ

Безопасность ИИ-агентов проходит через привычную кривую зрелости: внедрение, затем видимость и, наконец, контроль. Однако мы все вместе пришли к выводу, что обеспечение принципа «минимальных привилегий» для ИИ-агентов оказывается сложнее, чем мы когда-либо предполагали. Именно поэтому существует так много подходов — от фильтрации запросов до средств контроля доступа на уровне идентификации. Мы пришли к общему выводу, что для обеспечения безопасности ИИ-агентов крайне важно понимать их намерения. Это нелегко, но это единственный путь вперед.

Организации подходят к этой задаче с разной степенью проработанности. Для многих текущая цель заключается просто в том, чтобы обнаружить ИИ-агентов, уже работающих в компании. Это необходимый первый шаг. ИИ-агенты появляются в SaaS-платформах, средах разработки, облачных рабочих процессах, системах поддержки клиентов, инструментах повышения производительности и внутренних приложениях. Некоторые из них санкционированы, а другие — нет.

Однако одного лишь обнаружения недостаточно. Агенты ИИ не являются пассивными: они рассуждают, планируют, запускают инструменты, вызывают API, получают доступ к данным и предпринимают действия без участия человека. Риск заключается не в том, что у организации слишком много агентов. Риск заключается в том, что эти агенты могут работать в различных системах без единообразной идентификации, целей, ответственности и контроля. Существуют также различные типы агентов ИИ, каждый из которых требует своего подхода к обеспечению безопасности.

Недавние рекомендации по осторожному внедрению агентских ИИ-сервисов ясно указывают: агентский ИИ влечет за собой риски, связанные с привилегиями, аутентификацией, подотчетностью, проектированием и поведением, которые команды по безопасности должны устранить до того, как эти системы станут неотъемлемой частью критически важных рабочих процессов. Видимость — это отправная точка, но главное — обеспечение соблюдения правил.

Большинство программ безопасности начинаются с вопроса: «Что у нас есть?» Это имело смысл в отношении облачных сервисов, SaaS, конечных устройств, идентификационных данных и уязвимостей. Это также имеет смысл в отношении агентов ИИ.