TTL OSINT
УПРАВЛЯЙТЕ РИСКАМИ — НЕ ЖДИТЕ АТАК
Пентест для устойчивости и соответствия требованиям
Реалистичная проверка внешнего периметра: выявляем уязвимости до злоумышленников и подтверждаем готовность вашего бизнеса к киберугрозам.
ПротестироватьКогда искусственный интеллект захватывается: Использование размещенных моделей для темных ролевых игр
В этой статье Permiso Security обсуждает новое исследование угроз, посвященное использованию размещенных моделей для темных ролевых игр, в частности, в AWS. Злоумышленники нацелены на базовые модели Large Language Models (LLM), такие как Claude от Anthropic, через Bedrock, сервис AWS для взаимодействия с LLM. Цель состоит в том, чтобы разместить собственное приложение LLM, такое как чат-бот, и переложить расходы и вычисления на организации-жертвы. Процесс взлома включает в себя три этапа: проверку доступности модели, получение информации о доступности базовой модели и запрос доступа к модели. Как только доступ предоставлен, злоумышленник может использовать модель. В статье также содержится информация о том, как обнаружить эти методы и предотвратить подобные атаки.
Ссылка:https://permiso.io/blog/exploiting-hosted-models
Примеры признаков компромисса:
- 146.70.185.24
- 173.205.93.11
- 103.136.147.219
- https://bedrock.us-east-1.amazonaws.com/foundation-model-availability/anthropic.claude-3-sonnet-20240229-v1%3A0%3A28k
- 180.191.160.171
Анализ реальных атак, техники APT-групп, новые уязвимости, практические рекомендации по детекту и доля иронии — всё, как вы любите.
CRATU — ваш инсайдерский источник по кибербезопасности. Подписывайтесь на наш Telegram-канал
НКЦКИ (ГосСОПКА):
Соблюдайте требования государства — защищайте бизнес
Подключение к НКЦКИ — это гарантия соответствия 187-ФЗ.
Подключиться
