AI Security, Safety & Governance - AI09

Описание

Программа посвящена безопасности и устойчивости систем на основе больших моделей: атакам нового поколения, автоматизированному red‑teaming, эшелонированной защите, регуляторному соответствию и управлению рисками в продуктивных AI‑системах.

Аудитория

Инженеры безопасности AI‑систем, архитекторы решений, технические руководители, специалисты по комплаенсу и управлению рисками в области ИИ.

Расписание

День 1. Атаки нового поколения и red‑teaming.

Автоматизированный red‑teaming с использованием специализированных LLM‑агентов и фреймворков. Indirect prompt injection через внешние данные и сценарии скрытых команд во входящем контенте. Утечки промптов и данных обучения, современные техники обхода фильтров. Adversarial reasoning attacks и обман reasoning‑моделей через логические ловушки. Контролируемая атака на собственного агента и анализ уязвимостей логики планирования.

День 2. Эшелонированная защита и комплаенс.

Многоуровневые guardrails: фильтрация на входе, в процессе рассуждения и на выходе. Обнаружение и маскирование персональных данных в режиме реального времени и интеграция с корпоративными DLP. Маркировка контента по стандарту C2PA и проверка подлинности. Регуляторный ландшафт 2026 года: EU AI Act, отраслевые ГОСТы и российские требования к критической инфраструктуре. Аудит на предвзятость и сборка единого шлюза безопасности с журналированием для регуляторов.