Третья и заключительная дискуссия конференции Next Generation Security 2026 посвящена одной из самых острых и актуальных проблем: безопасности самих AI-систем. Эксперты обсуждают, как защитить собственные модели машинного обучения от компрометации и воздействия.
🎙 Модератор: Алексей Лукацкий
Эксперты:
🎼 Александр Балабанов, BI.ZONE
🎼 Андрей Зима, Ростелеком
🎼 Алина Князева, VK
Если AI — это инструмент защиты, то его самого нужно защищать. Эта дискуссия рассматривает вопросы безопасности AI-систем, которые становятся всё более критичными.
Эксперты разбирают:
✅ Атаки на модели машинного обучения (adversarial attacks)
✅ Prompt-injection: уязвимости в LLM и chat-ботах
✅ Отравление данных обучения (data poisoning)
✅ Извлечение и кража моделей (model extraction)
✅ Обратное проектирование и инверсия моделей
✅ Компрометация обучающих данных
✅ Риски использования публичных моделей и fine-tuning
✅ Защита конфиденциальности в ML (differential privacy)
✅ Верификация целостности моделей
✅ Стандарты и regulatory требования (NIST AI RMF, EU AI Act)
✅ Best practices обеспечения безопасности при deployment
✅ Мониторинг и детекция атак на AI-системы
