В этом выпуске подкаста «Обсуждаем Похек» мы разбираем самый острый вопрос современной технологии: готова ли Россия к вызовам AI Security? Нашим гостем является Евгений Кокуйкин — директор AI-продуктов в компании Raft, руководитель лаборатории AI Security Lab в ИТМО, и один из главных экспертов в области безопасности искусственного интеллекта в России.
Евгений рассказывает о своем пути от разработчика в Diasoft через Microsoft и Google к созданию первой в России специализированной лаборатории по безопасности генеративного AI. Это не просто история успеха — это история о том, как инженер становится директором компании по безопасности AI-систем.
Мы погружаемся в революцию MLSecOps и LLMSecOps — новые дисциплины, которые интегрируют безопасность на всех этапах жизненного цикла машинного обучения. Евгений объясняет, почему практики DevSecOps просто не работают для AI, и почему это критично для российских компаний, которые только начинают внедрять LLM.
Разбираем практические кейсы из опыта Raft/HiveTrace: как защитить чат-боты от prompt injection, как проводить Red Teaming для нейросетей, какие уязвимости скрываются в архитектуре современных LLM, и почему «отравление» обучающих данных может стать главной угрозой. Евгений делится реальными примерами инцидентов и показывает, как компании теряют миллионы из-за неправильной безопасности AI.
Обсуждаем глобальный тренд 2026 года — AI Reset, когда мир переходит от одной гигантской модели к маленьким специализированным моделям. Евгений объясняет, почему пузырь LLM лопается, почему экономика больших моделей просто не работает, и как это повлияет на российский рынок.
Особое внимание уделяется развитию AI Security в России: какие вызовы стоят перед российскими компаниями, почему нам нужны свои специалисты в MLSecOps, и как ИТМО AI Security Lab готовит новое поколение экспертов. Евгений рассказывает о курсах, исследованиях и практических проектах лаборатории, которая уже проводит аудиты LLM-решений для крупных корпораций.
Этот выпуск будет полезен:
AI Security Engineers и LLM Engineers
Специалистам по Red Team и пентесту
Руководителям компаний, внедряющим AI
Исследователям безопасности
Разработчикам, которые хотят понять, как защищать AI-системы от современных киберугроз
Всем, кто интересуется будущим AI в России и мире
Mave: https://poxek.mave.digital
Яндекс Подкаст: https://music.yandex.com/album/31235786
Похек: https://t.me/poxek
Зыбнев Сергей: https://t.me/szybnev
AI Security Lab ИТМО: https://ai.itmo.ru/aisecuritylab
Евгений Кокуйкин Telegram: http://t.me/artmaro
Личный канал Евгения https://t.me/kokuykin
Обязательно слушайте до конца!
#кибербезопасность #AIecurity #MLSecOps #LLMSecurity #raft #итмо #евгенийкокуйкин #похек #зыбневсергей #нейросети #llm #ml #cybersecurity #aigenai #aigenairevolution #генеративныйai #безопасностьai #airussia
