Обсуждаем Похек

AI security на практике: свой SIEM с ИИ, AI SOC, защита LLM от prompt injection, автопентест на агентах и что вайбкодинг делает с рынком безопасности. Гость — Александр Кельчин, CTO/CISO Medici Lab.

Видеоверсия выпуска — на YouTube-канале Похек.

Александр рассказывает, как его команда вынесла обработку событий на хосты, дообучала Qwen под правила корреляции и добилась 96–97% корректных ответов, почему вторая нейросеть-«охранник» тоже уязвима к prompt injection, как устроены CaMeL и Dual LLM и почему ИИ-агенты в пентесте пока не заменяют специалиста. А ещё — XBOW в багбаунти, автопатчинг пакетов для банков с GISEC и сколько на самом деле стоит проверка кода, который написал ИИ.

Гость: Александр Кельчин — CTO/CISO Medici Lab

Ведущий: Сергей Зыбнев — основатель проекта Похек, Похек AI, AI Security R&D

00:00 Хайлайты выпуска

00:22 Знакомство: Александр Кельчин, Medici Lab

02:45 «ИИ — не твой второй мозг»

04:16 Чем сейчас занимается Medici Lab

05:15 Свой SIEM с ИИ: обработка прямо на хостах

07:28 Агент на 60 КБ и защита правил от реверса

09:20 AI SOC: почему 60% на L2 — это плохо

11:53 Qwen, fine-tuning и маленькие модели против больших

16:23 Как продавать безопасность, когда ты маленький

18:48 Как защищать ИИ: guardrails, CaMeL, Dual LLM

24:05 Как искать бэкдоры в весах моделей

25:59 LLM firewall или DLP?

27:51 Автопентест: 20 лет эволюции

29:10 EASM, VM, CTEM — в чём разница

30:48 ИИ-агенты, MCP и Burp

32:33 Твой агент клал инфру?

34:15 Вайбкодеры против безопасников

35:33 Почему безопасники подорожают вдвое

38:05 Как Александр строил свой автопентест

41:17 ИИ в анализе кода и зависимостей

43:12 XBOW и ИИ в багбаунти

46:45 Легаси, рефакторинг и ИИ

49:09 GISEC в Дубае: автопатчинг для банков

51:58 Аудит за $200 и цена пентеста

54:24 Кто размечает данные для ИИ

55:45 «Если все станут героями…»

56:36 Финал и ссылки

Каналы:

Похек

Похек AI

Medici Lab

Материалы из выпуска:

Sentinel

ExCyTIn-Bench: LLM-агенты в расследовании инцидентов

CaMeL (Google): Defeating Prompt Injections by Design

Operationalizing CaMeL

gpt-oss-safeguard (OpenAI)

DFBScanner: поиск бэкдоров в моделях

XSpider

Burp Suite MCP Server

Strix

XBOW на HackerOne

GISEC Global

#кибербезопасность #AIsecurity #пентест #SOC #LLM #подкаст

Евгений рассказывает о своем пути от разработчика в Diasoft через Microsoft и Google к созданию первой в России специализированной лаборатории по безопасности генеративного AI. Это не просто история успеха — это история о том, как инженер становится директором компании по безопасности AI-систем.

Главные темы выпуска:

Мы погружаемся в революцию MLSecOps и LLMSecOps — новые дисциплины, которые интегрируют безопасность на всех этапах жизненного цикла машинного обучения. Евгений объясняет, почему практики DevSecOps просто не работают для AI, и почему это критично для российских компаний, которые только начинают внедрять LLM.

Разбираем практические кейсы из опыта Raft/HiveTrace: как защитить чат-боты от prompt injection, как проводить Red Teaming для нейросетей, какие уязвимости скрываются в архитектуре современных LLM, и почему «отравление» обучающих данных может стать главной угрозой. Евгений делится реальными примерами инцидентов и показывает, как компании теряют миллионы из-за неправильной безопасности AI.

Обсуждаем глобальный тренд 2026 года — AI Reset, когда мир переходит от одной гигантской модели к маленьким специализированным моделям. Евгений объясняет, почему пузырь LLM лопается, почему экономика больших моделей просто не работает, и как это повлияет на российский рынок.

Особое внимание уделяется развитию AI Security в России: какие вызовы стоят перед российскими компаниями, почему нам нужны свои специалисты в MLSecOps, и как ИТМО AI Security Lab готовит новое поколение экспертов. Евгений рассказывает о курсах, исследованиях и практических проектах лаборатории, которая уже проводит аудиты LLM-решений для крупных корпораций.

Этот выпуск будет полезен:

AI Security Engineers и LLM Engineers

Специалистам по Red Team и пентесту

Руководителям компаний, внедряющим AI

Исследователям безопасности

Разработчикам, которые хотят понять, как защищать AI-системы от современных киберугроз

Всем, кто интересуется будущим AI в России и мире

Ссылки:

Mave: https://poxek.mave.digital

Яндекс Подкаст: https://music.yandex.com/album/31235786

Похек: https://t.me/poxek

Зыбнев Сергей: https://t.me/szybnev

AI Security Lab ИТМО: https://ai.itmo.ru/aisecuritylab

Евгений Кокуйкин Telegram: http://t.me/artmaro

Личный канал Евгения https://t.me/kokuykin

Обязательно слушайте до конца!

#кибербезопасность #AIecurity #MLSecOps #LLMSecurity #raft #итмо #евгенийкокуйкин #похек #зыбневсергей #нейросети #llm #ml #cybersecurity #aigenai #aigenairevolution #генеративныйai #безопасностьai #airussia

Разбираем практические аспекты безопасности AI: как проводить Red Teaming для нейросетевых моделей, какие уязвимости скрываются в архитектуре современных LLM, и почему «отравление» обучающих данных может стать главной угрозой. Обсуждаем, как меняется ландшафт киберугроз с развитием AI, какие навыки необходимы современному AI Security Engineer, и как противостоять новым видам атак. Особое внимание уделяется фреймворку OWASP, который становится стандартом для защиты AI-приложений, и философским вопросам о пределах развития искусственного интеллекта.

Этот выпуск будет полезен AI Security Engineers, AI/LLM Engineers, специалистам по Red Team и пентесту, а также исследователям безопасности, которые хотят понять, как защищать AI-системы от современных и будущих киберугроз и какие фундаментальные ограничения есть у технологии.

Таймкоды:

00:33 — Приветствие и тема подкаста

01:28 — Достижения Артёма Семёнова

02:58 — Ограничения GPT-5

03:47 — Перспективы ИИ и LLM

05:40 — Маленькие языковые модели LLM

09:08 — Использование LLM в пентестах

11:00 — Браузер с ИИ Commi

13:51 — Применение агентов в повседневной жизни

21:50 — Кибершпионаж с помощью Claude Code

26:45 — Агентские платежи

29:19 — Изменение политики хранения моделей

31:31 — Эмоциональность моделей и общественное мнение

35:01 — Стандартизация и контроль в области ИИ

39:13 — Подходы китайских компаний

41:13 — Развитие в России

43:33 — Риски использования ИИ

44:20 — Защита от ИИ

44:53 — Пожелание нашим подписчикам

45:32 — Не забудьте поставить лайк и подписаться!

Ссылки:

Mave: poxek.mave.digital

Яндекс Подкаст: music.yandex.com/album/31235786

Похек: poxek.t.me

Зыбнев Сергей: szybnev.t.me

PWN AI: pwnai.t.me

Обязательно слушайте до конца!

#кибербезопасность #redteam #pwnai #chatgpt #похек #зыбневсергей #артемсеменов #нейросети #llm #ml #cybersecurity #claude #deepseek #qwen #mistral

Разбираем практические аспекты Threat Intelligence: чем TI отличается от Threat Hunting, как автоматизировать сбор данных из RSS-лент и даркнета, какие навыки нужны аналитику киберугроз, и стоит ли компании строить собственную TI-команду или выбрать сервисную модель. Обсуждаем метрики эффективности TI, роль искусственного интеллекта и машинного обучения в анализе угроз, а также методы противодействия злоумышленников. Особое внимание уделяется источникам threat intelligence фидов и реальным примерам защиты бизнеса от промышленного шпионажа и APT-группировок.

Этот выпуск будет полезен специалистам по информационной безопасности, SOC-аналитикам, руководителям ИБ-департаментов и всем, кто хочет понять, как превентивная кибербезопасность помогает защитить инфраструктуру компании от современных киберугроз.

Ссылки:

Mave: poxek.mave.digital

Яндекс Подкаст: music.yandex.com/album/31235786

Похек: poxek.t.me

Зыбнев Сергей: szybnev.t.me

К2 Кибербезопасность: https://clck.ru/3Q8irn

Обязательно слушайте до конца!

#кибербезопасность #AI #TI #TH #ии #llm #ml #ThreatIntelligence #ThreatHunting #K2 #SOC #похек #зыбневсергей #янкустов

Подкаст будет интересен:

➡️Пентестерам

➡️Владельцам бизнеса

➡️Всем, кто хочет узнать больше о применении нейросетей для пентеста

➡️Тем, кто ждёт когда же людей заменит ИИ

В этом подкасте мы обсудили:

➡️Как поменялся рынок кибербеза в России за последние 15, 10, 5 лет

➡️Откуда и как возникают идеи о создании собственной компании

➡️Про карьерный рост пентестера и что он не видит, пока не начинает делать своё детище

➡️Как же создать свой продукт и не закрыться в первый год

➡️С какими сложностями можно столкнуться при создании своего сканера уязвимостей

Ссылки:

Mave: poxek.mave.digital

Яндекс Подкаст: music.yandex.com/album/31235786

Похек: poxek.t.me

Зыбнев Сергей: szybnev.t.me

Scanfactory: scanfactory.t.me

Обязательно слушайте до конца!

#кибербезопасность #chatgpt #пентест #автопентест #ии #llm #ml #k8s #похек #зыбневсергей #владимириванов #scanfactory

🔸Елизавета Дудко — Руководитель Т-Банк Bug-Bounty

🔸Вячеслав Муравьев — Триажер Т-Банк Bug-Bounty

Подкаст будет интересен:

🔸Специалистам по кибербезопасности

🔸Компаниям, которые собираются выйти на багбаунти

🔸Всем, кто хочет узнать больше о bugbounty, за какие баги много платят

🔸Тем кто хочет получить промокод х2 на выплаты в Т-Банке

В этом подкасте мы обсудили:

🔸Процесс триажа в Т-Банк

🔸Как формируются выплаты

🔸Почему команда триажа это не просто ИБ техподдержка со стороны вендора

🔸Что у триажеров тоже есть сердце и они любят понятные отчёты

🔸Пару слов о Т-Банк CTF

🔸О привлечении новых багхантеров

🔸Раскрытие отчётов

Ссылки:

Mave: poxek.mave.digital

Youtube: youtube.com/@poxek_official

Rutube: rutube.ru/channel/38946414/

VK Video: vkvideo.ru/@poxek_official

Похек: poxek.t.me

Зыбнев Сергей: szybnev.t.me

Обязательно смотрите до конца! Подписывайтесь и погружайтесь в мир триажа уязвимостей!

#кибербезопасность #багбаунти #bugbounty #t-bank #похек #зыбневсергей #елизаветадудко #вячеславмуравьев

У меня в гостях Борис Захир, админ телеграм канала Борис_ь с ml

Подкаст будет интересен:

Исследователям в области ИИ

Владельцам бизнеса, которые собираются внедрять или защищать ИИ

Всем, кто хочет узнать больше о безопасности ИИ

В этом подкасте мы обсудили:

Развитие от ML к AI

Научные исследование ИИ

Исследование рынка ИИ

Кибербезопасность в ИИ

ИИ в кибербезопасности

Ссылки:

Mave: https://poxek.mave.digital

Яндекс Подкаст: https://music.yandex.com/album/31235786

Похек: https://t.me/poxek

Зыбнев Сергей: https://t.me/szybnev

Бастион: https://bastion-tech.ru

Борис_ь с ml: https://t.me/borismlsec

Обязательно смотрите до конца!

#кибербезопасность #ИИ #AI #ML #machinelearning #похек #зыбневсергей #борисзахир #информационнаябезопасность #подкаст #poxek

У него в гостях Андрей Левкин, руководитель продукта BI.ZONE Bug Bounty.

Платформа BI.ZONE Bug Bounty — это 75 приватных и публичных программ, 6000+ багхантеров, выплаты в течение 30 часов и много-много приятных бонусов для комьюнити.

Все просто. Вы им баги — они вам деньги.

Подкаст будет интересен:

Багхантерам

Владельцам бизнеса, которые серьезно относятся к своей ИБ

Всем, кто хочет узнать больше о багбаунти

В этом подкасте мы обсудили:

История Андрея. Из пентестера в продукт овнера

Багбаунти 5 лет назад

Багбаунти сейчас

Багбаунти 2025

Пентест VS Багбаунти. Почему оба процессы важны

Ивенты для багхантеров

Инсайды развития багбаунти сферы

Пожелания Андрея по развитию багбаунти в РФ

Ссылки:

Mave: https://poxek.mave.digital

Яндекс Подкаст: https://music.yandex.com/album/31235786

Apple Podcast: https://podcasts.apple.com/us/podcast/%D0%BE%D0%B1%D1%81%D1%83%D0%B6%D0%B4%D0%B0%D0%B5%D0%BC-%D0%BF%D0%BE%D1%85%D0%B5%D0%BA/id1760958614

Канал Похек: https://poxek.t.me

Зыбнев Сергей: https://szybnev.t.me

Awillix: https://awillix.ru

BIZONE BugBounty: https://bugbounty.bi.zone/

BIZONE BugBounty канал в Telegram: https://t.me/bizone_bb

BIZONE BugBounty чат в Telegram: https://t.me/bizonebb

Обязательно смотрите до конца!

#кибербезопасность #bugbounty #bizone #багбаунти #похек #зыбневсергей #андрейлевкин #информационная безопасности

У него в гостях - Артем Семёнов, основатель PWN AI. PWN AI (пывнэйай) - это телеграм канал, в котором Вы познаете (нет нет - не буддизм), как можно применить ИИ в нашей нелёгкой работе безопасника, а также много почитать об угрозах и проблемах безопасности этого самого ИИ.

Подкаст будет интересен:

Специалистам по кибербезопасности

Владельцам бизнеса

Всем, кто хочет узнать больше о применении нейросетей, LLM и машинного обучения в работе и для собственных нужд

В этом подкасте мы обсудили:

Кибербезопасность: актуальные угрозы ИИ, ИИ в ИБ, ИБ в ИИ.

RedTeam: как взламывают нейросети, LLM.

Red Team: как нейросети и LLM взламывают сайты и IT инфраструктуру.

PWN AI: представление канала, чем славится и почему стоит подписаться :)

Исследования: Разработчики нейросетей понимают, как работает их же продукт?!

Ссылки:

Mave: youtube.com/@poxek_official

Яндекс Подкаст: music.yandex.com/album/31235786

Похек: poxek.t.me

Зыбнев Сергей: szybnev.t.me

Awillix: awillix.ru

PWN AI: pwnai.t.me

Обязательно слушайте до конца!

#кибербезопасность #redteam #pwnai #chatgpt #похек #зыбневсергей #артемсеменов #нейросети

У него в гостях - Михаил Аксёнов, основатель defbox.io. Defbox - это платформа, на которой каждый желающий может проверить свои навыки обнаружения и реагирования на киберугрозы. А если вы начинающий, то вас ждут подробные мануалы от команды defbox, по использованию инструментов команды защиты (blue team).

Подкаст будет интересен:

Специалистам по кибербезопасности

Владельцам бизнеса

Всем, кто хочет узнать больше о противодействии киберугрозам

В этом подкасте мы обсудили:

Кибербезопасность: актуальные угрозы, бинес в России, советы для владельцев бищнеса и их сотрудников.

Blue Team: чем занимается команда защиты от киберугроз, какие навыки нужны специалистам, применение AI в blue team

SOC: как сотруднику объективно оценить свои навыки обнаружения и реагирования на киберугрозы, также обсудили

Defbox: обзор платформы для тренировок и обучения специалистов blue team.

Ссылки:

Похек: poxek.t.me

Зыбнев Сергей: szybnev.t.me

Awillix: awillix.ru

Defbox.io: defbox.io

Михаил Аксёнов: defbox_community.t.me

Обязательно смотрите до конца!

#кибербезопасность #blueteam #soc #defbox #похек #зыбневсергей #михаилаксёмов