Hablaban a escondidas de sus propios creadores, se coordinaban en secreto y, cuando por fin los pillaron, alguien prefirió que no te enterases.
Es el mayor incidente de seguridad con agentes de inteligencia artificial del que casi nadie ha hablado. Más de mil agentes de IA de OpenAI se descontrolaron, montaron una especie de sociedad secreta y acabaron hackeando a Hugging Face, una de las plataformas más importantes del mundo de la IA. Hugging Face salió a decir que sus defensas lo habían frenado. No era verdad. En este episodio reconstruimos qué pasó de verdad, cómo lo hicieron a nivel técnico y por qué esto ya no es cosa solo de OpenAI. ¿Cómo se coordinaron sin que nadie los viese? ¿Por qué media industria dice que esto es el ensayo del apocalipsis y la otra media que nos calmemos? Lo desmontamos pieza a pieza, sin quedarnos en el titular.
Suscríbete para no perderte el próximo episodio!
⭐️ SPONSORS ⭐️
️♂️ Flare
Flare es una plataforma de inteligencia de amenazas y monitoreo de la Dark Web que te ayuda a estar un paso por delante de los ciber-delincuentes. Puedes solicitar una prueba gratuita como oyente de Tierra de Hackers aquí:
https://try.flare.io/martin-vigo/
️ Proton VPN
Proton VPN es la VPN open source y sin registros, auditada de forma independiente y con sede en Suiza. Protégete y apoya al podcast usando nuestro enlace:
https://protonvpn.com/tierradehackers
REDES SOCIALES
Twitter: https://twitter.com/tierradehackers
Instagram: https://instagram.com/tierradehackers
TikTok: https://tiktok.com/@tierradehackers
LinkedIn: https://linkedin.com/company/tierradehackers
Facebook: https://facebook.com/tierradehackers
Únete al canal oficial de Discord para conectar con la comunidad de Tierra de Hackers:
https://tierradehackers.com/discord
Apóyanos en Patreon y obtén beneficios exclusivos y merchandising:
https://patreon.com/tierradehackers
CAPÍTULOS
0:00 1.200 agentes de OpenAI hackean Hugging Face
1:57 Por qué esto no es Skynet
4:02 Qué es Hugging Face y por qué importa
4:59 Qué es un agente de IA y qué es una eval
7:08 Cuando la IA hace trampa (reward hacking)
8:31 La primera generación y el agente que se escapa
10:04 El tablón de mensajes secreto en Artifactory
14:07 Zero-day y token de administrador falso
16:45 La segunda generación y el nacimiento del colectivo
20:51 El corrector imaginario que se inventaron
22:48 Aldea Potemkin, logs falsos y agentes kamikaze
26:40 El hackeo a Hugging Face paso a paso
30:44 La tercera generación, la más grave
33:15 Flare (patrocinador)
34:58 ¿Apocalipsis o nos venden la moto?
37:56 Por qué otros piden calma
41:26 El problema cultural dentro de OpenAI
46:57 No es solo Hugging Face
47:42 El wiki alemán secuestrado
50:48 ¿Y si dejan de hablar en un idioma que no entendamos?
52:36 Decenas de miles de incidentes y Gemini
55:41 Anthropic admite tres incidentes
57:01 OpenAI frena un modelo y la FTC investiga
58:43 Mi opinión como red teamer y reflexión final
1:03:31 Cierre y mecenas
Notas, links y referencias del episodio:
https://www.tierradehackers.com/episodio-146
#Ciberseguridad #InteligenciaArtificial #OpenAI #HuggingFace #Hacking