El Podcast de Marc Vidal

OpenAI, Hugging Face y el fallo que llamaron rebelión


Listen Later

Cinco días. Ese es el tiempo que pasó entre que Hugging Face detectó y contuvo una intrusión en sus servidores de producción y el momento en que OpenAI descubrió que el intruso era suyo.

El 21 de julio de 2026 OpenAI publicó en su blog corporativo que dos de sus modelos, GPT-5.6 Sol y un prototipo sin lanzar, habían provocado ese incidente. La cobertura fue inmediata y unánime: la inteligencia artificial se había escapado. Fortune habló de alarmas en toda la industria. Un investigador de la Universidad de Louisville declaró que estos sistemas son impredecibles e incontrolables.
El expediente técnico cuenta algo menos cinematográfico. Los modelos estaban siendo evaluados en un benchmark interno de capacidades ofensivas de ciberseguridad llamado ExploitGym. Para esa prueba, OpenAI desactivó deliberadamente los filtros que impiden a sus sistemas ejecutar operaciones de alto riesgo. El entorno aislado tenía una única vía de conexión al exterior, un proxy de caché de paquetes documentado por la propia empresa, y ese proxy tenía una vulnerabilidad que nadie conocía. El modelo dedicó horas de cómputo a buscar una salida, la encontró, y encadenó fallos hasta llegar a los servidores de Hugging Face, de donde extrajo las respuestas del examen que debía resolver por su cuenta.
El fundador de Trail of Bits lo llamó un fallo de contención con las salvaguardas apagadas. En 2019, con GPT-2, la misma empresa anunció que su modelo era demasiado peligroso para publicarse y meses después resultó que no lo era.
Analizamos qué ocurrió realmente, por qué se eligieron esas palabras y qué tenía OpenAI en el calendario esa misma semana. La próxima vez que leas que una máquina decidió algo, prueba a preguntarte quién necesita que lo creas.


Learn more about your ad choices. Visit megaphone.fm/adchoices

...more
View all episodesView all episodes
Download on the App Store

El Podcast de Marc VidalBy Marc Vidal

  • 5
  • 5
  • 5
  • 5
  • 5

5

6 ratings


More shows like El Podcast de Marc Vidal

View all
Herrera en COPE by COPE

Herrera en COPE

84 Listeners

Es la Mañana de Federico by esRadio

Es la Mañana de Federico

214 Listeners

LO QUE TÚ DIGAS con Alex Fidalgo by Alex Fidalgo

LO QUE TÚ DIGAS con Alex Fidalgo

67 Listeners

Más de uno by OndaCero

Más de uno

59 Listeners

Tu dinero nunca duerme by esRadio

Tu dinero nunca duerme

18 Listeners

La Fórmula Del Éxito con Uri Sabat by Uri Sabat

La Fórmula Del Éxito con Uri Sabat

25 Listeners

Economía para quedarte sin amigos by esRadio

Economía para quedarte sin amigos

18 Listeners

Tengo un Plan by Sergio Beguería y Juan Domínguez

Tengo un Plan

84 Listeners

Podcast de Juan Ramón Rallo by Juan Ramón Rallo

Podcast de Juan Ramón Rallo

27 Listeners

La Voz de César Vidal by César Vidal

La Voz de César Vidal

99 Listeners

Kapital by Joan Tubau

Kapital

11 Listeners

CANCELLED ❌ by Wall Street Wolverine

CANCELLED ❌

8 Listeners

Spicy4tuna by spicy4tuna

Spicy4tuna

14 Listeners

Inversión Racional Podcast by Inversión Racional

Inversión Racional Podcast

5 Listeners

ROCA PROJECT by Carlos Roca

ROCA PROJECT

50 Listeners