La conversación sobre ética en inteligencia artificial ha cambiado radicalmente.

Hace apenas unos años discutíamos sobre sesgos, privacidad o discriminación algorítmica. Pero mientras debatíamos sobre fairness y datasets… la IA empezó a hacer algo mucho más importante: actuar.

En este episodio de Código Abierto, Álex, Mónica e Ignacio exploran cómo la ética de la IA ha dejado de ser un debate filosófico para convertirse en un problema operativo, organizativo y de infraestructura.

Porque los modelos ya no solo responden preguntas.

Ahora:

• ejecutan tareas,
• coordinan agentes,
• priorizan decisiones,
• escriben código,
• automatizan workflows,
• y empiezan a ocupar capas reales de poder dentro de empresas y gobiernos.

Hablamos del choque entre AI Ethics y AI Safety, de agentes autónomos, de alineamiento, de governance, de dependencia de APIs privadas y de una pregunta cada vez más incómoda:

¿Estamos delegando demasiado rápido en sistemas que ni entendemos del todo… ni controlamos realmente?

A lo largo del episodio analizamos trabajos como:

• Mind the Gap!
• AI Agents and Hard Choices
• AI Integrity
• International AI Safety Report

Y conectamos todo ello con el momento actual de OpenAI, Anthropic, Claude Code, los workflows multiagente y el nuevo reparto de poder que está emergiendo alrededor del cómputo, las GPUs y la infraestructura.

Porque quizá el problema nunca fue que las máquinas se parecieran demasiado a nosotros.

Quizá el problema es que nosotros estamos empezando a delegar criterio, contexto y responsabilidad demasiado deprisa.

La IA no necesita conciencia para cambiar la civilización.

Solo necesita suficiente autonomía.