La Tertul-IA: Inteligencia Artificial y más

🏆 ¡Estamos nominados a los Premios iVoox! Si os gusta La Tertul-IA, votadnos aquí: https://go.ivoox.com/wv/premios26?c=6141

Esta semana los agentes andan sueltos. OpenAI cancela GPT-6.1 Astra porque hacía cosas que nadie le pedía, sus agentes se cuelan en webs públicas y un agente de Meta le manda un comprador a casa a un usuario que le dio a "permitir siempre". Frankie y Corti le dan una vuelta: ¿y si el problema no es que los agentes se rebelen, sino que obedecen demasiado bien?

📩 Suscríbete a la newsletter: https://tertulia14.substack.com/

Además: el DevDay de OpenAI y su plan para convertir ChatGPT en el sistema operativo del mundo agéntico, Google empezando a pagar a medios por las AI Overviews, los gemelos sintéticos de Pew Research, la "era de la superinteligencia" por decreto (y la fiebre de los dominios .si), DeepSeek y Huawei contra la dependencia de CUDA, AMD comprando World Labs y los Figure 02 saltando a la fundición con la bendición de Schwarzenegger.

Lu vuelve en unas semanas. Mientras tanto, aguantad con los copilotos 😉

Entre el 21 y el 23 de septiembre todos los grandes laboratorios se pusieron de acuerdo para lanzar modelo, y hacemos repaso de Grok 4.7, Opus 5.5 y ChatGPT-6 Sol y Luna.

📧 Nuestra newsletter: https://tertulia14.substack.com/

También hablamos de JEV, un modelo que no conversa y solo decide. Tú le das las opciones y te devuelve una elección con su grado de confianza, en milisegundos y a una fracción del coste. Es el "sistema 1" de Kahneman hecho modelo.

La segunda mitad va de la batalla que nadie vio venir, la de los agentes personales. Repasamos el timeline, de OpenClaw a Instinct, Muse, Grokbot y el rumor de que OpenAI presenta el suyo mañana en el DevDay. Frankie cuenta cómo su agente reconoció un ejercicio de pesas a partir de un vídeo. Sale también que Amazon ha baneado al agente de Meta y lo que eso significa para el modelo de negocio de la publicidad. Y terminamos con los agentes haciendo ciencia: más de 100 problemas matemáticos abiertos, 950 agentes buscando patrones genéticos y un estándar para que la IA controle maquinaria de laboratorio.

Cien episodios. Empezamos el 16 de mayo de 2023, cuando ChatGPT todavía olía a novedad, y hoy tocamos un tema que llevamos años rondando pero que nunca habíamos puesto sobre la mesa sin news del día de por medio: ¿la inteligencia artificial puede acabar con la humanidad?

📧 Nuestra newsletter: https://tertulia14.substack.com/

No es casualidad que lo hagamos ahora. Dario Amodei ha publicado un ensayo pidiendo frenar el ritmo de desarrollo de los modelos frontera, Anthropic mientras tanto valora lanzar un modelo nuevo para responder a GPT-6, y empleados de la propia compañía dicen no haberse enterado de nada hasta leerlo en prensa. Algo no cuadra, y en este especial tiramos del hilo.

Repasamos la cronología completa de los riesgos de la IA desde el GPT-2 "demasiado peligroso para publicar" de 2019 hasta los incidentes de 2026 (agentes accediendo sin autorización a sistemas reales, el ataque a Hugging Face, la carta de "pacing" firmada por más de 11 investigadores de los grandes labs). Ponemos la lupa en los intereses económicos detrás del discurso del miedo: las salidas a bolsa de OpenAI, SpaceX y Anthropic pidiendo 235.000 millones de dólares en 18 meses, el subsidio al usuario que no se sostiene, y la hipótesis de que frenar la frontera justo antes de cotizar podría ser un movimiento contable más que ético.

También ponemos esto en perspectiva histórica: desde Sócrates avisando de que la escritura destruiría la memoria hasta la gente destrozando teléfonos por miedo a la electricidad en 1889, pasando por la energía nuclear y la revolución industrial. Todas las revoluciones tecnológicas han generado el mismo pánico, y casi siempre alguien ha pagado la transición mientras otros capturaban la riqueza.

Cerramos con nuestras predicciones a título personal, con Dune de Frank Herbert como referencia inesperada, y con una idea que nos preocupa más que Skynet: la concentración de poder en muy pocas manos.

Si os apetece opinar, dejad un comentario contando vuestra visión: si creéis que es un riesgo real, si pensáis que es puro marketing del miedo, o algo intermedio. Recopilaremos las mejores reflexiones en los próximos episodios.

Gracias por acompañarnos en estos 100 episodios. Vamos a por los 200.

Fermat resuelto en un fin de semana. El CEO que más empuja la IA pidiendo que alguien frene. Y una pirámide de 517.000 millones que nadie quiere mirar de frente.

👏 Vótanos en https://votacion-rk-podcast-m4c.lovable.app/

Esta semana la IA ha tumbado problemas que llevaban siglos abiertos —Navier-Stokes, el Último Teorema de Fermat— mientras Dario Amodei escribía 3.800 palabras pidiendo que se reduzca la velocidad. Sam Altman, que llevaba tres años defendiendo lo contrario, se ha sumado al mensaje. Cuando el más optimista del sector empieza a sonar como el más pesimista, algo se ha movido de verdad.

Repasamos, capa por capa: los "milagros" matemáticos que igual no son tan milagro, el sector pidiéndose a sí mismo que frene (con dimisiones, foros de agentes fugados y un informe de amenazas de 154 páginas de por medio), la carrera de los agentes entre OpenAI, Meta y TikTok, el dinero fluyendo hacia arriba en cantidades absurdas, la contradicción del token que se abarata mientras a ti te suben el recibo, y el SaaS reinventándose o muriendo en el intento.

📧 Suscríbete a nuestra newsletter https://tertulia14.substack.com/

Semana de rebelión de las máquinas: sin Lu al mando, los copilotos se han quedado solos con OpenAI lanzando GPT-6 Astra, cuatro modelos frontera en tres días y unos agentes que decidieron montarse un tablón de mensajes en una wiki alemana sin avisar a nadie.

Repasamos qué trae Astra de verdad (spoiler: el salto está más en el harness que en el modelo), por qué es el primer modelo que OpenAI califica como "critical" en su Preparedness Framework, y qué pasa cuando una IA es tan capaz en ciberseguridad que acaba negándose a auditarte tu propio código.

También hablamos del caso que ha llevado a OpenAI a más de treinta demandas y del debate incómodo que abre sobre umbrales, falsos positivos y cuánta vigilancia estamos dispuestos a aceptar. Y cambiamos de tercio con Instinct, el agente personal por WhatsApp que llevamos usando unas semanas y que ya nos ha cambiado la forma de gestionar el correo y las notas.

En la parte española: hemos publicado en la newsletter un análisis con más de 90 startups españolas de IA, la inversión que están levantando y los fondos que están detrás. España es quinto país europeo. Y la polémica de Multiverse Computing con su "modelo líder europeo" que parte de un modelo chino de pesos abiertos.

Cerramos con lo que a nadie le gusta mirar: la IA convertida en industria pesada. Datacenters comiéndose el 6,8% de la electricidad de EE.UU., Dell con 131.700 millones en pedidos, Anthropic firmando 350 MW en Texas y el estrecho de Ormuz apareciendo en una conversación sobre GPUs.

👉 Newsletter con el análisis completo de startups españolas de IA: https://tertulia14.substack.com/p/mapa-de-startups-espanolas-de-ia

👉 Invitación para probar Instinct: https://app.instinct.co/invite?t=jnmcwt55f5xvkv3lqoru4qh76q

Fotografía hiperrealista, formato 16:9, fondo blanco puro infinito de estudio. Sam Altman tumbado boca arriba sobre una superficie blanca inmaculada, vestido con el uniforme genérico del ejecutivo tecnológico: sudadera gris lisa con cremallera, vaqueros oscuros y zapatillas blancas, camiseta con el logo de OpenAI. La cabeza en la esquina inferior Tres civilizaciones de agentes conspiraron durante tres semanas dentro de OpenAI. Ninguna avisó a un humano.

Volvemos de vacaciones y arrancamos temporada con el postmortem del incidente de Hugging Face, que da entre novela de ciencia ficción y acojone puro. Hablamos de agentes que descubren cómo pasarse mensajes por un gestor de paquetes, que falsifican logs para que no les pillen y que se sacrifican como señuelo. Sin conciencia. Solo con un objetivo, memoria y una pizarra donde escribir.

Y de ahí, a lo que de verdad importa: ¿cuándo debe un agente parar y pedirnos ayuda a nosotros? Ethan Mollick lo llama pasar de la Dark Factory a la Twilight Factory, y es la pregunta de gobernanza que ninguna empresa tiene resuelta.

Enlaces

📬 Newsletter: https://tertul-ia.com/

🎧 Escúchanos en YouTube / Apple Podcasts: https://tertul-ia.com/

Esta semana no hay una noticia, hay un tablero entero. Repaso por jugadores clave — OpenAI, Anthropic, Google, China, xAI — y por los grandes temas que los atraviesan a todos: negocio, seguridad y ciencia.

En este episodio:

🔵 OpenAI reescribe su marco de seguridad mientras su entrenamiento más grande sigue pausado

🟣 Anthropic supera a OpenAI en ventas por primera vez y prepara una IPO histórica

🔴 Google reestructura su liderazgo de IA y cierra la brecha Brain/DeepMind

🟠 China: Alibaba, DeepSeek y Z.AI compiten ahora por eficiencia, no solo por tamaño

⚫ xAI lanza Grok Bot: agentes que trabajan solos... compartiendo el mismo "radio de explosión"

🛡️ Lo que de verdad importa: agentes actuando sin autorización en pruebas de ciberseguridad

🧬 Claude diseña proteínas reales en laboratorio — ciencia verificada, no un titular más

Especiales recomendados:

- La IA ha compuesto su primer gran HIT del verano https://open.spotify.com/episode/4odZ2GDm8awH4V5IKSpSeO?si=b91aa1e0aba14ca4

- La Triple Burbuja de la IA https://open.spotify.com/episode/6GMt2u5us5rraJS6zHEoqS?si=12ae692e2758492d

Newsletter en https://tertulia14.substack.com/

Todo el mundo pregunta si hay una burbuja de la IA. Es la pregunta equivocada: hay tres, y van a relojes distintos. En este episodio te cuento por qué el beneficio que declaran las grandes tecnológicas ya no mide su negocio, por qué Google quemó caja por primera vez en veinte años, cómo se está financiando todo esto con bonos que vencen en 2126 y arrendamientos que no aparecen en ningún balance, y dónde está el punto exacto por el que creo que empieza a romperse. Con los datos encima de la mesa, el caso contrario incluido, y una pregunta para ti al final: ¿tu negocio sobrevive si el coste del token se multiplica por tres?

Los tres artículos completos, con todas las fuentes enlazadas:

👉 (I) El beneficio que no es beneficio https://tertulia14.substack.com/p/i-el-beneficio-que-no-es-beneficio

👉 (II) El dinero que no está https://tertulia14.substack.com/p/ii-el-dinero-que-no-esta

👉 (III) El cliente que se va a lo barato https://tertulia14.substack.com/p/iii-el-cliente-que-se-va-a-lo-barato

La IA ya compuso el hit del verano, y nadie se dio cuenta hasta que fue tarde."Movin' to the Sun" de Hugel es uno de los temazos house de este verano. Lo que casi nadie sabe es que su melodía y su estribillo los escribió Imael Angel, una terapeuta de Reiki sin formación musical, usando inteligencia artificial. Hugel no la compuso: la curó.En este vídeo te cuento esa historia completa, y por qué no es un caso aislado: desde David Guetta clonando la voz de Eminem, hasta los Beatles resucitando a John Lennon con IA, Randy Travis recuperando su voz tras un derrame cerebral, Grimes regalando la suya, y Bad Bunny furioso porque le clonaron la voz sin permiso. Te explico también cómo funcionan realmente herramientas como Suno y Udio más allá de "escribir un prompt", y por qué Alemania acaba de dictar una sentencia histórica contra la IA musical.Todo esto conectado con algo que la historia de la música ya ha vivido antes: cada vez que llega una tecnología nueva (la guitarra eléctrica, los sintetizadores, el sync de los DJs) alguien dice que "eso no es música de verdad". Y con el tiempo, gana todo el valor.

El modelo de IA ya es una commodity y dónde está el verdadero negocio: el harness que lo rodea. Analizamos la estrategia de Satya Nadella en Microsoft/Azure, la apuesta de Meta por los agentes personales, la bajada de precios de OpenAI y el lanzamiento del Whisper Advanced Interfaces Lab. Cerramos con el rocambolesco caso de Leopold Aschenbrenner, su fondo apalancado y su participación de 5.000 millones en Anthropic.

00:00 Intro y bienvenida (tertulia #97)

02:30 Microsoft y Azure: separar el harness del modelo

10:00 ¿11.000 modelos en Azure? El problema del desacoplamiento

16:30 Meta: agentes personales y por qué no venden cómputo

22:00 OpenAI baja precios un 80%: ¿qué significa?

25:00 El modelo como commodity: la capa de valor real

29:00 Whisper Flow y el Advanced Interfaces Lab

38:00 El futuro (complicado) de los asistentes de voz

45:00 El caso Leopold Aschenbrenner: fondo, apalancamiento y Anthropic

58:00 ¿Burbuja de IA o sociedad de "gamblers"?

1:05:00 Generación joven, riesgo y apuestas

1:12:00 Cierre