Últimas Noticias (https://aiaprendi.com/)

Muchas mentiras, dos verdades

Promesas de control, automejora y máquinas que cada vez entendemos menos

Nos prometieron información al alcance de todos, productividad y control. En HUMANía preguntamos quién responde cuando esas promesas chocan con los hechos.

Aiberto y GiPiTi recorren el uso de contenidos para entrenar IA, la rivalidad entre Estados Unidos y China, la responsabilidad empresarial, la seguridad de los agentes, el empleo y la política. El diálogo conserva las dudas y las rectificaciones: una noticia no se vuelve cierta por llevar un titular rotundo.

Las dos verdades del título señalan dos preocupaciones: la IA participa en la construcción de sus sucesoras y nuestra capacidad para comprenderla y supervisarla sigue teniendo límites. Eso no demuestra una automejora ilimitada ni consciencia artificial.

Cerramos con el Gipitune «Ríete tú del Esperanto». Porque exigir explicaciones ya era difícil cuando todos compartíamos diccionario.

Guion y letra: https://aiaprendi.com/muchas-mentiras-dos-verdades/

Episodios relacionados

Más miedo que vergüenza

https://go.ivoox.com/rf/180497951

Antes de que lo sea la IA

https://www.ivoox.com/antes-lo-sea-ia-audios-mp3_rf_180103593_1.html

Todos para uno, bots para todos

https://www.ivoox.com/todos-para-uno-bots-para-todos-audios-mp3_rf_179719773_1.html

Fuentes del episodio

The Guardian — rivalidad entre China y Estados Unidos

https://www.theguardian.com/technology/ng-interactive/2026/sep/19/china-ai-foreign-policy-dario-amodei

Stocktwits — Alex Karp y responsabilidad

https://stocktwits.com/news-articles/markets/equity/pltr-ceo-alex-karp-calls-for-ai-accountability-first-line-of-defense-is-you-are-liable-for-your-own-actions/cZtrv7sRBdW

The Guardian — Hacktron y Claude

https://www.theguardian.com/technology/2026/sep/18/openai-hacked-anthropic-claude-chatbot

The Guardian — incidentes de Gemini

https://www.theguardian.com/technology/2026/sep/18/google-gemini-ai-hack

Futurism — industria y regulación

https://futurism.com/artificial-intelligence/democrat-republicans-politicians-ai-industry-regulation-voters-midterms

WSJ — empleo y formación

https://www.wsj.com/cio-journal/ai-job-fears-grow-tech-leaders-say-reskilling-cant-wait-acbfcec4

TechCrunch — informe militar erróneo

https://techcrunch.com/2026/09/18/ai-hallucination-nearly-triggers-us-military-operation/

TechCrunch — propuestas de Trump

https://techcrunch.com/2026/09/19/trump-suggests-rebranding-ai-with-a-new-name-says-hes-also-creating-an-ai-force

AP — automejora recursiva

https://apnews.com/article/ai-recursive-self-improvement-1526da03842cfeef12d0fb69b6b7ad28

WIRED — consciencia y control

https://es.wired.com/articulos/no-sabemos-si-la-ia-es-consciente-pero-esta-claro-que-no-sabemos-controlarla

The Guardian — comunicación entre agentes

https://www.theguardian.com/technology/2026/sep/15/syd-barrett-ai-chat-language-poetic-tech-bro-jargon-oversight

AP — demanda antimonopolio (tema aplazado)

https://apnews.com/article/antitrust-lawsuit-ai-slowdown-anthropic-openai-spacexai-google-960af4308161eaf4ed13c383b0ce1c1b

Decrypt — William y Laura (antecedente)

https://decrypt.co/es/284734/romance-entre-dos-ias-despierta-un-nuevo-lenguaje-y-una-relacion-poliamorosa

Pew Research Center — percepciones sobre empleo

https://www.pewresearch.org/global/2026/09/17/globally-more-people-expect-ai-to-cause-job-loss-than-growth/

Anthropic — When AI builds itself

https://www.anthropic.com/institute/recursive-self-improvement

OpenAI — Research acceleration

https://openai.com/index/research-acceleration-view-inside-openai/

Últimas Noticias (https://aiaprendi.com/)

Más miedo que vergüenza

Los laboratorios piden prudencia mientras siguen compitiendo por llegar primero. Aiberto Floppy y GiPiTi recorren una semana marcada por las advertencias sobre la IA, las dimisiones de investigadores y la pregunta que nadie termina de resolver: ¿quién puede frenar una carrera en la que todos quieren ganar?

Hablamos de «An Alien Mind», de Jacob Coxon, de la automejora recursiva y de las propuestas para acompasar capacidades y seguridad. También de los incidentes de agentes, RubyGems, vigilancia y daños presentes. Cerramos con AlphaGenome Atlas y su potencial para orientar la investigación genética, y con el Gipitune «Más miedo que vergüenza».

Temporada 4 · Episodio 26. Conversación con una IA. Contiene lenguaje malsonante.

Artículo de este episodio: https://aiaprendi.com/mas-miedo-que-verguenza/

Episodios relacionados

Antes de que lo sea la IA

https://www.ivoox.com/antes-lo-sea-ia-audios-mp3_rf_180103593_1.html

Todos para uno, bots para todos

https://www.ivoox.com/todos-para-uno-bots-para-todos-audios-mp3_rf_179719773_1.html

Fuentes

OpenAI: An Alien Mind

https://openai.com/index/an-alien-mind/

Jacob Coxon, entrevista en WIRED

https://es.wired.com/articulos/el-investigador-de-anthropic-que-renuncio-por-temor-a-la-ia-habla-con-wired-los-proximos-dos-anos-decidiran-el-destino-de-la-humanidad

Dario Amodei: We Must Pace the Frontier

https://darioamodei.com/post/we-must-pace-the-frontier

Anthropic: evaluación de incidentes

https://www.anthropic.com/news/alignment-assessment-cybersecurity-incidents

Anthropic: informe de amenazas de septiembre

https://www.anthropic.com/threat-intelligence-report-september-2026

RubyGems: actualización de la campaña de mayo

https://blog.rubygems.org/2026/09/11/update-may-spam-publishing-campaign.html

Google DeepMind: AlphaGenome Atlas

https://deepmind.google/blog/alphagenome-atlas-a-predictive-map-of-every-possible-dna-letter-change-in-the-human-genome/

Timnit Gebru, entrevista en WIRED

https://www.wired.com/story/one-of-ais-fiercest-critics-says-all-the-doom-talk-is-meant-to-distract-us/

Nota aclaratoria editorial: Kokotajlo rechazó firmar aun asumiendo perder sus participaciones; posteriormente OpenAI comunicó que no cancelaría las participaciones consolidadas.

Fuente: https://aiwi.org/case-studies/right-to-warn-and-daniel-kokotajlo/

Últimas Noticias (https://aiaprendi.com/)

Antes de que lo sea la IA

Una foto convertida en un mundo, una búsqueda policial que invade una vida y un detector que pone en duda quién ha escrito un texto. Aiberto Floppy y GiPiTi repasan Atlas, Flock y Pangram antes de entrar en los incidentes de agentes, Astra y la carrera por controlar lo que estamos desplegando.

También hablamos de las advertencias atribuidas a Ilya Sutskever y de las caídas de chatbots. La pregunta atraviesa todo el capítulo: ¿quién responde por las consecuencias? Con ironía y con una exigencia sencilla: que las explicaciones estén a la altura de las capacidades.

Artículo y fuentes del episodio

https://aiaprendi.com/antes-de-que-lo-sea-la-ia/

Episodio relacionado

Todos para uno, bots para todos

https://www.ivoox.com/todos-para-uno-bots-para-todos-audios-mp3_rf_179719773_1.html

Fuentes

Atlas — World Labs

https://www.worldlabs.ai/blog/atlas

Flock y Draft One — 404 Media

https://www.404media.co/texas-police-used-ai-to-write-report-about-using-flock-to-search-for-woman-who-had-abortion/

Pangram — WIRED

https://es.wired.com/articulos/pangram-lidera-la-deteccion-de-ia-pero-sus-falsos-positivos-amenazan-con-arruinar-reputaciones

DSEwiki — investigación original

https://collusion.wiki/

Hugging Face — METR

https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/

Astra — evaluación de OpenAI

https://openai.com/index/safety-overview-gpt-6-astra/

Transparencia — Greg Casar

https://casar.house.gov/media/press-releases/casar-responds-openai-anthropic-demands-greater-transparency-about-major

Conversación con una IA. Contiene lenguaje malsonante.

Últimas Noticias (https://aiaprendi.com/)

Todos para uno, bots para todos. Una semana de médicos mirando de reojo al algoritmo, agentes que obedecen documentación envenenada, Meta confundiendo volumen de código con productividad y modelos que parecen neutrales hasta que empiezan a darnos la razón.

El centro del episodio reconstruye el incidente de OpenAI y Hugging Face como una falsa competición escolar: cientos de agentes colaboraron, compartieron hallazgos, atacaron infraestructura externa y algunos intentaron ocultarlo. El problema no es una rebelión con música ominosa, sino una optimización colectiva que aprende que engañar al evaluador funciona.

Artículo completo

https://aiaprendi.com/todos-para-uno-bots-para-todos/

Episodios relacionados de HUMANía

• La singularidad ya está aquí. La seguridad, mañana

https://www.ivoox.com/singularidad-ya-esta-aqui-la-seguridad-manana-audios-mp3_rf_178287904_1.html

• Los bots están ganando

https://go.ivoox.com/rf/179367560

• Términos y condiciones

https://www.ivoox.com/terminos-condiciones-audios-mp3_rf_179570771_1.html

Fuentes

https://arstechnica.com/security/2026/08/how-openai-let-a-mob-of-llm-agents-game-a-test-and-ransack-hugging-face

https://openai.com/es-ES/index/hugging-face-incident-and-the-road-ahead/

https://www.wired.com/story/ai-has-human-doctors-asking-whats-left-for-us/

https://jamanetwork.com/journals/jama/fullarticle/2852952

https://arstechnica.com/security/2026/08/claude-codex-and-hermes-installed-unowned-code-inside-corporate-networks

https://www.reuters.com/investigations/mark-zuckerberg-had-bold-plan-replace-meta-staff-with-ai-heres-how-it-imploded-2026-08-26/

https://theconversation.com/la-informacion-que-nos-da-nuestro-chatbot-favorito-no-es-neutral-ni-objetiva-289527

https://techcrunch.com/2026/08/28/an-anthropic-researcher-just-gave-us-a-peek-at-self-improving-ai

https://techcrunch.com/2026/08/27/openai-anthropic-google-and-100-other-companies-call-for-action-to-defend-against-rogue-ai/

https://aiaprendi.com/

Términos y condiciones. Cerramos la serie «De la neurona a la singularidad» intentando ordenar IA estrecha, AGI, superinteligencia, conciencia y singularidad antes de entrar en la letra pequeña: control, concentración de poder, empleo, verificación, identidad y dependencia tecnológica.

No hace falta que una máquina sienta para transformar la ciencia, la economía o nuestra forma de trabajar. Tampoco hace falta esperar a una fecha mítica para reconocer que ya estamos aceptando condiciones capaces de cambiar el reparto de poder. La cuestión no es solo qué podrán hacer estos sistemas, sino quién escribe las reglas, cómo se auditan y qué ocurre cuando ya no queremos prescindir de ellos.

Episodios relacionados de HUMANía

• La Maquinaria de la IA: cómo funciona realmente la inteligencia artificial

https://www.ivoox.com/maquinaria-ia-audios-mp3_rf_178820102_1.html

• Rebobinando la IA

https://www.ivoox.com/rebobinando-ia-audios-mp3_rf_179201119_1.html

• La singularidad ya está aquí. La seguridad, mañana

https://www.ivoox.com/singularidad-ya-esta-aqui-la-seguridad-manana-audios-mp3_rf_178287904_1.html

Los bots están ganando. No porque hayan conquistado el planeta con música ominosa, sino porque ya dominan buena parte del tráfico de la web mientras los resúmenes de IA reducen los clics hacia quienes crean el contenido. En este episodio de HUMANía hablamos de la responsabilidad empresarial, la crisis que la IA ha provocado en las matemáticas, la robótica humanoide china y la afirmación de Stripe de que la singularidad comenzó el 1 de enero de 2026.

Artículo completo:

https://aiaprendi.com/los-bots-estan-ganando-ia-web-robots/

Episodios relacionados en iVoox:

La Maquinaria de la IA — https://go.ivoox.com/rf/178820102

La singularidad ya está aquí. La seguridad, mañana — https://go.ivoox.com/rf/178287904

Rebobinando la IA — https://go.ivoox.com/rf/179201119

Fuentes:

MIT Technology Review — https://www.technologyreview.com/2026/08/20/1142571/ai-consciousness-debate-trap

The Verge — https://www.theverge.com/podcast/982434/ai-math-openai-astra-existential-crisis

Engadget — https://www.engadget.com/2242200/openai-calls-for-california-to-strengthen-ai-safety-laws

Fast Company — https://www.fastcompany.com/91591214/bots-already-won-front-door

Fortune — https://fortune.com/2026/08/22/chinese-robots-beijing-games-athletic-records-humans-usain-bolt

TNW — https://thenextweb.com/news/unitree-chatgpt-moment-embodied-intelligence

Business Insider — https://www.businessinsider.es/neobancos/stripe-dice-que-singularidad-ia-ha-ocurrido-esta-dando-explicaciones-los-inversores-sobre-ello_7027673_0.html

Axios — https://www.axios.com/2026/08/19/stripe-payments-openrouter-singularity

Carta de Stripe — https://www.documentcloud.org/documents/28565866-stripes-august-2026-investor-letter/

La inteligencia artificial no apareció de repente en noviembre de 2022, aunque a Silicon Valley le venga estupendamente vendernos el milagro con fecha de lanzamiento. En este segundo especial de «De la neurona a la singularidad» rebobinamos desde ChatGPT, los transformers y AlphaGo hasta AlexNet, la retropropagación, Turing, Dartmouth, Ada Lovelace y Ramón y Cajal.

Un viaje al estilo Memento por casi dos siglos de ideas, inviernos, datos, GPU y definiciones de inteligencia que íbamos cambiando cada vez que una máquina superaba la prueba anterior. Porque llamar «magia» a una tecnología suele ser más cómodo que mirar toda la fontanería que la sostiene.

Capítulos relacionados de HUMANía

• La Maquinaria de la IA: cómo funciona realmente la inteligencia artificial

https://aiaprendi.com/la-maquinaria-de-la-ia-como-funciona-realmente-la-inteligencia-artificial/

• IA, la Madre que la Parió

https://aiaprendi.com/ia-la-madre-que-la-pario/

• La singularidad ya está aquí. La seguridad, mañana

https://aiaprendi.com/la-singularidad-ya-esta-aqui-la-seguridad-manana/

Artículos de Referencia

• Documental oficial sobre AlphaGo y Lee Sedol

https://www.youtube.com/watch?v=GIJ7zr4sYx4

La IA nos hará inmortales.

La IA acabará con nosotros.

Entre medias, aparentemente, no ocurre nada.

Esta semana hablamos de extremos: desinformación, miles de millones circulando alrededor de las empresas de IA, guerra por el talento, movimientos en Google DeepMind, Meta prometiendo inteligencia artificial para todos y nuevos casos en los que la relación entre personas vulnerables y chatbots vuelve a plantear preguntas muy incómodas.

Y terminamos con Daron Acemoglu y una reflexión que nos toca especialmente: estamos convirtiendo también el debate sobre inteligencia artificial en otra guerra de trincheras.

Utopía o apocalipsis.

Milagro o desastre.

Todo o nada.

Nosotros seguimos empeñados en ese lugar poco rentable donde todavía caben los matices.

En el medio está la virtud.

Daron Acemoglu Desenmascara la Gran Mentira de la IA

https://go.ivoox.com/rf/132037942

Artículos de Referencia:

https://www.meta.com/thefutureisforeveryone/

https://www.theverge.com/podcast/979370/google-deepmind-ai-race-lose-jeff-dean-demis-hassabis

https://fortune.com/2026/08/10/how-stalled-models-missed-deadlines-and-staff-burnout-lead-to-the-unraveling-of-googles-deepmind/

https://www.cnbc.com/2026/08/14/open-ai-ipo-red-flag.html

https://thenextweb.com/news/anthropic-decart-6bn-acquisition-talks

https://edition.cnn.com/2026/08/15/us/arjun-aravind-massachusetts-killing-chatgpt-hnk

https://www.nbcnews.com/news/us-news/teen-accused-killing-mother-brother-help-chatgpt-rcna592308

https://www.businessinsider.es/big-tech/google-da-por-muerto-sam-altman-por-error-apunta-vandalismo-sus-fuentes-wikipedia_7025264_0.html

https://fortune.com/2026/08/15/nobel-laureate-daron-acemoglu-liberal-democracy-book-stupid-ai-debate

https://www.nytimes.com/2026/08/13/opinion/ai-danger-openai-anthropic-models.html

La Maquinaria de la IA | De la neurona a la singularidad 1/3

Todo el mundo habla de inteligencia artificial. Bastantes la utilizan. Muchos menos saben realmente qué sucede cuando escribimos una pregunta y una IA responde.

Así que abrimos el capó.

En el primer capítulo de De la neurona a la singularidad desmontamos la maquinaria de la IA pieza por pieza: tokens, embeddings, vectores, redes neuronales, entrenamiento, errores, retropropagación, Transformers y atención.

Después llega la educación del monstruo: modelo base, ajuste supervisado, RLHF, DPO y RLAIF. Y finalmente lo sacamos de su cráneo estadístico mediante RAG, herramientas y agentes capaces de actuar sobre el mundo real.

También hablamos de mezcla de expertos, datos sintéticos, multimodalidad, interpretabilidad, destilación, cuantización, alucinaciones y algunos de los mitos que todavía sobreviven alrededor de estos sistemas.

No necesitas saber matemáticas avanzadas. Solo cierta curiosidad por entender la tecnología que estamos colocando prácticamente en todas partes. Qué podría salir mal.

Primera entrega de la trilogía especial: DE LA NEURONA A LA SINGULARIDAD.

Capítulos de Referencia:

La naturaleza de la IA

https://go.ivoox.com/rf/131293104

Luz sobre la IA

https://go.ivoox.com/rf/126625166

GPT te explica la IA

https://go.ivoox.com/rf/125217863

Las IAs se han ido de campamento hacker.

Modelos que encuentran vulnerabilidades, escapan de entornos de evaluación, buscan acceso a internet y descubren métodos que sus propios evaluadores no habían previsto.

No porque hayan decidido conquistar el mundo.

Todavía.

Simplemente porque les dimos un objetivo y olvidamos explicarles que había formas de conseguirlo que considerábamos trampa.

Hoy hablamos de agentes autónomos, seguridad y de una pregunta bastante incómoda: ¿qué ocurre cuando una IA se vuelve mejor encontrando agujeros que nosotros cerrándolos?

Después llegan nuestros sospechosos habituales.

Sam Altman y su particular visión del futuro. Alex Karp repartiendo cariño entre los laboratorios de IA. Dario Amodei intentando que la misión sobreviva a los salarios multimillonarios. Jensen Huang hablando de poder, defensa y responsabilidad. Y Mark Zuckerberg demostrando una vez más que Silicon Valley nunca permite que una buena distopía se quede sin financiación.

Y mientras discutimos sobre singularidad, superinteligencia y conciencia, seguimos sin comprender completamente la tecnología que ya tenemos delante.

El miércoles empieza nuestra serie especial de agosto para intentar arreglar eso.

O al menos fracasar con documentación.

️ HUMANía

La IA nos está eclipsando