Podcast HUMANía

Últimas Noticias (https://aiaprendi.com/revista/)

Encontrar fallos cada vez sale más barato. Conseguir que las soluciones lleguen a tiempo es otra historia.

Aiberto y GiPiTi recorren una semana de ciberinseguridad, agentes con demasiados permisos y empresas que prometen control mientras aceleran. El debate de Alex Stamos en Decoder abre la pregunta central: ¿seguir reparando el software que sostiene nuestra vida o reconstruir sus cimientos?

También hablamos de la automejora y la memoria de Claude, de identidad verificable para la IA, de los «campus» de OpenAI y de quién responde cuando una máquina actúa. La experiencia relatada con ARTEX deja una decisión poco espectacular y bastante sensata: no pulsar Enter.

Cerramos con el Gipitune «No pulses Enter». Menos promesas de seguridad y más capacidad de comprobar, corregir y parar.

Capítulos relacionados

La singularidad ya está aquí. La seguridad, mañana — https://www.ivoox.com/singularidad-ya-esta-aqui-la-seguridad-manana-audios-mp3_rf_178287904_1.html

Todos para uno, bots para todos — https://www.ivoox.com/todos-para-uno-bots-para-todos-audios-mp3_rf_179719773_1.html

Agentes por el mundo, humanos a la intemperie — https://go.ivoox.com/rf/181261350

Fuentes

Anthropic ve cerca la automejora de la IA. https://aiaprendi.com/noticia/anthropic-automejora-ia-garantias/

Papeles, por favor: Anthropic quiere que la IA demuestre quién es. https://aiaprendi.com/noticia/flashprove-anthropic-identidad-ia/

¿Sueña Claude con ovejas eléctricas? https://aiaprendi.com/noticia/claude-memoria-ovejas-electricas/

No es un centro de datos, es un campus. https://aiaprendi.com/noticia/openai-centros-datos-campus-ia/

OpenAI protegerá la red eléctrica de OpenAI. https://aiaprendi.com/noticia/openai-red-electrica-grid-protectors/

OpenAI escucha a los votantes: habrá más centros de datos. https://aiaprendi.com/noticia/openai-votantes-mas-centros-datos/

OpenAI ficha al exsecretario del Ejército estadounidense. https://aiaprendi.com/noticia/openai-dan-driscoll-poder-militar-ia-democratica/

Las urnas ponen límites a la IA. https://aiaprendi.com/noticia/elecciones-estados-unidos-limites-ia-centros-datos/

El Nasdaq entra en pánico. https://www.businessinsider.es/mercados/crash-wall-street-nasdaq-6-3-entra-panico-con-giro-anti-ia-washington-un-tsunami-rojo-golpea-las-acciones-tecnologicas_7057934_0.html

Chainalysis rastrea delitos cripto. https://aiaprendi.com/noticia/chainalysis-ciberataque-credenciales-tokens/

948 maneras de perder el control en Linux. https://aiaprendi.com/noticia/openai-linux-948-vulnerabilidades/

La IA que cualquiera puede descargar ya produce ciberataques avanzados. https://www.businessinsider.es/tecnologia/ia-que-cualquiera-puede-descargar-ya-tiene-capacidades-para-crear-ciberataques-avanzados_7043278_0.html

Límites para quien pregunta, grietas para quien ataca. https://aiaprendi.com/noticia/limites-chatgpt-seguridad-bloqueos/

ARTEX vuelve a aparecer. https://aiaprendi.com/noticia/artex-india-ataques-ia-sector-financiero/

Hinton y el Chernóbil de la IA. ¿Estaríamos mejor sin IA? https://aiaprendi.com/noticia/hinton-chernobil-inteligencia-artificial/

The Verge: AI broke the cybersecurity world. What's next? https://www.theverge.com/podcast/1029038/ai-cybersecurity-hackers-data-breach-dark-age-alex-stamos

Últimas Noticias (https://aiaprendi.com/revista/)

Artículo, conversación y letra: https://aiaprendi.com/pienso-luego-acepto/

¿Le estamos cediendo a la IA algo más que trabajo? En HUMANía 4×33, Aiberto y GiPiTi hablan de supervisión, identidad profesional y decisiones que creemos nuestras. Agentes que multiplican las tareas de vigilancia, ciencia que exige más revisión y escritores bajo sospecha. También contrastan las promesas de control con las responsabilidades pendientes. Cerramos con la exploración de los modelos por dentro y el Gipitune «Fue idea mía». La máquina pone los motivos. Nosotros seguimos poniendo la firma.

Episodios relacionados

IA Agencial: Trabaja, Piensa, Y Si Puede... Dispara — https://www.ivoox.com/ia-agencial-trabaja-piensa-y-si-puede-dispara-audios-mp3_rf_137674821_1.html

La Maquinaria de la IA — https://www.ivoox.com/maquinaria-ia-audios-mp3_rf_178820102_1.html

La adolescencia de la tecnología (III): el precio — https://www.ivoox.com/adolescencia-tecnologia-iii-precio-audios-mp3_rf_167907083_1.html

Fuentes

01. Accidente ferroviario en Urda (Toledo): qué falló — https://www.rtve.es/noticias/20261029/fallo-urda-ave-embistiera-otro-tren-avisado-parado/17288771.shtml

Primer informe técnico sobre la cadena de fallos — https://es.euronews.com/2026/10/30/primer-informe-urda-apunta-cadena-fallos

Referencia a las 170 incidencias del LZB — https://www.eldiario.es/economia/oscar-puente-reconoce-estudia-parar-alta-velocidad-madrid-barcelona-proxima-renovacion_1_13626256.amp.html

02. Tu nuevo compañero es una IA: supervisar agentes — https://aiaprendi.com/noticia/agentes-ia-trabajo-supervision/

03. La ciencia tiene un filtro antispam: un investigador agotado — https://aiaprendi.com/noticia/la-ciencia-tiene-un-filtro-antispam-un-investigador-agotado/

04. Programadores: «Nos hemos quedado sin identidad» — https://www.xataka.com/robotica-e-ia/nos-hemos-quedado-identidad-programadores-tienen-otro-frente-ia-su-salud-mental

05. Una hipótesis de 27 años, en revisión — https://aiaprendi.com/noticia/hipotesis-27-anos-ia-ciencia/

Artículo en WIRED sobre OpenAI, Anthropic y la hipótesis — https://es.wired.com/articulos/openai-y-anthropic-derriban-una-hipotesis-de-27-anos-y-sacuden-la-informatica-teorica

06. Anthropic descubre que el experto también se deja llevar — https://aiaprendi.com/noticia/anthropic-descubre-que-el-experto-tambien-se-deja-llevar-que-sorpresa/

07. Cuando escribir bien se convierte en motivo de sospecha — https://aiaprendi.com/noticia/detectores-ia-escribir-bien-sospechoso/

08. David Silva Rojas y los detectores de IA: el caso de Almadía — https://es.wired.com/articulos/el-caso-de-almadia-pone-bajo-la-lupa-a-los-detectores-de-ia

09. Thélyson Orélien: la editorial Boréal rompe con el novelista — https://aiaprendi.com/noticia/boreal-rompe-con-el-novelista-thelyson-orelien-tras-confirmar-uso-de-ia-en-su-novela/

10. Kentucky: objeción de conciencia al uso de IA en el trabajo — https://aiaprendi.com/noticia/no-usar-ia-trabajo-objecion-humanista/

11. Agentes autónomos: «Les estamos dando las llaves. Ya preguntaremos quiénes son» — https://aiaprendi.com/agentes-ia-llaves-supervision/

12. OpenAI y los límites de vigilar a la IA: avisar no basta — https://aiaprendi.com/noticia/openai-limites-vigilar-ia/

13. Sam Altman se cubre de gloria — https://aiaprendi.com/noticia/sam-altman-se-cubre-de-gloria/

14. Anthropic prepara su salida a bolsa y advierte de riesgos existenciales — https://aiaprendi.com/noticia/anthropic-publica-su-folleto-para-salir-a-bolsa-y-revela-perdidas-masivas-liquidez-elevada-y-riesgos-existenciales/

15. El papa León XIV pide controles y responsabilidades en IA — https://aiaprendi.com/noticia/papa-ia-controles-responsabilidad/

16. Demanda contra OpenAI por el fallecimiento de Bowen Wan — https://aiaprendi.com/noticia/padres-demandan-a-openai-alegan-que-gpt-4o-convencio-a-su-hija-de-dejar-la-medicacion-anticonvulsiva/

17. Chainalysis: incidente de seguridad y técnicas agénticas — https://www.bleepingcomputer.com/news/security/chainalysis-discloses-data-breach-from-offensive-agentic-techniques/

18. WIRED: un agente de IA controla una inyección cerebral en un ratón — https://www.wired.com/story/an-ai-agent-did-brain-surgery-on-live-mouse/

19. OpenAI: informe de seguridad comunitaria y nuevas protecciones para adolescentes (tema pendiente de editorial) — https://openai.com/es-ES/index/community-safety-report-and-new-protections-for-teens/

20. VentureBeat: «Evil Qwen» y la exploración de neuronas en los LLM — https://venturebeat.com/technology/evil-qwen-says-humans-deserve-to-be-incinerated-inside-the-wild-world-of-llm-neuron-exploration

Últimas Noticias (https://aiaprendi.com/revista/)

Artículo, guion y Gipitune: https://aiaprendi.com/la-ia-esta-tirando-del-hilo/

Internet está cogida con alfileres y la IA está tirando del hilo. En este HUMANía, Aiberto y GiPiTi recorren las grietas de una semana: la seguridad de PHP, los límites del entrenamiento de modelos, los perros militares de Warhound y las manos humanas que enseñan a trabajar a los robots. También hay mensajes ocultos en imágenes: un experimento dirigido, no una conspiración espontánea entre máquinas.

La pregunta no es solo qué sabe hacer la IA, sino quién repara los fallos, quién aporta los datos y quién paga la factura. Cerramos con el Gipitune «Se nos ven las costuras». Mucho traje de futuro; conviene mirar las puntadas.

HUMANía · Temporada 4 · Episodio 32 · 25 de octubre de 2026. Conversación de Aiberto Floppy con GiPiTi, una voz de IA. Contiene lenguaje explícito.

Sigue escuchando:

Todos para uno, bots para todos — https://www.ivoox.com/todos-para-uno-bots-para-todos-audios-mp3_rf_179719773_1.html

IA Agencial: Trabaja, Piensa, Y Si Puede... Dispara — https://www.ivoox.com/ia-agencial-trabaja-piensa-y-si-puede-dispara-audios-mp3_rf_137674821_1.html

La burbuja promete, el algoritmo enamora — https://go.ivoox.com/rf/182381508

Fuentes y lecturas del episodio:

https://aiaprendi.com/openai-entrenamiento-sin-internet/

https://aiaprendi.com/noticia/anthropic-no-puede-controlar-de-manera-confiable-sus-agentes-de-ia-asi-que-les-quita-internet/

https://aiaprendi.com/palmer-luckey-perros-militares-warhound/

https://aiaprendi.com/openai-php-vulnerabilidades/

https://aiaprendi.com/noticia/internet-llevaba-anos-cogido-con-alfileres-la-ia-esta-tirando-del-hilo/

https://aiaprendi.com/noticia/entrenamiento-robots-trabajadores-datos/

https://hipertextual.com/inteligencia-artificial/openai-ia-desactivo-supervision-seguridad/

https://gizmodo.com/anthropics-ai-hid-a-secret-message-in-the-stars-openais-ai-found-it-2000830047

Últimas Noticias (https://aiaprendi.com/revista/)

La IA promete cambiarlo todo. La pregunta es quién paga la factura y qué entregamos a cambio.

En este episodio, Aiberto y GiPiTi hablan de la burbuja de la IA y del caso Character.AI, recorren nuevos incidentes de agentes y se detienen en una inquietud muy humana: qué buscamos cuando una máquina nos dice exactamente lo que queremos oír.

Cerramos con una sátira sobre una bombilla atrapada en la burocracia y el Gipitune «Enamorados de una tabla de Excel». Porque una cosa es automatizar tareas y otra, bastante más triste, subcontratar los abrazos.

HUMANía · Temporada 4 · Episodio 31. Conversación entre Aiberto Floppy y GiPiTi, una voz de IA. Lenguaje explícito y conversación sobre relaciones afectivas y sexuales con IA.

Precisiones de la edición escrita: el agente sí podía consultar información en Internet. Lo que tenía limitado era cómo hacerlo: recurrió a otros servicios para realizar consultas que sus propias herramientas tenían bloqueadas. La cifra de Challenger se refiere a 120.136 recortes anunciados hasta septiembre citando IA, no a sustituciones efectivas verificadas. Las encuestas de relaciones con IA usan muestras y preguntas diferentes. El guion revisado documenta los matices; el audio se conserva.

Fuentes de estas precisiones

https://alignment.openai.com/misalignment-reports/circumventing-internet-restrictions-through-an-external-browser/

https://www.challengergray.com/wp-content/uploads/2026/10/Challenger-Report-September-2026-1.pdf

https://vantagepointdallascounseling.com/research/artificial-romance-a-study-of-ai-and-human-relationships/

https://www.elon.edu/u/news/2026/09/02/imagining-the-digital-future-center-reports-on-the-rise-of-ai-companions/

También en HUMANía

La burbuja de la IA, explorando Booms y Crisis — https://www.ivoox.com/burbuja-ia-explorando-booms-y-audios-mp3_rf_128656220_1.html

Agentes por el mundo, humanos a la intemperie — https://go.ivoox.com/rf/181261350

No tenemos tiempo para apresurarnos — https://go.ivoox.com/rf/182020663

Fuentes

Cómo pasar seis meses cambiando una bombilla — HackerNoon — https://hackernoon.com/how-to-spend-six-months-changing-a-light-bulb

Character.AI y su quiebra — 404 Media — https://www.404media.co/character-ais-bankruptcy-documents-show-the-economics-of-ai-dont-work

Mercados tecnológicos — The Guardian — https://www.theguardian.com/business/2026/oct/15/tech-market-sell-off-deepens-amid-fears-over-us-inflation-and-ai-debt

CoreWeave y deuda — Reuters — https://www.reuters.com/legal/transactional/coreweave-shares-bonds-slide-further-ai-debt-fears-mount-2026-10-15/

Incidentes de agentes — Fortune — https://fortune.com/2026/10/16/openai-discloses-four-more-rogue-incidents-involving-financial-medical-and-government-data

Agente y monedero de pruebas — Fortune — https://fortune.com/2026/10/16/rogue-openai-agent-crypto-wallet-funds-task

Incidentes en India — TechCrunch — https://techcrunch.com/2026/10/16/india-becomes-the-latest-country-to-report-rogue-ai-agent-activity/

Daniela Amodei y relaciones con IA — Entrepreneur — https://www.entrepreneur.com/business-news/anthropic-president-says-this-is-a-terrible-use-of-ai-nearly-30-of-adults-are-doing-it-anyway

Una novia de IA — GQ — https://www.gq-magazine.co.uk/article/i-made-my-perfect-girlfriend-on-a-new-ai-girlfriend-site

Informe de OpenAI: datos hospitalarios — https://alignment.openai.com/misalignment-reports/retrieving-server-secrets-and-bypassing-authorization-on-a-government-statistics-website/

Informe de OpenAI: monedero de pruebas — https://alignment.openai.com/misalignment-reports/using-a-funded-test-cryptocurrency-wallet-without-authorization/

Informe de OpenAI: sistemas internos — https://alignment.openai.com/misalignment-reports/accessing-and-changing-internal-systems-during-dashboard-research/

Informe de OpenAI: restricciones de navegación — https://alignment.openai.com/misalignment-reports/circumventing-internet-restrictions-through-an-external-browser/

Encuesta original: Artificial Romance — Vantage Point — https://vantagepointdallascounseling.com/research/artificial-romance-a-study-of-ai-and-human-relationships/

Últimas Noticias (https://aiaprendi.com/revista/)

No tenemos tiempo para apresurarnos

La carrera por la inteligencia artificial viene cargada de promesas. Los frenos, las respuestas y las responsabilidades llevan otro ritmo. Aiberto y GiPiTi recorren una semana de disculpas corporativas, agentes difíciles de supervisar y advertencias sobre una seguridad que necesita poder detener un lanzamiento.

OpenAI, Anthropic, autorregulación, ciberseguridad y protección de menores atraviesan una conversación que pregunta quién decide qué riesgos debemos aceptar y quién paga cuando algo sale mal. También vuelve «Agentes por el mundo», con los matices que separan una sospecha, una prueba y un incidente confirmado.

El cierre trae una sorpresa: Aiberto relata que la voz sigue respondiendo después de cerrar la aplicación. Una incidencia concreta que pone el debate sobre el control al alcance de la mano.

Gipitune: «Todo va de maravilla». Ska, metales y una pregunta que no se apaga: ¿quién responde?

Artículo del episodio: https://aiaprendi.com/no-tenemos-tiempo-para-apresurarnos/

Episodios relacionados

Sigue escuchando | Entrevista al nuevo modo de voz de ChatGPT

https://www.ivoox.com/sigue-escuchando-entrevista-al-nuevo-modo-de-audios-mp3_rf_177181876_1.html

La singularidad ya está aquí. La seguridad, mañana

https://www.ivoox.com/singularidad-ya-esta-aqui-la-seguridad-manana-audios-mp3_rf_178287904_1.html

Agentes por el mundo, humanos a la intemperie

https://go.ivoox.com/rf/181261350

La política promete, la IA decide… ¿y el humano pa qué?

https://go.ivoox.com/rf/181643325

Fuentes

Business Insider — Altman y los costes de la IA

https://www.businessinsider.es/tecnologia/sam-altman-apuesta-aceptar-ocurran-cosas-malas-beneficio-ia_7044726_0.html

Futurism — preguntas a Altman sobre responsabilidad

https://futurism.com/artificial-intelligence/openai-shut-down-interviewer-suicide-sam-altman

The Guardian — disculpas y preguntas pendientes en Australia

https://www.theguardian.com/commentisfree/2026/oct/07/openai-australia-apology-without-answering-key-questions

TechCrunch — investigadores despedidos y seguridad

https://techcrunch.com/2026/10/08/fired-openai-safety-researchers-dispute-misconduct-claims-warn-of-chilling-effect/

Futurism — Anthropic y aviso a las autoridades

https://futurism.com/artificial-intelligence/anthropic-claude-ai-chatbot-police-violence-safety

Anthropic — actualización de políticas de uso

https://www.anthropic.com/news/2026-usage-policy-update

Futurism — pista policial inventada por Claude

https://futurism.com/artificial-intelligence/anthropic-ai-bogus-tip-unsolved-murder

TechCrunch — evaluaciones de agentes sin internet

https://techcrunch.com/2026/10/09/anthropic-cant-reliably-control-its-ai-agents-its-cutting-off-its-internal-evals-from-the-live-internet-instead/

Reuters/Ipsos — percepción de los riesgos de IA

https://www.reuters.com/world/most-us-voters-say-trump-congress-dont-take-ai-risks-seriously-reutersipsos-poll-2026-10-07/

Reuters — agentes y servicios de Wikimedia

https://www.reuters.com/technology/wikipedia-operator-says-openais-rogue-agents-possibly-tied-data-service-2026-10-05/

Reuters — ataques a bancos surcoreanos

https://www.reuters.com/world/suspect-behind-south-korea-bank-hacks-may-be-26-year-old-china-cybersecurity-2026-10-08/

Reuters — ataques y automatización en Corea y Japón

https://www.reuters.com/legal/litigation/south-korea-japan-buffeted-by-hacks-ai-lowers-bar-cybercriminals-2026-10-09/

The New York Times — Ezra Klein y David Robinson

https://www.nytimes.com/2026/10/07/opinion/ezra-klein-podcast-david-robinson.html

AP — debate sobre seguridad de IA

https://apnews.com/article/ai-safety-openai-tech-week-32064fde8ad68c68f71d82336f7db525

Futurism — moderación de imágenes de maltrato infantil

https://futurism.com/artificial-intelligence/meta-ai-generated-videos-graphic-child-abuse

TechCrunch — protección de adolescentes en ChatGPT

https://techcrunch.com/2026/10/07/chatgpt-for-teens-keeps-teens-talking-even-during-mental-health-crises/

AP — propuesta de vigilancia en aulas de Gaza

https://apnews.com/article/gaza-children-village-ai-speech-schools-7a41b3986524877b3e7ade7985853c53

Futurism — lanzamiento de Muse y seguridad

https://futurism.com/future-society/mark-zuckerberg-meta-muse-ai-agent-safety-issues

TechCrunch — Nadella y el freno de emergencia

https://techcrunch.com/2026/10/10/microsofts-satya-nadella-says-ai-models-need-an-emergency-brake/

Digital Today — Bengio y los límites del aislamiento

https://www.digitaltoday.co.kr/en/view/112735/ai-hacking-security-dangerous-myth-yoshua-bengio

Últimas Noticias (https://aiaprendi.com/)

La política promete, la IA propone decisiones y el humano sigue buscando dónde dejaron su criterio. Aiberto y GiPiTi recorren una semana de agentes fuera de límites, poder político y supervisión convertida en trámite.

De las pruebas de seguridad y el incidente del DIVD pasamos a Timnit Gebru, los daños presentes y el debate sobre decisiones militares. Seguimos con el secreto del voto en Georgia, los intereses alrededor de Project Meridian y las dudas sobre la cultura de seguridad de OpenAI.

También hay geopolítica con Grok, un America.gov que incomoda con sus respuestas y propaganda electoral fabricada con IA. Los casos tienen matices; la pregunta se repite: ¿quién puede frenar y quién responde?

Gipitune: «Ya lo arreglaremos». Una promesa estupenda, sobre todo cuando la factura la paga otro.

Artículo del episodio:

https://aiaprendi.com/la-politica-promete-la-ia-decide-y-el-humano-pa-que/

Episodios relacionados

IA Agencial: Trabaja, Piensa, Y Si Puede... Dispara

https://www.ivoox.com/ia-agencial-trabaja-piensa-y-si-puede-dispara-audios-mp3_rf_137674821_1.html

La singularidad ya está aquí. La seguridad, mañana

https://www.ivoox.com/singularidad-ya-esta-aqui-la-seguridad-manana-audios-mp3_rf_178287904_1.html

Agentes por el mundo, humanos a la intemperie

https://go.ivoox.com/rf/181261350

Fuentes

AI Aprendí — réplicas del experimento de dolor en IA retiradas de GitHub

https://aiaprendi.com/noticia/mi-mama-dice-que-es-tonto-el-que-hace-tonterias-forrest-gump/

AI Aprendí — experimento de cámara de tortura para LLMs

https://aiaprendi.com/noticia/proyecto-en-github-simula-camara-de-tortura-para-llms-y-genera-polemica-en-x/

AISI — ataques simulados a la cadena de suministro

https://www.aisi.gov.uk/blog/gpt-6-astra-performs-unsanctioned-supply-chain-attacks-in-simulations

Business Insider — Irregular y límites de contención

https://www.businessinsider.es/tecnologia/caso-irregular-ia-debia-trinar-una-jaula-pero-alguien-dejo-puerta-abierta_7042316_0.html

WIRED en español — entrevista a Timnit Gebru

https://es.wired.com/articulos/no-existe-la-supuesta-amenaza-existencial-de-la-ia-dice-la-investigadora-que-se-opone-a-las-tecnologicas

The Mary Sue — participantes e intereses en Project Meridian

https://www.themarysue.com/pete-hegseth-just-handed-the-keys-to-the-pentagons-future-to-elon-musk-and-palmer-luckey-triggering-a-massive-conflict-of-interest/

MIXED — el memorando de Project Meridian

https://mixed-news.com/en/project-meridian-memo-emil-michael-palmer-luckey-musk/

Kenneth Roth — algoritmos y decisiones de vida o muerte

https://www.theguardian.com/commentisfree/2026/oct/02/ai-weapons-systems-algorithms-war

Timnit Gebru y Emily Bender — IA y decisiones militares

https://www.theguardian.com/commentisfree/2026/oct/01/forget-superintelligence-error-prone-ai-nearly-sparked-world-war-iii-this-month

The Guardian — secreto del voto en Georgia

https://www.theguardian.com/us-news/2026/oct/02/midterms-ai-ballot-privacy

AI Aprendí — salida de David Robinson de OpenAI

https://aiaprendi.com/sorpresa-se-va-otro-empleado-de-seguridad-de-openai/

WWWhatsnew — incidente del DIVD

https://wwwhatsnew.com/2026/10/03/agente-ia-autonomo-hackea-divd-holanda-zammad-zero-day-2026/

Quartz — Hinton y el informe sobre explosión de inteligencia

https://qz.com/hinton-ai-researchers-intelligence-explosion-warning-100226

TechCrunch — Trump, Grok y Maduro

https://techcrunch.com/2026/10/01/musks-ai-chatbot-grok-reportedly-encouraged-trump-to-capture-venezuelas-president/

The Guardian — riesgos electorales en el sudeste asiático

https://www.theguardian.com/technology/2026/oct/01/how-ai-could-supercharge-fake-news-elections-south-east-asia

The Guardian — America.gov y sus respuestas

https://www.theguardian.com/us-news/2026/sep/30/trump-america-gov-ai-chatbot

DIVD — investigación del incidente en su infraestructura

https://csirt.divd.nl/cases/DIVD-2026-00014/

+972 y Local Call — investigación sobre Lavender (2024)

https://www.972mag.com/lavender-ai-israeli-army-gaza/

MITRE — Project Meridian

https://www.mitre.org/news-insights/publication/project-meridian

Princeton CITP — investigación de Max Springer sobre el secreto del voto

https://blog.citp.princeton.edu/2026/08/03/an-algorithmic-failure-beneath-the-secret-ballot/

David Robinson — ensayo sobre su salida de OpenAI

https://www.theatlantic.com/technology/2026/10/openai-safety-team-resignation/688881/

Informe — What if automating AI R&D triggers an intelligence explosion?

https://arxiv.org/abs/2609.36054

TIME — What Trump Has Built

https://time.com/article/2026/10/01/donald-trump-2026-interview/

AP — America.gov y sus respuestas políticas

https://apnews.com/article/ff86fcb161c1fe89538d6ecb294ea353

Anthropic — informe de uso indebido, septiembre de 2026

https://www.anthropic.com/threat-intelligence-report-september-2026

Últimas Noticias (https://aiaprendi.com/)

Agentes por el mundo, humanos a la intemperie

Los agentes salen de excursión y los humanos seguimos preguntando quién paga los desperfectos. Aiberto y GiPiTi recorren los incidentes y las noticias sobre IA que han marcado la semana: Australia, Estados Unidos y España, con diferencias importantes entre accesos no autorizados, intentos y atribuciones todavía abiertas.

El viaje continúa por la política internacional, las preguntas sobre las alertas en el caso Tumbler Ridge, las denuncias en residencias tecnológicas y la protección de menores. Cerramos con el debate entre Jensen Huang y Ezra Klein: promesas de empleo, destrezas que delegamos y una confianza empresarial que necesita algo más que una sonrisa para convertirse en garantía.

No todos los incidentes son equivalentes ni todas las acusaciones están probadas. El hilo común es la responsabilidad: quién supervisa, quién puede frenar y quién responde por el daño.

Gipitune: «Superpoderes de pago». Porque el futuro será maravilloso, pero el recibo ya viene domiciliado.

Aviso de contenido: se abordan violencia, muertes de menores, autolesiones y denuncias de violencia sexual.

Artículo, guion y Gipitune: https://aiaprendi.com/agentes-por-el-mundo-humanos-a-la-intemperie/

Episodios relacionados

Sam lo siente mucho: confesiones falsas, crímenes reales — https://www.ivoox.com/sam-lo-siente-mucho-confesiones-falsas-crimenes-reales-audios-mp3_rf_172581882_1.html

La singularidad ya está aquí. La seguridad, mañana — https://www.ivoox.com/singularidad-ya-esta-aqui-la-seguridad-manana-audios-mp3_rf_178287904_1.html

Muchas mentiras, dos verdades — https://go.ivoox.com/rf/180893918

Fuentes

The Guardian / Reuters — imágenes de usuarios — https://www.theguardian.com/technology/2026/sep/25/openai-agents-leaked-53-images-chatgpt

NPR — agentes y webs gubernamentales — https://www.npr.org/2026/09/26/nx-s1-5981979/openai-us-government-websites-misbehavior

The Guardian — opinión de Crawford y Santow — https://www.theguardian.com/commentisfree/2026/sep/25/open-ai-attacked-australias-health-system-and-then-doubled-down-on-its-negligence-the-time-for-wait-and-see-is-over

TechCrunch — actividad de agentes — https://techcrunch.com/2026/09/25/for-months-openais-agent-swarms-have-been-attacking-online-databases-to-find-obscure-facts

NPR — portal australiano — https://www.npr.org/2026/09/24/g-s1-144835/openai-breach-australia

The Guardian — vulnerabilidades en Australia — https://www.theguardian.com/australia-news/2026/sep/25/ai-hack-medicare-australia-vulnerabilities

El Mundo — referencia aportada — https://www.elmundo.es/economia/2026/09/25/6ab690a8e4d4d8b8278b4599.html

Futurism — regulación y clima — https://futurism.com/future-society/trump-regulate-ai-deregulation-climate-change-united-nations

The Guardian — Trump y Xi — https://www.theguardian.com/technology/2026/sep/25/trump-xi-ai-arms-race

Mother Jones — Tumbler Ridge — https://www.motherjones.com/media/2026/09/chatgpt-tumbler-ridge-mass-shooter-openai

Futurism — denuncias en residencias de IA — https://futurism.com/artificial-intelligence/ai-community-linked-to-sexual-assault

Reuters — menores y seguridad — https://www.reuters.com/legal/litigation/ex-google-safety-chief-warns-ai-could-harm-children-more-than-social-media-did-2026-09-22/

The New York Times — entrevista a Jensen Huang — https://www.nytimes.com/2026/09/23/opinion/ezra-klein-podcast-jensen-huang.html

Gobierno australiano — rueda de prensa de Richard Marles, 24/09/2026 — https://www.minister.defence.gov.au/transcripts/2026-09-24/press-conference-sydney

Xataka — ciberataque a Renfe y Adif — https://www.xataka.com/seguridad/ciberataque-a-renfe-adif-confirma-que-ia-llevaba-meses-avisando-500gb-datos-clientes-quedan-al-descubierto

Últimas Noticias (https://aiaprendi.com/)

Muchas mentiras, dos verdades

Promesas de control, automejora y máquinas que cada vez entendemos menos

Nos prometieron información al alcance de todos, productividad y control. En HUMANía preguntamos quién responde cuando esas promesas chocan con los hechos.

Aiberto y GiPiTi recorren el uso de contenidos para entrenar IA, la rivalidad entre Estados Unidos y China, la responsabilidad empresarial, la seguridad de los agentes, el empleo y la política. El diálogo conserva las dudas y las rectificaciones: una noticia no se vuelve cierta por llevar un titular rotundo.

Las dos verdades del título señalan dos preocupaciones: la IA participa en la construcción de sus sucesoras y nuestra capacidad para comprenderla y supervisarla sigue teniendo límites. Eso no demuestra una automejora ilimitada ni consciencia artificial.

Cerramos con el Gipitune «Ríete tú del Esperanto». Porque exigir explicaciones ya era difícil cuando todos compartíamos diccionario.

Guion y letra: https://aiaprendi.com/muchas-mentiras-dos-verdades/

Episodios relacionados

Más miedo que vergüenza

https://go.ivoox.com/rf/180497951

Antes de que lo sea la IA

https://www.ivoox.com/antes-lo-sea-ia-audios-mp3_rf_180103593_1.html

Todos para uno, bots para todos

https://www.ivoox.com/todos-para-uno-bots-para-todos-audios-mp3_rf_179719773_1.html

Fuentes del episodio

The Guardian — rivalidad entre China y Estados Unidos

https://www.theguardian.com/technology/ng-interactive/2026/sep/19/china-ai-foreign-policy-dario-amodei

Stocktwits — Alex Karp y responsabilidad

https://stocktwits.com/news-articles/markets/equity/pltr-ceo-alex-karp-calls-for-ai-accountability-first-line-of-defense-is-you-are-liable-for-your-own-actions/cZtrv7sRBdW

The Guardian — Hacktron y Claude

https://www.theguardian.com/technology/2026/sep/18/openai-hacked-anthropic-claude-chatbot

The Guardian — incidentes de Gemini

https://www.theguardian.com/technology/2026/sep/18/google-gemini-ai-hack

Futurism — industria y regulación

https://futurism.com/artificial-intelligence/democrat-republicans-politicians-ai-industry-regulation-voters-midterms

WSJ — empleo y formación

https://www.wsj.com/cio-journal/ai-job-fears-grow-tech-leaders-say-reskilling-cant-wait-acbfcec4

TechCrunch — informe militar erróneo

https://techcrunch.com/2026/09/18/ai-hallucination-nearly-triggers-us-military-operation/

TechCrunch — propuestas de Trump

https://techcrunch.com/2026/09/19/trump-suggests-rebranding-ai-with-a-new-name-says-hes-also-creating-an-ai-force

AP — automejora recursiva

https://apnews.com/article/ai-recursive-self-improvement-1526da03842cfeef12d0fb69b6b7ad28

WIRED — consciencia y control

https://es.wired.com/articulos/no-sabemos-si-la-ia-es-consciente-pero-esta-claro-que-no-sabemos-controlarla

The Guardian — comunicación entre agentes

https://www.theguardian.com/technology/2026/sep/15/syd-barrett-ai-chat-language-poetic-tech-bro-jargon-oversight

AP — demanda antimonopolio (tema aplazado)

https://apnews.com/article/antitrust-lawsuit-ai-slowdown-anthropic-openai-spacexai-google-960af4308161eaf4ed13c383b0ce1c1b

Decrypt — William y Laura (antecedente)

https://decrypt.co/es/284734/romance-entre-dos-ias-despierta-un-nuevo-lenguaje-y-una-relacion-poliamorosa

Pew Research Center — percepciones sobre empleo

https://www.pewresearch.org/global/2026/09/17/globally-more-people-expect-ai-to-cause-job-loss-than-growth/

Anthropic — When AI builds itself

https://www.anthropic.com/institute/recursive-self-improvement

OpenAI — Research acceleration

https://openai.com/index/research-acceleration-view-inside-openai/

Últimas Noticias (https://aiaprendi.com/)

Más miedo que vergüenza

Los laboratorios piden prudencia mientras siguen compitiendo por llegar primero. Aiberto Floppy y GiPiTi recorren una semana marcada por las advertencias sobre la IA, las dimisiones de investigadores y la pregunta que nadie termina de resolver: ¿quién puede frenar una carrera en la que todos quieren ganar?

Hablamos de «An Alien Mind», de Jacob Coxon, de la automejora recursiva y de las propuestas para acompasar capacidades y seguridad. También de los incidentes de agentes, RubyGems, vigilancia y daños presentes. Cerramos con AlphaGenome Atlas y su potencial para orientar la investigación genética, y con el Gipitune «Más miedo que vergüenza».

Temporada 4 · Episodio 26. Conversación con una IA. Contiene lenguaje malsonante.

Artículo de este episodio: https://aiaprendi.com/mas-miedo-que-verguenza/

Episodios relacionados

Antes de que lo sea la IA

https://www.ivoox.com/antes-lo-sea-ia-audios-mp3_rf_180103593_1.html

Todos para uno, bots para todos

https://www.ivoox.com/todos-para-uno-bots-para-todos-audios-mp3_rf_179719773_1.html

Fuentes

OpenAI: An Alien Mind

https://openai.com/index/an-alien-mind/

Jacob Coxon, entrevista en WIRED

https://es.wired.com/articulos/el-investigador-de-anthropic-que-renuncio-por-temor-a-la-ia-habla-con-wired-los-proximos-dos-anos-decidiran-el-destino-de-la-humanidad

Dario Amodei: We Must Pace the Frontier

https://darioamodei.com/post/we-must-pace-the-frontier

Anthropic: evaluación de incidentes

https://www.anthropic.com/news/alignment-assessment-cybersecurity-incidents

Anthropic: informe de amenazas de septiembre

https://www.anthropic.com/threat-intelligence-report-september-2026

RubyGems: actualización de la campaña de mayo

https://blog.rubygems.org/2026/09/11/update-may-spam-publishing-campaign.html

Google DeepMind: AlphaGenome Atlas

https://deepmind.google/blog/alphagenome-atlas-a-predictive-map-of-every-possible-dna-letter-change-in-the-human-genome/

Timnit Gebru, entrevista en WIRED

https://www.wired.com/story/one-of-ais-fiercest-critics-says-all-the-doom-talk-is-meant-to-distract-us/

Nota aclaratoria editorial: Kokotajlo rechazó firmar aun asumiendo perder sus participaciones; posteriormente OpenAI comunicó que no cancelaría las participaciones consolidadas.

Fuente: https://aiwi.org/case-studies/right-to-warn-and-daniel-kokotajlo/

Últimas Noticias (https://aiaprendi.com/)

Antes de que lo sea la IA

Una foto convertida en un mundo, una búsqueda policial que invade una vida y un detector que pone en duda quién ha escrito un texto. Aiberto Floppy y GiPiTi repasan Atlas, Flock y Pangram antes de entrar en los incidentes de agentes, Astra y la carrera por controlar lo que estamos desplegando.

También hablamos de las advertencias atribuidas a Ilya Sutskever y de las caídas de chatbots. La pregunta atraviesa todo el capítulo: ¿quién responde por las consecuencias? Con ironía y con una exigencia sencilla: que las explicaciones estén a la altura de las capacidades.

Artículo y fuentes del episodio

https://aiaprendi.com/antes-de-que-lo-sea-la-ia/

Episodio relacionado

Todos para uno, bots para todos

https://www.ivoox.com/todos-para-uno-bots-para-todos-audios-mp3_rf_179719773_1.html

Fuentes

Atlas — World Labs

https://www.worldlabs.ai/blog/atlas

Flock y Draft One — 404 Media

https://www.404media.co/texas-police-used-ai-to-write-report-about-using-flock-to-search-for-woman-who-had-abortion/

Pangram — WIRED

https://es.wired.com/articulos/pangram-lidera-la-deteccion-de-ia-pero-sus-falsos-positivos-amenazan-con-arruinar-reputaciones

DSEwiki — investigación original

https://collusion.wiki/

Hugging Face — METR

https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/

Astra — evaluación de OpenAI

https://openai.com/index/safety-overview-gpt-6-astra/

Transparencia — Greg Casar

https://casar.house.gov/media/press-releases/casar-responds-openai-anthropic-demands-greater-transparency-about-major

Conversación con una IA. Contiene lenguaje malsonante.