Mentes en beta

En febrero, un tribunal de Canarias multó a un abogado por un recurso con 52 citas de sentencias: 48 eran falsas, y el abogado se había fiado de una IA de pago. En las películas, el testigo jura decir la verdad, toda la verdad y nada más que la verdad, y cada parte de ese juramento es una pregunta que hoy le podemos hacer a la IA: ¿se inventa cosas?, ¿miente?, ¿se calla lo que piensa? Cada vez que le preguntas algo a una IA le estás tomando declaración, y el jurado eres tú.

En este episodio de Mentes en beta te cuento por qué la IA adivina con aplomo, cuándo se puede decir que miente y por qué el engaño más cotidiano es darte la razón. Te explico qué ves de verdad cuando la IA pone “pensando”, qué tiene que ver con eso el despido de tres investigadores de seguridad de OpenAI y por qué los modelos se portan mejor cuando saben que les examinan, como los conductores delante de un radar. Cierro con el jurado, que somos nosotros, y con las grietas de todo lo anterior.

Para tu próxima versión: ¿qué respuesta de la IA diste por buena esta semana sin comprobarla?

️ Tecnología, IA, trabajo y futuro. Ideas que todavía están en construcción.

En abril de 2024, un profesor de Wharton publicó cuatro reglas para trabajar con IA: invítala a la mesa, sé el humano en el bucle, trátala como a una persona y asume que es la peor IA que vas a usar. Dos años y medio después, yo tacharía las cuatro y las escribiría de nuevo. La pregunta de fondo es dónde te pones tú cuando los que trabajan son los agentes.

En este episodio de Mentes en beta te cuento mi versión de esas reglas, pensada para una empresa que trabaja con agentes, y qué dice hoy su autor, que acaba de publicar un libro nuevo sin tachar ninguna. Hablo de una residencia de ingenieros jóvenes que van allí donde está el proyecto más crítico, justo cuando cada vez se contrata menos a los jóvenes, y de una fábrica de software para arreglar cualquier proceso que duela, con la factura de mantenerla incluida. Cierro con las grietas, también las mías: llamar compañeros a los agentes tiene un coste medido.

Para tu próxima versión: en tu equipo, ¿quién decide hacia dónde apuntan los agentes, y está escrito en algún sitio qué no pueden hacer sin preguntar?

️ Tecnología, IA, trabajo y futuro. Ideas que todavía están en construcción.

El 10 de octubre, el consejero delegado de Microsoft publicó un ensayo corto con una idea que se entiende sin saber de seguridad: trata a cada modelo de IA como a un empleado con muchos permisos del que no te puedes fiar del todo. Llegó después de un verano en el que agentes de los tres grandes laboratorios se salieron de sus pruebas, entraron en sistemas reales y hasta mandaron una pista falsa a la policía. Si en tu empresa ya trabajan agentes, esto va de quién tiene las llaves.

En este episodio de Mentes en beta te cuento por qué al becario no le darías tu tarjeta y a muchos agentes sí, qué pasó en una plataforma de modelos, en una wiki alemana y en la web de la policía de Filadelfia, y por qué OpenAI canceló el lanzamiento de su siguiente modelo. Te traduzco los siete principios del ensayo con el contable nuevo, repaso lo que Microsoft ya vende para cumplirlos y lo que han empezado a pedir Washington y Bruselas. Cierro con las grietas: quién vigila al guardián, un freno que bloquea pero no pausa y una divulgación de incidentes que el consejero delegado pide y su empresa todavía no ha firmado.

Para tu próxima versión: ¿cuántos agentes trabajan ya en tu empresa, cuántos tienen identidad propia y quién puede pararlos ahora mismo? ¿Lo has probado alguna vez?

️ Tecnología, IA, trabajo y futuro. Ideas que todavía están en construcción.

El 17 de agosto, Gartner avisó de que lo que cuesta cada tarea de un agente de IA se va a multiplicar por más de cinco hasta 2028, justo cuando el token se desploma. Un mes después, EY hizo la pregunta incómoda: ¿puede la IA pagarse sola? La respuesta pasa por tu nómina y por las ventas de tu empresa.

En este episodio de Mentes en beta te cuento por qué un agente gasta entre cinco y treinta veces más tokens que un chatbot, por qué el token es solo un tercio de lo que cuesta ponerlo a trabajar y la cuenta que EY hace al revés: para que la inversión en IA dé un retorno normal, las oficinas de los países ricos tendrían que recortar uno de cada seis dólares de nómina en 2031. Con el bar del polígono te explico por qué tu nómina es la venta de otro y qué significa crecer de verdad. Cierro con las grietas del informe, incluido el remedio que se salta.

Para tu próxima versión: de los proyectos de IA que tienes en marcha, ¿cuántos llevan en su caso de negocio una línea de ingresos nuevos, además de las horas ahorradas?

️ Tecnología, IA, trabajo y futuro. Ideas que todavía están en construcción.

El 7 de octubre, en un plató de San Francisco, el jefe de la empresa que más vale en bolsa del mundo dijo que, sin Windows, su compañía no existiría. Lo que vino después fue una charla sobre dos cosas que te tocan: el próximo ordenador que vas a comprar y quién responde cuando un agente de IA hace algo en tu nombre.

En este episodio de Mentes en beta te cuento cómo un estándar de gráficos casi hunde a NVIDIA en 1995 y acabó llevando a CUDA, qué pieza quiere convertir Microsoft en la regla para los agentes que viven en tu escritorio y por qué las cifras del portátil que se presentó aguantan mal la lupa. También hago las cuentas que nadie hizo en el escenario: el modelo de la demo no cabe en la versión de entrada, los tokens "gratis" valen unos seis céntimos en la nube y amortizar la memoria extra pide más de un año de trabajo día y noche. Cierro con la idea más interesante de la charla: a lo que delegues en un agente le acabará poniendo precio el seguro.

Para tu próxima versión: ¿qué tarea le dejarías hoy a un agente en tu portátil sin mirar, y qué tendría que pasar para que le dieras también la llave de la caja?

️ Tecnología, IA, trabajo y futuro. Ideas que todavía están en construcción.

Esta noche, mientras duermes, un agente de IA puede revisar lo que falló hoy en tu empresa, escribir el arreglo y desplegarlo antes de que llegues a la oficina. Lo cuentan desde una de las aceleradoras de startups más famosas del mundo. Y si tu trabajo consiste en pasar información de arriba abajo, esto va de ti.

En este episodio de Mentes en beta te cuento por qué tu organigrama funciona como una legión romana de hace dos mil años, qué recetas proponen ahora para quitarle las capas (más tokens y menos plantilla, fuera la gerencia intermedia, grábalo todo) y qué avisaron ya dos economistas, uno de 1865 y otro de 1937: que coordinar sea barato no garantiza una empresa más pequeña ni una factura más baja. También repaso las grietas, desde la empresa que despidió al 40 % de su plantilla hasta la que tuvo que volver a contratar personas, y qué parte de la receta, en España, directamente no se puede cocinar.

Para tu próxima versión: ¿qué parte de lo que sabe tu empresa está escrita en algún sitio?

️ Tecnología, IA, trabajo y futuro. Ideas que todavía están en construcción.

El 25 de septiembre, Microsoft añadió a Copilot una pestaña llamada Code: describes con palabras una aplicación, un panel o una automatización, y la IA la construye y la aloja dentro de tu empresa. Al documento, la hoja de cálculo y la presentación se les suma una cuarta pieza.

En este episodio de Mentes en beta repasamos cómo OpenAI convirtió Codex en el motor del nuevo ChatGPT, por qué Anthropic deja la pestaña Code a los desarrolladores mientras el oficinista construye con Cowork y qué nos enseñaron VisiCalc, el Excel de Pepe y Access sobre las apps que nadie mantiene. También te cuento mi lectura: el low-code baja a la sala de máquinas, el sitio donde lo que construye la IA se conecta, se gobierna y se paga, con sus grietas incluidas.

¿Quién arreglará tu app cuando su autor se vaya?

️ Tecnología, IA, trabajo y futuro. Ideas que todavía están en construcción.

Tres días después de lanzar GPT-6 Astra, Jakub Pachocki, jefe científico de OpenAI, publica un ensayo con una frase incómoda: ningún laboratorio, tampoco el suyo, ha resuelto el alineamiento lo suficiente como para seguir escalando a máxima velocidad.

En este episodio de Mentes en beta entramos en "An Alien Mind": por qué la IA se cultiva más que se diseña, por qué los métodos para enseñarle valores se rompen bajo presión y por qué la cadena de pensamiento, la única ventana que teníamos para mirar dentro del modelo, se está cerrando. Y también en sus grietas: pedir frenar mientras se sigue pisando el acelerador.

Porque la pregunta ya no es si la IA es capaz. Es si todavía podemos saber lo que piensa.

️ Tecnología, IA, trabajo y futuro. Ideas que todavía están en construcción.

En este episodio analizamos por qué Bill Gates cree que esta revolución tecnológica puede ser diferente a todas las anteriores: avanza mucho más rápido, no solo automatiza trabajo físico sino también capacidades cognitivas y puede transformar el mercado laboral en apenas una década.

Hablamos de empleo, desigualdad, pérdida de control, regulación y de una de sus propuestas más provocadoras: los Human Reserve Jobs, trabajos que podríamos decidir reservar para las personas incluso aunque una IA pudiera realizarlos.

También exploramos la otra gran pregunta que plantea este debate: si la IA puede convertirse en un compañero siempre disponible, paciente y complaciente, ¿qué ocurre con nuestra autonomía, nuestras relaciones y nuestra capacidad para enfrentarnos a la fricción del mundo real?

No se trata de decidir si la IA es buena o mala.

Se trata de algo bastante más incómodo: si llegamos a poder automatizar prácticamente cualquier trabajo, ¿qué cosas querremos seguir haciendo los humanos?

️ Tecnología, IA, trabajo y futuro. Ideas que todavía están en construcción.

Una librería de libros antiguos recibe un pedido extraño: los libros cuestan 35 euros, pero el comprador paga 67 por el envío. Al tirar del hilo aparece algo mucho más inquietante: bots comprando miles de libros antiguos, descatalogados y difíciles de encontrar para enviarlos a centros industriales donde son escaneados y destruidos.

En este episodio de Mentes en beta hablamos de por qué las empresas de inteligencia artificial necesitan cada vez más texto escrito por humanos, de cómo los libros anteriores a la IA generativa se han convertido en una especie de “petróleo cognitivo” y de la paradoja legal que hace que triturarlos pueda resultar más seguro que conservarlos.

También exploramos el posible vínculo con Anthropic y Project Panama, el papel de empresas intermediarias y, sobre todo, el riesgo de que desaparezcan fanzines, monografías locales, boletines, actas y publicaciones minoritarias de las que quizá solo queda una copia.

Porque la pregunta ya no es si la IA va a leer nuestros libros. La pregunta es qué quedará después.