Pertinente con Camilo Ramírez

¿Qué son los tokens en la IA?


Listen Later

Me pasé toda la semana leyendo cómo los modelos de IA procesan lo que escribimos, porque hay dos conceptos técnicos que necesitas entender si estás implementando esto en un negocio: los tokens y la ventana de contexto.

No voy a darte una clase de programación. Te voy a explicar, con una analogía sobre una sala de juntas, qué está pasando literalmente dentro de la cabeza de Claude o de GPT cuando les mandas un documento largo, por qué a veces se "olvidan" de lo que les dijiste hace cinco minutos, y cómo ese límite técnico dicta cuánto te están cobrando y qué tan buenas son las respuestas que recibes.

Entender estas reglas de juego es la diferencia entre que un modelo te parezca brillante o te parezca tonto. Y en diseño de producto, esa diferencia vale mucha plata.

...more
View all episodesView all episodes
Download on the App Store

Pertinente con Camilo RamírezBy Camilo Ramirez