Podcast de tecnología e informática con Tomás González

👉 Project Battlematrix – LLM Scaler 1.0: el futuro de la inferencia de LLM en estaciones de trabajo


Listen Later

En este episodio profundizo en todo lo que sabemos sobre Project Battlematrix – LLM Scaler 1.0, la nueva arquitectura de Intel diseñada para escalar modelos de lenguaje grandes en estaciones de trabajo multi-GPU. Analizo su hardware, el stack Linux optimizado, técnicas como la cuantización por capa, paralelismo de datos y pipeline, así como sus casos de uso en empresas e investigación. Una charla extensa para comprender hacia dónde va la infraestructura de IA generativa.

...more
View all episodesView all episodes
Download on the App Store

Podcast de tecnología e informática con Tomás GonzálezBy Tomás González


More shows like Podcast de tecnología e informática con Tomás González

View all
Dentro de la pirámide by NachoAres.com

Dentro de la pirámide

37 Listeners