In questo secondo episodio di SINAPSIA, esploro un sorprendente paradosso nell'architettura dei modelli linguistici avanzati: perché Claude 3.7 Sonnet fallisce in un semplice test matematico?

Attraverso l'esperimento del "numero dispari", rivelo come i modelli di IA distribuiscano l'attenzione in modo sbilanciato, concentrandosi eccessivamente sui comandi iniziali e perdendo di vista l'obiettivo finale. Scoprirai perché un'IA sceglie il numero 6 quando le viene chiesto di produrre un numero dispari.

Un viaggio affascinante nel meccanismo di attenzione dei transformer, che spiega non solo questo specifico fallimento, ma illumina una vulnerabilità fondamentale presente in tutti i modelli linguistici avanzati, con implicazioni sorprendenti per chiunque utilizzi questi strumenti.

P.S. Gli audio sono stati generati con la funzione 'Overview audio' di NotebookLM di Google