PointerPodcast

⚰️ La settimana che si è conclusa ha visto l'arrivo di GPT 5.5 e soprattutto di Deepseek v4. Per iniziare la puntata ci siamo occupati del blog post di Anthropic riguardante i problemi di Claude Code, segnalati da tantissimi utenti nelle scorse settimane, che comportavano consumi eccessivi di token e scarsa qualità delle risposte. 👊🏻 Sempre parlando di problematiche ed incidenti, Eugenio ci ha raccontato quello accaduto a Vercel che ha messo a rischio una parte di utenti e ha comportato la compromissioni delle loro variabili d'ambiente memorizzate su Vercel. 🧑🏻‍🚒 Per chiudere, parliamo del fenomeno del Tokenmaxxing e della enorme spinta delle aziende Big Tech verso l'utilizzo sempre più massiccio dell'AI. Questo porta i dipendenti ad usare l'AI anche in contesti dove non sarebbe necessario, tanto per il gusto di sprecare più token possibili e risultare produttivi.Supporta il PointerPodcast

Prodotto della settimana

Note Puntata

I nostri contatti:

🔐 Nella puntata di questa settimana ci occupiamo ancora di Mythos, il nuovo LLM di Anthropic, analizzando il blog di Aisle riguardante l'uso di small LLM, e il blog post di AI Security Institute. 🧪 In tema di AI applicata al codice, parliamo del paper 'Embarassingly Simple Self Distillation' di Apple. Si tratta di un metodo estremamente semplice: il modello genera codice, lo riusa come dataset per il fine tuning e modifica il suo comportamento in base a diversi parametri. Il risultato è un miglioramento della performance nel coding. 🤯 Molto interessante è il meccanismo alla base di SSD. Il modello non ha bisogno di supervisione umana diretta dal momento che impara da sé stesso. Separando token 'Lock' e token 'fork' SSD riesce a rendere il modello più o meno stabile a seconda delle necessità.Supporta il PointerPodcast

Prodotto della settimana

Note Puntata

I nostri contatti:

🔐 Per cominciare la puntata parliamo di Mythos, il nuovo modello di Anthropic ,'troppo potente per essere rilasciato', dotato di capacità fuori scala nell'individuare vulnerabilità. In diversi test è stato in grado di scoprire bug nascosti da decenni in sistemi come OpenBSD, FreeBSD e nel kernel Linux, fino ad arrivare a scrivere exploit funzionanti. 🛡️ Un segnale chiaro: modelli sempre più bravi nel reasoning e nel coding stanno iniziando a cambiare anche il mondo della sicurezza. La buona notizia? Queste capacità possono essere usate sia per attaccare che per difendersi! ⚛️ Concludiamo occupandoci di quantum computer, partendo da un'analisi sullo stato dell'arte per arrivare ad una previsione sui progressi che potranno avvenire nei prossimi anni: tra limiti attuali e scenari possibili possiamo dire di essere vicini a un punto di svolta o il quantum computer è vicino solo 10 anni come lo è da 30 anni?Supporta il PointerPodcast

Prodotto della settimana

Note Puntata

I nostri contatti:

👾 Apriamo la puntata con un argomento di spessore e un momento nostalgia: Pokemon Pokopia. Eugenio, che attualmente è molto preso dal gioco, come non accadeva da un po', ha cercato di convincerci a provarlo. Ci sarà riuscito? 👊🏻 Il tema centrale della puntata è stato l'attacco subito da LiteLLM nei giorni scorsi. Abbiamo cercato di capire come questo è avvenuto, quali sarebbero potute essere le conseguenze ma soprattuto come hanno fatto gli utenti a scoprire cosa stava succedendo. Questa volta è andata bene ed un errore degli attaccanti ha evitato il peggio. 💬 Chiudiamo parlando di OpenAI e Anthropic e di come questi giganti abbiamo deciso, più o meno spontaneamente, di utilizzare i servizi della startup ThroughLine. Questa permette di classificare gli utenti in base ad alcuni criteri di rischio. Ora la startup starebbe ampliando la sua offerta dando la possibilità di prevenire estremismi violenti.Supporta il PointerPodcast

Prodotto della settimana

Note Puntata

I nostri contatti:

🎬 Apriamo la puntata di questa settimana parlando della recente chiusura di Sora da parte di Open AI. Modelli di questo tipo richiedono costi elevati ed evidentemente nemmeno Open AI può più permettersi di perdere soldi.⚡ Il cuore della puntata è dedicato a TurboQuant, una tecnica che promette una quantizzazione più efficace, da utilizzare anche per la KV Cache . Tra vettori, quantizzazione e compromessi tra compressione e qualità, vediamo come sia possibile ridurre drasticamente la memoria utilizzata mantenendo prestazioni elevate, avvicinandosi persino ai limiti teorici della compressione. 🏗️ Chiudiamo con uno sguardo all’infrastruttura che rende tutto questo possibile: i nuovi rack NVIDIA pongono sfide enormi in termini di energia e raffreddamento. Tra data center sempre più energivori e strategie tra nucleari e rinnovabili, il futuro dell’AI passa anche (e soprattutto) da qui.Supporta il PointerPodcast

Prodotto della settimana

Note Puntata

I nostri contatti:

🤖 Nella puntata di questa settimana ci occupiamo di vari argomenti: iniziamo con un follow-up sugli strumenti AI Google. Stitch, AI Studio e Gemini. Possono questi tre essere un buon punto d'inizio per lo sviluppo di un'app Android? 🛡️ Torniamo a parlare di OpenClaw, sistema diventato famoso per la sua innovazione e per i problemi di sicurezza. Proprio per risolvere questi problemi, Nvidia ha rilasciato NemoClaw, una libreria che vi permetterà di usare il vostro sistema ad agenti con meno preoccupazioni. 🧠 Concludiamo parlando della cosiddetta 'token anxiety' e dell'impatto che l'AI ha nel lavoro degli sviluppatori, tra continue pressioni ad usare questi strumenti e aziende che iniziano a misurare le performance anche in base all'uso dei token. Date le premesse, una domanda è d'obbligo: stiamo diventando più produttivi o solo più dipendenti da questi strumenti?Supporta il PointerPodcast

Prodotto della settimana

Note Puntata

I nostri contatti:

Questa settimana la formazione del podcast ritorna al completo! Per cominciare riprendiamo il discorso su Omarchy, concentrandoci in particolare sul window manager e su come è replicabile un comportamento analogo su macOS. Eugenio ha testato un nuove eReader di cui ha particolarmente apprezzato le dimensioni compatte, la possibilità di modding e la compatibilità con il Magsafe dell'iPhone. Immancabile lo spazio dedicato alle LLM con Luca, che le sta utilizzando per esplorare delle repo e capire il funzionamento di una libreria, mentre Alessandro ci ha parlato del suo nuovo sito agent-firstSupporta il PointerPodcast

Prodotto della settimana

Note Puntata

I nostri contatti:

Puntata in solitaria e più breve del solito, registrata con un setup inedito. Doveroso iniziare con un follow-up per parlare di Anthropic e di Open AI e del differente approccio che le due aziende hanno adottato verso il Pentagono. Luca ci racconta della sua esperienza con Omarchy OS, dei suoi keybindings, dell'utilizzo da tastiera e delle prime impressioni dopo qualche giorno di utilizzo. Chiudiamo poi con un'analisi su come l'AI sta cambiando il web e il modo in cui gli utenti visitano i siti web e si informano. È questa la direzione in cui vogliamo andare?Supporta il PointerPodcast

Prodotto della settimana

Note Puntata

I nostri contatti:

🇨🇳 La notizia della settimana è la polemica nata tra Anthropic e varie aziende Cinesi che sono state accusate di avere rubato risposte da Claude per allenare i loro modelli. Condividiamo i loro sentimenti, ma in questo momento siamo davanti alla Corte d'Assise e Anthropic è accusata di avere allenato i suoi modelli su milioni di libri. (Cit.) 🥷🏻 Nonostante il suo interesse verso lo sviluppo di un'AI etica, la stessa Anthropic è finita al centro delle polemiche per dei cambiamenti relativi ad alcune sue politiche sullo sviluppo dei modelli. Il tutto è successo mentre voci vorrebbero il Pentagono in forte pressing sull'azienda per fornire modelli privi di guardarail. ✍️🏻 Si parla ormai continuamente di file agents.md, molte sono i post in cui si propone il contesto definitivo da dare ai nostri agenti per farli diventare dei 10x developer. Ma questi file saranno davvero così utili? Alcuni ricercatori hanno dato una risposta a questa domanda spiegando come la qualità delle risposte degli agenti varia in base alla presenza del file agents.md.Supporta il PointerPodcast

Prodotto della settimana

Note Puntata

I nostri contatti:

❓ 'Il modello ha 397 miliardi di parametri ma solamente 17 miliardi vengono attivati per ogni forward pass'. Probabilmente avrete sentito frasi di questo tipo nel corso degli ultimi mesi, ma qual è il motivo per cui solamente una parte dei miliardi di parametri di un LLM viene attivato? 💥 In questa puntata cerchiamo di dare una risposta alla domanda precedente, spiegandovi cosa sono e come funzionano i modelli Mixture of Experts e per quale motivo sono diventati popolari nel corso dell'ultimo periodo. 🎵 Prima di concludere, abbiamo lasciato spazio ad una discussione riguardante Lyria 3, il nuovo servizio di generazione di musica di Google, che Alessandro ha testato e di cui ci fornisce un feedback.Supporta il PointerPodcast

Prodotto della settimana

Note Puntata

I nostri contatti: