Verbos: AI og Softwareudvikling

I denne episode af Verbos Podcast diskuterer Kasper Junge og Jonas Høgh Kyhse-Andersen de seneste nyheder inden for AI, herunder Googles nye Genie 2-model, opdateringer til Lama 3.3, OpenAI's 'Shipmas' initiativ, og nye abonnementsmuligheder for ChatGPT. De udforsker også fremtidige interaktioner med AI-modeller og hvordan disse teknologier kan ændre vores måde at arbejde og kommunikere på. I denne samtale diskuterer Kasper Junge og Jonas Høgh Kyhse-Andersen emner relateret til OpenAI's nye API til reinforcement learning, hvordan det kan anvendes til fine tuning af AI-modeller, samt de tekniske aspekter af kvantecomputing og qubits. De dykker ned i forskelle mellem gamle og nye metoder inden for reinforcement learning og giver eksempler fra medicinsk forskning. Samtalen berører også stabiliteten af reinforcement learning pipelines og de seneste fremskridt inden for kvantecomputing, herunder Googles Willow chip. I denne samtale diskuterer værterne emner relateret til computere, kvantemekanik, AI-strategier og personlige oplevelser fra Silicon Valley. De dykker ned i tekniske aspekter af computere, herunder støjfølsomhed og kvantecomputing, samt de filosofiske og praktiske implikationer af sprogteori i AI. Derudover præsenteres en ny AI-strategi for digitalisering i Danmark, og værterne deler personlige anekdoter fra deres rejse til Silicon Valley. I denne episode diskuterer Kasper Junge og Jonas Høgh Kyhse-Andersen deres oplevelser fra en konference om LLM-forskning og udvikling. De dykker ned i emner som fine-tuning af modeller, udfordringer ved sprogunderstøttelse, og Metas strategi for at fremme open source AI. Gennem samtalen fremhæves vigtigheden af samarbejde og feedback fra udviklerfællesskabet for at forbedre AI-teknologier.

Chapters

00:00 Introduktion til AI-nyheder

I denne episode af Verbos Podcast dykker værterne ned i chip design og digital teknologi med Jørgen Kragh Jakobsen. Der præsenteres en demonstration af VR-briller, der giver lytterne mulighed for at se ind i chip design. Jørgen diskuterer vigtigheden af dansk innovation inden for chip teknologi og fremhæver potentialet for open source chip design og Tiny Tape Out. Diskussionen inkluderer også reaktioner fra publikum og fremtidige muligheder for at gøre chip design mere tilgængeligt. I denne samtale diskuterer deltagerne de nuværende udfordringer og muligheder inden for AI og hardware, herunder Tiny Tape Out, som revolutionerer chip design ved at muliggøre crowdsourcing. Derudover berører de fremtidige udsigter for chip design i Danmark, oprettelsen af et Dansk Chip Kompetence Center, og hvordan neomorphic computing kan ændre AI-landskabet. Samtalen afsluttes med en diskussion om transformer-modeller og deres integration i hardware. I denne samtale diskuterer Jørgen Kragh Jakobsen og Jonas Høgh Kyhse-Andersen de nuværende udfordringer og muligheder inden for chip design, herunder GPU-arkitektur, hyperscalere, og den stigende betydning af edge computing. De berører også emner som innovationshastighed, alternative teknologier, og hvordan open source kan revolutionere chip design. Samtalen afsluttes med personlige anekdoter og refleksioner over fremtiden for teknologi.

Følg Jørgen Kragh Jakobsen på LinkedIn: https://www.linkedin.com/in/jørgen-kragh-jakobsen-52a972/

Link til Jørgens VR software: https://icworks.dk/vr/

Links til alle de ting vi snakker om:

efabless: https://efabless.com/

Spade: https://spade-lang.org/

Surfer: https://surfer-project.org/

Tinytapeout TT06 Bringup Party: https://ida.dk/arrangementer-og-kurser/arrangementer/tinytapeout-tt06-bringup-party-358128

Neuromorphic computing: https://en.wikipedia.org/wiki/Neuromorphic_computing

Farshad Moradi: https://www.au.dk/en/[email protected]

Pragmatic: https://www.pragmaticsemi.com/

Cerebras: https://cerebras.ai/product-chip/

Lightmatter: https://lightmatter.co/products/passage/

Chapters

00:00 Introduktion til chip design og VR teknologi

I denne episode af Verbos Podcast diskuterer værterne Kasper Junge og Jonas Høgh Kyhse-Andersen de nuværende udfordringer i AI-udviklingen, herunder diminishing returns, samarbejdet mellem Google og OpenAI, samt vigtigheden af dataens kvalitet og de økonomiske aspekter ved træning af AI-modeller. I denne samtale diskuterer Kasper Junge og Jonas Høgh Kyhse-Andersen de nuværende tendenser inden for AI, herunder investeringer i nye modeller som GPT-5 og GPT-6, samt de økonomiske realiteter bag hype. De udforsker også kreative tilgange til AI-udvikling, herunder 'chain of thought' prompting og 'test time training', som kan forbedre AI-modellers præstationer. Desuden præsenteres et nyt projekt, Garak, der fokuserer på LLM-sikkerhed. I denne samtale diskuterer Kasper Junge og Jonas Høgh Kyhse-Andersen de sikkerhedsudfordringer, der er forbundet med store sprogmodeller (LLM'er), herunder problemer som prompt injection, hallucinationer og misinformation. De taler også om vigtigheden af at teste og evaluere LLM'er for at sikre, at de fungerer korrekt og etisk. Diskussionen berører nuværende evalueringsmetoder og deres begrænsninger, samt fremtidige perspektiver for AI-ingeniører.

Links:

🔥 Test-time Training paper: https://arxiv.org/abs/2411.07279

🔥 Ugens repo: https://github.com/NVIDIA/garak

Kapitler

00:00 Introduktion til AI-udviklingens udfordringer

03:09 Google og OpenAI's samarbejde

05:59 Diminishing Returns i AI-modeller

09:01 Kvalitet vs. kvantitet i data

12:02 Innovative metoder til dataindsamling

14:59 Økonomiske udfordringer i AI-udvikling

21:05 Investeringer i AI: Hype og Realiteter

23:12 Kreativ Tænkning i AI-udvikling

24:35 Chain of Thought: En Ny Tænkning i AI

30:02 Test Time Training: En Revolution i AI

40:21 Ugens Repo: Garak og LLM-sikkerhed

43:40 Sikkerhedsudfordringer ved LLM'er

47:54 Testning og evaluering af LLM'er

54:00 Kritik af nuværende evalueringsmetoder

59:52 Afslutning og fremtidige perspektiver

I denne episode af Verbos podcast diskuterer værterne Kasper Junge og Jonas Høgh Kyhse-Andersen de seneste fremskridt inden for AI, herunder Tencent's nye LLM, Hunyan MoE A52B, og den innovative startup Phi Zero, der fokuserer på at udvikle fysisk intelligens. De udforsker også emner som generelle foundation modeller i robotics og balancen mellem specialisering og generalisering i AI-forskning. I denne samtale diskuterer værterne Jonas Høgh Kyhse-Andersen og Kasper Junge emner relateret til robotteknologi, sprogmodeller og den nyeste udvikling inden for audio generation. De reflekterer over, hvordan tilgængeligheden af software har fremmet innovation og hvordan nye værktøjer som Notebook LM kan revolutionere måden, vi interagerer med information på. Samtalen dykker også ned i de teknologiske udfordringer ved at generere naturlig lyd og opretholde koherens i audio-modeller. I denne episode diskuterer værterne Jonas Høgh Kyhse-Andersen og Kasper Junge emner relateret til stemmemodellering, akustik og AI-integration. De dykker ned i, hvordan akustiske og semantiske tokens bruges i AI-modeller, og hvordan disse teknologier kan anvendes i praktiske applikationer som Integuru, et framework til automatisering af API-interaktioner. Samtalen udforsker også, hvordan LLM'er kan forbedres ved at strukturere information og dokumentation.

Chapters

00:00 Introduktion til AI og Tencent

Links

https://github.com/Tencent/Tencent-Hunyuan-Large

https://www.physicalintelligence.company/blog/pi0?blog

https://deepmind.google/discover/blog/pushing-the-frontiers-of-audio-generation/

https://research.google/blog/soundstream-an-end-to-end-neural-audio-codec/

AudioLM: https://arxiv.org/abs/2209.03143

W2v-BERT: https://arxiv.org/abs/2108.06209

https://github.com/Integuru-AI/Integuru

I denne episode af Verbos Podcast diskuterer Kasper Junge og Jonas Høgh Kyhse-Andersen status på AI-udviklingen, herunder udfordringer og muligheder inden for generative AI og recommender systems. De reflekterer over klassifikationsmodeller, LLMs, og vigtigheden af transparens og tillid i AI-applikationer. Desuden berører de fremtidige muligheder for AI-teknologi og potentialet i talegrænseflader. I denne samtale diskuterer Kasper Junge og Jonas Høgh Kyhse-Andersen emner relateret til digital interaktion, fremtidens teknologi, innovative kommunikationsmetoder og nye brugergrænseflader. De udforsker, hvordan teknologi påvirker vores adfærd og interaktioner, samt hvordan nye interfaces kan ændre måden, vi arbejder og kommunikerer på. Samtalen berører også emner som computer use og de udfordringer, der følger med høje abstraktionsniveauer i softwareudvikling. I denne samtale diskuterer værterne Jonas Høgh Kyhse-Andersen og Kasper Junge emner relateret til RPA, AI værktøjer, og multiagent systemer. De udforsker OpenAI's Swarm og Crew AI, samt hvordan agenter kan implementeres i AI systemer. Derudover berører de vigtigheden af datahåndtering og prompt versionering i udviklingsprocesser.

Chapters

00:00 Status på AI-udviklingen

I denne episode af Verbos Podcast diskuterer Kasper Junge, Jonas Høgh Kyhse-Andersen og Anders Bæk fremtiden for kunstig intelligens (AI) og dens indvirkning på samfundet.

De udforsker emner som selvkørende biler, AI-assistenter, og hvordan AI vil ændre vores kommunikation og produktivitet. Anders Bæk deler sin baggrund og perspektiv på AI, og de diskuterer de paradigmer, der vil forme fremtidens AI-teknologi. Samtalen berører også samfundets accept af ny teknologi og hvordan AI vil blive en integreret del af vores hverdag. I denne samtale diskuterer deltagerne de fremtidige implikationer af AI og selvkørende biler. De berører emner som inflation i AI, kvalitetsmærkning af produkter, real world AI, og hvordan selvkørende biler kan revolutionere trafikken og byplanlægning. Derudover diskuteres dataindsamling, brugeradoption og de sociale ændringer, der kan følge med overgangen til selvkørende biler. I denne samtale diskuterer værterne fremtiden for humanoide robotter, deres integration i hverdagen og arbejdsmarkedet, samt de etiske og sikkerhedsmæssige udfordringer, der følger med. De berører også emnet kunstig generel intelligens (AGI) og hvordan det kan ændre vores forståelse af intelligens og teknologi. I denne episode diskuterer værterne AGI (Artificial General Intelligence) og de potentielle fremtidige konsekvenser af AI-teknologi. De udforsker forskellige synspunkter om, hvordan AGI kan opnås, de etiske overvejelser og risici forbundet med avanceret AI, samt hvordan samfundet kan ændre sig i takt med udviklingen af robotter og AI-systemer. Diskussionen inkluderer også muligheden for robotrettigheder og hvordan AI kan påvirke menneskelig status og velstand.

Chapters

00:00 Introduktion til AI og Fremtiden

I ugens afsnit taler vi ny version af Python, “nyt” Llama release, Liquid Foundation Models og en bonus nyhed!

Links:

Chapters

00:00 Introduktion til AI-nyheder

I denne uge taler vi om OpenAI DevDay releases, 100 millioner token kontekst vinduer fra magic.dev, de nye multimodale Molmo modeller fra Ai2o og så napper vi også ugens repo, som i denne uger kommer fra en lytter 🚀

Links:

https://magic.dev/blog/100m-token-context-windows

https://molmo.allenai.org/blog

https://x.com/OpenAIDevs

https://platform.openai.com/docs/changelog

https://github.com/lyogavin/airllm (Tak til Mathias Emil Slettemark-Nielsen 🙏)

https://rlhfbook.com/

Chapters

00:00 Introduktion til AI-nyheder

03:04 Magic.dev og 100 millioner tokens

06:05 ModMo modellerne fra Allen AI

08:57 Debat om danske sprogmodeller

11:56 Effektivitet i kontekstvinduer

14:57 Induction heads og retrieval

17:55 Malmo og Vision Language Models

20:50 Dataindsamling og kvalitet

24:01 Afslutning og fremtidige perspektiver

39:39 Innovationer i ChatGPT

40:54 Dataens Værdi i AI Modeller

43:51 Udfordringer med Data Science

44:38 OpenAI Dev Day og API Opdateringer

45:45 Real-time API og WebSocket Kommunikation

49:50 Model Distillation og Fine Tuning

53:33 Vision Fine Tuning i AI

55:46 Evaluering af LLM'er med EVALS

01:00:10 Prompt Caching og Omkostningsbesparelser

01:06:36 Unes Repo og LLM Inference

01:12:15 Afslutning og Anbefalinger

I dette afsnit har Kasper Mads Henrichsen med i studiet til en snak om om OpenAI’s nye LLM o1 🚀 

Chapters

00:00 Introduktion til OpenAI's O1 Model

02:58 Rygter og Forventninger omkring O1

06:04 Brugeroplevelse med O1 vs. Tidligere Modeller

09:04 Træningsmetoder og Dataindsamling

11:58 Reasoning og Problemløsning i O1

14:59 Fremtidige Udfordringer og Muligheder

17:58 Sammenligning med Andre Modeller

21:01 Brugervenlighed og Effektivitet

23:52 Afsluttende Tanker om O1

I denne uge snakker vi om Prompt Engineering og andre AI ting. Peace out 🦅

Chapters

00:00 Introduktion til prompt engineering

02:06 Klare instruktioner og personalisering

05:46 Backend-opgaver og prompt engineering

09:14 Balancen mellem brugerfrihed og automatisering

19:41 Prompt engineering og ligheder med shell scripts

25:02 Prompt engineering og piping af Unix Shell Scripts

28:07 Udnyttelse af softwaren og augmentering af den mentale kapacitet

29:30 Afdækning af brugerens behov og instruktion af LLM'erne

36:31 Overdreven search intent og Googles søgealgoritme

43:48 Begrænsning af agentmodellers frihedsgrader

45:21 Anvendelse af store sprogmodeller til problemløsning

49:13 Post-training efforts og undgåelse af hallucinationer

53:19 Prompt engineering som et bevægeligt mål