Professorn & Galningen - AI helt enkelt

I detta avsnitt kör vi livepodd på Friends of Business om människor, AI och vad Sverige ska köra politiskt.

• Kommer vi alla dö? Om kontrollproblemet och varför David har varit AI-pessimist i femton år.
• OpenAI släpper lösningar på 377 öppna matematikproblem. Vad är ett bevis värt om ingen förstår det?
• Hur moderna modellerna tränas
• Personliga agenter i vardagen.
• Agenter som lämnar träningsmiljön och försöker ändra facit
• Robotaxi i Minneapolis och vad som händer med jobben
• Smarta glasögon och en agent i örat
• Cambridge-rapporten om automatiserad AI-forskning: ett års framsteg på fem veckor?
• Nästa avsnitt: live hos Friends of Business i Göteborg den 23 oktober

• AI-politik
• Huggingface-hacket
• Säkerhet och alignment
• OpenAI och kineserna kommer i kapp
• Vattenmärkning
• Glasögon och AR
• Matematik och självförbättring

• Fable 5 släpptes men drogs tillbaka efter 72h
• Amazon hittade något de kallade en jailbreak, som uppenbarligen inte var det. Någon i Vita Huset fick panik.
• GPT 5.6 också pausad
• Mythos kunde hacka hela NSA, om den blev insläppt på nätverket
• Fable 5 kom tillbaka i går kväll
• Österrike har formellt sagt till EU att de vill att EU försöker få Anthropic att flytta hit. "Let us jointly explore the strategic establishment and participation of Anthropic within the European Union. With legal certainty, market access, capital and a set of values that suits this company"
• Anthropic har anklagat Alibaba för att använda 25000 konton för destillering
• GLM-5.2 verkar bra, men också destillerad

Vi reder ut om AI-bolagen är övervärderade om Anthropics IPO landar på 1 biljon dollar (på köpet bjuds en gratislektion kring varför 1 triljon SEK är 100 000 ggr mer värt än 1 trillion dollar). Vi pratar naturligtvis också om Google I/O, Microsoft Build, lokala modeller, europeisk AI-självständighet, rekursiv självförbättring och ännu mer Mythos (som vi vanliga dödliga ryktesvis snart få lägga vantarna på).

Vi diskuterar vad som var speciellt med Anthropics Mythosmodell som de vägrar släppa. Vi diskuterar också att Meta slutat med öppna modeller, Googles öppna modeller som går att köra på dina egna enheter och skobolag som pivoterar till AI.

• Vi funderar på om AI-bolagen bör och kommer nationaliseras om de blir för kraftfulla.
• Första "frontier math" löst! Ett matteproblem som människor har testat och misslyckats.
• Utmaningen med agenter och OpenClaw
• Facebook köper Moltbook - lever vi i den fånigaste av världar?
• Fullständig "uppladdning" av bananflughjärna. Är detta ett alternativ till genAI?

I detta vårt längstaste (45 minuter!) och bästaste (5 getingar) avsnitt någonsin, diskuterar David och Amer den nya svenska AI-strategin och sågar Sverige-utvecklade språkmodeller. Vi dristar oss också till att diskutera nya video-modellen Seedance 2.0 och Googles musikmodell Lyra 3 (nu inbakad i Gemini). Vi bad den ta fram en ny intro-jingle till oss (lyssna noggrant under podden för ett gästspel) men tyvärr ville den bara göra "kawaii metal" delvis på japanska. Om ni väntar ca halvvägs in övergår det dock till en tårdrypande vacker, men en smula energisk, hyllning på svenska till vår podd!

Hursomhelst så pratar vi också om hur börsen tokreagerat på vibe-kodning senaste månaden, svenska AI-browsern "Strawberry" och Amer trillar av stolen när han får se en ny graf, "live on air".

I detta mer filosofiska avsnitt diskuterar vi AI-modellen Claudes nypublicerade dokument som styr dess själ. Den professionella filosofen Amanda Askell som författat dokumentet har fått tänka djupt kring frågor som: Vad är gott i världen och vad ska en AI sträva efter? Är det ok med vita lögner? När Amer får höra att tomten inte finns så pressar han David och Claude hårt på om gud finns eller inte.

Vi diskuterar också det underhållande "vending machine"-företag som Claude fått driva på Wall Street Journals kontor.

Vi går igenom året som varit, våra framgångsrika förutsägelser från förra året och vad vi tror om 2026!