Data Science Deep Dive

#81: [PAIQ2] Predictive AI Quarterly

Listen Later

In dieser Folge des Predictive AI Quarterly sprechen wir über die Veröffentlichung von GPT-5 und was sich im Vergleich zu GPT-4 geändert hat. Wir schauen uns an, wie Reasoning jetzt funktioniert und welche Optionen Entwickler*innen bei der Nutzung haben. Außerdem geht's um neue Open-Source-Modelle von OpenAI, die Einführung von TabArena als dynamischem Benchmark für Tabulardaten und spannende Integrationen wie TabPFN in Sourcetable. Im Praxisteil nehmen wir QLoRA unter die Lupe und testen, ob Finetuning mit Quantisierung wirklich so effizient und verlustfrei ist, wie versprochen.

 

** Zusammenfassung **

  • GPT-5 Release: Neues Reasoning-Feature, flexible Steuerung über Parameter und Empfehlungen für die Migration von GPT-4.
  • Open-Source-Modelle von OpenAI: Veröffentlichung von 20B- und 120B-Modellen mit vergleichsweise moderatem Hardwarebedarf.
  • TabArena: Dynamischer Benchmark für tabellarische Daten, der Ensembling und TabPFN bei kleinen Datensätzen hervorhebt.
  • TabPFN in Sourcetable: Integration von Predictive AI direkt in Spreadsheets für nahtlose Nutzung.
  • Praxis-Test QLoRA: Finetuning mit Quantisierung liefert gleiche Qualität wie LoRA, benötigt aber nur halb so viel Speicher.

    •  

    ** Links **

    • OpenAI – GPT-5 für Entwickler*innen vorgestellt: https://openai.com/de-DE/index/introducing-gpt-5-for-developers/
    • OpenAI – API Responses Referenz: https://platform.openai.com/docs/api-reference/responses/create
    • OpenAI – Guide: Reasoning in GPT: https://platform.openai.com/docs/guides/reasoning
    • OpenAI – Modell-Migrationsempfehlungen: https://platform.openai.com/docs/guides/latest-model#migration-guidance
    • Hugging Face – Open-Source GPT 20B: https://huggingface.co/openai/gpt-oss-20b
    • Hugging Face – Open-Source GPT 120B: https://huggingface.co/openai/gpt-oss-120b
    • OpenAI – Ankündigung OSS-Modelle: https://openai.com/de-DE/index/introducing-gpt-oss/
    • Hugging Face – TabArena Leaderboard: https://huggingface.co/spaces/TabArena/leaderboard
    • arXiv – TabArena Paper: https://arxiv.org/abs/2506.16791
    • Sourcetable – Homepage / Tool: https://sourcetable.com/
    • Heise c’t – Artikel "Komprimierte KI" (Februar 2025): https://www.heise.de/select/ct/2025/2/2432617330867723674
    • Heise c’t – Artikel "Quantisierung": https://www.heise.de/select/ct/2025/7/2504911435670065158
    • arXiv – QLoRA Paper (Mai 2023): https://arxiv.org/abs/2305.14314
    • NeurIPS – QLoRA Veröffentlichung: https://proceedings.neurips.cc/paper_files/paper/2023/hash/1feb87871436031bdc0f2beaa62a049b-Abstract-Conference.html
    • arXiv – Paper zu Quantisierung: https://arxiv.org/abs/2501.13787

      • 📬 Fragen, Feedback oder Themenwünsche?

      Schreibt uns gern an: [email protected]

       

      ...more
      View all episodesView all episodes
      Download on the App Store
      Data Science Deep DiveBy INWT Statistics GmbH

      More shows like Data Science Deep Dive

      View all
      tagesschau: Die 20 Uhr Nachrichten (Audio) by tagesschau

      tagesschau: Die 20 Uhr Nachrichten (Audio)

      113 Listeners

      Geschichten aus der Geschichte by Richard Hemmer und Daniel Meßner

      Geschichten aus der Geschichte

      199 Listeners

      Lage der Nation - der Politik-Podcast aus Berlin by Philip Banse & Ulf Buermeyer

      Lage der Nation - der Politik-Podcast aus Berlin

      215 Listeners

      Forschung aktuell by Deutschlandfunk

      Forschung aktuell

      20 Listeners

      Handelsblatt Morning Briefing - News aus Wirtschaft, Politik und Finanzen by Teresa Stiens, Christian Rickens und die Handelsblatt Redaktion, Handelsblatt

      Handelsblatt Morning Briefing - News aus Wirtschaft, Politik und Finanzen

      46 Listeners

      Verbrechen by DIE ZEIT

      Verbrechen

      281 Listeners

      Handelsblatt Disrupt - Der Podcast über die Zukunft der Wirtschaft by Larissa Holzki, Handelsblatt

      Handelsblatt Disrupt - Der Podcast über die Zukunft der Wirtschaft

      15 Listeners

      Die Lage by DER SPIEGEL

      Die Lage

      51 Listeners

      Baywatch Berlin by Klaas Heufer-Umlauf, Thomas Schmitt, Jakob Lundt & Studio Bummens

      Baywatch Berlin

      81 Listeners

      Doppelgänger by Philipp Glöckler, Philipp Klöckner

      Doppelgänger

      13 Listeners

      Quarks Science Cops by Quarks

      Quarks Science Cops

      16 Listeners

      bto – der Ökonomie-Podcast von Dr. Daniel Stelter by Dr. Daniel Stelter

      bto – der Ökonomie-Podcast von Dr. Daniel Stelter

      23 Listeners

      Was bisher geschah - Geschichtspodcast by Joachim Telgenbüscher, Nils Minkmar

      Was bisher geschah - Geschichtspodcast

      46 Listeners

      Der KI-Podcast by ARD

      Der KI-Podcast

      12 Listeners

      KI-Update – ein heise-Podcast by Isabel Grünewald, heise online

      KI-Update – ein heise-Podcast

      2 Listeners