Data Science Deep Dive

#81: [PAIQ2] Predictive AI Quarterly


Listen Later

In dieser Folge des Predictive AI Quarterly sprechen wir über die Veröffentlichung von GPT-5 und was sich im Vergleich zu GPT-4 geändert hat. Wir schauen uns an, wie Reasoning jetzt funktioniert und welche Optionen Entwickler*innen bei der Nutzung haben. Außerdem geht's um neue Open-Source-Modelle von OpenAI, die Einführung von TabArena als dynamischem Benchmark für Tabulardaten und spannende Integrationen wie TabPFN in Sourcetable. Im Praxisteil nehmen wir QLoRA unter die Lupe und testen, ob Finetuning mit Quantisierung wirklich so effizient und verlustfrei ist, wie versprochen.

 

** Zusammenfassung **

  • GPT-5 Release: Neues Reasoning-Feature, flexible Steuerung über Parameter und Empfehlungen für die Migration von GPT-4.
  • Open-Source-Modelle von OpenAI: Veröffentlichung von 20B- und 120B-Modellen mit vergleichsweise moderatem Hardwarebedarf.
  • TabArena: Dynamischer Benchmark für tabellarische Daten, der Ensembling und TabPFN bei kleinen Datensätzen hervorhebt.
  • TabPFN in Sourcetable: Integration von Predictive AI direkt in Spreadsheets für nahtlose Nutzung.
  • Praxis-Test QLoRA: Finetuning mit Quantisierung liefert gleiche Qualität wie LoRA, benötigt aber nur halb so viel Speicher.
  •  

    ** Links **

    • OpenAI – GPT-5 für Entwickler*innen vorgestellt: https://openai.com/de-DE/index/introducing-gpt-5-for-developers/
    • OpenAI – API Responses Referenz: https://platform.openai.com/docs/api-reference/responses/create
    • OpenAI – Guide: Reasoning in GPT: https://platform.openai.com/docs/guides/reasoning
    • OpenAI – Modell-Migrationsempfehlungen: https://platform.openai.com/docs/guides/latest-model#migration-guidance
    • Hugging Face – Open-Source GPT 20B: https://huggingface.co/openai/gpt-oss-20b
    • Hugging Face – Open-Source GPT 120B: https://huggingface.co/openai/gpt-oss-120b
    • OpenAI – Ankündigung OSS-Modelle: https://openai.com/de-DE/index/introducing-gpt-oss/
    • Hugging Face – TabArena Leaderboard: https://huggingface.co/spaces/TabArena/leaderboard
    • arXiv – TabArena Paper: https://arxiv.org/abs/2506.16791
    • Sourcetable – Homepage / Tool: https://sourcetable.com/
    • Heise c’t – Artikel "Komprimierte KI" (Februar 2025): https://www.heise.de/select/ct/2025/2/2432617330867723674
    • Heise c’t – Artikel "Quantisierung": https://www.heise.de/select/ct/2025/7/2504911435670065158
    • arXiv – QLoRA Paper (Mai 2023): https://arxiv.org/abs/2305.14314
    • NeurIPS – QLoRA Veröffentlichung: https://proceedings.neurips.cc/paper_files/paper/2023/hash/1feb87871436031bdc0f2beaa62a049b-Abstract-Conference.html
    • arXiv – Paper zu Quantisierung: https://arxiv.org/abs/2501.13787
    • 📬 Fragen, Feedback oder Themenwünsche?

      Schreibt uns gern an: [email protected]

       

      ...more
      View all episodesView all episodes
      Download on the App Store

      Data Science Deep DiveBy INWT Statistics GmbH


      More shows like Data Science Deep Dive

      View all
      Lage der Nation - der Politik-Podcast aus Berlin by Philip Banse & Ulf Buermeyer

      Lage der Nation - der Politik-Podcast aus Berlin

      226 Listeners

      Jung & Naiv by Tilo Jung

      Jung & Naiv

      47 Listeners

      Hotel Matze by Matze Hielscher & Mit Vergnügen

      Hotel Matze

      187 Listeners

      Spektrum-Podcast by detektor.fm – Das Podcast-Radio

      Spektrum-Podcast

      22 Listeners

      Handelsblatt Disrupt - Der Podcast über die Zukunft der Wirtschaft by Sebastian Matthes, Handelsblatt

      Handelsblatt Disrupt - Der Podcast über die Zukunft der Wirtschaft

      18 Listeners

      Baywatch Berlin by Klaas Heufer-Umlauf, Thomas Schmitt, Jakob Lundt & Studio Bummens

      Baywatch Berlin

      82 Listeners

      Reif ist live – Fußball Talk von BILD by BILD

      Reif ist live – Fußball Talk von BILD

      34 Listeners

      F.A.Z. Künstliche Intelligenz by Frankfurter Allgemeine Zeitung

      F.A.Z. Künstliche Intelligenz

      0 Listeners

      LANZ & PRECHT by ZDF, Markus Lanz & Richard David Precht

      LANZ & PRECHT

      323 Listeners

      KI verstehen by Deutschlandfunk

      KI verstehen

      9 Listeners

      Stammplatz – Fußball News täglich by BILD

      Stammplatz – Fußball News täglich

      39 Listeners

      Copa TS by Tommi Schmitt & Studio Bummens

      Copa TS

      17 Listeners

      Der KI-Podcast by ARD

      Der KI-Podcast

      20 Listeners

      KI-Update – ein heise-Podcast by Isabel Grünewald, heise online

      KI-Update – ein heise-Podcast

      3 Listeners

      Geschichten aus der Mathematik by detektor.fm – Das Podcast-Radio

      Geschichten aus der Mathematik

      1 Listeners