Data Science Deep Dive

#50: Predictive Analytics mit LLMs: ist GPT3.5 besser als XGBoost?


Listen Later

Wir lassen GPT3.5 Turbo und XGBoost bei der Prognose einer metrischen Zielvariablen gegeneinander antreten. Dafür haben wir von LOT Internet Fahrzeugdaten aus dem Portal mobile.de bereitgestellt bekommen, um zu sehen, wer bei der Prognose des Fahrzeugpreises die Nase vorn hat. Zudem besprechen wir das Finetuning und gehen auch darauf ein, wie LLMs und XGBoost kombiniert werden können. 

 

***Links***

  • Blogartikel: Predictive LLMs: Kann GPT-3.5 die Prognosen von XGBoost verbessern? https://www.inwt-statistics.de/blog/predictive-llms-kann-gpt-xgboost-prognosen-verbessern
  • #27: Kann ein Large Language Model (LLM) bei der Klassifikation tabellarischer Daten XGBoost schlagen? https://inwt.podbean.com/e/27-kann-ein-large-language-model-llm-bei-der-klassifikation-tabellarischer-daten-xgboost-schlagen/
  • OpenAI API: https://platform.openai.com/docs/introduction
  • LLMs für Prognosen auf tabularen Daten zu nutzen, ist wenig erforscht. Wenn es probiert wurde, geht es meistens um Klassifikation, also keine metrische Zielvariable. Ein oft zitiertes Paper hierzu ist dieses: TabLLM: Few-shot Classification of Tabular Data with Large Language Models (Stefan Hegselmann, Alejandro Buendia, Hunter Lang, Monica Agrawal, Xiaoyi Jiang, David Sontag 
  • Proceedings of The 26th International Conference on Artificial Intelligence and Statistics, PMLR 206:5549-5581, 2023.) https://proceedings.mlr.press/v206/hegselmann23a/hegselmann23a.pdf
  • Till mit seinem Song In My Fantasy auf YouTube: https://www.youtube.com/watch?v=MU3oyJ1WR1U
  • ...more
    View all episodesView all episodes
    Download on the App Store

    Data Science Deep DiveBy INWT Statistics GmbH


    More shows like Data Science Deep Dive

    View all
    tagesschau: Die 20 Uhr Nachrichten (Audio) by tagesschau

    tagesschau: Die 20 Uhr Nachrichten (Audio)

    113 Listeners

    Geschichten aus der Geschichte by Richard Hemmer und Daniel Meßner

    Geschichten aus der Geschichte

    198 Listeners

    Lage der Nation - der Politik-Podcast aus Berlin by Philip Banse & Ulf Buermeyer

    Lage der Nation - der Politik-Podcast aus Berlin

    214 Listeners

    Forschung aktuell by Deutschlandfunk

    Forschung aktuell

    20 Listeners

    Handelsblatt Morning Briefing - News aus Wirtschaft, Politik und Finanzen by Teresa Stiens, Christian Rickens und die Handelsblatt Redaktion, Handelsblatt

    Handelsblatt Morning Briefing - News aus Wirtschaft, Politik und Finanzen

    46 Listeners

    Verbrechen by DIE ZEIT

    Verbrechen

    282 Listeners

    Handelsblatt Disrupt - Der Podcast über die Zukunft der Wirtschaft by Larissa Holzki, Handelsblatt

    Handelsblatt Disrupt - Der Podcast über die Zukunft der Wirtschaft

    14 Listeners

    Die Lage by DER SPIEGEL

    Die Lage

    51 Listeners

    Baywatch Berlin by Klaas Heufer-Umlauf, Thomas Schmitt, Jakob Lundt & Studio Bummens

    Baywatch Berlin

    82 Listeners

    Doppelgänger by Philipp Glöckler, Philipp Klöckner

    Doppelgänger

    13 Listeners

    Quarks Science Cops by Quarks

    Quarks Science Cops

    17 Listeners

    bto – der Ökonomie-Podcast von Dr. Daniel Stelter by Dr. Daniel Stelter

    bto – der Ökonomie-Podcast von Dr. Daniel Stelter

    23 Listeners

    Was bisher geschah - Geschichtspodcast by Joachim Telgenbüscher, Nils Minkmar

    Was bisher geschah - Geschichtspodcast

    47 Listeners

    Der KI-Podcast by ARD

    Der KI-Podcast

    12 Listeners

    KI-Update – ein heise-Podcast by Isabel Grünewald, heise online

    KI-Update – ein heise-Podcast

    2 Listeners