Bit-Rauschen: Der Prozessor-Podcast von c’t

Kleine KI-Modelle für PC & Notebook | Bit-Rauschen 2025/15


Listen Later

Mit Andrea Trinkwalder und Christof Windeck

Der Hype um Künstliche Intelligenz wurde von großen Sprachmodellen gezündet. Wie deren Name schon andeutet, fressen sie gewaltige Mengen Rechenleistung und laufen daher in Rechenzentren, also in der Cloud.

Folglich gibt man seine Daten aus der Hand, wenn man sie benutzt. Grundsätzlich geht das auch anders, indem man KI lokal betreibt, also auf Desktop-PC, Notebook, Smartphone oder sogar NAS oder Homeserver. Weil derartige Hardware jedoch weniger Rechenleistung, Arbeits- und Massenspeicher hat, kann sie nur kleinere KI-Modelle bewältigen.

Einige gibt es schon, beispielsweise zur Bilderzeugung oder zur Transkription von Audio-Aufnahmen in Text. Von vielen Large Language Models (LLMs) gibt es zwar verkleinerte Versionen, die auf einem Notebook laufen, aber viel schlechter.

Die c’t-Redakteurin Andrea Trinkwalder erklärt im Gespräch mit ihrem Kollegen Christof Windeck, welche lokalen KI-Modelle es gibt, wie man große Modelle schrumpft und was dabei kaputtgeht. Folge 2025/15 von „Bit-Rauschen, der Prozessor-Podcast von c’t“.

Alle Podcast-Folgen sowie auch alle c’t-Kolumnen "Bit-Rauschen" finden Sie unter ct.de/bit-rauschen

Noch mehr Lust auf Podcasts? Hier finden Sie noch viele weitere aus dem Heise-Universum: Hören Sie von uns – unsere Podcasts

...more
View all episodesView all episodes
Download on the App Store

Bit-Rauschen: Der Prozessor-Podcast von c’tBy c't Magazin


More shows like Bit-Rauschen: Der Prozessor-Podcast von c’t

View all
Chaosradio by Chaos Computer Club Berlin

Chaosradio

7 Listeners

Computer und Kommunikation by Deutschlandfunk

Computer und Kommunikation

10 Listeners

Bits und so by Undsoversum GmbH

Bits und so

23 Listeners

Freak Show by Metaebene Personal Media - Tim Pritlove

Freak Show

10 Listeners

Logbuch:Netzpolitik by Metaebene Personal Media - Tim Pritlove

Logbuch:Netzpolitik

7 Listeners

c’t uplink - der IT-Podcast aus Nerdistan by c’t Magazin

c’t uplink - der IT-Podcast aus Nerdistan

5 Listeners

Schleifenquadrat. Der Apple-Podcast von Mac Life. by Mac Life

Schleifenquadrat. Der Apple-Podcast von Mac Life.

2 Listeners

c't uplink (SD-Video) by c't Magazin

c't uplink (SD-Video)

6 Listeners

c't uplink (HD-Video) by c't Magazin

c't uplink (HD-Video)

3 Listeners

Apfelfunk by Malte Kirchner & Jean-Claude Frick

Apfelfunk

8 Listeners

heiseshow by heise online

heiseshow

2 Listeners

#heiseshow (SD-Video) by heise online

#heiseshow (SD-Video)

0 Listeners

#heiseshow (HD-Video) by heise online

#heiseshow (HD-Video)

1 Listeners

Der Apfelplausch by Lukas Gehrer und Roman Van Genabith

Der Apfelplausch

0 Listeners

Auslegungssache – der c't-Datenschutz-Podcast by c't Magazin

Auslegungssache – der c't-Datenschutz-Podcast

1 Listeners

kurz informiert by heise online by heise online

kurz informiert by heise online

2 Listeners

Mac & i - der Apple-Podcast by Mac & i

Mac & i - der Apple-Podcast

0 Listeners

Mac & i - der Apple-Podcast by Mac & i

Mac & i - der Apple-Podcast

0 Listeners

Bits & Böses – der Tech-Crime-Podcast by heise online, Isabel Grünewald

Bits & Böses – der Tech-Crime-Podcast

0 Listeners

TNBT – Der Podcast zu Apple Vision Pro von Mac & i by Mac & i

TNBT – Der Podcast zu Apple Vision Pro von Mac & i

1 Listeners

KI-Update – ein heise-Podcast by Isabel Grünewald, heise online

KI-Update – ein heise-Podcast

6 Listeners

CLICK BOOM FLASH - Geschichten aus der Fotowelt by Judy Hohmann, Redaktion c't Fotografie

CLICK BOOM FLASH - Geschichten aus der Fotowelt

0 Listeners

Vorsicht, Kunde! by c’t Magazin

Vorsicht, Kunde!

0 Listeners

Passwort - der Podcast von heise security by Dr. Christopher Kunz, Sylvester Tremmel

Passwort - der Podcast von heise security

3 Listeners

They Talk Tech – mit Eckert und Wolfangel by c't Magazin

They Talk Tech – mit Eckert und Wolfangel

0 Listeners

c't 3003 by Jan-Keno Janssen

c't 3003

0 Listeners