Láncreakció

Vajon ki jár jobban, aki a keresési feladatait a Perplexityvel vagy a Google-lel igyekszik megoldani? Könnyebb megfogalmazni a keresési kérdést az LLM-nek, de cserében ott lebeg felettünk a hallucináció rémképe. Elveszítjük-e a kritikus szemléletet, ha ráhagyjuk a szolgáltatásra az információ validálását? Hol versenyeztette II. Frigyes az arab számokat az abakusszal, milyen édességek hiányoznak a magyar kivándorlóknak, kicsoda Gyuri édesapja, és vajon viselte-e Feri nevét a nyolcvanas években egy sikeres futballista? Két műsorvezető a ringben egy-egy keresővel felfegyverkezve - ki győzött?

A múlt héten az MI környezeti hatásait tárgyaltuk, ezen a héten pedig a gazdasági fenntarthatóságáról volt szó: miért drága és lesz-e olcsóbb, van-e reális üzleti modellje, egyáltalán túléli-e a mai állapotát a transzformer technológia? Mi a helyzet a tervezett avulással, avagy hová lett a törhetetlen söröspohár (Superfest) és miért kerül kétszer annyiba a Miele mosógép? Rosszat tesz-e a forrásbőség, vagy jönnek a spórolósabb szereplők?

Egy nagyívű, három részes sorozat záró darabja ez a mai. A 176. adásunkban a komplexitással, a 178-ban pedig az entrópiával foglalkoztunk, hogy mostanra megérkezzünk a fenntarthatósághoz. Mivel ennek van környezetvédelmi és gazdasági vetülete is, két részt is szentelünk neki, ez itt az első. Mennyi áramot fogyaszt az MI, ez mekkora része a világ termelésének és úgy általában, miből csinálunk áramot és az mennyire szennyező? Mennyi a megújuló, mekkora hányadot tesz ki a nukleáris és ebből mennyi kell ahhoz, hogy hülye versikéket irassunk a ChatGPT-vel? Az MI forradalom elméleti alapvetésének harmadik darabja.

Vendégünk volt dr. Balkányi László orvosi tudásmérnök, akivel két éve a Covid statisztikákról és a járványmatematikáról beszélgettünk. Ma már megnézhettük, mi derült ki az akkori adatgyűjtésből (hasznos volt-e a maszk, volt-e jelentős többlethalandóság, volt-e hatása és mellékhatása az oltásnak?), hogy aztán rákanyarodjunk Laci ÉS-ben megjelent cikkére, amiben Harari új könyvét (Nexus) kritizálja az MI-vel kapcsolatos vészes tudáshiánya miatt. Beszélgettünk még a nagy nyelvi modellek orvosi kutatásban betöltött szerepéről, az MI nem létező szándékairól, és az olyan ontológia-alapú megközelítésekről, mint a Cyc.

Egyre gyakrabban mondjuk, hogy a nyelvi modell "érti" a kérésünket, "megoldja" a problémát, azt "akarja" mondani és így tovább - antropomorfizáljuk az MI-t. Amúgy nem csak mi, például az Anthropic új tanulmánya is a Claude "gondolkodásának megértésére" tesz kísérletet, illetve a szaktekintély Varjú Zoltán cikke is az emberi gondolkodás "idealizált modelljét" említi. Tényleg, modellezi a gondolkozásunkat, vagy gondolkozik? Homousion vagy homoiusion? És biztos az az optimális megoldás, ha a "gondolkodó gépet" emberi külsőségekre húzzuk fel? Ezekre próbálunk válaszolni ebben a részben.

Az OpenAI vizionárius főnökét sok impulzus éri mostanában: mindenki az olyan szabad forrású új kínai technológiákról beszél, mint a DeepSeek és most a Manus.mi, ami őt és befektetőit nem tántorítja el az újabb, hatalmas tőkebevonástól, azonban az OpenAI is kijön nyáron egy szabad forrású LLM-mel. Sajnos mégsem ezekről beszél a világ, hanem a Ghibli stúdiótól lopott razjfilmstílusban készült mémekről, amin Altman kesergett is egyet az X-en. Közben Kínában többszáz üresen kongó adatközpont borzolja a kedélyeket, a nyugati világban pedig a Columbiáról kirúgott egyetemista, aki LLM-mel segített a haverjainak a Big Tech cégek híres tesztjeit kijátszani.

A vállalatok számára az MI egyértelműen változást hoz, de ennek iránya és üteme sok tényezőtől függ. Vajon a cégek tudatosan és stratégiailag reagálnak, vagy egyszerűen csak sodródnak az eseményekkel? Az MI lehetőség vagy fenyegetés? A válasz talán abban rejlik, hogy mennyire sikerül egyensúlyt találni a tudatos alkalmazás és a technológia kényszerítő ereje között.

Vendégünk ezen a héten Recski Gábor, a bécsi műszaki egyetem egyik spinoffjaként létrejött KRLabs társtulajdonosa, ahol open source hallucináció-felismerést és a hallucinációt kivédekező RAG-et (amit talán visszakereséssel támogatott szöveggenerálásnak lehetne magyarítani) fejlesztenek. Gábor az eufemizáló "hallucináció" kifejezést ekézve Emily M. Bendert (a sztochasztikus papagájos kutatót) idézte, elmagyarázta a leleplezéshez használt technikákat (egyebek mellett említve a RAGTruth hallucináció-korpuszt), és beszélt első frameworkjükről is, amit potato-nak hívtak a rettenetes szóviccekhez vonzódó kutatók, akik egyik jelenlegi terméküket ugyanezen vonalon haladva LettuceDetectnek nevezik. Hogyan lehet felismerni és megelőzni a hallucinációt, hogy jön ez a bécsi Ingatlanrendőrséghez és egyes IoT szabványokra épülő szoftverek validálásához és miből lesz majd az AGI?

Kapcsolódó epizódok:

#148 - Mitől hagyja abba a ChatGPT a hallucinálást?
#108 - Sztochasztikus papagáj vagy Terminator a ChatGPT?

Vendégünk a héten Nóniusz Gábor producer, zenei menedzser, hangmérnök és zenész volt és a könnyűzene és az AI új barátságáról beszélgettünk. A Sunóval lehet zenét szerezni, ami még az emberi hibákat és technikai hiányosságokat is reprodukálja, de azért egyelőre nem veszi el a jó zenészek munkáját. A hangtechnikában pedig régen jelen van, és rendkívül hasznos eszköz, de teljeskörű megoldást talán sosem fog adni. Szóba került még ezekről beszélgetve a Black Sabbath örökségének ízléses kezelése, Rick Rubin legendás producer, Bob Clearmountain és Chris Lord-Alge hangmérnökök, valamint a Waves plugin gyártó is.

Ezen a héten Kovács Gergely, a Védelmi Innovációs Kutatóintézet munkatársa volt a vendégünk, és az adattudomány, valamint a mesterséges intelligencia hadi alkalmazásairól beszélgettünk. Hogyan lehet VR gyakorló eszközt barkácsolni légvédelmi kiképzéshez, mire jók az összekötött IoT eszközök a fronton, hogyan viszonyulnak a fiatal katonák a technológiai innovációhoz és mire képesek a digitális ikrek?