Vi har vænnet os til udtrykket 'kunstig intelligens', som i dag særligt sidestilles med sprogmodeller såsom ChatGPT, Gemini og Claude. Men lever den nye teknologi op til navnet?

Det er særligt deres udviklere - heriblandt direktørerne for virksomheder som OpenAI og Anthropic - som mener, at modellerne viser tegn på, at de er intelligente.

Når vi spørger forskerne, får vi dog et andet svar. Begrebet "intelligens" er nemlig ikke ligetil, og mens forskere kan være meget uenige om, hvad intelligens er, så er et flertal enige om, at sprogmodeller ikke er intelligente.

Det viser vores nye studie, som er lavet i samarbejde med kolleger fra IT-Universitetet og Københavns Universitet. Vi har spurgt over 300 forskere fra hele verden; både om hvad de mener intelligens er, og om de mener sprogmodeller lever op til dette.

For at kunne tale om, hvorvidt en sprogmodel er intelligent, bliver vi nødt til at forstå, hvordan den virker.

En sprogmodel er i bund og grund en stor, kompliceret matematisk funktion. Et eksempel på en meget simpel funktion er en lineær funktion, der kan skrives som y = ax + b.

I denne funktion bestemmer b hvor en linje skærer y-aksen i et koordinatsystem og a bestemmer hældningen på linjen. x er et tal som vi kan indsætte i funktionen, og så får vi et resultat, y, ud på den anden side.

Dette a og b er, hvad vi kalder funktionens parametre, og den lineære funktion har altså to parametre.

Det er disse parametre, der bestemmer, hvad vi får ud på den anden side, når vi kaster noget ind i funktionen. Hvis a har en højere værdi får man en stejlere linje, som illustreret i figuren nedenfor.

Princippet er helt det samme i ChatGPT. I en sprogmodel har vi bare at gøre med en sammensætning af funktioner, som gør at sprogmodeller ofte består af flere milliarder parametre. Man tager altså resultatet af mange komplekse funktioner og lægger dem sammen.

Når vi 'træner' en sprogmodel, indstilles alle parametre i modellen på en måde, så modellen bedst muligt kan forudsige det mest sandsynlige næste ord i en sætning på baggrund af det tekst-data, vi har valgt at træne den på.

Når du skriver noget til ChatGPT, udregner modellen en sandsynlighedsfordeling over ord, der kunne følge efter, og returnerer ordet med størst sandsynlighed (og så det næste ord og det næste ord osv.).

Det minder lidt om 'autocomplete' på din mobiltelefon. Når du begynder at formulere en sætning som 'Har du planer…', dukker der forslag op, som er sandsynlige fortsættelser af det, du er i gang med at skrive, såsom '... i aften', '... i sommerferien' eller '... lige nu'.

Der er selvfølgelig mange detaljer og nuancer i dette, men det er grundlæggende, hvad der sker i ChatGPT.

Det store spørgsmål er altså, om denne myriade af matematiske variable tilsammen udgør noget, vi kan kalde 'intelligens'?

Vores studie viser, at størstedelen af de adspurgte forskere (71 procent) ikke anser sprogmodeller for at være intelligente.

Man kunne måske forestille sig, at forskere fra forskellige felter ville have forskellige meninger om, hvad intelligens er.

Men i undersøgelsen fandt vi ingen substantiel forskel i holdningerne blandt forskere fra forskellige fagområder (sprogteknologi, datalogi, lingvistik, neurovidenskab, psykologi, matematik, statskundskab, og flere).

Omkring 60 procent tror ikke engang, at sprogmodeller baseret på samme teknologi kan blive intelligente i fremtiden.

Der er hovedsageligt to ting, der ligger til grund for udviklernes og forskernes forskellige syn på, om sprogmodeller er "intelligente".

Først og fremmest er der uenighed om definitionen af intelligens. At forklare, hvad man mener med ordet, må siges at være meget fundamentalt for at kunne vurdere, om en given ting (en sprogmodel, et dyr, et menneske) er intelligent.

For det andet er der uenighed om, hvad en sprogmodel egentlig kan. Nogle mener eksempelvis, at de blot er "papegøjer", der gentager det data, de er trænet med.

Det kan nemlig være meget svært at vurdere, hvad ChatGPT har "lært", når vi ikke ...