Det kan godt være alle de store tech-firmaer stopper kunstig intelligens i alt de kan, men der er lang vej endnu før AI bliver et sandhedsvidne. Hvis det nogensinde sker. Det viser Googles nye AI-baserede søgeværktøj AI Overviews med skræmmende tydelighed.
Funktionen er endnu ikke kommet til Danmark, men den blev lanceret i USA efter Google I/O for et par uger siden. Siden vist en tilbøjelig til at spytte absurde svar ud, når man stiller den spørgsmål.
I et tilfælde opfordrede AI Overviews en bruger til at bruge lim på pizzaen for at sikre, at osten ikke glider af. I et andet tilfælde hævder den, at man bør spise grus eller sten dagligt for sundhedens skyld. Eksemplerne er mangfoldige.
Ifølge et interview med Googles administrerende direktør Sundar Pichai på mediet The Verge, er disse “hallucinationer” en “iboende egenskab” i de store AI-sprogmodeller (LLM), som driver AI Overviews. Og de “er stadig et uløst problem”.
Samtidig forsøger Google-bossen at bagatellisere fejlene. “Der er stadig tidspunkter, hvor den [kunstige intelligens] vil tage fejl, men jeg tror ikke, jeg vil undervurdere, hvor nyttigt det kan være på samme tid,” siger han i interviewet. “Jeg tror, det ville være den forkerte måde at tænke det på.”
“Gør vi fremskridt? Ja, det gør vi,” siger Pichai. “Vi har helt sikkert gjort fremskridt, når vi ser på målinger om fakta år for år. Vi gør det alle sammen bedre, men det er ikke løst.”
Google er nu begyndt manuelt at fjerne de forkerte svar fra AI Overviews fra søgningerne.