Gemini kan afsløre AI-fiflerier i – egne – videoer

Google har taget endnu et skridt i kampen mod AI-manipuleret indhold. Med en ny opdatering kan Googles AI-assistent Gemini nu afsløre, om videoer er skabt eller redigeret med virksomhedens egne AI-værktøjer. Det giver almindelige brugere et nyt værktøj til at gennemskue, om det de ser – og hører – er ægte eller kunstigt fremstillet.

Den nye funktion gør det muligt at uploade en video direkte i Gemini-appen og spørge, om den indeholder AI-genereret materiale fra Google. Systemet scanner både billed- og lydsporet for Googles usynlige digitale vandmærke, SynthID, og vender tilbage med et svar, der ikke bare siger ja eller nej, men også peger på præcise tidspunkter i videoen, hvor AI-spor er fundet. Det kan for eksempel være, at lyden er syntetisk, mens billederne er ægte – eller omvendt.

For forbrugere betyder det, at det bliver nemmere at navigere i en hverdag, hvor grænsen mellem ægte optagelser og AI-manipulation bliver stadig mere flydende. Videoer på sociale medier, i beskedtråde eller i nyhedsstrømme kan fremover kontrolleres med få klik, så man bedre kan vurdere, om indholdet fortjener tillid.

Der er dog klare begrænsninger. Gemini kan kun genkende indhold, der er lavet med Googles egne AI-modeller. Videoer skabt med andre værktøjer falder uden for systemets rækkevidde, og det er fortsat et åbent spørgsmål, hvor nemt tredjepartssoftware kan fjerne eller skjule SynthID-vandmærket. I så fald risikerer funktionen at miste noget af sin slagkraft.

Google introducerede en tilsvarende kontrolfunktion for billeder tidligere, og med videoverifikation udvider selskabet nu sit fokus på gennemsigtighed. Funktionen er tilgængelig globalt i de lande og sprog, hvor Gemini-appen allerede understøttes, og understøtter videofiler på op til 100 MB eller 90 sekunders længde.

Set fra et forbrugerperspektiv er opdateringen et vigtigt signal: Tech-giganterne begynder selv at tage ansvar for den AI, de sender ud i verden. Det løser langt fra alle problemer med deepfakes og manipuleret indhold, men det giver brugerne et konkret redskab til at stille det helt centrale spørgsmål: Kan jeg stole på det, jeg ser?

Gemini kan afsløre AI-fiflerier i – egne – videoer