Teknologi

Google søger atomfysikere til at tøjle AI

Google søger atomfysikere til et usædvanligt job: De skal sikre, at stadig klogere AI-modeller ikke bliver en genvej til at udvikle atomvåben.

atomfysiker
Illustration er skabt med AI
Niklas ÅgrenTekst afNiklas Ågren

Vi bruger kunstig intelligens til at skrive mails, planlægge ferier og få hjælp til lektierne. Men hvad sker der, når teknologien bliver så klog, at den også kan hjælpe med at udvikle atomvåben?

Det spørgsmål tager Google tilsyneladende så alvorligt, at selskabet nu er på jagt efter atomfysikere og ingeniører med erfaring inden for atomvåben og nuklear sikkerhed. Og det er ikke bare en tilfældig stilling hos techgiganten. Jobopslaget giver et sjældent indblik i nogle af de bekymringer, der følger med udviklingen af stadig mere avanceret kunstig intelligens.

Skal forhindre AI i at hjælpe med atomvåben

Det er Googles AI-afdeling, DeepMind, der søger eksperterne. Ifølge jobopslaget skal de undersøge, om selskabets mest avancerede AI-modeller kan misbruges til at udvikle atomvåben. Og kravene til ansøgerne er mildest talt usædvanlige.

Artiklen fortsætter efter annoncen

Google efterspørger blandt andet folk med en ph.d. i atomteknik eller plasmafysik, erfaring fra amerikanske forskningslaboratorier og indgående kendskab til atomvåben, nedrustning og ikke-spredning af nuklear teknologi. Det er altså ikke ligefrem et job, man får, fordi man er god til at stille spørgsmål til Gemini.

Opgaven bliver blandt andet at forsøge at få AI-modellerne til at afsløre viden, der kan gøre det lettere, billigere eller hurtigere for ondsindede aktører at udvikle atomvåben. Eksperterne skal med andre ord forsøge at finde de farlige smuthuller, før andre gør det.

Google vil ikke have en AI, der hjælper terrorister

I et andet jobopslag er Google endnu mere direkte om formålet. Her skriver selskabet, at sikkerhedsteamets opgave er at sikre, at Gemini ikke udvikler sig til et redskab, der kan forårsage katastrofal skade, efterhånden som AI-modellen bliver dygtigere til naturvidenskab.

Google vil derfor ikke blot undersøge, hvilke farlige oplysninger AI kan levere. Eksperterne skal også være med til at udvikle sikkerhedsmekanismer, som forhindrer misbrug, uden at ødelægge teknologiens muligheder for legitim forskning.

Artiklen fortsætter efter annoncen

Det er en vanskelig balance. Den samme viden om eksempelvis kernefysik, som kan bruges til at udvikle fremtidens energiteknologi, kan i de forkerte hænder også anvendes til militære formål.

En årsløn på op mod 252.000 dollar

Google er tilsyneladende villig til at betale godt for at få problemet under kontrol. Stillingen i Mountain View i Californien har en annonceret årsløn på mellem 174.000 og 252.000 dollar. Oven i kommer en bonusordning med et mål på 15 procent samt aktier og øvrige personalegoder.

Rekrutteringen er en del af Googles bredere arbejde med AI-sikkerhed. Selskabet har allerede etableret et såkaldt Frontier Safety Framework, der skal identificere alvorlige risici ved nye AI-modeller, inden de bliver stillet til rådighed for offentligheden.

Er AI allerede blevet så farlig?

Det store spørgsmål er selvfølgelig, om Googles AI allerede er i stand til at hjælpe nogen med at fremstille atomvåben. Det er der ikke dokumentation for i jobopslaget. Ansættelserne er heller ikke i sig selv tegn på, at Google har opdaget en konkret sikkerhedsbrist i Gemini. De viser snarere, at selskabet forbereder sig på, hvad teknologien potentielt kan blive i stand til.

Artiklen fortsætter efter annoncen

MERE OM SAMME EMNE:

Men udviklingen rejser et ubehageligt spørgsmål.

I årevis har AI-selskaberne konkurreret om at udvikle den klogeste digitale assistent. Nu er de også nødt til at overveje, om deres teknologi en dag bliver så dygtig, at den kan hjælpe mennesker med ting, ingen chatbot bør hjælpe med. Og når Google begynder at ansætte atomvåbeneksperter for at holde sin egen AI i skak, er det svært ikke at tænke, at vi er på vej ind i en helt ny teknologisk virkelighed.

Tak fordi du læser med. Synes du, artiklen var værd at læse? Giv den et like, så hjælper du andre læsere med at finde den. Levede den ikke op til dine forventninger, må du også gerne give den et dislike. Tak for din vurdering.

ANDRE LÆSERE ANBEFALER

Artikler med flest Likes de seneste syv dage.

LÆS OGSÅ