Elon Musk er normalt ikke en mand, der modsætter sig fremskridtet. Tværtimod. Men i et åbent brev, som Musk har underskrevet sammen med hundredevis af de største navne inden for teknologi, opfordres der til at sætte træningen af kunstig intelligens på pause i seks måneder.
I brevet hedder det, at de seneste fremskridt inden for kunstig intelligens udgør “dybe risici for både samfundet og menneskeheden”.
Brevet kommer bare to uger efter at OpenAIs GPT-4 er blevet offentlig tilgængelig. Den regnes for at være den mest kraftfulde kunstige intelligens, der nogensinde er udgivet. På baggrund af GPT-4 har flere forskere fremskrevet det tidspunkt, hvor det forventes, at kunstig intelligens overgår menneskets kognitive evner.
I brevet skrives der blandt andet:
“Avanceret kunstig intelligens kan repræsentere en grundlæggende ændring i livets historie på Jorden og bør planlægges og styres med passende omhu. Desværre sker dette niveau af planlægning og ledelse ikke, selvom vi i de seneste måneder har set et kapløb i forskning i kunstig intelligens. Et kapløb om at udvikle og implementere stadig mere kraftfulde digitale hjerner, som ingen – ikke engang deres skabere – kan forstå , forudsige eller pålideligt kontrollere.”
Læs også: Microsoft har givet Bing Chat det hvide snit.
Helt konkret ønsker forfatterne af det åbne brev, at al træning af kunstig intelligens, der er mere kraftfuld end GPT-4, sættes på pause i seks måneder.
Kendte underskrivere
Listen over underskrivere inkluderer navnene på mere end 900 personer. Ud over Musk har Apples medstifter Steve Wozniak også skrevet under. Det samme har Sapiens-forfatteren Yuval Noah Harari og nogle af de mest fremtrædende akademikere, der er ansvarlige for flere gennembrud inden for maskinlæring.
Spøjst nok har ingen personer fra hverken OpenAI eller Anthropic underskrevet brevet. OpenAI står bag GPT-4 mens Anthropic er startet af OpenAI-udbrydere, der vil bygge en “sikrere AI-chatbot”.
Hele det åbne brev, og listen over underskrivere, kan ses her. Her kan man også selv underskrive, hvis man er bekymret over udviklingen af kunstig intelligens.