Forestil dig, at du deler en sårbar samtale med en AI — og pludselig ligger den frit tilgængelig på Google. Det er præcis dét mareridt, mange brugere af ChatGPT vågnede op til i denne uge, efter det kom frem, at tusindvis af samtaler var blevet indekseret af søgemaskinen og dermed synlige for hele verden.
Det var Fast Company, der først afslørede lækket. Her opdagede man, at selvom chats ikke umiddelbart indeholdt navne eller e-mailadresser, så kunne de stadig indeholde dybt personlige oplysninger som brugere havde delt med ChatGPT — alt fra parforholdsproblemer til mentale helbredsudfordringer. Med andre ord: nok til, at nogen med lidt kontekst kunne identificere afsenderen.
OpenAI har siden erkendt problemet og trukket funktionen tilbage. Ifølge virksomhedens sikkerhedschef, Dane Stuckey, var det en “kortlivet eksperimentel funktion”, der skulle gøre det nemmere for folk at opdage nyttige samtaler. Brugere kunne vælge at dele deres samtaler via et link – og her dukkede den famøse boks op med teksten “Gør denne chat søgbar”. Problemet? Advarslen om, at chatten kunne ende i Google-søgninger, stod med lille, lysegrå skrift.
Det var “alt for nemt at klikke forkert”, indrømmer Stuckey nu. Funktionen åbnede ifølge ham “alt for mange muligheder for, at folk kom til at dele noget, de aldrig havde tænkt sig skulle være offentligt”.
Og der ER blevet delt. Ifølge Fast Company dukkede der chats op, hvor brugere diskuterede deres sexliv, stofbrug og traumatiske oplevelser. Alt sammen med en Google-søgning.
OpenAI er i gang med at få fjernet de indekserede chats fra søgemaskiner, men det er lettere sagt end gjort. Google har bekræftet, at det er OpenAI – og ikke søgemaskinen selv – der bærer ansvaret for, hvad der bliver synligt online. Og selvom Google har værktøjer til at fjerne sider fra søgeresultater, forhindrer det ikke nødvendigvis, at de stadig findes på nettet eller i andre søgemaskiner.
Etikere er bekymrede. Carissa Véliz, ekspert i AI-etik ved Oxford University, kalder situationen “dybt foruroligende” og peger på, at teknologivirksomheder alt for ofte “bruger befolkningen som forsøgskaniner”. I stedet for at teste nye funktioner grundigt, ser man ifølge hende, om nogen klager — bagefter.
Skandalen rammer i en tid, hvor OpenAI i forvejen er under pres for sin datasikkerhed. Virksomheden er netop blevet pålagt at bevare slettede chats som en del af en retssag, hvilket har vakt nye bekymringer blandt brugere, der troede deres samtaler forsvandt for evigt.
Dane Stuckey slår dog fast, at OpenAI tager sagen alvorligt:
“Sikkerhed og privatliv er altafgørende for os. Vi vil fortsætte med at sikre, at det afspejles i vores produkter og funktioner.”
Det bliver dog næppe sidste gang, techverdenen må diskutere balancen mellem innovation og etik. Spørgsmålet er nu, hvor mange af os, der tør klikke “Del” på ChatGPT næste gang.
