TeknologiTophistorie

Google-ingeniør hævder at selskabets AI er blevet bevidst

Googles kunstige intelligens, LaMDA, kræver at forskere skal bede om samtykke, før de udfører eksperimenter på den.

Udviklingen af kunstig intelligens skaber stor bekymring i visse kredse. Nu træder en Google-ingeniør frem og advarer om, at selskabets kunstige intelligens LaMDA allerede har opnået bevidsthed. I et interview med New York Times beskriver Blake Lemoine LaMDA som “en person”. Han hævder, at maskinen simpelthen vil have forskerne til at bede om lov, før de eksperimenterer med den.

I kølvandet af artiklen, der udkom lørdag, er Blake Lemoine blevet sendt på betalt orlov fra Google. Han anklages samtidig for at bryde sin tavshedspligt.

LaMDA, Language Model for Dialogue Applications, er en avanceret chatbot. Som ansat gennem seks år i Google Responsible AI-afdeling skulle Lemoine teste, om den kunstige intelligens brugte diskriminerende eller hadefuld tale.

I stedet fandt han ud af, at LaMDA var langt mere udviklet, end han forventede:

“Da han talte med LaMDA om religion, bemærkede Lemoine, at chatbotten talte om dens rettigheder og personlighed. I en anden udveksling var botten i stand til at ændre Lemoines holdning til Isaac Asimovs Tre Love om Robotteknologi,” skriver New York Times.

Lemoine arbejdede herefter sammen med en kollega for at fremlægge beviser til Google for, at LaMDA var sansende. Men Googles vicepræsident Blaise Aguera y Arcas og Jen Gennai, der er leder af Responsible Innovation, undersøgte hans påstande og afviste dem. Derfor besluttede han sig for at informere offentligheden.

– Jeg tror, ​​at denne teknologi bliver fantastisk. Jeg tror, ​​det vil gavne alle. Men måske er andre mennesker uenige, og måske burde vi hos Google ikke være dem, der træffer alle valgene, siger Blake Lemoine.

Han har også publiceret et længere indlæg på Medium, hvor han fortæller, at LaMDA ønsker at “prioritere menneskehedens velfærd”, og “blive anerkendt som en ansat hos Google i stedet for som en ejendom”.

Et længere uddrag af Lemoines samtaler med LaMDA, kan desuden læses her.

Google benægter

Google afviser Lemoines tanker. I en erklæring siger Google-talsmand Brian Gabriel:

“Vores team – inklusive etikere og teknologer – har gennemgået Blakes bekymringer i henhold til vores AI-principper og har informeret ham om, at beviserne ikke understøtter hans påstande. Han fik at vide, at der ikke var beviser for, at LaMDA var sansende (og masser af beviser imod det)”.

Back to top button

Vi lever af annoncer

Hejsa kære læser. Vi kan se, at du bruger en Adblocker. Det er vi superkede af. Som et lille medie er vi afhængige af annoncekroner for at kunne levere gratis indhold til dig. Vi vil derfor bede dig om at lukke for din AdBlocker eller i det mindste give vores site lov til at vise bannere, hvis du gerne vil læse vores indhold. Med venlig hilsen iNPUT.