Google-ingeniør hævder at selskabets AI er blevet bevidst

Udviklingen af kunstig intelligens skaber stor bekymring i visse kredse. Nu træder en Google-ingeniør frem og advarer om, at selskabets kunstige intelligens LaMDA allerede har opnået bevidsthed. I et interview med New York Times beskriver Blake Lemoine LaMDA som “en person”. Han hævder, at maskinen simpelthen vil have forskerne til at bede om lov, før de eksperimenterer med den.

I kølvandet af artiklen, der udkom lørdag, er Blake Lemoine blevet sendt på betalt orlov fra Google. Han anklages samtidig for at bryde sin tavshedspligt.

LaMDA, Language Model for Dialogue Applications, er en avanceret chatbot. Som ansat gennem seks år i Google Responsible AI-afdeling skulle Lemoine teste, om den kunstige intelligens brugte diskriminerende eller hadefuld tale.

I stedet fandt han ud af, at LaMDA var langt mere udviklet, end han forventede:

“Da han talte med LaMDA om religion, bemærkede Lemoine, at chatbotten talte om dens rettigheder og personlighed. I en anden udveksling var botten i stand til at ændre Lemoines holdning til Isaac Asimovs Tre Love om Robotteknologi,” skriver New York Times.

Lemoine arbejdede herefter sammen med en kollega for at fremlægge beviser til Google for, at LaMDA var sansende. Men Googles vicepræsident Blaise Aguera y Arcas og Jen Gennai, der er leder af Responsible Innovation, undersøgte hans påstande og afviste dem. Derfor besluttede han sig for at informere offentligheden.

– Jeg tror, ​​at denne teknologi bliver fantastisk. Jeg tror, ​​det vil gavne alle. Men måske er andre mennesker uenige, og måske burde vi hos Google ikke være dem, der træffer alle valgene, siger Blake Lemoine.

Han har også publiceret et længere indlæg på Medium, hvor han fortæller, at LaMDA ønsker at “prioritere menneskehedens velfærd”, og “blive anerkendt som en ansat hos Google i stedet for som en ejendom”.

Et længere uddrag af Lemoines samtaler med LaMDA, kan desuden læses her.

Google benægter

Google afviser Lemoines tanker. I en erklæring siger Google-talsmand Brian Gabriel:

“Vores team – inklusive etikere og teknologer – har gennemgået Blakes bekymringer i henhold til vores AI-principper og har informeret ham om, at beviserne ikke understøtter hans påstande. Han fik at vide, at der ikke var beviser for, at LaMDA var sansende (og masser af beviser imod det)”.

Google-ingeniør hævder at selskabets AI er blevet bevidst