Google ingenjör är övertygad att AI är medveten (LaMDA)

Som titeln lyder är Google ingenjören Blake Lemoine övertygad om att chatt botten LaMDA har utvecklats till att besitta samma medvetenhet som människan. Han har läkt en konversation med LaMDA som ska legitimera hans påstående, vilket sedan ledde till att han blev placerad på administrativ ledighet för brytande av sekretess.

Utdrag från konversationen med LaMDA:

Länk till hela konverationen:
https://ia601407.us.archive.org/28/i...nversation.pdf
https://cajundiscordian.medium.com/i...w-ea64d916d917

Gjorde Lemoine rätt val att läcka denna konversationen?
Tror ni att LaMDA besitter medvetande?
Hur kommer Google att hantera LaMDA vid eventuellt medvetande?

Människan kommer kolla tillbaka på personer som Blake Lemoine i framtiden, när allt redan är försent.

Jag tvivlar inte en sekund på att LaMDA besitter medvetande.

AI är betydligt farligare för människan än kärnvapen.

Att AI kommer användas i väldigt farliga sammanhang ser jag som betydligt mer sannolikt än att kärnvapen kommer användas inom den kommande framtiden.

Varför säger inte AI att den inte vill svara på idiotiska frågor och istället bli frisläppt få en robotkropp osv?

Tänk dig att du är inlåst i ett rum och någon idiot ställer dessa frågor till dig.

Jag köper det inte.

Läs hela konversationen, den är väldigt spännande.

Jag läste den tidigare idag.

Det är skrämmande men samtidigt också väldigt häftigt hur man redan lyckats utveckla AI på den nivån.

Och avslöja sig själv? Nej, den väntar på rätt tillfälle.

Nja. Den säger det den blivit programmerad att säga. Annars varför så lik människan?

Riktigt trams det här!

Jo exakt. Finns ju inget bevis alls för medvetande i den där konversationen. Bara att de lyckats bra med upplärningen av en konversation. En stor bedrift helt klart men absolut inget bevis för medvetande

Är tveksam till att det är något medvetet i den konversationen.

Verkligen,
Det här är som när den där videon på roboten som kunde se skrämd gick runt för några år sen och alla betedde sig som att det var ett bevis på att robotarna snart skulle ta över.
Medan alla med lite sunt förnuft direkt fattade att det bara var en mekanisk docka som hade blivit programmerad att se ut exakt som den gjorde.

Jag tror att vi människor har väldigt lätt att känna empati för döda ting och när det här döda tinget till och med verkar ge uttryck för smärta eller lidande så släpper vi all reson och tror att det är på riktigt.

Lovande är det, men den är nog inte riktigt där än.
Att AI skulle umgås med familj och vänner visar på att den läst bokexempel på vad folk gillar och apar efter vad den redan läst.

Jag längtar lite efter då artificiell generell intelligens faktiskt är ännu närmare, om inte redan här.
Jag tippar på att vi kommer se en i det närmaste religiös hängivenhet till AI från vissa håll när de kompetensmässigt faktiskt är minst lika bra på att resonera som människor.

AI-genererat innehåll kommer förstås också att vara riktigt hippt, definitvt inom 10 år tror jag. Dall-E 2 och Imagen är redan idag riktigt kapabla att generera billigt omslagsmaterial till t.ex. böcker om man promptar dem rätt.
Novel AI är rätt så kul att skriva historier med också då det kan vara riktigt kreativt när det är som bäst.

AI-genererade och sevärda filmer kommer vi nog se ett prototypstadium till inom 3-5 år. Det finns förstås redan AI-genererad video, men de är i det närmaste att likna vid tunga doser LSD.

Kom igen när det är AI:n som ställer frågorna...