Snart kanske vi har AI som har mänsklig intelligens. Vad händer då?

Det är först när AI som ren mjukvara förenas och "sammansmälter" med hårdvara i form av bl.a. kvantberäkning och därifrån utvecklar ett eget medvetande som det börjar bli farligt. Sägs det i alla fall.

Hur mäter vi att vi har uppnått AGI? Det måste väl bli någon slags gissning. Vi mäter intelligens med IQ-test. I den bemärkelsen har vi redan AGI, ChatGPT4 har en IQ på 155. För övrigt vet man inte riktigt vad medvetande och intelligens egentligen är eller hur det fungerar. Häri ligger också säkerhetsproblemet. Att de inte riktigt vet vad de skapar, hur de kan mäta vad som skapas, eller vad det kan leda till. T.ex.. hur mäter man IQ 1000? För att skapa det testet behöver du själv ha IQ 1000, typ. Alltså kan vi inte ta reda på hur intelligent en AGI blir. Kan vi då lita på den när vi inte ens förstår vad det är vi ska lita på? Risken är att vi blir kraftigt frånkörda extremt snabbt och konsekvenserna av det kan vi inte heller begripa. De leker med elden. .

Om det inte går åt helvete kanske det blir extremt bra för oss. Vi kan i teorin lösa det så att alla människor kan leva för evigt i lyx och överflöd. Men är det ens roligt? Det finns ju många exempel på olyckliga miljardärer som har allt de vill ha men ändå är ensamma, olyckliga, och kanske förstör sina liv med alkohol och droger.

Hur kan vi säkerställa att allt inte går åt helvete? Jag ser egentligen inte någon sådan möjlighet. Det blir lite grand som att fråga en labbråtta hur man tillverkar en medicin utan biverkningar.

So basically, we are fucked.

Om vi inte har en jävla tur och upptäcker att IQ>300 automatiskt innebär att entiteten blir omtänksam och rättvis. Men det vet vi inte. Det är en ren chansning. Rysk roulette.

Varför ser vi inga aliens i rymden? Ett möjligt svar kan vara att de utrotades när de uppfann AGI.

Hur mäter vi att vi har uppnått AGI? Det måste väl bli någon slags gissning. Vi mäter intelligens med IQ-test. I den bemärkelsen har vi redan AGI, ChatGPT4 har en IQ på 155. För övrigt vet man inte riktigt vad medvetande och intelligens egentligen är eller hur det fungerar. Häri ligger också säkerhetsproblemet. Att de inte riktigt vet vad de skapar, hur de kan mäta vad som skapas, eller vad det kan leda till. T.ex.. hur mäter man IQ 1000? För att skapa det testet behöver du själv ha IQ 1000, typ. Alltså kan vi inte ta reda på hur intelligent en AGI blir. Kan vi då lita på den när vi inte ens förstår vad det är vi ska lita på? Risken är att vi blir kraftigt frånkörda extremt snabbt och konsekvenserna av det kan vi inte heller begripa. De leker med elden. .

Om det inte går åt helvete kanske det blir extremt bra för oss. Vi kan i teorin lösa det så att alla människor kan leva för evigt i lyx och överflöd. Men är det ens roligt? Det finns ju många exempel på olyckliga miljardärer som har allt de vill ha men ändå är ensamma, olyckliga, och kanske förstör sina liv med alkohol och droger.

Hur kan vi säkerställa att allt inte går åt helvete? Jag ser egentligen inte någon sådan möjlighet. Det blir lite grand som att fråga en labbråtta hur man tillverkar en medicin utan biverkningar.

So basically, we are fucked.

Om vi inte har en jävla tur och upptäcker att IQ>300 automatiskt innebär att entiteten blir omtänksam och rättvis. Men det vet vi inte. Det är en ren chansning. Rysk roulette.

Varför ser vi inga aliens i rymden? Ett möjligt svar kan vara att de utrotades när de uppfann AGI.