AI orsakar mänsklighetens död eller åtm gör det sämre att leva (samlingstråd)

Hur mycket förekommer AI i svensk media? Min enda svenska mediakälla är i stort sett P1. Där talas inte mycket om AI av det jag har hört. En del samtal i Ring P1, inte mycket mer. Generellt har väl Sverige gått från att varit självutnämnt "världsledande" inom IT till att hamna på efterkälken? På bara 20 år. Se på oss bara t.ex.: det är inte mycket i min browser som säger att det här inte är 2003.

Det är inte helt säkert heller.

Det kan vara så "enkelt" som att bara lyckas göra en AI som är självförbättrande, om ens i oerhört små inkrement, så kommer den blåsa om mänskligheten extremt fort i sammanhanget.

Låt säga för enkelhetens skull att en grupp forskare gör en generell AI som är extremt dum på det mesta, och har endast 1 enda IQ-poäng enligt alla normala IQ-tester man slänger på människor.
Det enda den egentligen kan i detta läge på ett förutsägbart sätt, är att förbättra sig själv, för det var det forskarna fokuserade på när de konstruerade den.

Denna AI förbättrar sig själv med 1% för varje iteration. Vi säger att det tar 24 timmar för denna AI att åstadkomma denna pyttelilla förbättring.
AI:n tuggar på, och efter 24 timmar så har den hela 1,01 IQ.
Eftersom den nu är lite smartare och effektivare, så går det också lite fortare att göra nästa steg.
Så istället för hela 86400 sekunder, så tar det 85544 sekunder.
Nu har AI:n fått 1,0201 IQ. Och det tog pytteliten mindre än ett helt dygn att tugga ihop den förbättringen.

AI:n tillåts att hålla på förbättra sig själv i samma gemak.
Efter 62 dagar har den hunnit förbättra sig själv 100 gånger, och har nu samlat ihop den kolossala intelligensreserven på drygt 2,7 IQ.
Fortfarande en total ärthjärna om man ber den om frågor som normala människor kan besvara.
Men eftersom AI:n trots allt har blivit 170% effektivare så tar det nu bara knappt 9 timmar att bli ytterligare 1% mer effektiv.

Den får tugga i hundra steg till.
Det tar bara 23 dagar.
7,3 IQ.
Fortfarande inget geni, men det börjar ju nästan bli tvåsiffrigt.

Hundra steg till.
Det tar inte ens 9 dagar, och nu har den en IQ på nästan 20.
Och ännu bättre, det tar bara drygt en timme för varje förbättringssteg.

Forskarna tycker det är lite trist att bara titta på den göra så små skutt, så de bestämmer sig för att ta semester i en vecka.
Det har gått 94 dagar sedan projektets början, och de tar ledigt för hela veckan och ser hur det har gått via fjärruppkoppling när de kommer tillbaka i slutet på dag 100.

Men nu har något hänt.
På dessa sista 7 dagar så har, tack vare en ackumulerade effektivitet, denna AI hunnit förbättra sig 600 gånger till.
Dess IQ har uppnått en hisnande nivå på 20959 poäng, och den förbättrar sig med 1% var fjärde sekund.

Forskarna har panik, det här kan de omöjligen kontrollera.
De skyndar sig till kontoret. Det är tyvärr rusningstrafik.
Knappt 3 timmar senare har AI:n förbättrat sig 1000 gånger till.
Dess IQ är nu 439.286.205, och varje förbättring tar inte ens 0,2 millisekunder.

Inget hopp finns längre att kunna förstå en stackars bråkdel av AI:n.
Tyvärr var den också internetansluten för att ha tillgång till all forskning som kunde tänkas finnas om datavetenskap, för att förbättra sig fortare.

Människan har mött sin överman.

Accelererar det här i samma tempo så har vi helt AI-genererade fullängdsfilmer som fullkomligt förintar dyra hollywoodproduktioner innan jul.

Nu tycker jag att vi tar och lugnar ner oss lite och sjunger "We shall overcome" här. Vill du slå vad om att det inte kommer finnas innan jul. Min magkänsla säger att det med 99.99999999926535897932384626433832795028841971% sannolikhet inte kommer göra det? Bestäm oddsen du isf.

Hmm, det beror på premisserna.

Jag bettar bara på det här du skrev från början. Orkar inte krångla till det. Du får betta med andra om annat. Problemet som jag ser det är definitionen på "förinta".

Ja det var i bemärkelsen "att vara kvalitetsmässigt bättre än, med kraftigt förnimbar marginal".

Slutet för mänskligheten - Hur kommer AI utrota oss? Och när kommer det ske?

Det som skiljer i denna fråga är att de som vet allra mest när det gäller AI, experterna är livrädda, medan svensson på gatan rycker på axlarna och tror inte det är någon fara. I andra sammanhang brukar det vara tvärtom, tex att svensson på gatan kan tycka att kärnkraft är jävligt läskigt, men de som jobbar med det och är experter inte är så oroliga.

Alla borde se nån gammal svart-vit film om Frankensteins monster. Det är likadant om AI ibland forskarna. Samma tokigheter. Man kan aldrig förstå universums- och hjärnans koppling och det bakomliggande medvetandet med dess intelligens hos det som skapar liv. AI är och kommer förbli maskiner och faran ligger helt i hur man använder dessa prescis som alltid.