Snart kanske vi har AI som har mänsklig intelligens. Vad händer då?

“I have been told that GPT-5 is scheduled to complete training this December and that OpenAI expects it to achieve AGI.” Källa
https://twitter.com/blader/status/1640217165822578688

AGI är begreppet "artificiell allmän intelligens", som hänvisar till en AI:s förmåga att förstå och lära sig alla uppgifter eller idéer som människor kan svepa sina huvuden runt. Med andra ord kan en AI som har uppnått AGI vara omöjlig att skilja från en människa i sina förmågor.

"So this “AI founder” experiment is kind of blowing my mind.

I set an objective, and say “your first task is to create your next task”. It then continues to generate and reprioritize its own task list as it executes them one by one.

Only hooked up to search now. Kinda scary."

Källa
https://twitter.com/yoheinakajima/st...72214871031808

Vad är konsekvenserna av detta på samhällsnivå?
Kommer människan i sann kapitalistisk anda bli överflödiga, där AI gör ändå gör allt jobb som en människa kan göra men till en mycket mindre kostnad?. Blir den vanliga människan då bara bli kostsam eftersom vi bara vill äta, konsumera men inte tillräckligt bra att producera något eftersom vi där utkonkurreas av AGI?

Eller kommer AGI bli slavar som jobbar åt människan , medan människorna inte längre behöver jobba. Ungefär som människorna i Saudiarabien inte behöver jobba, men lever på oljan, och i framtiden kanske man kommer läsa att människan förr i tiden var tvungen att jobba 8-5, 5 dagar i veckan?

Kommer de blir krig mellan människan och AI?
Har människan tillräckligt med säkerhetsåtgärder för att hindra att AI inte tar över och hotar människan? På det sistnämnda så tror jag inte att USA kan kontrollera vilka säkerhetsåtgärder Kina och andra länder vidtar för att förhindra att AI inte tar över och blir ett farligt hot, delvis eftersom inget land vill vara på efterkälken i utvecklingen av AI i hetsjakten på att vara på framkant i den teknologiska och militära utvecklingen.

Om vi lyckas behärska AI, vilka upptäckter kommer vi göra? Kommer vi plötsligt lösa nya matematiska problem som leder till att en mängd nya tekniska innovationer, och förstå vad som fanns innan Big Bang, samt förena kvantmekaniken med gravitationen?
Hur kommer det bli när vi inte vet om någon man chattar med är en bot, eller om information kommer från bot eller människa? Hur kommer lagarna ändras?

Hmm.. om your first task is to create your next task, kommer man någonsin att genomföra en sak? eller startar man bara nya saker en efter en som aldrig kommer till avslut?

Politik: utrikes --> Övrigt - ämnen som saknar eget forum
/Moderator

Med lite tur avlossar den vätebomberna så att vi får slut på den globala diktaturen och kan börja om.

Ja alltså dom två stora frågorna är vad AI kommer att göra på egen hand samt vad dom som sitter bakom spakarna kommer att göra.

Vi övriga får vackert sitta ner i båten och hoppas att det inte blåser för hårt.

Är det inte bättre att ai’n plockar globalistsiktatorerna och låter oss oskyldiga leva? Varför kan du inte tänka längre än vad näsan räcker?

Hur mäter vi att vi har uppnått AGI? Det måste väl bli någon slags gissning. Vi mäter intelligens med IQ-test. I den bemärkelsen har vi redan AGI, ChatGPT4 har en IQ på 155. För övrigt vet man inte riktigt vad medvetande och intelligens egentligen är eller hur det fungerar. Häri ligger också säkerhetsproblemet. Att de inte riktigt vet vad de skapar, hur de kan mäta vad som skapas, eller vad det kan leda till. T.ex.. hur mäter man IQ 1000? För att skapa det testet behöver du själv ha IQ 1000, typ. Alltså kan vi inte ta reda på hur intelligent en AGI blir. Kan vi då lita på den när vi inte ens förstår vad det är vi ska lita på? Risken är att vi blir kraftigt frånkörda extremt snabbt och konsekvenserna av det kan vi inte heller begripa. De leker med elden. .

Om det inte går åt helvete kanske det blir extremt bra för oss. Vi kan i teorin lösa det så att alla människor kan leva för evigt i lyx och överflöd. Men är det ens roligt? Det finns ju många exempel på olyckliga miljardärer som har allt de vill ha men ändå är ensamma, olyckliga, och kanske förstör sina liv med alkohol och droger.

Hur kan vi säkerställa att allt inte går åt helvete? Jag ser egentligen inte någon sådan möjlighet. Det blir lite grand som att fråga en labbråtta hur man tillverkar en medicin utan biverkningar.

So basically, we are fucked.

Om vi inte har en jävla tur och upptäcker att IQ>300 automatiskt innebär att entiteten blir omtänksam och rättvis. Men det vet vi inte. Det är en ren chansning. Rysk roulette.

Varför ser vi inga aliens i rymden? Ett möjligt svar kan vara att de utrotades när de uppfann AGI.

Jag kan rekommendera Max Tegmarks bok ”Liv 3.0” för den som är intresserad av AGI. Förutom de olika scenarier han målar upp går författaren också in i etiska resonemang och tar upp farorna med AGI på allvar.

Har läst att Chatgpt4 ha ren iq på 114. Vart kan du se att man säger att den har 155?

https://www.msn.com/en-us/health/oth...gh/ar-AA19fhk6

Men huvudsaken nu är inte om intelligenskvoten är 114 eller 155, det är vilken IQ som är möjlig i GPT5, ETA december 2023.

Jag tror att den blir högre än vad vi kan mäta. Eller berätta för mig hur du konstruerar och rättar ett IQ-test som kan detektera IQ 300.

För det första så är ju iq en percentil, där mensianer har topp 2 procent av befolkningen.

Det finns ju ingen människa som har 1000 i iq, och vilken percentil ska vi använda oss av då? En på 1000 miljarder i percentil?

Eller ska vi underlätta det och säga att ai är dubbelt så smart som 150? Vad är dubbelt så smart i detta sammanhang. Att kunna avläsa dubbelt så många parallella mönster? Som du ser så är iq omätbart vid för allt för höga nivåer. Man kan säkert konstruera nya anpassade för AI.

Jag skulle säga att ett ett test för datorer ska vara konstruerat :
Hur många parellalla mönster kan den samtidigt uttyda?

Med parella menar jag att en rektangel förlyttar sig 2 steg i varje ruta samti i varje tredje ruta så roterar den 180 grader. Där har vi två parella. Med tredje parellelt, så kan det vara att den var fjärde ruta roterar 90 grader ovanpå ovannämda.

Självklart är inte detta en 100 procentig lösning, men det kan vara en av 1 5 punkter man mäter AI intelligens på

James Cameron har redan för 40 år sedan förutspått vad som händer när datorer (ai) tar över.

Det farliga är om AIn ges mänskliga attribut som girighet, maktlystnad, narcisism och storhetsvansinne.

Para det med förmågan att ta strategiska militära beslut och vi har domedagen på halsen precis som Cameron förutspådde redan på 80talet.