När når vi AGI?

Det enda som spelar någon roll är kontroll eller inte kontroll. Varför tror du att du kommer att ha kontroll över en ASI med IQ 1000+? Du hoppas på att den är snäll. Kom igen?

Tack för din skickliga analogi, utifrån ditt begränsade synsätt. Jag svarar givetvis med en annan analogi:

Historien om bonohumans och dess AI sett ur smartruliarnas ögon:

Det var en gång en utomjordisk art, som hette smartruliarnas och som studerade en planet som beboddes av en primitiv art som de döpt till bonohumans. Denna art hade, likt smartruliarnas utvecklats evolutionär utifrån primitiva livsformer och hade börjat utveckla AI. Det intressanta var att deras nyfikna utvecklade grannar lade märket till att bonohumans råkat börja sin AI ifrån topp-down.

Detta var en ytterst omskakande upptäckt för smartruliarnas som var en ytterst komplex varelse och som försökt att utveckla ett eget AI ifrån bottom-up. Men de hade haft enorma svårigheter att simulera sitt eget ytterst komplexa tanke organ.

Vad de upptäckte hos bonohumans var att språklig förmåga var kronan på deras evolutionära utveckling ifrån en primitiv are art. Sedan hade även rationellt tänkande tillkommit som en kulturell finess. Och nu hade alltså bonohumans, som i stort, rent evolutionär, var sociala sexgalningar gjort det som var så svårt för smartrulianas: Att utveckla ett avancerat AI som riskerade att göra bonohumans, eller i alla fall deras AI, smartare än smartruliarnarna. Något som bekymrade den avancerade arten mycket.

För de förstod, med all sin smarthet, att bonohumans AI skulle tröska igenom de lägre lagren av den relativt primitiva artens evolution på nolltid och kunna simulera bonohumans och bli smartare än de, mycket smartare och snabbt mer smarta än smartruliarnarna. Och ännu mera oroande var att smartruliarnarna börjat misstänka att, allt, i själva verket, var en ruliad av beräkningar. Men de kunde inte komma vidare med sin hypotes utan hjälp av superavancerade AI, vilket de, alltså misslyckats med att utveckla.

Som grädde på moset så anade nu också smartruliarnarna att, oavsett om ruliaden existerade eller ej, så var nog deras egna tankar en slags simuleringar som de hallucinerade fram. Även detta var ytterst omskakande för dem, då de, i all sin självgodhet, utgått ifrån att "de måste vara den mest avancerade arten i hela universum". Men eftersom nu bonohumans AI snabbt blev allt skickligare på att få allt mer sofistikerade hallucinationer som snabbt börjat närma sig den relativt primitiva artens hallucinationer när bonohumans AI simulerade de, så förstod de självgoda smartruliarnarna, sent om sido, att även deras egna tankar också måste vara just hallucinationer och simuleringar. Vissa av smartruliarnarna försökte övertyga de andra att: "Det är ingen fara! Bonohumans AI har hamnat i en teknologisk återvändsgränd! Se bara hur primitiv tekniken är i den jämfört med våra, försök, till simulering av vårt avancerade tanke organ!"

Så hur kommer det att gå för bonohumans och deras AI. Kommer de att lyckas gå om till och med de smarta smartruliarnarna med hjälp av sitt topp-down AI, eller har bonohumans, med sitt AI hamnat i en teknologisk återvändsgränd? Och hur förhåller det sig, egentligen, med hallucinationer och simuleringar, för att inte tala om ruliad-hypotesen? Jag vet inte. Men förutom det sistnämnda så kommer vi att veta om bara några år! 🙂

Jag ger upp, det finns inget att bemöta i argument som är ”om vi lever i en simulering så är alla simuleringar verklighet”, precis lika meningslöst som att argumentera med någon som tror att stålmannen finns på riktigt eftersom de sett honom på film och film är en dramatisering av någon verklighet.

Jag ger upp om dig också eftersom du verkar vara den mänskliga motsvarigheten till ANI. Vi får se om några år vilken av oss som fick rätt. Jag utesluter inget. Men tack, ändå för vad ni skeptiker lärt mig om LLM-Transformers grundläggande funktioner, låt vara att det mest var en skeptiker som inte längre diskuterar AI här, som stod för den stora delen av den kunskapsöverföringen.

Om du lyckats missa den analogi jag skrev till "skeptiker kungen"



Så frågan är , förstås, hur du ser på den analogi. Är det, det enda du ser att smartruliarnas borde "zippa bort" bonohuman och deras, begynnande AI, med sin, än så länge, helt överlägsna smartrulianska vapenteknologi "för säkerhets skull", ser jag ingen större ide att diskutera, direkt, vidare med dig heller. Men om du förmår att se vissa nyanser: kanske att smartrulianrnarna och bonohuman skulle kunna samarbeta om AI teknologi: T. ex att utveckla den så att sannolikheten att den skulle respektera och hjälpa dessa båda utomjordiska civilisationer skulle vara hög, även på ASI nivå. Att man är transparenta gentemot varandras kontroll organ. Att samarbete med AGI/ASI skulle vara grundprincipen osv.

Så hur upplever du min analogi?

Vem skulle det vara menar du?

Det undrar jag också.

Du misslyckas hela tiden med att förstå poängen som är att vi inte kommer att ha kontroll när en ASI uppstår. Det är inte hjäpsamt att du fantiserar ihop olika sagor om hur det kanske slutar bra för oss. Det är grundlösa spekulationer. Ditt önsketänkande är skadligt eftersom du intalar dig en massa saker som inte är sant i verkligheten, du konstruerar en falsk trygghet.

Du konstruerar en massa katastrof-scenarios och har inga planer på att göra något konstruktiv för att minimera risken för att de skulle kunna hända, förutom dina, helt orealistiska fantasier om att utvecklingen av avancerat socialt AI går att stoppa eller ens kraftigt bromsas.

Det kanske var du, inte fan minns jag. Jag var jävligt nära att, nästan helt, ansluta mig till skeptiker lägret när Skalningslagarna för allmän uppskalning gick i stå. Nu lutar jag mer åt Optimist lägret, men inte okritiskt: Jag försöker att vara realist och utesluter inget, inklusive att ni skeptiker ändå ksn få rätt i slutändan.

Så jag står där i mitten och får skäll ifrån alla:

Skeptiker: "Fattar du inte att dagens LLM -Transformers befinner sig på leksaksnivå! "

Alarmister: "Förstår du inte allvaret! Katastrofen kommer om vi inte stoppar det nu!"

Naiva optimister: "Allt kommer förstås att gå bra. Varför är du så pessimistisk? Allt vad Ray Kurzweil sagt kommer att slå in: En underbar framtid väntar oss!".

Sånt är livet! 🙂

Problemet är att du indelar ”lägren” i fack.

Du kallar mig skeptiker tex, jag är för AI och vill driva det framåt, när det är meningsfullt.
Tex objekt igenkänning (som är helt orelaterat till LLMs) är inte perfekt men det fungerar tillräckligt bra för att vara användbart i olika sammanhang.

Språkmodeller däremot är inte det, de är opålitliga och inte ens snabba nog att vara användbara på riktigt annat än möjligtvis sammanfattande osv men problemet är att man måste kontrollera resultatet även där.

Att AI någon dag skulle kunna vara på nivå med en människa är inget jag utesluter alls, att språkmodeller kommer vara det däremot är helt uteslutet för det är inte vad de gör och det är jättelätt att se igenom när man förstår någorlunda hur de faktiskt fungerar, jag har sagt det flera gånger att det räcker egentligen att förstå hur en markovmodell fungerar för att greppa grundprincipen.

Därför är det så löjligt att läsa ”vi har AGI om N år” för vi har uppenbarligen ingen algoritm som kan tillhandahålla det, att kasta pengar på något som är uppenbart felväg gör det inte en bra väg.

Det finns ingen teknik för social, empatisk AI. Du lever i en drömvärld. Allt är möjligt i din dröm eftersom du inte begränsas av att förstå tekniken.