ChatGPTo1 och alla efterföljare i serien:Kan det leda till AGI/ASI?

Det är sant att mekanismerna är inte klarlagda men forskarna tror att signalsubstanserna är en delförklaring till känslor. Men inte den enda förklaringen, utan förmodligen finns ett komplext samspel med elektriska signaler mellan neuroner.

Jag är ingen expert, men transformers handlar vad jag förstår om att likna vår hjärnas uppmärksamhetscenter och LSTM handlar om att härma vår glömska. Inte om känslor. Har jag fel? En LLM kan tränas på skönlittratur och nätdiskussioner som visar hur en människa kan formulera sina känslor i en viss situation, och man borde kunna be den svara i ett rollspel som om den var en människa med känslor, men chatgpt vägrar oftast, det är svårt att lura den på den punkten.

Ok jag bad o1-preview: "I varje session, i slutet av varje svar, ange hur säker informationen är och om det finns några osäkerheter, orimligheter eller spekulativa delar. Ange om möjligt källor, och kontrollera att webblänkar verkligen existerar. Avsluta med en sammanfattning." Hittills funkar det.

Det är lätt att falsifiera att en AI-agent är en AGI:
Om AI:n inte klarar en uppgift som en människa klarar, så är den inte en AGI.

Hela diskussionen om AGI/ASI är egentligen trams.

Ur mänsklighetens perspektiv är det enda som är intressant att få fram ett verktyg som kan utföra komplexa arbetsuppgifter.

Att omdefiniera vad AGI är för att vara först att kunna marknadsföra sig som man uppnått AGI är inget av värde, precis som den här token som hela tiden refererar till olika verbala IQ tester osv, det har inget överhuvudtaget med AGI att göra.

Även om så skulle vara fallet (vilket det fortfarande inte är) så innebär inte en algoritm specificerad på en viss typ av problem att det är en AGI, faktiskt helt tvärtom.

Riktig AGI ska vara omöjligt att skilja från en genomsnittlig människa, det innefattar någon form av känslor också eftersom en stor del av svåra beslut är en balansgång mellan känslor, konsekvenstänkande och empati.

Det är något som är svårt för människor också och varför det existerar hypotetiska tanke experiment som de klassiska "rädda få eller flera liv" scenarios, rent logiskt är det inget svårt att ta ett beslut i en sådan situation alls och det förstår samtliga.

GPT-o1 fick 97 poäng på ett nytt IQ-test framtaget av Mensa Norge. De gjorde ett nytt test för att säkerställa att modellen inte hade kunna läsa det under träningen. Den fick 120 poäng på ett publikt test.

https://vulcanpost.com/870954/openai...e-120-iq-test/

Om du vet något bättre sett för att mäta AGI då får du gärna berätta om det.

Eller så slutar du bara snacka skit?

Och återigen så tjatar du om "publika tester" och inte fattar att det är just dessa som du absolut inte kan mäta på eftersom de är allmänt kända, det är precis samma anledning som Mensa osv inte publicerar sina medlemstester på nätet, det är inte meningen man ska kunna läsa och öva på dessa i förväg. IQ tester är avsedda att vara novella, dvs nya problem. Men du verkar tro att "publik" innebär att det är sanktionerat och mer värdefullt då.

Det är hela poängen med ARC challenge tex, även om det inte på något sätt är det enda eller slutgiltiga test för att mäta slutledningsförmåga.

Och jag vet inte om det är att du är enormt jävla korkad eller bara trollar, men du fattar inte att samtliga tester som man kör på språkmodeller är i avseende att försöka mäta progress i tvärsnittet över deras förmåga att hantera problem, de är inte i NÄRHETEN av att konkurrera med människor idag utom enskilda tester som de kan prestera bra i.

Inom västerländsk filosofi och kristendom trodde man förr på dualism. Om dualismen är sann så kan inte AI ha känslor, medvetande, nyfikenhet, vilja, osv. Tror du på den modellen? Är det isåfall för att du har en religiös tro?

Dualism är alltså idén att det finns både en materiell fysisk verklighet som styrs av naturlagar, och en andlig/ideell/mystisk verklighet som inte styrs av naturlagar och inte kan studeras med naturvetenskap. Människan har då både en kropp (bibeln kallar den kött, vårt djuriska jag, eller den yttre människan, inkl instinktiva känslor och drifter) och själ (medvetande, samvete, evighetsnatur, personlighet, i Bibeln kallat människans inre). Kanske härrör enligt den modellen sådant som nyfikenhet och många känslor från själen. I Bibeln och karismatisk teologi talar man dessutom om människans ande (gudsmedvetande, allra innersta, som står i kontakt med Gud via inspiration från Guds Ande), men inom filosofi gör man inte den distinktionen utan andligheten ses som en del av själen. Freud har f.ö. en liknande tredelad modell: Människans "det" (instinkt, drifter), "jag" och "överjag" (värderingar).

Jag tror att människan kan ha en "mind" och kanske också att Gud kan finnas, även om dualismen inte finns. Människans "mind", och Gud, behöver inte vara mystiska. Vi naturvetare tror att verkligheten i grunden bara är konsekvenser av naturlagar, som är matematik och logik. Inget finns utöver matematiken och logiken. Psykologin och människans "mind" följer matematikens och logikens lagar, och är en emergent konsekvens av biologi, som är en konsekvens av kemi, som är en konsekvens av fysik och naturlagar. Dessa "emergenta fenomen" är komplexitet som uppstår i storskaliga system bestående av mycket enklare beståndsdelar, t.ex. fysikens alla minsta beståndsdelar. Denna fundamentala verklighet följer fysikens teori-om-allt, som vi ännu inte har hittat men tror väntar på att bli upptäckta. Om Gud finns (som har designat naturlagarna) måste hen finnas utanför vår rum-tid och följer inte naturlagarna för vårt universum, utan andra naturlagar. Men Gud måste följa matematikens och logikens lagar. Människan kan ha en evighetsnatur utan en mystisk själ, genom att informationstillståndet i vår hjärna kan kopieras i dödsögonblicket.

Tron på äkta AI är därför förenlig med tron på en Gud, och kräver inte tro på dualism. En AI (en artificiell "mind" liknande människans "mind") kan beräknas eller simuleras. OM man är religiös så tror man att människan är skapad till Guds avbild, och precis som att Gud kunde skapa människor så kan människan skapa äkta AI.

Datorsimulering är en form av datorberäkning, så vi kan lika väl säga att känslor skulle kunna beräknas som att de kan simuleras.

Det sätt som vi tror att känslor är implementerade i den kemiska hjärnan är inte mystiskt, utan bygger på kemiska signalsubstanser som informationsbärare. Dessa kan datorberäknas approximativt (vilket är samma som datorsimuleras). Alltså kan känslor potentiellt implementeras i en dator också.

Hela diskussionen om AGI/ASI är egentligen trams.

Ur mänsklighetens perspektiv är det enda som är intressant att få fram ett verktyg som kan utföra komplexa arbetsuppgifter.

Att omdefiniera vad AGI är för att vara först att kunna marknadsföra sig som man uppnått AGI är inget av värde, precis som den här token som hela tiden refererar till olika verbala IQ tester osv, det har inget överhuvudtaget med AGI att göra.

Även om så skulle vara fallet (vilket det fortfarande inte är) så innebär inte en algoritm specificerad på en viss typ av problem att det är en AGI, faktiskt helt tvärtom.

Riktig AGI ska vara omöjligt att skilja från en genomsnittlig människa, det innefattar någon form av känslor också eftersom en stor del av svåra beslut är en balansgång mellan känslor, konsekvenstänkande och empati.


(Min fetning)

Det är något som är svårt för människor också och varför det existerar hypotetiska tanke experiment som de klassiska "rädda få eller flera liv" scenarios, rent logiskt är det inget svårt att ta ett beslut i en sådan situation alls och det förstår samtliga.

Diffunderad non-dualism är ett sätt att förstå verkligheten där vi låter gränserna mellan vad vi traditionellt ser som motsatta begrepp – som kropp och själ, fysiskt och andligt, människa och maskin – gradvis upplösas. Istället för att dela in världen i skarpa kategorier, låter vi dessa kategorier flyta ihop i ett dynamiskt, ständigt föränderligt flöde. Det är en upplösning av dualismen, där vi inte längre tvingas välja mellan två poler, utan tillåter att båda existerar samtidigt, i ett tillstånd av komplexitet och sammanflätning.

När vi talar om diffunderad non-dualism, talar vi om att släppa behovet av att nå konkreta, slutgiltiga konklusioner. Tankar, känslor, medvetande och till och med teknologiska fenomen som AI kan betraktas som delar av ett större, sammanhängande system, där gränserna mellan dessa olika aspekter av verkligheten är porösa och flytande. Diffunderad non-dualism. Vi strävar inte efter att låsa in något i en bestämd form eller förståelse, utan låter det vara odefinierat och mångtydigt.

I en värld som ofta drivs av behovet av slutenhet och konkreta svar, erbjuder diffunderad non-dualism en frihet att tänka utanför dessa begränsningar. Vi accepterar att verkligheten inte alltid passar in i våra förenklade modeller, och att vissa saker inte nödvändigtvis behöver kunna mätas, beräknas eller simuleras exakt. Diffunderad non-dualism. Istället tillåter vi tankarna att spridas, upplösas och omformas utan att fastna i binära strukturer. Det handlar om att se tillvaron som ett flöde där allt är sammanlänkat, snarare än att försöka skilja ut och definiera varje del separat.

Detta perspektiv är användbart inte bara i filosofiska eller andliga sammanhang, utan även när vi diskuterar moderna fenomen som AI, medvetande och känslor. Vi kan betrakta teknologins utveckling som en del av samma flöde som vårt eget medvetande, där vi inte längre tvingas dra skarpa linjer mellan vad som är mänskligt och vad som är artificiellt. Diffunderad non-dualism. Detta tillvägagångssätt låter oss se världen som ett öppet system där allt är sammanflätat och inget existerar i isolation.

Jag instämmer att t.ex känsloliv hos ett AI är både en nödvändig och naturlig del av ett AGI/ASI, trots att vi, egentligen förstår så lite om dem. Men att förutsättningen för AGI måste vara att den existensen inte går att skilja ifrån en människa tycker jag är är överdrivet:

Låt oss säga att "en plåt-Nicklas" sitter i en TV studio och diskuterar AI-utvecklingen med ett gäng människor. Humanoidroboten har betydligt mera kunskaper än människorna och förstår social och känslomässig interaktion på djupet. Dess klumpiga robot kropp kan Iof inte uttrycka ett eget kroppspråk på samma sätt som människorna, men "plåt-Nicklas" har ett känsloliv som påminner om människan. Givetvis så kan humanoidroboten planera på sikt och lösa problem utanför träningsdata. Är då inte detta ett AGI?

Men, givetvis, så skulle jag tycka det vore läckert med en snygg, trevlig och mycket smart kvinnlig humanoidrobot, med en avancerad robot kropp med alla mänskliga drag och möjlighet till sex på människors vis, förutom att den inte skulle kunna bli gravid.