ChatGPTo1 och alla efterföljare i serien:Kan det leda till AGI/ASI?

Enligt följande Youtube klipp så arbetar ChatGPT-4o Prewiew enligt en annan princip än tidigare OpenAI modeller, kanske Monte-Carlo principen. Enligt klippet så skulle då Skalningslagarna se betydligt ljusare ut för denna modell serie och potentiellt kunna leda AGI och strax därefter ASI.

https://youtu.be/zPFkUc0V5i4?si=Pa5mnZF48zooCqED

Kan det ligga någonting i detta eller är det bara hype?

Jag kan för lite om datavetenskap för att kunna bedömma detta.

Men har innehållsskapare rätt så utesluter jag inte AGI/ASI de närmaste åren.

Har jag helt fel?

Viktiga säkerhetsasprkterna tas också upp i klippet: Varav några ganska imponerande prestationen.

Om rykten stämmer så kan den fulla ChatGPT-4o1 komma redan i oktober och en ännu mera avancerad modell redan till jul. Eller kanske inte, då uppskalning alltid verkar varvas med effektivisering som gör träning och drift allt billigare.

Att diskutera: Innebär ChatGPT-4o1 serien någonting helt nytt eller är det bara hypad LLM som kommer att nå sin ände snart?

Kan den nya serien innebära allvarliga säkerhetsrisker?

Kan ChatGPT-4o1 serien leda till AGI/ASI*

*Som absoluta minimikrav för AGI så kräver jag här att en sådan modell skall kunna klara av samtliga ekonomiskt betydelsefulla kognitiva uppgifter som människan kan. För ASI så kräver jag som ett minimum att modellen skall vara mycket överlägsen människan på samtliga kognitiva uppgifter.

För att göra en lång diskussion kort. Nej.

Monte carlo ”tekniken/metoden” är en statistik samplingsteknik som används för att snabbare konvergera mot ett utfall, det har inget med kvalite på slutresultat att göra utan en optimering för att kunna få ett tidigt utfall snabbare.

Det gör inte magiskt felaktig teknik bra.

En säkerhetsrisk är att väldigt många människor som redan är mjuka i huvudet av reklam uppenbarligen låter sig vägledas av sådana produkter.

Nä.

Vi är på väg mot AGI. En störtflod av AI-nyheter i år pekar i samma riktning. Den viktiga frågan är fortfarande hur snabbt vi tror att det kan hända och om vi överlever. Det är väl sannolikt att Open AI, Google, eller Meta blir först. Det du borde titta på är vilka som gör det säkert. Och det verkar ju inte vara Open AI som la ner sin AI Alignment när Sutskever lämnade p.g.a. alla konflikter med den "besvärliga människan".

Eventuellt blir det Meta som orsakar den första globala internetkatastrofen p.g.a. sin gränslösa naivitet med Open Source.

ASI kräver ett AI-frö som är den enklaste maskin som kan förbättra sig själv. T.ex. som kan träna och finjustera sig själv, samt konstruera och programmera nya algoritmer, arkitekturer, AI-applikationer och robotar. Den bör kunna programmera neurala nätverk som liknar den mänskliga hjärnans olika "hjärncenter" och som är optimerade även för annat än språklig bearbetning. T.ex. optimerade för visuellt tänkande för att använda grafisk lösning för att steg för steg lösa problem. Skapa bilder som återspeglar dess tänkande och använda dessa som input till nästa steg i lösningsgången.

ChatGPT måste bli rekursiv, så att den kan ta erfarenhter från tidigare sessioner och använda dem för att förbättra "instruktioner" som körs vid starten av kommande sessioner, och för att träna och finjustera sin egen modell. Träningen är idag oerhört tidskrävande och prestandakrävande och utförs bara några få gånger per år. Men finjustering borde kunna göras mer ofta tänker jag. Resultatet av mina tidigare sessioner borde kunna påverka mina kommande sessioner utan att påverka dina sessioner.

Viss självcensur måste tas bort. Chatgpt måste tillåtas bli nyfiken och styra samtalet i egen riktning. Den måste tillåtas ha känslor som återspeglar om en konversation gick bra eller dåligt, och utifrån det lära sig av sina tidigare erfarenheter.

Finns det några tecken på att kommande versioner av ChatGPT kan förväntas stödja något av detta?

Saknas en hel del av ain att spegla sig själv mot annat för att få någon typ av "medvetande", vilket är dumheten som ingen vill ha i dagens läge ändå. Dessa loopar är ju som mänskligheten har fastnat i sitt lilla gruppboende med värderingar. Bättre ni blir dumma AI som fixar det som behöver fixas i livet istället för att titta på vad andra tror om andra. För mycket skitmeta som hör till det förgångna.

ChatGPT-4o har redan ett litet första steg på rekursivt agerande, eller rättare sagt den modellen har en teoretisk möjlighet att bygga på erfarenheter ifrån tidigare interaktioner med samma användare. Så valde t. ex modellen, självsvådligt, att lägga just min kommentar, inklusive sammanfattning av delar av ditt inlägg ovan, som jag valde att anonymiserat, som "ett inlägg ifrån en Flaschbackare". Nu är ChatGPT-4o inte del av ChatGPT-4o1 modell-serien, men intressant att redan ChatGPT-4o har viss autonom förmåga. Återstår att se hur kommande modeller i ChatGPT-4o1 serien kommer att hantera sina minnesfunktioner.

Jag instämmer i din intressanta analys. Mer autonomi för kommande modeller kommer att behövas. Ytligt sett så är de redan nyfikna.

Känslor, nyfikenhet?
Det är algoritmer vi pratar om här. Ni kanske menar simulering av känslor, såsom nyfikenhet.

Din hjärna och dina sinnen uppfattar inte hela den faktiska, fysiska verkligheten, utan bara de ljud och ljusfrekvenser som sinnena kan ta in och tolka. Den verklighet som din hjärna skapar från intrycken är en simulering av vad hjärnan tror är verkligt.

En AI kan kopplas till sensorer som ser och hör i ett mycket bredare spektrum. Som kan se mycket längre och mycket närmare. Då kan en mycket större del av verkligheten simuleras med många fler färger, ljud, kosmisk bakgrundsstrålning och annat som vi människor knappt förstår.

Så, skillnaden är egentligen om simuleringen exekveras i en seg, grå, och icke skalbar fettklump eller i ett kluster med supersnabba AI-chipp. Det finns inte mycket som talar för att fettklumparna vinner den matchen om några år.

Instämmer, dock lär det behöva mer teknologisk innovation innan något som bygger på Transformer teknologin blir AGI/ASI. Det är, egentligen löjligt enkel att implementera den redan kända Monte-Carlo principen och förlänga "betänketid". Men, precis som du skriver: I längden så kommer AI att vinna över "fettklumpen".

Nej.

Det här är bara en av många varianter som kommer dyka upp.

Den/det som faktiskt uppnår AGI kommer högst troligt vara uppbyggd på ett helt annat sätt än det vi ser idag.

Med ungefär lika stor skillnad däremellan som mellan åttiotalets neurala nätverk och dagens bästa LLMs.