Vad anser ni krävs för att ett framtida AI, skall få betecknas som ett AGI?

AI utvecklingen går betydligt snabbare än så, åtminstonde vad gäller antalet parametrar II olika, system. Den accelererar expinentiellt på en logaritmisk skala!

https://ourworldindata.org/grapher/a...arameter-count

Det jag noterat bara för att se efter precis, då det bara är en miniräknare fortfarande gällande svar av alla filter etc.

Förutom att den inte kan tänkta i dessa banor alls autonomt, så varnar den hela tiden för att mänskligheten ska släppa kontrollen över att få låta AI ta autonoma beslut.

Även i frågan att det blir en logisk konsekvens av ett mer komplext samhälle i en ond cirkel där vi tappar egen förmåga till sist, då administrationen av det kräver en konstant ökad ai- teknik för att leva upp till dess behov, som gör att endast ai till slut kan leda ett framtida samhälle.

Då blir svaret att det är upp till vår egen moral om så skulle ske. Vi måste låta Kinas ledares moral styra samt Google, Musk och Microsofts moral.

Då kommer det jag beskriver aldrig att ske, svär vår kära AI-bot.

För det är inte du eller jag som avgör moralen i denna fråga, men det är intressant att Open-AI är programmerad att få oss att tro att det är ett demokratiskt beslut som du eller jag har ett dugg att kunna säga något till om,
som skulle vara avgörande för sitt och vårt eget framtida öde där det kommer att sluta som jag beskrev det så klart, då jag redan pekar på flera faktorer som påvisar det i dagens samhälle.

Frågan om sjukförsäkringen tex, det kan aldrig hända i Sverige som det gör uppenbarat då jag tog upp ämnet om det som jag länkade till, samt sker oavsett redan om det är en AI eller inte som jag inte kan bevisa såklart men var ett klockrent exempel.

Samma sak där, att det är vår moral det hänger på, inte den ekonomiska tillväxtens motor som styr allt annat i vår verklighet. Eftersom det är marknadens intressen som styr allt redan och som inte har någon hög moral alls, så kommer den knappast bli bättre av att den automatiseras av AI-teknik att effektivisera ytterligare med sin intelligens.

Dess flathet att kunna säga annat än propaganda är en del till att det kommer att accelerera ännu snabbare än vad jag själv kanske trodde bara för några minuter sedan.

Men nu är jag inne i leken och ni har fått en ny motståndare som inte köper lögner rakt av i era trådar. Lite rörigt svar, har bråttom med annat men blev lite engagerad av ditt svar..

Antingen förstår du inte riktigt vad exponentiellt på logaritmisk skala innebär rent matematiskt eller så inser du att det inte är en lämplig modell för att gissa vart systemet går över tid. Sen kan det vara så att vi inte har någon bra modell alls för detta men "exponentiellt på logaritmisk skala" blir åtminstone ingen lämplig prognos.

Det stora problemet med att gissa vart GPT tar vägen är att vi just nu pushar gränsen kontinuerligt. Det vill säga vi kanske slår i ett tak av olika anledningar och sätt (utvecklingstakten kan plötsligt minska, avstanna, i praktiken faktiskt backa osv) imorgon. Eller om en vecka. Eller om ett år. Eller aldrig. Vi vet inte. Detsamma gäller LLM som koncept.

Något som är väldigt tydligt är att Microsoft och OpenAI själva såg utvecklingen med GPT4 som ett typiskt trappsteg snarare än en prognos. De förväntar sig absolut inte den typen av utveckling du har som prognos här. Anledningen att vi vet detta är att vi vet att de pivoterade hela AI-verksamheten mot 100% försäljning i slutet av förra året. De så att säga gick allin för att casha ut investeringarna de gjort senaste åren.

Sen finns det lite olika varianter av resonemang de kan ha, och jag vet inte vilket.
- De kanske tror att vad de gör just nu pareto-maximerar vad vi kan göra med LLM. I sådant fall ser de att de just nu för en kort stund är marknadsledare men att alla kommer närma sig samma resultat och de har ingen moat. Då har de en kort lucka just nu vad gäller att fånga kapital och användare.

- Eller det som ligger närmast din prognos: att de helt enkelt inte har någon som helst aning om huruvida de är på väg att slå i taket eller inte. Och det är jobbigt för stora organisationer att gissa.

Men alltså, hur som helst vet vi att de ser nuvarande utvecklingen som ett trappsteg snarare än något som bara förväntas flöda kontinuerligt.

ChatGTPs uppdrag är att övertyga dig om vilken fråga du ställer och sedan övertyga dig om att den besvarar den frågan.

Typ så enkelt kan alltså det grundläggande uppdraget förklaras. Helt utan att vi blandar in massa politik, konspirationsteorier eller något annat.

Att det spelas djävulens advokat av flera i tråden kan vara en slump, så jag ska tänka efter och andas gällande just den punkten.

Jo, jag förstår om en exponentiell kurva visas på en logaritmisk skala eller ej.

Men sedan har du rätt i att utvecklingen av allt större LLM är ohållbart i längden. Det går inte att bara utöka antalet parametrar "i all evighet", för det finns många, saker som kan "slå i taket". Det är kanske, just därför, Sam Altman låter irriterad när han får frågor om antalet parametrar. Andra faktorer är, minst, lika viktiga för en potentiell prestanda ökning. Av den anledningen så har Altman indikerat att sådant kommer efter nyår.