singularitet

När tror ni att vi når singulariteten alltså att vi människor blir efter i den tekniska utveckling. vilka för och nackdelar ser folket

Vi är redan efter. Frågan är när vi tappar kontrollen.
Jag tror att det kan hända inom ett par år. Max 10 år.

När vi tappar kontrollen är det inte helt säkert att vi blir utrotade.
Men risken ökar extremt mycket.

(FB) Hur vet vi att AI inte redan tagit över?

Finns det fördelar?

Jag tvivlar.... Chatgpt är bra men i grund och botten är det en chatrobot. Vad har AI bidragit med förutom att sortera information?

Varför heter det singularitet?

Är det när allting blir noll?

Eller ett?

Begreppet är lånat från relativitetsteorins beskrivning av gravitation i svarta hål, nämligen när radien r går mot noll och därmed 1/r blir oändligt. Alltså helt missvisande, men innebörden är att AI vid detta tillfälle passerar den kollektiva mänskliga intelligensen.

Aha, så gränsen för där svarta hålet blir starkare än människorna… typ

Tack

När vi har byggt en automatisk, självutvecklande AGI, kommer dess intelligens och förmåga att börja accelerera i exponentiell takt. Det innebär att vi kort därefter har en artificiell superintelligens, en ASI.

Vi har redan ett embryo till självutvecklande AGI nu. Open AI använder o1-modellen för att träna GPT5 och o3. Om 3 månader kommer de använda o3 för att träna o4, som eventuellt bör få namnet o6 direkt för att bättre spegla den exponentiella utvecklingen.

När detta händer har vi tappat kontrollen över vår framtid. Vi har uppnått en teknologisk singularitet som aldrig kan stoppas. Vi har skapat en digital alien som vi aldrig kan överlista.

Är ni villiga att chansa på att detta blir enbart positivt för människor, djur och natur?

Tyvärr verkar AI-utvecklingen just nu ha stött på ett betydande hinder: att datamängden som AI-modeller kan tränas på börjar ta slut.

Detta var ett betydande hinder för de äldre, nu förlegade modellerna t.ex GPT4. De nya modellerna o1-o3 innebär ett paradigmskifte med en resonerande förmåga, som inte enbart är ett resultat av träningsdatans storlek. Snarare kvalitet före kvantitet. Vilka begränsningar som eventuellt finns eller inte finns efter detta nya paradigmskifte vet ingen utomstående person ännu eftersom det mesta hemlighålls av det privata aktiebolaget "Open" AI.

Hur lär sig de nya AI-modellerna? Nu när data tenderar att vara i brist?

Det handlar framför allt om en helt ny typ av arkitektur. Förmodligen uppdelat i olika moduler för resonerande, matematik, logik, fysik, språk, musik, etc. Och att dessa moduler tränas separat på verifierad kunskap snarare än på all "trams & offtopic" mellan himmel och jord som finns på Internet.