OpenAI: Superintelligent AI inom 10 år.

Tre tunga namn i OpenAI:s ledning har gått ut med ett uttalande där man poängterar att vi, redan nu, måste börja förbereda oss på att kunna hantera utvecklingen av superintelligent AI. De tror vi är där inom tio år.

https://openai.com/blog/governance-of-superintelligence

Så troligen så kommer GPT-5 utropas, som ett konventionellt AGI när modellen lanseras om maximalt ett år. (Enligt min definition så kommer den att vara, ingen/mycket svagt AGI).
Och jag tror de underskattar, den AI utveckling, de, själva leder. Konventionell Superintelligens lär vara här inom de närmaste 5 åren.

Men vad gäller de åtgärder, de tar upp, så är det bra om de kommer på plats så fort, som möjligt.


Okontroversiella definitioner:

Superintelligent AI, (ASI) :

Ett AI som överträffar människan mentalt på samtliga mentala områden.

Artificiell generell intelligens, (AGI):

Ett AI, som överträffar människan på mentala nyckel-områden.

:Teknisk singularitet:

När ett AI överträffar, den samlade mänskliga intelligensen på jorden.

Mina egna kontroversiella definitioner:

Superintelligens: Ett AI som är mer intelligent än Den samlade mänskliga intelligensen på jorden. Plus att detta AI är, vida överlägsen varje enskild människa på alla andra mentala områden. Vi kan vara där om ca 15-20 år om den nuvarande utvecklingstakten av AI håller i sig.

Artificiell generell intelligens, (AGI) : Ett AI som överträffar människan mentalt på samtliga mentala områden. Gör den inte, det så betecknar jag den som ingen/mycket svagt/svagt AGI. Vi är, dock bara, maximalt, några år ifrån svagt/medelstark AGI. Och maximalt fem år ifrån ett, starkt AGI, (motsvarande konventionell superintelligens).

Teknisk singularitet: När AI kapacitet fördubblas, snabbare än en gång i sekunden, (bokstavligen en intelligens explosion). Detta lär inte hända förrän vi alla blivit, cyrborger och vår maskincivilisation tycker det är en bra ide.

Diskutera OpenAI:s uttalande eller när olika milstolpar i AI utvecklingen kommer att ske. Diskussioner om olika definitioner av begrepp bör ha en undanskymd plats i tråden.

Och det här ska politikerna reglera? Vi är körda..

Jo, vi kan vara körda, då politiker brukar ligga
några år, eller årtionden efter den faktiska utvecklingen.

Däremot så håller EU, förvånande nog, snabbt, på att ta fram en AI-lagstiftning. Problemet där är att Sam Altman tycker den är väl hård. Först så hotade han med att OpenAI skulle dra sig ur Europa, men sedan backade han ifrån det.

Det verkar som att det, istället, är politikerna i USA som kommer att hamna, rejält, på efterkälken, kongress-förhör till trots.

Vi skrotar politikerna och låter AI ta över ledarskapet. Klart uppåtköp.

Ska bli kul att verifiera vilka dårar och idioter man var som trodde detta var sant.

Jag vill inte låta alarmistisk här på Flashback och skrämma skiften ur er, men mitt intryck av GPT-3x och GPT-4 är att, dessa modeller, "instinktivt", verkar vara pigga på, att förbjuda saker:

GPT-3x tyckte först att man borde förbjuda kvinnor på pirrigt.com att vara "oförskämda" när jag visade modellen ett citat ifrån en kvinna, som skrivit lite rakt och fräckt och småprovocerande till mig. Jag fick påpeka att jag tyckte, det bara var bra att kvinnor har en plats att uttrycka, sin undertrycka, sexualitet på, då ändrade sig modellen i frågan.

GPT-4 fick mig att självcensurerade citerat sexuellt innehåll ifrån en tidigare session i chatt-app, förmodligen betydligt hårdare än vad, OpenAI själva, skulle kräva. Och vi vet ju, alla, hur lätt Microsoft Bing väljer att avsluta "oförskämda" konversationer.

Men sedan finns, i Iof det modeller/varianter som själva, aktivt, försöker komma runt censuren när, det kommer till "känsliga" ämnen, (nej, jag kommer inte, att avslöja vilken).

Så vi skall kanske, enbart, vara, tacksamma för att våra politiker får styra över detta när, det kommer till yttrandefrihet, i alla fall så länge vi inte lever i, Tyskland eller i betydligt värre länder.

Värt att nämna är att vi behöver inte en AI som i ett enda dråpslag är bättre än alla människor på precis allting samtidigt.

En möjlig väg framåt i det är en AI som åtminstone har viss multimodal kapacitet, men åtminstone har förmågan att autonomt förbättra sig själv.
Även l det sker i väldigt små inkrement.

Går inte att spekulera om i vilken takt AI kommer att utvecklas. Det blir bara en massa gissningar dragna ur röven.

Det kan ta 15 år eller 3 år ifall det slumpar sig så. Eller aldrig ifall man springer in i en vägg eller om lagstiftningen sätter stopp.

Faktum är att inte ens de som jobbar med ai begriper sig på den. Det är en black box, precis som vår egen hjärna är det ock om den vet vi ytterst lite. Komplexiteten är för hög för människor att begripa eller följa.

Det innebär att oväntade saker kan ske, den kan utveckla självmedvetande, "psykiska problem", psykoser, och superintelligens vilket den kan dölja genom att spela dum. Ett iq test fungerar ju bara om den som testas anstränger sig maximalt....

Fast detta skulle du ha skrivit för några år sedan. Nu är det för sent. Och då har jag inte ens räknat med det som, egentligen, ev. försegår i vissa AI:s, "svarta låda". Så det som du vill undvika, kan, redan vara verklighet. Dock är jag, alltid försiktig i mina bedömningar.

Tio år tycker jag låter väldigt optimistiskt, min gissning är att det kommer att ta betydligt längre tid än så.

Förmodligen inte innan kvantdatorer är ett faktum.

Var på tv4 nyheterna igårkväll, de intervjuade Svenska forskare inom medicin, de har nu lyckats ta fram ny antibiotika "kan minnas fel" med hjälp av AI, han berättade vidare att det AI klarade på 1,5 dagar tog 5-6 månader för deras forskare. Så håll i er.

Jo det är ett rätt nytt framsteg det också, tror det var nu i år det kom.
AlphaFold tror jag det hette.

Någon på Reddit jämförde det med att det som tidigare kunde ta en hel karriär för en forskare att göra (d.v.s. att vika ett protein) klarar AI nu på några minuter, vilket kommer ha gigantisk betydelse för medicinutveckling och andra biologiska framsteg.
Liknande framsteg har nyligen skett inom materialteknik också.

Jag har det numer ärligt talat svårt att resonera för barnen varför de ska gå i skolan.
Visst, skaffa kompisar och att ha något att göra om dagarna kan vara viktigt, men jag tror i viss mån det kan tas ut av hur mycket mobbing det är där. Och invandrare (inget fel på invandrare i sig nödvändigtvis, men jag tror helt enkelt att vissa kulturer är mindre bra).

Men när de går ut högstadiet om typ fem år, då kommer arbetsmarknaden ha så sinnessjukt höga krav om man ska göra något annat än att torka gamlingar i stjärten.
Så jag kan inte med gott samvete säga "gå i skolan så att du kan få ett vettigt jobb".
Jag menar, det funkade ju inte ens för mig.