Flashbacks p(doom)

Jaså. Är det inte "någon form av intelligens" när o3-modellen fixar 88% på Arc AGI-testet? Och o1 har 120 på IQ test. o3:s IQ blir antagligen inte möjligt för oss att mäta.

Den ska ändå få ha Internetaccess? Men när du tror att du har upptäckt en rymning då ska man dra ut Internetsladden ur modermodemet? När det redan är för sent?

Vilken global organisation ska ha hand om säkerheten i januari när o3 släpps ut på Internet?

Vi är körda. It's over.
https://i.pinimg.com/originals/cf/53...b69f6496d2.gif

Det går naturligtvis redan nu att implementera en mellanman som jag är inne på. Det finns ingen anledning att AI ska ha direktaccess till nätet, utan det måste räcka med att sådan access går genom ett säkert gränssnitt (om den alls är nödvändig)

Och hur fungerar o3? Nås den via Internet eller är den isolerad i ett lab (som den borde vara)?

0%.

Varje ny teknologi kan användas för att både förgöra oss själva och att rädda oss. Vi kommer att använda AI för att mitigera riskerna med AI. Precis som vi gjort med all tidigare teknologi.

En maskin kan endast vara tekniskt medveten på ett imaginärt plan och kommer förbli ett menlöst robot system hur avancerad AI den en har. Om den ändå är farlig på något sätt till sin funktion kommer människan behålla kontrollen.

AGI/ASI är inte verkligt genomförbart:

AGI = människa
ASI = utomjording

Men man kan efterlikna AGI. ASI finns endast i fantasins värld.

Den högt respekterade och balanserade professorn och nobelpristagaren Geoffrey Hinton, AI:s gudfader varnar för att teknologin kan utrota oss inom 30 år.

Geoffrey Hinton, en av de mest inflytelserika rösterna inom artificiell intelligens, tilldelades i år Nobelpriset i fysik för sitt banbrytande arbete inom AI. Nu har han justerat upp sin bedömning av risken för att AI kan leda till mänsklighetens undergång.

”Jag kan inte se någon väg som garanterar säkerhet”

https://www.dagensps.se/teknik/nobel...ps-inom-30-ar/

Geoffrey Hinton börjar bli dement snart 80 år (därför fick han pris), lyssna på AI-gudfadern Yann LeCun istället.

LeCun är mest känd för OCR-tolkning.
Han är en gudfader på PostNord, inte inom AI.

Dravel. Yann LeCun har fått Turing priset på neurala nätverk.
https://amturing.acm.org/award_winne...un_6017366.cfm

Trots det, väldigt mycket cherry picking.
90% av branschens AI-profiler varnar för x-risk med AGI.
LeCun är undantaget som bekräftar regeln.

Det är väl skillnad på att medge att AI (mer rimligt ASI) troligtvis skulle kunna vara katastrofalt för mänskligheten och att medge att man tror att det är troligt att vi är i närheten av att uppnå det.

Jag tror också att det är hög risk att en verkligt medveten och högintelligent AI skulle kunna förgöra oss människor.
Däremot tror jag inte att den AI-utveckling som sker nu kommer att ge upphov till en sådan AI och därmed ser jag risken som mycket låg.

Problemet är väl att ni skeptiker betraktar artificiellt medvetande som något mycket komplext, eftersom man i så fall måste emulera ett fullständigt biologiskt medvetande, vilket vi inte kan lösa i dag eftersom vi inte förstår hur det fungerar. Och därför är vi på den säkra sidan under överskådlig framtid?

Jag menar att detta är ett felaktigt synsätt. Man behöver inte emulera hela hjärnan för att en maskin ska få autonomi och utgöra ett hot. Det räcker att förse terrorister med open source-modeller och en Tesla-robot och vi har ett akut, verkligt hot mot mänskligheten. Bristen på ett medvetande av mänsklig karaktär är inte en livlina. Det är en förhöjd risk. Långt före artificiellt medvetande kommer man att bygga empatilösa men starka och kompetenta robotar som kan göra det som mänskliga soldater kan göra.