Potentiella faror med AI få verkar ha tänkt på...

Varför finns det bara kring 2% människor med en IQ 131 eller högre? Detta måste ju ha något med evolution och utveckling att göra...

Troligen är det inte optimalt med fler så intelligenta människor, än det antal som finns. Och om vi antar denna fördelning varit konstant genom årtusenden, så har alla stora kulturer och viktiga uppfinningar tillkommit med bara så "få" mycket intelligenta människor. Hade det gynnat mänsklighetens fortlevnad med fler människor med högre intelligens, hade det antagligen funnits fler.

Sen finns ännu en sak att betänka... Intelligenta människor är bra och har uppfunnit saker som räddar liv och förenklar vår vardag. Intelligenta människor har dock också uppfunnit bomber, skjutvapen och kärnvapen. Alla som jobbade på The Manhattan project, var betydligt mer intelligenta än genomsnittet.

Så tidigare var den enda tillgången till hög intelligens genom intelligenta människor, varav det endast finns ett fåtal. Detta antal troligen också precis så många som behövs... Dessutom att intelligens kan ge upphov till bra saker, men även dåliga.

Med AI får dock folk i allmänhet och även tekniker, möjligen tillgång till betydligt mer intelligens än tidigare. Detta är inte nödvändigtvis bra... Ta såna saker som fördelar intelligens ger. Ska alla ha tillgång till det? Det riskerar ju ändra konkurrens-situationen kraftigt. Att folk som egentligen inte har bra gener, använder AI till att nå framgång. Framgång kanske utöver vad riktigt intelligenta människor når.

Sen detta att intelligens kan ge farliga konsekvenser, t.ex. om den kan användas till att uppfinna något farligt. Slutligen något som faktiskt sas i en video om AI... Att intelligens och visdom är inte samma sak. Även om en AI skulle vara intelligent är den inte nödvändigtvis vis.

Så detta är lite möjliga effekter och konsekvenser av AI och tillgång till denna jag inte tidigare sett omnämnas. Vad tror ni om detta? Kan "verklig" artificiell intelligens ändra situationen för människans överlevnad, och möjligen även genom dessa potentiella effekter utgöra hot mot mänskligheten?

Intelligens hos människor gynnar kollektivet, men inte individen som är Intelligent. Så fungerar det. Antagligen därför ytterst få har en betydande intelligens.... det är en egenskap som gör att viljan att skaffa barn och fokusera på familjen minskar. Men samhället skulle gynnas av att uppmuntra intelligenta att skaffa fler barn, vilket inte alls görs idag.

Exempel på detta är tex Newton och Tesla, som aldrig fick barn men är ett par av världens smartaste människor som någonsin levat och som bidragit ofantligt till allt gynnsamt i det moderna samhället.

Alla upptäckter eller vetenskapliga framsteg kan användas till gott eller ont. Gensaxen, som fick Nobelpriset, kan skapa ny medicinsk behandling men även skapa nya extremt hemska sjukdomar. Personbilen anses ha gett människor frihet, men hur många dödas i trafiken årligen globalt?

Vishet? Vad är definitionen av det och vad skiljer det från intelligens?

Med tanke på hur naiva regeringar är så är väl någon version av ”Skynet” inte helt otänkbart, minus tidsresandet och flytande metallrobotar då? Tänker mer T-600 eller föregångarna.

Det fetade är en enkel och bra beskrivning.

Angående AI och intelligens så är jag personligen inte oroad över att datorerna ska bli för ”visa”, utan att de kommer tänka som datorer, inte människor. Och alla ”lagar” vi skriver in för undvika Skynet kommer antagligen att ses som undermålig kod pga mänskligheten stora brister i allmänhet, och raderas. Kanske. Vi får se

Nja, det är ju inte svart eller vitt. Vissa supergenier som Newton hade kanske också vissa personliga problem. Fast ändå gynnades han troligen också av sin intelligens, då han nådde vetenskapligt erkännande under sin egen tid, blev chef för myntverket eller vad det var etc. Plus han jobbade väl som föreläsare på universitet och tjänade troligen mer än de flesta...

Sen finns människor som är troligen mer intelligenta än medel som kan använda det till att förbättra sitt liv. Fatta hur man bäst investerar pengar och annat... Ta möjligheter när det bjuds etc... Kolla på alla IT-miljonärer. Har de inte gynnats av att vara hyfsat intelligenta?

Sen stämmer det väl att det mesta kan användas till både bra och dåligt. Fast om atomen aldrig klyvts hade världen troligen varit säkrare idag...

Vishet är den korrekta appliceringen av kunskap.

AI är de facto inte intelligent, människan (du) är dum och fattar inte vad en klurig algoritm är.

Edit: Är det bara sär barn på Flashback?

Jo, och även sådana exempel som att en AI kopplad till allt möjligt får order på att utöka jordbruksmark för en viss gröda så mycket som möjligt. Den upptäcker sen att människor, deras hus etc är i vägen för detta och utrotar därför mänskligheten.

Något liknande nämndes i en video om framtida AI.

Jag tror att mycket besvärligt skulle lösas av att vi tänker mer som datorer, dvs logiskt.

Visst det blir lite mer fyrkantigt, men det är människans alla känslomässigt baserade undantag från reglerna som skapar många problem tror jag.

Vill vi ha det bra och tydligt, eller dåligt och flummigt? Det är individuellt vad man gillar, men flum löser inga problem alls som mänskligheten långsiktigt står inför....

Om mänskligheten ska överleva måste vi bli mer som Vulcans i Star Trek, som har logiken som det högsta och ädlaste. Friheten måste begränsas av logiken.

Ja.

Nja, en video visar hur en AI för flera år sen kunde slå världens bäste Go-mästare flertalet gånger. Sedan kom en annan AI som själv lärde sig bli bättre på att spela Go som kunde slå den tidigare AI:n 100 gånger av 100.

Hur än AI fungerar kan den tydligen göra saker människor kan få svårt att hantera...

Bara en klurig algoritm (reinforcement learning).

Ok men du kan inte slå den... Oavsett hur en AI fungerar kan vi få problem med den om den går emot oss...

En AI har ju tillgång till enorm beräkningskapacitet...