Nick Bostrom -- Filosof

Den Svenska filosofen Nick Boström gästar Joe Rogans podcast
i avsnitt #1350 - 2 tim 32 min

https://www.youtube.com/watch?v=5c4cv7rVlE8
(Avsnittet sändes igår 11 sep 2019)

Jag har inte lyssnar klart på hela avsnittet än
men tycker det verkar extremt intressant och
kul att han är svensk dessutom.
Konstigt att jag inte kände till Nick Boström tidigare.
https://nickbostrom.com/
Han är författare till boken:
Superintelligence: Paths, Dangers, Strategies
(New York Bestseller)
“I highly recommend this book.”—Bill Gates
Han är även filosofilärare på oxford university i London.

Vad tycker ni om Nick Boström?

En helt okej människa.
Boken var inte direkt en wow upplevelse.

Ännu en flummare? Fattar inte hur Rogan hittar alla och kvaliteten har sjunkit en några hack den sista tiden. Väntar spänt på sober october ☺

Lyssnade på hans sommarprat. Låter som en riktig nörd.

Om du inte skriver en aning mer uttömmande så är det omöjligt att utröna huruvida den inte var en wow-upplevelse för att den inte är så tänkvärd, eller om den inte var en wow-upplevelse för dig för att du inte förstod wow-faktorn i det du läste. Vad gäller lösryckta omdömen så finns ett par fler att läsa, då boken varit väldigt omtalad.

Folk hade målat upp den som den vore så jävla mindblowing, men de var den inte.
Jag tyckte de var en pyspunka, förlåt om jag gav dåligt med information, skall inte upprepas.

Hehe, jag har inte läst ut den själv (ännu) – utan läste ungefär halva boken – men den är ju gediget genomarbetad. Ännu spekulativa säkerhetsanalyser är ju inte ett så värst spännande ämne, utan mer något som är potentiellt viktigt att integrera i forskningsfältet, enl. argument som framgår i boken.

Vad man bör beakta för att ev. i framtiden kunna utveckla robusta AGI-system är ju inte nödvändigt roligare för lekmannen att läsa om än en djupgående analys för hur man bygger robusta kärnkraftverk, tänker jag mig – annat än wow-faktorn i saker som handlar om "AI".

Jag tycker mest det är kul när en internationellt känd filosofiprofessor utan vidare värderas som "en helt okej människa", "ännu en flummare" och "låter som en riktig nörd" av anonyma skribenter, som inte bemödar sig med att ha något utöver det att tillägga om en människa som arbetar med frågor som berör mänsklighetens framtid och som har arbetat mycket produktivt med att lyfta en akademisk högnivådiskussion om existentiella risker mot hela vår civilisation.

Vår alldeles egen märkliga filosof .. ja du. Vi har diskuterat honom här tidigare för något år sedan .. minns inte tråden men det var det gamla vanliga om simulationsargumentet.

Första intresset för mig kom med denna artikel om varför den andra kön alltid verkar gå fortare:

https://plus.maths.org/content/os/is.../traffic/index (helt underbar kort artikel)

Sen skrev han en bok som då .. runt 2010 alltså, och än idag tyvärr, är alldeles för dyr för mitt bibliotek. Anthropic Bias - Nick Bostrom (ISBN-13: 978-0415883948) Du kan googla på ISBN nummret.

Där är där det startar; Observation selection effects.

Niklas Boströms största bidrag till filosofi (och världen) är formaliseringen av "Observation selection effects". Han använder sedan denna princip till god effekt i det mesta han skriver. Mer allmänt är principen känd som the Anthropic Principle.

Det är sällsynt att rent abstrakt resonerande har effekt på vårt tänkande. Det han säger är väl värt att fundera över. Han har en mycket omfattande produktion och jag har inte läst allt. Eller ens förstått allt. Första gången jag såg honom på video på YT var en diskussion med Douglas Hofstadter och Raymond Kurtzweil bland andra .. han finns i panelen här under Douglas Hofstadters fantastiska "rant" om artificiell intelligens: https://youtu.be/Nhj6fDDnckE (kom ihåg att detta är 2011 cirka .. så Nick Bostrom har varit med en längre tid än folk tror)

Han har dessutom hår på huvudet och sitter bredvid Kurtzweil (bara så ni vet).

Vad gäller Joe Rogan .. jag är förvånad att Joe Rogan saknar abstraktionsförmåga att förstå fundamentet i argumentet .. dvs Antropiskt resonerande.

Vad tycker ni?

Gillar delen där Boström säger något om att det är lite ’too much of a coincidence’ att vi skulle leva i den mest intressanta delen av historien.

Vilket extremt tråkigt klipp du länkade till. Det verkade mest vara en monolog av Douglas.
Intervjun av Joe Rogan sögs jag in i direkt.
Många föredrag / intervjuer når inte fram till lyssnaren när den som talar verkar helt
oengagerad själv - visst jag har sett värre exempel. Men nu när vi har YouTube s är det hård konkurrens så dom som inte är bäst försvinner.
Har du hört Nick Boströms intervju med Sam Harris?

Haha, ja jag håller med. Jag har den yttersta respekt för Douglas Hofstadter, han är en matematiker, logiker, fysiker (han har gjort egna upptäkter inom området), han pratar kanske 10 språk, inklusive Svenska och Kinesiska. Mannen är ett levande universalgeni (Polymath på engelska).

Under Singularity Summit på Stanford (!!) i YT klippet ovan utmanade han här alla AI forskare att de var alldeles för optimistiska och gjorde Ray Kurtzweil till sin egen slagpåse. Man måste se hela 2 timmars klippet för att uppskatta hur roligt det hela var.

Niklas Boström var med men höll bara ett kort anförande om existentiell risk som verkade flyga långt över huvudena på hela panelen, tom Douglas Hofstadter. Om du är intresserad av hur debatten lät runt 2011 så leta gärna reda på det kompletta klippet men var beredd på att "Nick" mest bara sitter och lyssnar och verkar lite lätt road av hela spektaklet.

Vid den tidpunkten var Nick Bostrom troligen endast känd inom akademia och sågs kanske som en udda fågel. Han var inte på Douglas sida .. men heller inte på Kurtzweils super-optimistiska sida.

Nicklas Boström var -- och är -- rädd för AI.


Ja jag tyckte/tycker det var intressant hos JR men tyvärr verkar JR ha nått sitt abstraktions-tak och saknar förmåga att greppa argumenten. Rogan är väldigt begåvad verbalt, men inte på långa vägar lika begåvad i matematik och logik.


Ja den var mycket bra för Sam Harris har verktygen att förstå argumenten. Det var förövrigt en intervju med Nick Bostrom av Sam Harris, inte det omvända vilket man kan förledas att tro av din mening ovan.

Det finns en lång artikel om Bostrom i New Yorker Magazine som är fantastisk .. ska se om jag kan hitta länken .. här är den: https://www.newyorker.com/magazine/2...e-nick-bostrom

Läs den!!

Niklas Boström är rädd för döden (är vi inte alla) och framstår i artikeln som en slags guru. Vi får veta hur han äter, bitar ur barndomen .. visste ni förresten att Nick föredrar att lyssna på ljudböcker före att läsa dem? Det tar tydligen för lång tid att läsa så han lyssnar på böcker på två till tre gångers hastighet om han kan !!

Han verkar ha en omättlig lust efter och kapacitet för kunskap. Jag gissar att han är en fyra sigma person (>160).

Här är min plugg för New Yorker Magazine: en prenumeration kostar runt en tusing, men du får mycket för de pengarna. Ett tjockt magasin i brevlådan VARJE vecka (inklusive julveckorna) sprängfyllt med fantastiskt skrivande. Många kända författare, för skräck-fansen så finns exempelvis ibland korta historier av Steven King skrivna specifikt för New Yorker.

Den är så välskriven och illustrerad att man nästan skäms att de dessutom lägger ut materialet gratis på internet efteråt. Det är den bästa blaskan på planeten om du älskar det skrivna ordet.

Seså! .. sätt i gång och läs länken ovan för tusan Då kanske vi har mera att diskutera än Joe Rogans intervju med Niklas.

Pro!

I mitt tycke en pajas som försöker ta poäng på absurda tillämpningar av antropiska principen. Om vi inte hittar liv på månen så är vi själva så osannolika att vi inte borde finnas, därför kommer vi att utplånas av en meteorit imorgon osv.

Vetenskapliga metoden går ut på att observera, förklara observationerna med modeller, för att sedan förkasta modellerna om de inte gör användbara förutsägelser. Vi kan t.ex. direkt avfärda att vi skulle vara Boltzmannhjärnor eller simulerade därför att sådana modeller är oanvändbara, oavsett om de visar sig vara fel eller rätt. Därför utgår seriös vetenskap från att världen inte är så absurd att allt är meningslöst, medan Boström tillhör den fåniga skaran viktigpettrar som gör tvärt om.