Citat:
Och vad utesluter att någon AI blir just det i framtiden? Och det där du kallar logiskt i din värld behöver inte vara det minsta logiskt för en AI med andra prioriteringar än dig.
Det är tvärtom ganska naivt och tro att du vet vad som kommer vara logiska slutsatser för framtida AI.
Det är tvärtom ganska naivt och tro att du vet vad som kommer vara logiska slutsatser för framtida AI.
A.I. som den är strukturerad idag och kommer att vara strukturerad för överskådlig framtid kommer inte att "tycka" att någonting är logiskt, oavsett vilken kapacitet den får. Den inte kan tycka någonting överhuvudtaget - det handlar om att hantera stora mängder information, men datorn vet inte vad det är den gör. Den har varken självmedvetande eller något medvetande om vad dess egna syntaktiska processer har för betydelse för mänskliga användare. Inte heller har den någon annan, "supersmart", tolkning av vad de här processerna skulle betyda.
En miniräknare blir inte en mänsklig hjärna och får inte några åsikter även om den blir hur mycket bättre som helst på att räkna, mer och snabbare. Vad det än är som gör människan medveten så är det inte kapaciteten att hantera data eller räkna. Den funktionen finns visserligen i medvetandet, men att medvetande därför skulle uppstå mystiskt i en process som bara till volym och medel skiljer sig från vilken räknesticka som helst är egentligen helt orimligt. Eller tror någon att ett system med en miljard kulramar skulle utveckla en alldeles egen logik och ta över världen, bara för att de rätt hanterade har en oerhörd kapacitet för problemlösning?