Regler för AI:s moral?

Säg att en robot med AI hamnar i en situation där den måste välja att rädda en av två olika människor, den kan inte rädda båda, och den som inte räddas dör.

Bör det vara reglerat i lagen hur AI ska välja vem som räddas eller ska det vara upp till varje robottillverkare?

Hur bör dessa regler vara skrivna?

Bör kvinnor alltid räddas före män?

Bolagen som tillverkar AI:n säljer en försäkring och den som betalat högst premie blir räddad.

Man....
1. räddar den människa som har högst sannolikhet att bli räddad. (några få kan få företräde i vissa regimer; statskommissionens ordförande i Nordkorea t ex)
2. om sannolikheten är lika: den som är minst resurskrävande
3. om 1+2 är lika: den som klarar sig mest utan skador.

Bör "AI" ha andra regler än människor?

Finns det regler för vem en människa måste rädda i en sådan situation?

Ja kvinnor bör väljas först då risken är större att mannen orsaka mer skada i samhället än kvinnan.

Man måste dock först slå fast om AI:n har förhandsfakta om personerna redo eller inte. Om inte så välj alltid kvinnan är min tanke.

Nej, vanligtvis inte, även om vissa länder har en del sådana lagar i sina lagböcker.
Oftast handlar det om sunt förnuft och bedömningar av den specifika situationen, och det är nog tveksamt om människor rent generellt är bättre än "AI" när det gäller den förmågan.
Eller?

Eftersom branschen domineras av amerikanska företag kommer väl den amerikanska modellen att gälla.
Allt är tillåtet. Men om du råkar släppa lös en Terminator blir du stämd till konkurs.

Det sägs att Elvis skall återuppstå och det är ju inte "kattskit".

The Trolley Problem.
Ett evigt problem som det inte finns nån lösning på , AI eller ej.
Vi får helt enkelt acceptera att det inte finns nån moralisk eller praktisk lösning .

Att ändra vad som ska värderas är extremt svårt att sätta in om du vill ha en säker AI paradoxalt. Den kommer utnyttja varje regel du ger den för att få så många 'poäng' den kan.

Ja men den måste ju programmeras med något. Eller ska den slumpa fram vem som ska offras?