Justin Case skrev:Jag ska argumentera för att det faktiskt finns en sak som talar starkt för att vi bör tro att elektroniska varelser, som hubotar/humanoider, aldrig kan ha några känslor.
Anta att vi har skapat en digital version av en människa, med andra ord laddat upp en människa i en dator, så perfekt som det någonsin vore möjligt. Anta vidare att vi lyckas programmera den människan och dess digitala omgivning så att allt som skulle ha hänt i den människans liv om hon inte hade blivit digitaliserad händer henne i digital form, exakt likadant. Allt är perfekt överfört från biologisk till digital form, ända ned till minsta elementarpartikel, ja ända ned till varenda plancklängd av rummet och varenda plancksekund av tiden.
Den människans liv innehåller ett antal skeenden, eller processer. Anta att det bland annat innehåller, eller kan innehålla, följande två processer.
Process 1:
A. Sten i skon -> B. Obehagskänsla i hjärnan -> C. Hjärnan ger order till kroppen att plocka bort stenen ur skon
Process 2:
A. God mat i munnen -> B. Välbehagskänsla i hjärnan -> Hjärnan ger order till handen att sträcka sig efter mer av den goda maten
I både process 1 och 2 gäller att A orsakar B, som i sin tur orsakar C.
Båda processerna styrs av programkod i form av ettor och nollor som läses av datorn och får datorn att göra diverse uträkningar.
Anta nu att vi låter ett krypteringsprogram kryptera process 1 vartefter som den körs (alltså med så kallad "encryption on the fly"), och att krypteringen är sådan att den serie ettor och nollor som den resulterande krypterade versionen av process 1 utgörs av är exakt samma serie ettor och nollor som process 2 (i okrypterad form) utgörs av. Vad upplever då vår digitaliserade människa för känslor när process 1 körs i nyss beskrivna krypterade form? Upplever hon både obehag av sten i skon och välbehag av god mat i munnen samtidigt?
I så fall lyckas hon uppleva något som - kan det tyckas - egentligen borde kräva dubbelt så mycket information som det kräver! Vi körde ju endast så mycket information som behövs för att köra process 1, och så kördes både process 1 och process 2! Att köra informationen med on-the-fly-kryptering gjorde den till synes till en i praktiken dubbelt så stor mängd information, "och ändå inte".
Ungefär som att ordet "ed", chiffrerat med ett chiffer som går ut på att man byter ut varje bokstav mot nästa bokstav i alfabetet, blir ordet "fe", som råkar vara ett ord även i ochiffrerad form, så att man genom att skriva de två bokstäverna "fe" lyckas skriva två ord, "ed" och "fe", på en gång, det ena ordet förutsatt ett underförstått chiffer och det andra ordet utan att förutsätta något chiffer. På samma sätt som man på detta sätt med underförstått chiffer skulle lyckas skriva något som normalt kräver fyra bitar information med enbart två bitar information, menar jag att man borde kunna få en dator att köra en process som är vad den är underförstått att den är en on-the-fly-kryptering av en annan process, och som samtidigt är den helt annorlunda process som den underförstås vara en on-the-fly-kryptering av, utan att det för den skull behöver köras mer information än vad det behöver köras för att en enda av processerna ska köras.
Om det fungerar så, kan man gå ännu längre och kryptera process 1 (stenen i skon) på ett sådant sätt att den med en viss dekrypteringsnyckel visar sig vara process 2 (ätandet av god mat) i krypterad form, och med en viss annan dekrypteringsnyckel visar sig vara en tredje process, process 3, (t.ex. lyssnandet på en konsert som ger auditiv njutning) och med en viss annan dekrypteringsnyckel visar sig vara en fjärde process (t.ex. en vansinnig biljakt), och så vidare utan ände - så att alla tänkbara processer och känslor, som överhuvudtaget är möjliga, äger rum allihop på en gång och styrda av samma lilla mängd information som endast en enda process (t.ex. sten i skon) kräver.
Det finns ju inget som säger att den process som körs ska tolkas som varande just till exempel process 1, eller just till exempel process 2 eller 3 eller 4 etc, snarare än någon annan process som den kan tolkas som varande. Vad som framstår som vad, i sammanhanget, beror ju på vilken kryptering eller eventuell icke-kryptering man tänker sig att processen som körs är i form av. Att t.ex. process 3 är en krypterad version av process 1 är varken mer eller mindre sant än att process 3 är t.ex. "den okrypterade process som process 1 egentligen är en krypterad version av", så tolkningen att det är process 1 som körs förtjänar inte objektivt sett något företräde framför andra tänkbara tolkningar av vilken process (av oändligt många tänkbara) det är som körs. Det finns inget sådant som "vad som faktiskt äger rum" snarare än "vad som inte äger rum". Allt äger rum lika mycket.
Vidare skulle man kunna klippa av serien ettor och nollor, som styr process 1, på mitten, och kryptera den första halvan på ett sådant sätt att resultatet blir identiskt med den andra halvan i okrypterad form, så har man, redan i form av den ena halvan (vilket som helst av halvorna), instruktionen för hela process 1 men bestående av endast hälften så mycket information som vad som från början tycktes nödvändigt. Och så kan man klippa av den halvan på mitten och kryptera även den enligt samma princip, och så vidare, gång på gång, tills man är nere i endast en bit information. Slutsatsen tycks bli att körandet av redan en enda bit information i en dator utgör alla tänkbara känslor som någon digitaliserad människa överhuvudtaget skulle kunna känna.
Om man köper detta, måste man därav dra slutsatsen att det inte finns något som säger att det är fel eller rätt att behandla en hubot/humanoid/digitaliserad människa på något särskilt sätt snarare än på något annat sätt. Man kan lika gärna misshandla den grovt som ge den kramar och komplimanger, den känner ju ändå alltid alla tänkbara känslor lika mycket oavsett vad man gör med den! Vidare följer - eftersom alla tänkbara känslor redan idag äger rum i oändlig mängd, redan i varje människas persondator, i form av varenda etta och varenda nolla (och även i form av varje tänkbar kombination av ettor och nollor) - även slutsatsen att ingenting människor gör kan spela någon som helst roll för någon som helst digitalt baserad varelse, inte ens i de fall då dessa är fortsättningar på våra egna liv! Det innebär bland annat att det inte finns någon som helst anledning att ladda upp sig i digital form. Det liv man då skulle få skulle man ju få även utan uppladdning - i form av bland annat var och en av de ettor och nollor som i vilket fall som helst skulle komma att äga rum i en eller annan dator oavsett vad man gjorde.
Det tycks mig att enda sättet att undvika den slutsatsen är att utgå från att varken digitaliserade människor, hubotar, humanoider eller några andra typer av digitala varelser - ens teoretiskt - skulle kunna ha känslor, hur mycket det än skulle tyckas som att de hade det.
Väldigt långt text och du verkar medveten kring att du inte har ett formellt bevis, utan bara en argumentation som stärker en viss åsikt. Åsikten att elektronisk varelser inte kan ha känslor.
Det är svårt att se i kort form hur argumentet ser ut. Hela diskussionen kring krypterat och okrypterat är också svår att följa, trots att jag är väl insatt i krypteringstekniker.
Men om jag försöker mig på en välvillig tolkning, vilket jag tycker man kan göra så tycker jag mig se att argumentet är i stil med:
1) En digital version av en människa måste matas med digitalt data, en bitström med 1:or och 0:or.
2) Tittar man på segment av denna bitström är den inte informationsbärande, och kan antingen tolkas som vad som helst eller misstolkas.
3) Eftersom maskiner då lätt kan misstolka eller inte alls förstå den här sortens bitströmmar så har de inga känslor.
Det finns en rad problem med det här resonemanget. Låt mig ta upp några.
Det låter som att du antar att en elektronisk varelse alltid måste fungera som en turingmaskin.
Är det verkligen korrekt? Och om det är korrekt, varför kan inte en människa funktion beskrivas som en turingmaskin?
Att göra det arbetet, att beskriva varför en människa inte funktionellt skulle kunna beskrivas med en turingmaskin,
skulle kunna vara just en möjlig gränsdragning mellan människa och maskin. Men jag är tveksam till att det låter sig göras.
Känslor, vad är det?
En människa kan tycka att den har känslor, men en annan typ av varelse kanske inte tycker det, utan tycker att människans känslor bara är fullt förutsägbara symptom på den information som människan matas med. På det sättet är känslor bara en av mängden av reaktioner som människan har.
Hur skulle en människa reagera på avhuggna meddelanden? Det måste ju finnas mängder av situationer där detta också skulle tolkas fel eller inte kunna tolkas alls.