AI och avsaknad av evighet

[Determinus]

Vari ligger för er de främsta tecknen att den mänskliga självmedvetenheten skulle involvera, eller BEHÖVA involvera, något som står utanför den del av vår fysiska värld som vi idag kan observera?

Det finns inga vetenskapliga belägg för att hjärnan skulle vara åtskiljd från resten av världen. Datorer utför mer och mer komplexa uppgifter med ökande snabbhet och minnesutrymme. Hjärnor utför mer och mer komplexa uppgifter med ökande antal neurologiska element och synapser. Vi förstår idag likheten mellan sättet en dator och en hjärna behandlar information.

På basis av dessa basala och simpla argument, målas inte en bild av den enda verklighet och sanning vi idag kan uppfatta upp?

Dalai Lama:

The consciousness doesn't actually arise from the matter, but a continuum of consciousness might conceivably come into it.

Var hittar man grunder för något sådant? Är man inte dömd att hitta konstruerade svar (läs: svar som inte kan appliceras på något sätt i den beständiga yttre världen) i religionen, andligheten, och i vad många kallar filosofi?

[Cezario]

Det är sannerligen en komplex frågan; ditt inlägg simplifierar den något, känner jag.

Vi måste förstå att vi kan ställa oss själva frågor sådana som:

"Vari ligger för er de främsta tecknen att den mänskliga självmedvetenheten skulle involvera, eller BEHÖVA involvera, något som står utanför den del av vår fysiska värld som vi idag kan observera?"

Men hur ställer vi oss frågan? Hur har vi uppnått, eller bättre; åstadkommit vår bild av materia och existens? Vad vet vi ens?

Och det, i min uppfattning, största problemet gällande den mänskliga (snarare vetenskapliga) kartläggningen av vad som brukar kallas för existensen, eller världen; är att vi även i ett sådant fall där vi har tekniken för att skapa en AI som på precis alla UPPFATTNINGSBARA sätt ter sig som en människa, ändå inte kan säga att vi faktiskt har skapat vad som vårt begrepp av 'människa' helt och hållet innefattar.

Vad jag vill komma till är att varje människa är ensam i sin egen perception och kognition; vi har medfödda känslor som kopplar samman oss, empati och medkänsla, men vi är likväl ensamma.

Detta talar inte direkt för att den mänskliga essensen är 'utom-fysisk' eller immateriell utan säger helt enkelt att det är mycket otroligt (jag tolkar det som omöjligt) att vi någonsin kan nå ett svar i frågan.

[Stefan]

Läs detta intressanta argument mot tanken att datorer är intelligenta:

http://www.iep.utm.edu/c/chineser.htm

Inte för att Searle stöder tanken på att medvetandet inte skulle vara en del av den fysiska verkligheten. Searle anser att medvetande är en essentiellt biologisk egenskap, ungefär som fotosyntesen är det, och att maskiner som datorer inte kan vara medvetna/intelligenta.

[Determinus]

Medvetande verkar handla om behandlande av elektriska strömmar. Hur komplex denna behandling än må vara så kan jag inte se någon anledning att tillskriva biologin ett monopol på den.

Margareta A. Boden tvivlar i "Computer Models of Mind" på John Searles teori. Hon säger:

Att likna fotosyntes, där vi förstår hur klorofyll katalyserar en reaktion där det bildas produkter som vi kan beskriva och förlägga till olika klasser av kolhydrater, med skapandet av medvetande går inte ihop. Medvetande är en abstrakt företeelse helt skiljd från vår förståelse av kolhydrater. Medvetande är fortfarande ett vagt koncept för oss.

Nobody who was puzzled about intentionality (as opposed to action-potentials) ever exclaimed "Sodium - of course!" Sodium-pumps are no less "obviously" absurd than silicon chips, electrical polarities no less "obviously" irrelevant than old beer-cans, acetylcholine hardly less surprising than beer.

[Stefan]

Medvetande verkar handla om behandlande av elektriska strömmar. Hur komplex denna behandling än må vara så kan jag inte se någon anledning att tillskriva biologin ett monopol på den.

Jag vet inte vad jag ska tro här. Däremot tycker jag att Chinese Room Argument är intressant. Jag kan inte se att en dator av dagens typ skulle vara mer intelligent än en stol eller en termometer. Datorer är mer komplicerade, men i princip är de samma typ av sak som termometrar och stolar; dvs. döda ting.

[Tore]

Och det, i min uppfattning, största problemet gällande den mänskliga (snarare vetenskapliga) kartläggningen av vad som brukar kallas för existensen, eller världen; är att vi även i ett sådant fall där vi har tekniken för att skapa en AI som på precis alla UPPFATTNINGSBARA sätt ter sig som en människa, ändå inte kan säga att vi faktiskt har skapat vad som vårt begrepp av 'människa' helt och hållet innefattar.

Vad jag vill komma till är att varje människa är ensam i sin egen perception och kognition; vi har medfödda känslor som kopplar samman oss, empati och medkänsla, men vi är likväl ensamma.

Detta talar inte direkt för att den mänskliga essensen är 'utom-fysisk' eller immateriell utan säger helt enkelt att det är mycket otroligt (jag tolkar det som omöjligt) att vi någonsin kan nå ett svar i frågan.

Fast när du säger att varje människa är ensam i sin egen kognition så har du väl på sätt och vis redan dragit den slutsats du menar att vi inte kan dra? Dvs om du kan dra slutsatsen att andra människor har en kognition (baserat på någon yttre likhet med dig sjäv), varför kan du inte dra sådana slutsatser om andra system (som uppvisar liknande yttre likhet)?

Läs detta intressanta argument mot tanken att datorer är intelligenta:

http://www.iep.utm.edu/c/chineser.htm

Själv tycker jag att Searles argument är ganska svagt och förstår inte riktigt varför det har fått så stor uppmärksamhet, men det kanske har någon finess som jag har missat?

[Stefan]

Tore/ Vad tycker du är svagt hos Searles argument?

[Tore]

Tore/ Vad tycker du är svagt hos Searles argument?

Searles argument bygger på att vi skall identifiera oss med den engelsktalande mannen i rummet. Det är jämförbart med att identifiera sig med en enskild nervcell eller signalmolekyl i hjärnan, men det finns ju ingen som hävdar att förståelse finns på den nivån. En mer utförlig analys ges exempelvis av Dennett och Hofstadter i antologin The Mind's I (vilken innehåller en mängd kända och kommenterade artiklar med anknytning till AI).

[Stefan]

Searles argument bygger på att vi skall identifiera oss med den engelsktalande mannen i rummet. Det är jämförbart med att identifiera sig med en enskild nervcell eller signalmolekyl i hjärnan, men det finns ju ingen som hävdar att förståelse finns på den nivån.

Menar du då att hela rummet, tillsammans, kan ha förståelse? Det har jag svårt att tänka mig. Men möjligen är analogin med datorer inte perfekt. Jag har i vilket falls svårt att förstå hur en dator endast genom att vara mer komplex än en termometer plötsligt skulle kunna bli medveten. Men å andra sidan kanske det finns samma problem vad gäller levande varelser.

Dennett var jag sådär lagom förtjust i, det lilla jag läst av honom (den krångliga artikeln "Quining Qualia"). Jag har svårt för teorier som vägrar erkänna att medvetandet finns och att det innehar en del egenskaper som är svåra att förena med en fysikalistisk världsbild i nuvarande kunskapsläge (intentionalitet och subjektivitet/kvalia).

Har du läst Nagels "What is it like to be a bat?"? Den skulle vara en utmärkt artikel att diskutera (jag föreslog att vi skulle börja läsa och diskutera artiklar i en annan tråd).

[Tore]

Menar du då att hela rummet, tillsammans, kan ha förståelse? Det har jag svårt att tänka mig. Men möjligen är analogin med datorer inte perfekt. Jag har i vilket falls svårt att förstå hur en dator endast genom att vara mer komplex än en termometer plötsligt skulle kunna bli medveten. Men å andra sidan kanske det finns samma problem vad gäller levande varelser.

Ja, det är klart att det är svårt att tänka sig att ett rum har ett medvetande! Det är hela poängen med Searles val av formulering. Han väljer begrepp så att det skall bli svårt att identifiera sig med "systemet" (rummet och allt som händer däri) och lätt att identifiera sig med "mekanismen" (den engelsktalande mannen). Men frågan är vilken relevans vår intuition har i det här fallet. Som du säger är väl problemet exakt detsamma när vi tittar på en hjärna. Skillnaden är bara att vi då har lättare att identifiera oss med systemet snarare än mekanismen.

Dennett var jag sådär lagom förtjust i, det lilla jag läst av honom (den krångliga artikeln "Quining Qualia"). Jag har svårt för teorier som vägrar erkänna att medvetandet finns och att det innehar en del egenskaper som är svåra att förena med en fysikalistisk världsbild i nuvarande kunskapsläge (intentionalitet och subjektivitet/kvalia).

Jag har inte fått intrycket att han förnekar att medvetandet finns, det lilla jag har läst av honom.

Har du läst Nagels "What is it like to be a bat?"? Den skulle vara en utmärkt artikel att diskutera (jag föreslog att vi skulle börja läsa och diskutera artiklar i en annan tråd).

Har läst den, fast för många år sedan. Den finns också i boken jag nämnde.

[Stefan]

Ja, det är klart att det är svårt att tänka sig att ett rum har ett medvetande! Det är hela poängen med Searles val av formulering. Han väljer begrepp så att det skall bli svårt att identifiera sig med "systemet" (rummet och allt som händer däri) och lätt att identifiera sig med "mekanismen" (den engelsktalande mannen). Men frågan är vilken relevans vår intuition har i det här fallet. Som du säger är väl problemet exakt detsamma när vi tittar på en hjärna. Skillnaden är bara att vi då har lättare att identifiera oss med systemet snarare än mekanismen.

Visst, analogier är riskfyllda, och intutioner också. Jag föreslår att vi lämnar det kinesiska rummet (du har fått mig att tvivla på dess relevans). Men är det inte något fundamentalt mystiskt att bara för att det finns fler mekaniska processer i en dator än i en termometer, så uppkommer det en skillnad som man intuitivt uppfattar som "kvalitativ"; mellan omedvetenhet och medvetenhet alt. icke-intelligens och intelligens?

Jag kan för lite om Dennett för att uttala mig ordentligt. Han skrev som sagt en artikel som hette "Quining Qualia", och som hävdade att kvalia: subjektiva upplevelser som smaken av kaffe i någon mening inte existerar. Jag har svårt att se att acceptera det, liksom jag har svårt att acceptera andra teorier som försöker skära bort medvetandet eller göra det mindre komplicerat, som behaviourismen. Dessa ismer tycks mig som en sorts önsketänkande hos die-hard reduktionister som vägrar att erkänna att medvetandet inte kan tacklas på riktigt samma sätt som den fysiska verkligheten.

[Tore]

Visst, analogier är riskfyllda, och intutioner också. Jag föreslår att vi lämnar det kinesiska rummet (du har fått mig att tvivla på dess relevans). Men är det inte något fundamentalt mystiskt att bara för att det finns fler mekaniska processer i en dator än i en termometer, så uppkommer det en skillnad som man intuitivt uppfattar som "kvalitativ"; mellan omedvetenhet och medvetenhet alt. icke-intelligens och intelligens?

Jag håller helt med dig. Det är verkligen mystiskt och jag tror aldrig att vi riktigt kommer kunna förstå hur medvetande uppkommer i materiella processer. Lite liknar det problemet med att förstå hur "levande" materia uppkommer ur "död", men medvetandeproblemet är till synes mycket svårare.

Jag kan för lite om Dennett för att uttala mig ordentligt. Han skrev som sagt en artikel som hette "Quining Qualia", och som hävdade att kvalia: subjektiva upplevelser som smaken av kaffe i någon mening inte existerar. Jag har svårt att se att acceptera det, liksom jag har svårt att acceptera andra teorier som försöker skära bort medvetandet eller göra det mindre komplicerat, som behaviourismen. Dessa ismer tycks mig som en sorts önsketänkande hos die-hard reduktionister som vägrar att erkänna att medvetandet inte kan tacklas på riktigt samma sätt som den fysiska verkligheten.

Jag har en bok av Dennett som heter Att förstå medvetandet, som jag knappt har bläddrat i. Blir lite lockad att plocka fram den nu. Får se om jag lyckas ta mig tid...

[Stefan]

Lite liknar det problemet med att förstå hur "levande" materia uppkommer ur "död", men medvetandeproblemet är till synes mycket svårare.

Jag håller med om att medvetandeproblemet är svårare. Jag är absolut inte insatt i biologi och kemi, men vad jag förstår kan man se liv som död materia i speciella strukturer, som kan reproducera sig, osv. Det är egentligen inte så konstigt. Medvetande är mycket konstigare.

[Cezario]

Fast när du säger att varje människa är ensam i sin egen kognition så har du väl på sätt och vis redan dragit den slutsats du menar att vi inte kan dra? Dvs om du kan dra slutsatsen att andra människor har en kognition (baserat på någon yttre likhet med dig sjäv), varför kan du inte dra sådana slutsatser om andra system (som uppvisar liknande yttre likhet)?

Du missar poängen, vi kan göra antaganden (sådana som jag gör när jag säger att varje människa är ensam i sin kognition) men det vi inte kan göra är att dra slutsatser; och om du beaktar just mitt användande så har det ingen relevant betydelse för uttalandet huruvida det med säkerhet är sådant som jag antar att det är eller ej ty det blir enbart problematiskt när vi applicerar samma antagandemönster på en AI och benämner den som 'mänsklig' eller ej då säkerheten (ett antagande är helt enkelt inte nöjaktig) är det centrala i ett sådant scenario.

Således har jag inte dragit någon slutsats utan snarare antagit; och detta är acceptabelt när något annat inte krävs.

[Camilla]

Läs detta intressanta argument mot tanken att datorer är intelligenta:

http://www.iep.utm.edu/c/chineser.htm

Efter att ha läst artikeln kom jag fram till att den var bättre än förväntat. Exemplet med det kinesiska rummet är ju kanske lite svagt men det är ju egentligen mest till för att kritisera idén att en dator är medveten på samma sätt som en människa så fort den klarar Turingtestet, vilket jag håller med om att den inte behöver vara.

Searle anser att medvetande är en essentiellt biologisk egenskap, ungefär som fotosyntesen är det, och att maskiner som datorer inte kan vara medvetna/intelligenta.

Nja, han verkar öppen för att exempelvis en robot med en hjärna liknande människans kan vara medveten.

Assuming it is possible to produce artificially a machine with a nervous system, neurons with axons and dendrites, and all the rest of it, sufficiently like ours, again the answer to the question seems to be obviously, yes. If you can exactly duplicate the causes, you could duplicate the effects. And indeed it might be possible to produce consciousness, intentionality, and all the rest of it using some other sorts of chemical principles than those that human beings use. It is, as I said, an empirical question.

Vänligen
Camilla