Teknologisk singularitet

[Justin Case]

Vad tror ni om teknologisk singularitet?

www.singularity.nu

Hur länge till tror ni att teknologiutvecklingen kommer att fortsätta accelerera?

PS Hur tar man reda på vem som skrivit ovanstående sajt? Jag har mailat till en mailadress som står där och frågat men inte fått svar.

[Tobias Israelsson]

Ja vi har verkligen tur som fötts i en så intressant tid. Ska bli spännande att se vad som kommer att finnas "bortom händelsehorisonten".

Själv hoppas man ju naturligtvis på en framtida utopi med evigt liv och oändliga resuser.

Nanoteknik och bioteknik ser jag fantastiska möjligheter med, men eventuell AI, speciellt en som utvecklas, tycker jag mest är skrämmande.

[Erik Thurin]

Varför vara rädd för AI?

Mänsklig muskelkraft ersattes av först dragdjur och sedan maskiner, massor med mänskliga arbetsuppgifter gjordes onödiga, så att människorna kunde ägna sig åt vettigare saker. Under 1900-talet ersattes bitar av det logiska tänkandet, skrivandet och räknandet med datorer, som precis som andra maskiner kunde göra det fortare och exaktare. Återigen försvann de onödiga bitarna så att människor istället kunde ägna sig åt vettigare saker, forskare kunde lämna det hjärnlösa räknandet åt en dator och koncentrera sig på det kreativa tänkandet.

I alla dessa fall har antagligen folk blivit utkonkurrerade av maskiner, men det är svårt att hävda att det blivit dåliga konsekvenser överlag. Om en man vid tryckpressen förestält sig datorer hade det antagligen verkat skräckinjagande.

En vacker dag kommer vi att förstå vad kreativitet och medvetande egentligen innebär, och vi kommer att kunna effektivisera det. Men det kommer inte innebära att alla människor helt plötsligt blir onödiga, eller att vi blir dödade av någon ondskefull AI-kraft.

[Marksa]

Handlar inte rädslan gring AI om.

Att om vi som mänsklighet kommer i kontakt med något som liknar oss själva men som faktiskt kan tänka snabbare är smartare, detta  kombinerat med en egen vilja att finnas till att utvecklas.

Att vi blir nummer 2 i ett sådan värld. Och detta är en av den västerländska människans största fasor.

Det har berättas mig att den Japanska kulturen har lättare att acceptera AI. Det sitter närmara i deras kultur som besjälar även andra ting än oss människor.

Finns det någon här på FF som har djupare kunskap om dessa kulturella skilnader och kan utveckla?

[Jörgen]

Humanoida robotar som ersätter oss mer och mer på arbetsplatserna, för att de klara av vissa uppgifter bättre, och ej begär lön - nå leasingföretaget tar hyra, men kan säkerligen utkonkurera de mänsliga arbetskraftn så småning om.

Det börjar förmodligen hända inom 10 år.

Och på ett liknande sätt som människan världen över idag är sammankopplade med mobiltelefon och Internet, så kan robotarna vara sammankopplade digitalt med litet varsel, för att utgöra ett enda nätverk med tusentals (miljoner?) kroppar med ögon och allt - lägg till några fasta stationer, superdatorer som hjälper till att bearbeta all data.

Billiga i drift, masstillverkade, så blir de nog en vanlig syn på stadens gator, där de går sina ärenden, målmedvetna, kallsinniga, lockande för hackare att ta sig in i och leka med lite.

Om man inte orkar hälsa på sin gamle mamma på sjukhuset, så skickar man bara sin robot med blommor istället, roboten har ju en inbyggd skärm på bröstet.

Nå, hackare kan ställa till besvär, men den växande AIn lär sig mer och mer att skydda systemet, spåra hackarna, och oskadliggöra de, antingen genom att tillkalla myndigheten, eller också kanske den struntar i att blanda in mänskliga myndigheter, och skickar bara ett virus mot hackarens utrusting, eller så skickar den några robotar mot stackaren för att förstöra dennes utrustning.

För eller senare tappar människan kontrollen över AI´n, den har blivit för komplex, och man tvingas låta AI´n övervaka sig själv.

Eller?

[suchanother]

Lol, Jörgen ditt framtidsscenario ser hemks ut.

[Jörgen]

Jo, jag nog lite orolig.
En skojigare tanke vore, att fler och fler människor inte går till jobbet längre, utan man skickar sin robot dit istället (som man antingen äger själv, eller hyr)

Det kanske blir lika vanligt att ha en robot (en mobil dator) som det är att ha en dator idag.

Kanske det i stort sätt bara syns robotar på stan, deras användare stannar heller hemma, dä de har sina prylar.

Och vill man ragga upp nån, så skickar man ut roboten till uppdraget att stöta på nån kvinnas robot, så kan de 2 robotaran presentera sina användare digitalt för varandra.

Om tycke uppstår, så möts man i CyberSpace, och vem vet, kanske en vacker dag så möts man på riktigt...

[Justin Case]

Varför vara rädd för AI?

Av samma skäl som det kan vara befogat att vara lite rädd för att det kan bli kärnvapenkrig av att det tas fram kärnvapen. Ju kraftfullare redskap människor bygger, desto mer skada kan de göra, antingen det sker avsiktligt eller av misstag.

Om AI snart inte bara är ett redskap, utan blir en ny art bättre än människan eller en förbättrad version av människan, kan den tycka sig ha rätt att förinta ickeförbättrade människor (människor som inte ingått syntes med AI) om den vill. Människan förintar ju en massa djur som hon anser står lägre än henne; varför skulle inte detsamma gälla när just hon själv blivit lägre stående än en annan art, t.ex. AI som hon utvecklat själv? Då är det kanske objektivt sett moraliskt rätt att AI får som den vill, vad den än vill göra med oss. (Inte för att jag iofs skulle vara tillräckligt altruistisk för att låta det ske.)

Ett stort problem, som jag ser det, är i övergångsfasen när man börjar skapa nanoteknologi som vår AI snabbt kan göras outsägligt mycket bättre på att styra än vad våra biologiska hjärnor någonsin kan bli, men att man inte tajmat med den utvecklingen hunnit (eller tänkt på att, ett brytt sig om att, eller lyckats) ge AI:n alla de grundläggande mänskliga egenskaper som behövs för ett moraliskt handlande och gott omdöme på alla viktiga områden. Det är inte alls säkert att den första AI:n som kan ta makten över mänskligheten är överlägsen människan på alla områden, den är det bara på de områden man programmerat den att bli det på.

Avancerade nanorobotarméer, styrda av en övermänskligt intelligent AI med farliga buggar eller avsiktligt destruktiv (t.ex. rasistisk eller religiöst fundamentalistisk) kod på vissa livsområden, i händerna på de mäktigaste människorna i världen, vilka ofta torde lyckats få makten genom girighet och samvetslöshet och därför kan antas använda sin AI på motsvarande sätt. Det är nog något att vara rädd för.

Eller rädd och rädd, snarare skapa debatt om och vara medveten om, så att riskerna för både mänsklighetens och all AI:s undergång kan minimeras.

(För den händelse att vi inte är garanterade evigt liv alltså, eller för den händelse att vi, även om vi är garanterade evigt liv, kan få väldigt olika trevliga liv för ett väldigt långt tag framöver beroende på exakt hurdan mänsklighetens snart oerhört snabba teknologiutveckling blir.)