Mänsklighetsfällan

Jag har nyligen lyssnat på ett par podcasts om singulariteten. Därmed är jag just nu antagligen i ett bättre kunskapsläge än vad jag någonsin kommer att vara igen för ett raljant avfärdande av hela begreppet. Till verket.

Vad är det?

I matematiken är en singularitet en punkt där någonting inte kan beräknas, som t.ex. värdet av 1/x i punkten x=0. Vernor Vinge använde 1993 ordet för att beteckna en kommande tidpunkt där den tekniska utvecklingen plötsligt börjar gå väldigt mycket snabbare. Idén är att utvecklingen av maskiner och deras program får dem att uppnå allt högre intellektuella nivåer, och så småningom närma sig en punkt där de är förmögna att själva skapa maskiner eller program, med en intelligensnivå som överträffar deras egen. Denna avkomma kommer i sin tur att kunna skapa ännu smartare efterföljare, och så drar utvecklingen iväg i en hastigt stigande spiral.

Andra hade tänkt liknande tankar förut, men Vinge låg rätt i tiden för att få genomslag.

Singularitetsvisionärer ser fram emot punkten med skräckblandad förtjusning. Vissa mest med skräck, andra med enbart förtjusning. De förtjusta tänker sig teknikexplosionen i människans tjänst. Trots att singularitetstanken innebär att framtiden bortom punkten i princip är oförutsägbar finns många ganska likriktade spekulationer om vad den för med sig. Exempelvis tänker man att den kommer att ge människan möjlighet till evigt liv, antingen genom bidrag till läkekonsten, eller genom en möjlighet att, som 1980-talets tv-figur Max Headroom, uploada innehållet från hjärnan till ett datorsystem, där det kan leva vidare oberoende av den biologiska kroppen.

Vissa singularitetsspekulanter uppskattar ganska tvärsäkert tidpunkten för singulariteten (typiskt inom några få decennier), likt Jehovas vittnen som bestämmer datum för den yttersta dagen. Hör till exempel på den obehaglige visionär som förklarar hur man kan förvänta sig att människors ekonomiska beteende kommer att förändras när (inte om) de accepterar att singulariteten är nära förestående, och deras högsta prioritet blir att till varje pris överleva tillräckligt länge för att få uppleva den.

De som är rädda för singulariteten oroar sig för att maskinerna, när de väl blivit smarta, kommer att dominera världen, och människorna bli onödiga. Kanske förslavar eller utrotar maskinerna oss.

Milt skeptiska podcasts

Författaren Mike McRae har gjort ett intressant reportage om vad singulariteten innebär och hur trolig den är. Han viker in åsikter av författarkollegan Richard Morgan och den intressanta filosofen Nick Boström. En bra introduktion, med ett mestadels milt skeptiskt perspektiv: vi vet ju än så länge inte vad intelligens är, blir ungefär konsensus, och därmed kan vi inte heller veta hur långt det är kvar till att datorer eller andra maskiner ska kunna nå verklig intelligens, eller om det alls är möjligt.

Douglas Hofstadter börjar i en konferenspresentation med att döma ut en del av 1990-talets trångsynta kritik mot singularitetsliknande teorier. Idén att teknikutvecklingen skulle kunna omvandla människan till någonting helt nytt väckte då, för inte särskilt länge sedan, en indignation som i dagens cyberrymdifierade samhälle är lite svår att förstå. Men sedan intar Hofstadter själv en försiktigt skeptisk attityd. Han konstaterar att han ser på singulariteten med visst obehag, och kanske därför gärna vill tro att den ligger långt fram i tiden. Han granskar siffrorna i förutsägelserna och konstaterar, likt McRaes reportage, att de faktiskt inte säger så mycket om hur snart maskinerna närmar sig vår intelligens. Han förfasar sig lite över de mest utflippade teorierna som finns bland förutsägelserna från singularitetsrörelsens profeter. Och så konstaterar han, helt riktigt, att en exponentiell teknisk utveckling som den vi tycks uppleva visserligen kan uppfattas som explosiv, men det innebär faktiskt inte alls någon singularitet. Exponentialkurvan stiger allt brantare med ett allt mer accelererat utvecklingstempo, men den håller sig ändå jämn och fin och deriverbar. Den har inget knä, ingen punkt som kan tas som början på en ny teknologisk världsordning.

Drömmer humanoider om medvetna mekaniska får?

Det är förundransvärt att till och med en så framstående tänkare som Hofstadter stannar vid enbart kvantitativa invändningar, och tycks godta flera av de svaga premisser som ligger till grund för själva singularitetsidén. Att man kan tveka över möjligheterna för datorer att (snart) uppnå mänsklig intelligens är sin sak, men mer centralt borde vara att ifrågasätta förutsättningen att mänsklig intelligens är någon sorts upphöjt tillstånd, som beräkningsmässigt avancerade varelser måste närma sig.

Varför skulle den vara det? Vad ska maskinerna med »intelligens« till?

Grundpremissen för singularitetstanken är att när maskinerna blir nog avancerade för att utföra de beräkningsoperationer det mänskliga nervsystemet kan, då kommer de i princip att bli människor: själv börja driva den tekniska »utvecklingen« och börja generera avkomma. Det bottnar i en trångsynt bild av vår mänskliga uppfattning om världen som den enda riktiga, eller högst utvecklade. Man resonerar utifrån vårt mänskliga sätt att se på vår omgivning och konstaterar, föga förvånande, att bara människor har förmåga att uppfatta världen just så. Sedan försöker man projicera den uppfattningen på maskinerna.

Vår världsbild passar just oss. Den är en av de många ingivelser (eller kanske snarare samlingar av ingivelser) längs evolutionens väg som gjort oss till så effektiva fortplantningsmaskiner för våra gener, framgångsrika i konkurrens med andra organismer med liknande historia och drivkrafter.

Intelligens och medvetande är våra egna etiketter på företeelser vi använder oss av i vår strävan efter överlevnad. De är svåra att riktigt få grepp om för oss, eftersom de är så centrala delar av det vi betraktar som oss själva. Men betyder det att de skulle vara lättare att få syn på för en utomstående betraktare? Knappast. Kanske beskrivs de i själva verket bättre som människans upplevelse, eller abstrakta representation, av sina egna förmågor än som förmågorna i sig. En icke-mänsklig varelse som försökte kopiera människan skulle säkert inte tycka att de här abstrakta begreppen var viktiga, och kanske inte ens ha någon möjlighet att över huvud taget uppfatta dem så som vi gör. De hänför sig till vår egen bild av oss själva, och det finns ingen anledning att anta att de äger större allmängiltighet.

Kanske skulle en icke-mänsklig imitation av människan få några liknande inre upplevelser av bara farten, eller kanske inte. Ingen skulle sakna dem, om bara de yttre tecknen på anpassningsförmåga och uppfinningsrikedom fanns där.

Vi människor tenderar att se intelligens som en väldigt speciell egenskap, den högsta av alla möjliga beräkningsförmågor. Det beror antagligen på att den är en förmåga som, i våra ögon, skiljer oss från andra snarlika organismer. Organismer som, med våra mått mätt, är mindre framgångsrika i den kamp för överlevnad som de och vi deltar i. Men det är inte maskinernas livsmiljö. Tron på en plötslig intelligensexplosion hos maskinerna förutsätter en ganska trångsynt uppfattning om intelligensen som universellt betydelsefull förmåga.

Vår evolutionära bakgrund

Sedan har vi det här med fascinationen för reproduktion. Maskiner som skapar andra maskiner. Det gör de för det första redan: datorer byggs t.ex. inte av mänskliga händer, utan av maskiner, som mycket väl kan ha lägre beräkningskapacitet (»intelligens«) än det de bygger. Om de av människan skapade maskinerna någon gång ska ta över människans värld finns det goda skäl att hävda att de redan har gjort det.

Reproduktion är den primära drivkraften för människor, liksom för andra organismer. Det är hela vår raison d'être: vi är reproduktionsmaskiner för våra gener. Denna evolutionära historia har inte maskiner konstruerade av människan. De har inte vår vilja till fortplantning inkodad i varje beståndsdel, och det är svårt att se hur den skulle smyga sig in i dem bara för att deras beräkningskapacitet ökar. Maskiner och datorprogram fortplantas genom att vi, människorna, reproducerar deras beståndsdelar till nya individer, och maskinerna saknar drivkrafter till att vilja förändra det förhållandet.

På samma sätt har inte maskinerna vår vilja att dominera andra varelser. Den är nämligen bara ytterligare en av många drifter och förmågor som stärker vår funktion som fortplantningsmaskiner.

Idén att maskinerna skulle ta över förutsätter dessutom den objektivt sett underliga uppfattningen att det är vi, människorna, som regerar planeten för tillfället. Också det förutsätter ett strikt mänskligt perspektiv. En oberoende observatör skulle minst lika gärna kunna komma fram till att planetens myllrande biosfär domineras av bakterier och andra mikroorganismer. De mänskliga kropparna fungerar som kolonier för vissa av dem (celler) samt som miljö för populationer av miljontals fristående bakterier i symbios. Att dessa kolonier har ett internt signalsystem som får dem att »uppleva« sig »själva« som autonoma, »medvetna« och »intelligenta« varelser skulle vara svårt för den utomstående observatören att uppfatta. Det är tveksamt om det över huvud taget har någon giltighet annat än just för kommunikation inom organismerna, och i viss utsträckning mellan dem.

Come on you apes, you wanna live forever?

Tanken att man med datorteknikens hjälp skulle kunna leva vidare genom att lägga över tillräckligt med information om sig själv i ett datorsystem, som bland annat Hofstadterpresentationen tar upp, bygger på en uppdelning av människan i kropp och intellekt som är artificiell, och också den trångsynt mänsklig. Det som är vi är i själva verket inte bara det andliga och abstrakta; vi är i första hand våra kroppar. Själslivet ger oss ett sätt att målinrikta våra handlingar, vilket återigen är en av de många förmågor som hjälper kroppen att överleva och fortplanta sig. Att se intellektet som det primära och kroppen bara som dess kärl är förklaringsmässigt bakvänt.

När kroppen dör, skulle man verkligen känna att man levde vidare om ens »medvetande« levde vidare utan kropp, eller i en annan kropp? Jag skulle inte tro att det fungerar så för de flesta människor. Självbevarelsedriften inkluderar kroppen – den egna kroppen, inte en kopia av den.

Strävan efter evigt liv i sig är nog ganska oöverlagd. Alldeles oavsett om man får det enbart elektroniskt eller genom att kroppen faktiskt bevaras, och delar byts ut efter hand (vilket ju faktiskt är ungefär hur det delvis redan fungerar med våra celler). En förhastad slutsats av självbevarelsedriften, som inbillar oss att existens alltid är att föredra framför icke-existens. Ytterligare en av kroppens lyckade mekanismer för att hålla fortplantningsmaskinen igång så länge som möjligt. Om man verkligen funderar över följderna av att alla, eller åtminstone många, skulle få evigt liv är det åtminstone inte självklart att det leder till en paradisisk tillvaro.

Men just i tanken på evigt liv och dess motpol, utrotningen av oss och vår avkomma, ligger antagligen en del av lockelsen med singularitetsidén, både i de skräck- och lustfyllda delarna. Viljan att tro på singulariteten ligger förmodligen mycket djupare ner i driftslivet än vad många av de troende vill erkänna. De vill förstås inte se sin lära som en teknologiserad version av Jehovas vittnens.

Den accelererande förändringen är konstant

Om man ser lite bredare på begreppet maskin blir det ganska svårt att hitta en definition av maskin som utesluter människor. Vi är, visserligen inte medvetet konstruerade (vad nu det ska betyda), men dock fortplantningsmaskiner. Vågar man inkludera människorna bland maskinerna blir det ganska tydligt att den enda sortens singularitet i utvecklingen som rimligtvis någonsin kommer att inträffa, redan har varit i full gång i åtminstone tusentals år.

En enda sorts maskin finns med just människans perspektiv på intelligens, makt, avkomma och medvetande, nämligen människan själv. Människan har en inbyggd mekanism för att skapa nya människor, och dessutom förmåga att göra avkomman intelligentare än sin skapare. Den förmågan uppstod dock inte i ett plötsligt ögonblick, utan har utvecklats kontinuerligt under årtusenden.

Skriftspråket, som gör att stora kollektiva kunskapsmassor kan bevaras över generationsgränserna, var ett viktigt steg. Men skriften är en liten del av den teknologi med hjälp av vilken människan gradvis förbättrar sig själv.

Vår existens är redan statt i explosivt accelererande utveckling genom den förändring av oss själva och vår miljö vi blir allt mer kapabla till. Maskinerna vi bygger är en del av vår miljö och av själva vår existens. Det är ytterst tveksamt om det tillkommer någon plötslig teknologisk utvecklingsexplosion. Men man behöver faktiskt inte tänka sig någon singularitetspunkt för att vår framtid ska framstå som en fortsatt oförutsägbar blandning av teknologiska möjligheter och hot.

Bild: Walraven

Jag har nyligen lyssnat på ett par podcasts om singulariteten. Därmed är jag just nu antagligen i ett bättre kunskapsläge än vad jag någonsin kommer att vara igen för ett raljant avfärdande av hela begreppet. Till verket.

Vad är det?

I matematiken är en singularitet en punkt där någonting inte kan beräknas, som t.ex. värdet av 1/x i punkten x=0. Vernor Vinge använde 1993 ordet för att beteckna en kommande tidpunkt där den tekniska utvecklingen plötsligt börjar gå väldigt mycket snabbare. Idén är att utvecklingen av maskiner och deras program får dem att uppnå allt högre intellektuella nivåer, och så småningom närma sig en punkt där de är förmögna att själva skapa maskiner eller program, med en intelligensnivå som överträffar deras egen. Denna avkomma kommer i sin tur att kunna skapa ännu smartare efterföljare, och så drar utvecklingen iväg i en hastigt stigande spiral.

Andra hade tänkt liknande tankar förut, men Vinge låg rätt i tiden för att få genomslag.

Singularitetsvisionärer ser fram emot punkten med skräckblandad förtjusning. Vissa mest med skräck, andra med enbart förtjusning. De förtjusta tänker sig teknikexplosionen i människans tjänst. Trots att singularitetstanken innebär att framtiden bortom punkten i princip är oförutsägbar finns många ganska likriktade spekulationer om vad den för med sig. Exempelvis tänker man att den kommer att ge människan möjlighet till evigt liv, antingen genom bidrag till läkekonsten, eller genom en möjlighet att, som 1980-talets tv-figur Max Headroom, uploada innehållet från hjärnan till ett datorsystem, där det kan leva vidare oberoende av den biologiska kroppen.

Vissa singularitetsspekulanter uppskattar ganska tvärsäkert tidpunkten för singulariteten (typiskt inom några få decennier), likt Jehovas vittnen som bestämmer datum för den yttersta dagen. Hör till exempel på den obehaglige visionär som förklarar hur man kan förvänta sig att människors ekonomiska beteende kommer att förändras när (inte om) de accepterar att singulariteten är nära förestående, och deras högsta prioritet blir att till varje pris överleva tillräckligt länge för att få uppleva den.

De som är rädda för singulariteten oroar sig för att maskinerna, när de väl blivit smarta, kommer att dominera världen, och människorna bli onödiga. Kanske förslavar eller utrotar maskinerna oss.

Milt skeptiska podcasts

Författaren Mike McRae har gjort ett intressant reportage om vad singulariteten innebär och hur trolig den är. Han viker in åsikter av författarkollegan Richard Morgan och den intressanta filosofen Nick Boström. En bra introduktion, med ett mestadels milt skeptiskt perspektiv: vi vet ju än så länge inte vad intelligens är, blir ungefär konsensus, och därmed kan vi inte heller veta hur långt det är kvar till att datorer eller andra maskiner ska kunna nå verklig intelligens, eller om det alls är möjligt.

Douglas Hofstadter börjar i en konferenspresentation med att döma ut en del av 1990-talets trångsynta kritik mot singularitetsliknande teorier. Idén att teknikutvecklingen skulle kunna omvandla människan till någonting helt nytt väckte då, för inte särskilt länge sedan, en indignation som i dagens cyberrymdifierade samhälle är lite svår att förstå. Men sedan intar Hofstadter själv en försiktigt skeptisk attityd. Han konstaterar att han ser på singulariteten med visst obehag, och kanske därför gärna vill tro att den ligger långt fram i tiden. Han granskar siffrorna i förutsägelserna och konstaterar, likt McRaes reportage, att de faktiskt inte säger så mycket om hur snart maskinerna närmar sig vår intelligens. Han förfasar sig lite över de mest utflippade teorierna som finns bland förutsägelserna från singularitetsrörelsens profeter. Och så konstaterar han, helt riktigt, att en exponentiell teknisk utveckling som den vi tycks uppleva visserligen kan uppfattas som explosiv, men det innebär faktiskt inte alls någon singularitet. Exponentialkurvan stiger allt brantare med ett allt mer accelererat utvecklingstempo, men den håller sig ändå jämn och fin och deriverbar. Den har inget knä, ingen punkt som kan tas som början på en ny teknologisk världsordning.

Drömmer humanoider om medvetna mekaniska får?

Det är förundransvärt att till och med en så framstående tänkare som Hofstadter stannar vid enbart kvantitativa invändningar, och tycks godta flera av de svaga premisser som ligger till grund för själva singularitetsidén. Att man kan tveka över möjligheterna för datorer att (snart) uppnå mänsklig intelligens är sin sak, men mer centralt borde vara att ifrågasätta förutsättningen att mänsklig intelligens är någon sorts upphöjt tillstånd, som beräkningsmässigt avancerade varelser måste närma sig.

Varför skulle den vara det? Vad ska maskinerna med »intelligens« till?

Grundpremissen för singularitetstanken är att när maskinerna blir nog avancerade för att utföra de beräkningsoperationer det mänskliga nervsystemet kan, då kommer de i princip att bli människor: själv börja driva den tekniska »utvecklingen« och börja generera avkomma. Det bottnar i en trångsynt bild av vår mänskliga uppfattning om världen som den enda riktiga, eller högst utvecklade. Man resonerar utifrån vårt mänskliga sätt att se på vår omgivning och konstaterar, föga förvånande, att bara människor har förmåga att uppfatta världen just så. Sedan försöker man projicera den uppfattningen på maskinerna.

Vår världsbild passar just oss. Den är en av de många ingivelser (eller kanske snarare samlingar av ingivelser) längs evolutionens väg som gjort oss till så effektiva fortplantningsmaskiner för våra gener, framgångsrika i konkurrens med andra organismer med liknande historia och drivkrafter.

Intelligens och medvetande är våra egna etiketter på företeelser vi använder oss av i vår strävan efter överlevnad. De är svåra att riktigt få grepp om för oss, eftersom de är så centrala delar av det vi betraktar som oss själva. Men betyder det att de skulle vara lättare att få syn på för en utomstående betraktare? Knappast. Kanske beskrivs de i själva verket bättre som människans upplevelse, eller abstrakta representation, av sina egna förmågor än som förmågorna i sig. En icke-mänsklig varelse som försökte kopiera människan skulle säkert inte tycka att de här abstrakta begreppen var viktiga, och kanske inte ens ha någon möjlighet att över huvud taget uppfatta dem så som vi gör. De hänför sig till vår egen bild av oss själva, och det finns ingen anledning att anta att de äger större allmängiltighet.

Kanske skulle en icke-mänsklig imitation av människan få några liknande inre upplevelser av bara farten, eller kanske inte. Ingen skulle sakna dem, om bara de yttre tecknen på anpassningsförmåga och uppfinningsrikedom fanns där.

Vi människor tenderar att se intelligens som en väldigt speciell egenskap, den högsta av alla möjliga beräkningsförmågor. Det beror antagligen på att den är en förmåga som, i våra ögon, skiljer oss från andra snarlika organismer. Organismer som, med våra mått mätt, är mindre framgångsrika i den kamp för överlevnad som de och vi deltar i. Men det är inte maskinernas livsmiljö. Tron på en plötslig intelligensexplosion hos maskinerna förutsätter en ganska trångsynt uppfattning om intelligensen som universellt betydelsefull förmåga.

Vår evolutionära bakgrund

Sedan har vi det här med fascinationen för reproduktion. Maskiner som skapar andra maskiner. Det gör de för det första redan: datorer byggs t.ex. inte av mänskliga händer, utan av maskiner, som mycket väl kan ha lägre beräkningskapacitet (»intelligens«) än det de bygger. Om de av människan skapade maskinerna någon gång ska ta över människans värld finns det goda skäl att hävda att de redan har gjort det.

Reproduktion är den primära drivkraften för människor, liksom för andra organismer. Det är hela vår raison d'être: vi är reproduktionsmaskiner för våra gener. Denna evolutionära historia har inte maskiner konstruerade av människan. De har inte vår vilja till fortplantning inkodad i varje beståndsdel, och det är svårt att se hur den skulle smyga sig in i dem bara för att deras beräkningskapacitet ökar. Maskiner och datorprogram fortplantas genom att vi, människorna, reproducerar deras beståndsdelar till nya individer, och maskinerna saknar drivkrafter till att vilja förändra det förhållandet.

På samma sätt har inte maskinerna vår vilja att dominera andra varelser. Den är nämligen bara ytterligare en av många drifter och förmågor som stärker vår funktion som fortplantningsmaskiner.

Idén att maskinerna skulle ta över förutsätter dessutom den objektivt sett underliga uppfattningen att det är vi, människorna, som regerar planeten för tillfället. Också det förutsätter ett strikt mänskligt perspektiv. En oberoende observatör skulle minst lika gärna kunna komma fram till att planetens myllrande biosfär domineras av bakterier och andra mikroorganismer. De mänskliga kropparna fungerar som kolonier för vissa av dem (celler) samt som miljö för populationer av miljontals fristående bakterier i symbios. Att dessa kolonier har ett internt signalsystem som får dem att »uppleva« sig »själva« som autonoma, »medvetna« och »intelligenta« varelser skulle vara svårt för den utomstående observatören att uppfatta. Det är tveksamt om det över huvud taget har någon giltighet annat än just för kommunikation inom organismerna, och i viss utsträckning mellan dem.

Come on you apes, you wanna live forever?

Tanken att man med datorteknikens hjälp skulle kunna leva vidare genom att lägga över tillräckligt med information om sig själv i ett datorsystem, som bland annat Hofstadterpresentationen tar upp, bygger på en uppdelning av människan i kropp och intellekt som är artificiell, och också den trångsynt mänsklig. Det som är vi är i själva verket inte bara det andliga och abstrakta; vi är i första hand våra kroppar. Själslivet ger oss ett sätt att målinrikta våra handlingar, vilket återigen är en av de många förmågor som hjälper kroppen att överleva och fortplanta sig. Att se intellektet som det primära och kroppen bara som dess kärl är förklaringsmässigt bakvänt.

När kroppen dör, skulle man verkligen känna att man levde vidare om ens »medvetande« levde vidare utan kropp, eller i en annan kropp? Jag skulle inte tro att det fungerar så för de flesta människor. Självbevarelsedriften inkluderar kroppen – den egna kroppen, inte en kopia av den.

Strävan efter evigt liv i sig är nog ganska oöverlagd. Alldeles oavsett om man får det enbart elektroniskt eller genom att kroppen faktiskt bevaras, och delar byts ut efter hand (vilket ju faktiskt är ungefär hur det delvis redan fungerar med våra celler). En förhastad slutsats av självbevarelsedriften, som inbillar oss att existens alltid är att föredra framför icke-existens. Ytterligare en av kroppens lyckade mekanismer för att hålla fortplantningsmaskinen igång så länge som möjligt. Om man verkligen funderar över följderna av att alla, eller åtminstone många, skulle få evigt liv är det åtminstone inte självklart att det leder till en paradisisk tillvaro.

Men just i tanken på evigt liv och dess motpol, utrotningen av oss och vår avkomma, ligger antagligen en del av lockelsen med singularitetsidén, både i de skräck- och lustfyllda delarna. Viljan att tro på singulariteten ligger förmodligen mycket djupare ner i driftslivet än vad många av de troende vill erkänna. De vill förstås inte se sin lära som en teknologiserad version av Jehovas vittnens.

Den accelererande förändringen är konstant

Om man ser lite bredare på begreppet maskin blir det ganska svårt att hitta en definition av maskin som utesluter människor. Vi är, visserligen inte medvetet konstruerade (vad nu det ska betyda), men dock fortplantningsmaskiner. Vågar man inkludera människorna bland maskinerna blir det ganska tydligt att den enda sortens singularitet i utvecklingen som rimligtvis någonsin kommer att inträffa, redan har varit i full gång i åtminstone tusentals år.

En enda sorts maskin finns med just människans perspektiv på intelligens, makt, avkomma och medvetande, nämligen människan själv. Människan har en inbyggd mekanism för att skapa nya människor, och dessutom förmåga att göra avkomman intelligentare än sin skapare. Den förmågan uppstod dock inte i ett plötsligt ögonblick, utan har utvecklats kontinuerligt under årtusenden.

Skriftspråket, som gör att stora kollektiva kunskapsmassor kan bevaras över generationsgränserna, var ett viktigt steg. Men skriften är en liten del av den teknologi med hjälp av vilken människan gradvis förbättrar sig själv.

Vår existens är redan statt i explosivt accelererande utveckling genom den förändring av oss själva och vår miljö vi blir allt mer kapabla till. Maskinerna vi bygger är en del av vår miljö och av själva vår existens. Det är ytterst tveksamt om det tillkommer någon plötslig teknologisk utvecklingsexplosion. Men man behöver faktiskt inte tänka sig någon singularitetspunkt för att vår framtid ska framstå som en fortsatt oförutsägbar blandning av teknologiska möjligheter och hot.

Bild: Walraven

Mänsklighetsfällan