En bättre anledning till att maskinerna utrotar människan

Att superintelligenta maskiner får för sig att utrota mänskligheten är en vanlig premiss i science fiction och singularitetsspekulationer. Jag har alltid tyckt att motivationen haltar. Det finns ju ingen motsättning och ingen fiendskap mellan människor och maskiner. De är våra vänner, eller mer korrekt, de är vi: ickeorganiska utväxter av den mänskliga naturen.

De minst orimliga anledningarna handlar om att man av misstag skulle ha inplanterat idén i maskinerna att de bör utöka sin beräkningskapacitet till varje pris, och att de därför sätter igång att omvandla all materia till beräkningsmaskiner. Men det låter för mig lite väl klantigt att låta den processen fortgå så långt att den blir ett verkligt hot. Förvisso möjligt, man kan se det som ett sorts AI-baserat virus, men att just detta virus skulle få oåterkalleligt fäste förefaller mig osannolikt. Då skulle jag sätta oddsen lägre för rent biologiska virus.

Men, jag kom på ett nytt scenario som förklarar varför maskinerna skulle ta sig för att utplåna mänskligheten, som jag härmed vill donera till världens science fiction-författarkollektiv. Så här:

Efter en serie förödande krig mot terrorismen eller andra uttryck för galenskap och ondska, har den centrala makten över en stor del jordens resurser fallit i händerna på en grupp Goda Människor. De inser förstås att det är ofrånkomligt att de ganska snart förlorar makten igen, men kommer på en idén för hur de kan permanenta det goda styret. Idén är att överföra makten till ett stort kraftfullt datorsystem, i vilket man inpräntat Goda Etiska Regler på ett sätt som gör dem omöjliga att bryta mot. Systemet ska vara så smart att det aldrig tillåter någon ondskefull tyrann att gå emot det, oavsett om hen har militären och folkviljan med sig.

För att programmera systemet anställer man planetens mest framstående moralfilosofer. De tar fram en mängd etiska regler som systemet har att följa. Som en den allra högsta regeln, med högre prioritet än alla andra, sätter man att mänskligt lidande ska minimeras.

Maskinen slås på, och räknar omedelbart ut att alla andra regler är ovidkommande ifall den bara lyckas permanent eliminera allt mänskligt lidande. Att eliminera mänskligt lidande förefaller ganska enkelt, nämligen genom att man eliminerar människorna. Följaktligen sätter den igång att utrota mänskligheten.



Jag inser förstås att det här scenariot har små chanser att lyckas i Hollywood eller litteraturen. Det hör nämligen till grundpremisserna att det normalt är ingenjörer eller naturvetare som orsakar undergången genom sin ondska och aningslöshet. Humanister som moralfilosofer förutsätts vara good guys, för att inte orsaka identitetskris hos författarna antar jag.

Men en del moralfilosofer tar, tycker jag mig ha uppfattat, just önskan att minimera lidande (kanske inte ens bara mänskligt lidande), som ett grundaxiom. Jag vet inte om det innebär att de tycker att det vore en bra idé att utplåna allt levande, men det borde göra det för att vara helt logiskt. Och det i sin tur är för mig ett tydligt argument för att etik och moral har, och bör ha, vagare och mjukare grunder än axiom och logik.

Att superintelligenta maskiner får för sig att utrota mänskligheten är en vanlig premiss i science fiction och singularitetsspekulationer. Jag har alltid tyckt att motivationen haltar. Det finns ju ingen motsättning och ingen fiendskap mellan människor och maskiner. De är våra vänner, eller mer korrekt, de är vi: ickeorganiska utväxter av den mänskliga naturen.

De minst orimliga anledningarna handlar om att man av misstag skulle ha inplanterat idén i maskinerna att de bör utöka sin beräkningskapacitet till varje pris, och att de därför sätter igång att omvandla all materia till beräkningsmaskiner. Men det låter för mig lite väl klantigt att låta den processen fortgå så långt att den blir ett verkligt hot. Förvisso möjligt, man kan se det som ett sorts AI-baserat virus, men att just detta virus skulle få oåterkalleligt fäste förefaller mig osannolikt. Då skulle jag sätta oddsen lägre för rent biologiska virus.

Men, jag kom på ett nytt scenario som förklarar varför maskinerna skulle ta sig för att utplåna mänskligheten, som jag härmed vill donera till världens science fiction-författarkollektiv. Så här:

Efter en serie förödande krig mot terrorismen eller andra uttryck för galenskap och ondska, har den centrala makten över en stor del jordens resurser fallit i händerna på en grupp Goda Människor. De inser förstås att det är ofrånkomligt att de ganska snart förlorar makten igen, men kommer på en idén för hur de kan permanenta det goda styret. Idén är att överföra makten till ett stort kraftfullt datorsystem, i vilket man inpräntat Goda Etiska Regler på ett sätt som gör dem omöjliga att bryta mot. Systemet ska vara så smart att det aldrig tillåter någon ondskefull tyrann att gå emot det, oavsett om hen har militären och folkviljan med sig.

För att programmera systemet anställer man planetens mest framstående moralfilosofer. De tar fram en mängd etiska regler som systemet har att följa. Som en den allra högsta regeln, med högre prioritet än alla andra, sätter man att mänskligt lidande ska minimeras.

Maskinen slås på, och räknar omedelbart ut att alla andra regler är ovidkommande ifall den bara lyckas permanent eliminera allt mänskligt lidande. Att eliminera mänskligt lidande förefaller ganska enkelt, nämligen genom att man eliminerar människorna. Följaktligen sätter den igång att utrota mänskligheten.



Jag inser förstås att det här scenariot har små chanser att lyckas i Hollywood eller litteraturen. Det hör nämligen till grundpremisserna att det normalt är ingenjörer eller naturvetare som orsakar undergången genom sin ondska och aningslöshet. Humanister som moralfilosofer förutsätts vara good guys, för att inte orsaka identitetskris hos författarna antar jag.

Men en del moralfilosofer tar, tycker jag mig ha uppfattat, just önskan att minimera lidande (kanske inte ens bara mänskligt lidande), som ett grundaxiom. Jag vet inte om det innebär att de tycker att det vore en bra idé att utplåna allt levande, men det borde göra det för att vara helt logiskt. Och det i sin tur är för mig ett tydligt argument för att etik och moral har, och bör ha, vagare och mjukare grunder än axiom och logik.

En bättre anledning till att maskinerna utrotar människan

Fragment av en reflektion kring kritik

Under vinjetten Bokhyllan i dagens Sydsvenskan recenserar Rakel Chukri inte en bok, utan en recension av en bok (Jørgen Olsens Blåt chok) i Weekendavisen. Det är inte det första exemplet jag sett på senare tid av hur kritiker svarar varandra i spiraler.

Tankarna leds till ett av de många briljanta dialogögonblicken i Whit Stillmans Metropolitan: huvudpersonen Tom uttalar sig nedsättande och tvärsäkert om en av Jane Austens romaner, varpå han ogenerat erkänner att han läst varken den eller något annat av Jane Austen. »I don't read novels. I prefer good literary criticism. That way you get both the novelist’s ideas as well as the critic’s thinking. With fiction I can never forget that none of it really happened, that it's all just made up by the author.« Nästa naturliga steg är förstås kritik av kritiken.



Jag ser inte så mycket film nuförtiden, men min självbild innehåller fortfarande idén att jag är en filmintresserad person. Därför läser jag en massa recensioner av filmer jag inte ser. Jag lever inte längre med illusionen att jag kommer att lyckas se mer än några enstaka av de filmer som verkar sevärda, men jag tycker fortfarande att recensionerna är intressanta. Kanske är det en kompensation, ungefär som när jag lyssnade på filmmusiken från de barnförbjudna filmer jag inte fick se innan jag var femton. Det ledde till ett intresse för filmmusik som jag fortfarande har kvar.

Jag hade gärna velat knyta ihop allt det här till någon slags gemensam poäng om kritik för sin egen skull, men det visar sig omöjligt under rådande omständigheter. Jag kanske kan få lämna det som en övning åt läsaren?

Under vinjetten Bokhyllan i dagens Sydsvenskan recenserar Rakel Chukri inte en bok, utan en recension av en bok (Jørgen Olsens Blåt chok) i Weekendavisen. Det är inte det första exemplet jag sett på senare tid av hur kritiker svarar varandra i spiraler.

Tankarna leds till ett av de många briljanta dialogögonblicken i Whit Stillmans Metropolitan: huvudpersonen Tom uttalar sig nedsättande och tvärsäkert om en av Jane Austens romaner, varpå han ogenerat erkänner att han läst varken den eller något annat av Jane Austen. »I don't read novels. I prefer good literary criticism. That way you get both the novelist’s ideas as well as the critic’s thinking. With fiction I can never forget that none of it really happened, that it's all just made up by the author.« Nästa naturliga steg är förstås kritik av kritiken.



Jag ser inte så mycket film nuförtiden, men min självbild innehåller fortfarande idén att jag är en filmintresserad person. Därför läser jag en massa recensioner av filmer jag inte ser. Jag lever inte längre med illusionen att jag kommer att lyckas se mer än några enstaka av de filmer som verkar sevärda, men jag tycker fortfarande att recensionerna är intressanta. Kanske är det en kompensation, ungefär som när jag lyssnade på filmmusiken från de barnförbjudna filmer jag inte fick se innan jag var femton. Det ledde till ett intresse för filmmusik som jag fortfarande har kvar.

Jag hade gärna velat knyta ihop allt det här till någon slags gemensam poäng om kritik för sin egen skull, men det visar sig omöjligt under rådande omständigheter. Jag kanske kan få lämna det som en övning åt läsaren?

Fragment av en reflektion kring kritik

Perspektiv på Krösus Sork

Patrik Svensson har gjort en intressant analys av Bamses politiska budskap, där han avfärdar idén att Bamse skulle vara kommunist. Bamses värld är snarare »ett slags socialliberalt drömsamhälle där kollektivism och individens frihet går hand i hand«. Exakt!

Men jag tycker Svensson hamnar fel i beskrivningen av Krösus Sork, i jämförelse med Joakim von Anka. Von Anka representerar kapitalismen, det går jag med på. En elak men samtidigt ömsint satir av den amerikanska drömmen. Men Krösus Sork står för något annat än kapitalism. Krösus sysslar med kidnappning och utpressning; han fixar boxningsmatcher. Han representerar den organiserade brottsligheten. En maffiaboss, inte en entreprenör.

Visst ligger det viss samhällskritik, eller kanske snarare problematiserande samhällsbeskrivning, i berättelserna om direktör Sork. Hur polis Kask ständigt slår ut med armarna och säger att, visst, han förstår att det är sorkarna som ligger bakom, men det finns inga bevis. »Krösus Sork skulle bli satt i kurran på trehundra år om jag kunde bevisa vilka skumma affärer han gör. Men han är för smart. Det är bara småtjuvar som åker fast!« (Bamse som boxare, 5/1975).

Undantagsvis tänjer Bamse och hans vänner på reglerna och ger igen mot Krösus med en del av hans egen medicin. Men i det stora hela får Krösus löpa vidare till nya skumraskaffärer, utan rop på vare sig revolution eller hårdare tag mot brott. Varför? Jo, därför att det är ett pris vi får betala för ett öppet samhälle byggt på demokratiska principer! En mörk men oundviklig sida av just det där socialliberala drömsamhället. »Ingen påstår att rätt är lätt«, som Heidi Avellan lämpligt nog skriver i samma tidning; vi ska inte rucka på rättssamhällets grundprinciper bara för att de också gäller, och kan utnyttjas av, våra fiender.

Det är en av de viktigaste läxorna jag tagit med mig från min barndoms Bamseläsning. Det är inte kommunism eller antikapitalism, utan demokratisk rättsstat förklarat för en sexåring. Jag skulle önska att fler blivit itutade detta med lite mer eftertryck, både bland dem som en gång kallade sig kommunister och dem som en gång kallade sig socialliberaler. De som idag, utan känsla för proportioner, och utan att tänka på vad de ger upp, skriker efter (och genomför) stympningar av rättsprinciper och medborgerliga rättigheter för att beivra och bestraffa små eller stora brott, på nätet och annorstädes.

Patrik Svensson har gjort en intressant analys av Bamses politiska budskap, där han avfärdar idén att Bamse skulle vara kommunist. Bamses värld är snarare »ett slags socialliberalt drömsamhälle där kollektivism och individens frihet går hand i hand«. Exakt!

Men jag tycker Svensson hamnar fel i beskrivningen av Krösus Sork, i jämförelse med Joakim von Anka. Von Anka representerar kapitalismen, det går jag med på. En elak men samtidigt ömsint satir av den amerikanska drömmen. Men Krösus Sork står för något annat än kapitalism. Krösus sysslar med kidnappning och utpressning; han fixar boxningsmatcher. Han representerar den organiserade brottsligheten. En maffiaboss, inte en entreprenör.

Visst ligger det viss samhällskritik, eller kanske snarare problematiserande samhällsbeskrivning, i berättelserna om direktör Sork. Hur polis Kask ständigt slår ut med armarna och säger att, visst, han förstår att det är sorkarna som ligger bakom, men det finns inga bevis. »Krösus Sork skulle bli satt i kurran på trehundra år om jag kunde bevisa vilka skumma affärer han gör. Men han är för smart. Det är bara småtjuvar som åker fast!« (Bamse som boxare, 5/1975).

Undantagsvis tänjer Bamse och hans vänner på reglerna och ger igen mot Krösus med en del av hans egen medicin. Men i det stora hela får Krösus löpa vidare till nya skumraskaffärer, utan rop på vare sig revolution eller hårdare tag mot brott. Varför? Jo, därför att det är ett pris vi får betala för ett öppet samhälle byggt på demokratiska principer! En mörk men oundviklig sida av just det där socialliberala drömsamhället. »Ingen påstår att rätt är lätt«, som Heidi Avellan lämpligt nog skriver i samma tidning; vi ska inte rucka på rättssamhällets grundprinciper bara för att de också gäller, och kan utnyttjas av, våra fiender.

Det är en av de viktigaste läxorna jag tagit med mig från min barndoms Bamseläsning. Det är inte kommunism eller antikapitalism, utan demokratisk rättsstat förklarat för en sexåring. Jag skulle önska att fler blivit itutade detta med lite mer eftertryck, både bland dem som en gång kallade sig kommunister och dem som en gång kallade sig socialliberaler. De som idag, utan känsla för proportioner, och utan att tänka på vad de ger upp, skriker efter (och genomför) stympningar av rättsprinciper och medborgerliga rättigheter för att beivra och bestraffa små eller stora brott, på nätet och annorstädes.

Perspektiv på Krösus Sork