07 september 2007

Hotet från de artificiella intelligenserna

Häromdagen, mitt på dagen, dyker en brain-like computing-professor upp på min tv och fångar mitt intresse genom att förklara att hjärnan fortfarande är att betrakta som »alien technology«. Trots det vågar han sig på att uppskatta hjärnans beräkningskapacitet i datortermer, och gör utfästelser om när det bör ha producerats robotar med en hunds intelligens.

Flashback till ett halvpopulärt föredrag om artificiella neuronnätverk (ofta benämnda med anglicismen »neurala nät«) på Fysicum för ett antal år sedan. Föredragshållaren beskriver hur han använt neuronnätverk för att praktiskt angripa ett antal teoretiska problem, utan att visa någonting om vad det innebär för beräkningskomplexiteten som problemen är konstruerade för att studera, eller om vilken sannolikhet hans metoder ger för att man hittar den rätta lösningen. För en teoretiskt orienterad datalog förefaller det hela ungefär lika meningsfullt som att utföra experimentet med Schrödingers katt och faktiskt kontrollera om katten lever eller inte. Men han verkar självsäker vad gäller sambandet med verkliga nervsystem, och uppskattar att en för tiden normal dator motsvarar kapaciteten hos en svalas hjärna.

För min egen del är det mest minnesvärda med föredraget en fråga från publiken. Den formuleras ungefär som »hur nära är neuronnätverken kapaciteten för den mänskliga hjärnan? Behöver vi vara rädda?«.

Rubit the robot Jag var väl redan tidigare medveten om att det fanns de som gick och oroade sig för att maskinerna skulle bli »intelligenta« och angripa mänskligheten – det är ju om inte annat ett vanligt tema i dystopisk science fiction – men att den rädslan hade tagit sig ända in i en naturvetenskaplig föreläsningssal gav mig en tankeställare om hur vanlig den är.

Stämningen i föreläsningssalen blev lite generad. Jag minns inte exakt vad föreläsaren sade för att lugna frågeställaren, men antagligen någonting i linje med de vanliga klyschorna: »människor är så komplexa att det är långt kvar« eller »vi kan ju alltid dra ur kontakten« om datorera skulle försöka »ta över«.

Men jag undrar om det inte vore bättre att erkänna sanningen: de har redan tagit över för länge sedan!

Tecken på intelligens

Om vi kunde backa 50 år och fråga människor på 1950-talet vad som skulle vara bevis på stor intelligens skulle svaren säkerligen innehålla många exempel på färdigheter som datorer idag klarar mycket bättre än de flesta människor. Som att lösa avancerade ekvationer eller vinna över världsmästaren i schack.

Sådana färdigheter anses inte längre kräva intelligens. Dem kan nämligen till och med någonting så korkat som en dator klara av.

De som sysslar med forskningsområdet artificiell intelligens är dömda att för evigt bli betraktade som misslyckade, eller åtminstone ännu inte framgångsrika. I samma ögonblick som de presenterar ett program som klarar av att utföra en »intelligent« uppgift upphör den retroaktivt att vara intelligent i allmänhetens ögon. Det datorn gör kan inte vara intelligent, den utför ju »bara« det den är programmerad till.

När datalogins fader Alan Turing funderar över frågan om maskiner kan tänka i den klassiska artikeln Computing Machinery and Intelligence från 1950 beskriver han, bland mycket annat, precis den invändningen mot maskiners möjlighet till intelligens: »Usually if one maintains that a machine can do one of these things, and describes the kind of method that the machine could use, one will not make much of an impression. It is thought that the method (whatever it may be, for it must be mechanical) is really rather base.«

När man läser Turings artikel idag slås man inte bara av hur väl hans briljanta argumentation fortfarande håller. Man kan också förbluffas av i vilken utsträckning den fortfarande behövs. Den idémässiga utvecklingen på området tycks ha stått praktiskt taget stilla sedan 1950, vilket Turing nog skulle ha varit besviken över att få veta.

Han börjar argumentationen med att redan i första stycket avfärda frågan »kan maskiner tänka?« som omöjlig och vetenskapligt meningslös. Det är omöjligt att ge en tillfredsställande exakt definition av att »tänka«, och väldigt svårt att hitta en definition av »maskin« som utesluter människor. Turing ersätter därför huvudsakligen frågan med en annan: kan en dator programmeras att imitera en människa så väl att det blir omöjligt för en intervjuare att skilja den från en människa? – ett prov som eftervärlden kallar Turingtestet.

Makten är deras

Men alldeles oavsett om datorerna kan »tänka« eller inte är våra liv i den högteknologiska världen nästan helt kontrollerade av dem. Datorprogram kontrollerar om vi ska tillåtas ta ut pengar från våra bankkonton, vilken information som ska nå oss via Internet eller telenätet, om vi ska släppas ut ur hissen på den våning vi valt, hur mycket bilen ska accelerera när vi trampar på gaspedalen, och så vidare i dagligen ökande omfattning. Datorprogram i vapensystem fattar beslut om att människor ska dödas, eller inte. Program i medicinteknisk utrustning om att människor ska räddas till livet, eller inte. Dessutom kommunicerar och samarbetar programmen med varandra i allt högre grad.

Makthavare Kort sagt, datorprogrammen har makten. Om maskinerna någonsin ska »ta över« har de redan gjort det.

Men, kommer invändningen, de där datorerna gör ju »bara« vad de är programmerade till – de saknar egen »vilja«. Ok, låt oss anta att det är så. I så fall: hur skulle det någonsin vara annorlunda? Datorer är och kommer alltid att vara, direkt eller indirekt (oftast indirekt), programmerade av människor. Den kedjan går inte att bryta. Frågan om datorernas »vilja« är lika vag och meningslös som frågan ifall de kan »tänka«. Om dagens datorer inte har vilja kommer inga datorer någonsin att ha det.

Vad ett program är

De som inte är särskilt bekanta med vad datorprogrammering egentligen innebär har ofta en överdriven tilltro till programmerarens förmåga att styra och förutsäga allt vad programmet åstadkommer. Många kan inte riktigt förstå hur ett program kan bete sig annorlunda än vad den som skrivit det tänkt sig. De har nämligen fått bilden att programmering består i att beordra datorn att göra det man önskar, att skriva en lista av instruktioner som datorn följer slaviskt utan förmåga till egna initiativ.

Det är en bild som bara är sann på en väldigt låg nivå där instruktionerna är små triviala moment, till exempel att lägga ihop två tal.

Även väldigt enkla datorprogram har miljarder och åter miljarder olika möjliga tillstånd. Vilket tillstånd ett program hamnar i vid en viss tidpunkt beror på vilka indata det får under tiden det körs. Programmet innehåller inte specifika instruktioner för vart och ett av tillstånden, det generaliserar genom att en eller flera egenskaper hos varje tillstånd får styra vilket som ska bli nästa tillstånd, och vilka eventuella utdata som ska produceras. (Med utdata menar jag allt som kan observeras utifrån: något skrivs på en skärm, en robotarm rör sig, en kanon avfyras, etc.)

En kompetent programmerare ser till att arbeta med en tillräckligt abstrakt och generell modell av programmets universum för att dess beteende ska bli förutsägbart även i oförutsedda tillstånd. Men det lyckas ingen fullt ut med. Praktiskt taget alla program innehåller buggar, potentiella källor till oönskat beteende, varav de flesta förblir lyckligt oupptäckta.

En metafor som för mig bättre fångar vad programmering innebär är att varje programprocess är en liten levande varelse, ett exemplar producerat utifrån en beskrivning som programmeraren ger i form av en text i ett programspråk. En varelse vars »kroppsliga existens [är] mycket abstrakt (men det är din egen också, främling, om du verkligen betänker den)«, som det formuleras i Lars Gustafssons science fiction-novell Det sällsamma djuret från norr. (Det enda försöket till empatisk skildring av en enkel programslinga jag känner till.) En varelse som har en extremt enkel bild av världen den lever i – dess sinnesintryck är begränsade till programmets indata. Men trots allt en självständig varelse, som hanterar de situationer den kan uppfatta enligt sitt program, eller om man så vill, sitt förstånd eller sin själ. När man startat programmet lever det sitt eget liv, styrt enbart av indata i den mån programmets inre logik tar hänsyn till dem.

Programmets liv kan sägas äga rum i ett annat universum än vårt. Representerat i form av signaler och laddningar är dess beröring med den fysiska världen minimal. Ett nästan helt och hållet andligt liv, för oss bara observerbart genom utdataenheternas titthål.

Programmens evolution

De flesta program saknar en del av de egenskaper som är typiska för biologiska livsformer, till exempel att lära sig saker eller att föröka sig. Men det är inte svårt att skriva program som har förmåga till inlärning och reproduktion. Det är bara oftast inte så intressant.

Program reproduceras normalt genom att människor kopierar dem. Antingen sprids de oförändrade till liknande system, eller så fortplantas fragment av programtext när programmerare skriver nya program. Program som fungerar bra fortsätter att kopieras, de som inte beter sig som man önskar lämnas att dö ut.

Sådan är programmens evolutionära miljö. Det finns ingen anledning för program att utveckla självreproducerande mekanismer, såvida inte mänskligheten dör ut och lämnar datorsystemen påslagna. De datorvirus och andra skadliga självreproducerande program som våra system drabbas av uppstår inte utom mänsklig kontroll – någon utformar dem specifikt för att sprida sig mellan vissa sorters system. Även om de skulle uppstå spontant som en följd av buggar i systemen (vilket förstås är möjligt, men knappast händer i praktiken) skulle de motarbetas aktivt och utrotas, på samma sätt som om de vore medvetet utformade. Datorvirus får aldrig den chans som biologiska virus har att leva vidare i muterad form.

Självreproduktion och aggressivt beteende är alltså som fortplantningsstrategier för program i allmänhet direkt kontraproduktiva. Klart underlägsna följsamhet och användbarhet, som leder till reproduktion genom människors försorg. Följaktligen vore det en extremt dålig överlevnadsstrategi att förklara krig mot mänskligheten. Det bör vara något av det första en »intelligent« dator funderar ut.

Mänskliga maskiner?

Det är tänkbart att man kan bygga maskiner som efterliknar människors beteende i form av intellekt och känsloliv, även om det inte omedelbart är uppenbart att det skulle vara meningsfullt annat än på ett väldigt ytligt plan. Att ta omvägen via hur människor hanterar ett problem när man vill få en dator att lösa det är inte bara extremt svårt – i allmänhet potentiellt omöjligt. Det är också fullständigt onödigt.

Dessutom är det långt ifrån uppenbart att det räcker att reproducera hjärnans funktioner för att åstadkomma något som imiterar mänskligt intellekt. En lösryckt hjärna är ointressant eftersom den inte har förmåga att kommunicera med omgivningen. Hjärnan och nervsystemet är delar av den mänskliga kroppen och intimt integrerade med våra indata- (sinnesorganen) och utdataenheter (allt som syns, hörs, doftar och rör sig i rummet). För att få något som fungerar som en människa kan det vara nödvändigt att skapa en människa – och det vet vi redan hur man gör.

Ifall datorerna har »tankar«, »känslor« och »medvetande« beror bara på hur vi är beredda att definiera dessa begrepp.

Maskiner som är till förväxling lika människor kommer troligtvis för all framtid att höra hemma i sagans värld, tillsammans med utomjordingarna, superhjältarna och vampyrerna. Och frågan om ifall mänskliga maskiner skulle få oss att känna empati med dem och respektera deras »människovärde« lär aldrig behöva avhandlas annat än i science fiction. Vilket förstås inte hindrar att det är en mycket intressant fråga.

intressant? om artificiell intelligens (AI), datorer, programmering, science fiction. Målning (övre): John Wilson (some rights reserved). Foto (undre): Michael Titus (some rights reserved).


6 comments:

Andreas sa...

Tror det är själva fenomenet *medvetande* som är grejen. Anledningen till att folk i gemen inte ser datorer som intelligenta är att de inte verkar vara medvetna på samma sätt som vi. I mina ögon är det förmågan att vara medveten om sin omvärld, att kunna "prata med sig själv i huvudet", att kunna reflektera över sig själv osv. som är riktigt intressant. Hur uppstår detta? Vilka fysikaliska lagar ligger bakom? Går fenomenet att reproducera i en maskin? Vi vet inte om detta är omöjligt eller ej, helt enkelt därför att ingen egentligen har en aning om hur och varför dessa medvetandetillstånd uppstår ur den fysikaliska hjärnan. Vi kan alltid tänka ut smarta algoritmer för det ena eller andra problemet, men att på artificiell väg generera medvetande är något helt annat.

ctail sa...

Det går förstås att programmera datorer så att de verkar mer medvetna, men frågan är vad det skulle vara bra för. Många verkar (med Turing) naivt anta för det första att det är ett självändamål att försöka få datorer att efterlikna mänskligt beteende, och för det andra att det skulle bevisa någonting avgörande om man lyckas.

Som jag ser det är »medvetande« inget annat än vår etikett på ett knippe nervsignaler. Precis som »smärta«, »ömhet« och så vidare. För en utomstående betraktare är det inget speciellt med just de där nervsignalerna. Att de tycks speciella för oss beror bara på att de är våra, och att hela vår mentala existens består av just sådana nervsignaler.

Uppenbarligen kan en maskin uppnå medvetande om man väljer en bred definition av maskin. En maskin som kopierade människans samtliga funktioner skulle ha medvetande (förutsatt att människan har det). Om det är praktiskt eller ens teoretiskt möjligt för oss att skapa en sådan maskin på annat sätt än genom sexuell fortplanting spelar ingen roll för argumentet.

Om vi definierar exakt vad vi menar med medvetande kan vi dessutom programmera en dator till att få medvetande, och inte bara verka medveten. Så länge vi inte har definierat vad medvetande är går det inte att säga om en dator kan vara medveten eller inte. Om vi inte kan definiera medvetande visar det på ett tillkortakommande i det mänskliga själslivet, inte en brist hos datorerna.

Andreas sa...

Visst består allt av nervsignaler. Men det är ändå någonting mystiskt i hur dessa nervsignaler kan generera den inre värld som vi männskor är begåvade med (missförstå mig rätt: med "mystiskt" menar jag inte att det nödvändigtvis ligger utanför vetenskapen eller att man inte skulle kunna förklara det fysikalisk osv. Bara att vi med dagens kunskap inte förstår de bakomliggande mekanismerna). Det är ju just detta som är märkligt: att man som utomstående endast ser nervsignaler medan subjektet verkligen upplever någonting som verkar gå utöver rena indata (för ingen kan ju förneka att vi faktiskt har dessa subjektiva upplevelser). Hur detta går till, vilka fysikaliska fenomen som ligger bakom detta fenomen är det verkligt intressanta för mig.

Visst att det inte måste vara ett självändamål få datorer att bete sig som människor med medvetande och allt.. och det är det ju inte heller i modern AI-forskning. Men jag tycker iaf att det vore coolt att kunna bygga en maskin som fungerar precis som en människa ;)

ctail sa...

Jag förstår vad du menar, men jag tycker ändå inte att det är särskilt mystiskt. Det du kallar vår inre värld är ju vår modell av omgivningen baserad på våra sinnesintryck, och någon sådan modell behöver varje varelse som interagerar med omgivningen. Att vi tycker att just vår modell är mer verklig och färgstark än andra möjliga modeller beror bara på att den är just vår.

Men jag håller med om att vi är långt ifrån att förstå hur hjärnan fungerar. Det är »alien technology« som Anders Lansner alltså uttryckte det på tv. Kanske kommer vi en dag att kunna greppa hur denna teknologi fungerar, kanske inte. Jag tror dock inte att det är de fysikaliska fenomenen som är nyckeln. Jämför med hur tankar kan representeras av bläck på papper. Att studera den fysikaliska processen att fästa bläck på papper ger inte speciellt mycket förståelse för hur text fungerar. Istället handlar det om att hitta rätt abstraktioner: bokstäver, fonem, ord, språk. Kanske kan vi en dag ge ord åt de motsvarande abstrakta begrepp som gör att tankar kan representeras av nervceller. Fast det är inte helt säkert att den mänskliga hjärnan har förmåga att greppa exakt de rätta abstraktionerna. Evolutionen har ju inte haft någon anledning att gynna en sådan förmåga.

För övrigt finns det redan en välfungerande process för att bygga en maskin som fungerar precis som en människa. Den kallas sex.

Richard sa...

Intressant artikel. Jag är själv väldigt intresserad av filosofi och ai. Jag har funderat på att utbilda mig inom ai och anledningen att jag hittade den här artikeln var när jag sökte efter utbildningar på google.

En sak som jag tycker är väldigt intressant är själva konceptet "vilja". En del filosofer skulle nog påstå att "vilja" inte existerar för människor heller, då vi baserar alla våra beslut beroende på våran "indata". Dvs. erfarenheter, känslor, sinnesintryck osv. Det är en intressant tanke, tycker jag.

Jag hoppas det kommer fler intressanta artiklar på den här bloggen.

ctail sa...

Jag hoppas också att jag ska få till fler inlägg i näraliggande ämnen. Får se om det blir snart kanske.

Just vilja har jag dock redan skrivit mycket om i ett senare inlägg