Häromdagen, mitt på dagen, dyker en brain-like
computing-professor upp på min tv och fångar mitt intresse
genom att förklara att hjärnan fortfarande är att betrakta som
»alien technology«. Trots det vågar han sig på att uppskatta
hjärnans beräkningskapacitet i datortermer, och gör utfästelser om när
det bör ha producerats robotar med en hunds intelligens.
Flashback till ett halvpopulärt föredrag om artificiella neuronnätverk
(ofta benämnda med anglicismen »neurala nät«) på Fysicum för ett antal år
sedan. Föredragshållaren beskriver hur han använt
neuronnätverk för att praktiskt angripa ett antal teoretiska problem,
utan att visa någonting om vad det innebär för beräkningskomplexiteten
som problemen är konstruerade för att studera, eller om vilken
sannolikhet hans metoder ger för att man hittar den rätta lösningen.
För en teoretiskt orienterad datalog förefaller det hela ungefär lika
meningsfullt som att utföra experimentet med Schrödingers katt och faktiskt kontrollera om katten
lever eller inte. Men han verkar självsäker vad gäller sambandet med
verkliga nervsystem, och uppskattar att en för tiden normal dator
motsvarar kapaciteten hos en svalas hjärna.
För min egen del är det mest minnesvärda med föredraget en fråga från
publiken. Den formuleras ungefär som »hur nära är neuronnätverken
kapaciteten för den mänskliga hjärnan? Behöver vi vara
rädda?«.
Jag var väl redan tidigare medveten om att det fanns de som
gick och oroade sig för att maskinerna skulle bli »intelligenta« och angripa mänskligheten
– det är ju om inte annat ett vanligt tema i dystopisk science
fiction – men att den rädslan hade tagit sig ända in i en
naturvetenskaplig föreläsningssal gav mig en tankeställare om hur
vanlig den är.
Stämningen i föreläsningssalen blev lite generad. Jag minns inte exakt
vad föreläsaren sade för att lugna frågeställaren, men antagligen
någonting i linje med de vanliga klyschorna: »människor är så komplexa
att det är långt kvar« eller »vi kan ju alltid dra ur kontakten« om
datorera skulle försöka »ta över«.
Men jag undrar om det inte vore bättre att erkänna sanningen: de
har redan tagit över för länge sedan!
Tecken på intelligens
Om vi kunde backa 50 år och fråga människor på 1950-talet vad som
skulle vara bevis på stor intelligens skulle svaren säkerligen
innehålla många exempel på färdigheter som datorer idag klarar mycket
bättre än de flesta människor. Som att lösa avancerade ekvationer
eller vinna över världsmästaren i schack.
Sådana färdigheter anses inte längre kräva intelligens. Dem kan
nämligen till och med någonting så korkat som en dator klara av.
De som sysslar med forskningsområdet artificiell intelligens
är dömda att för evigt bli betraktade som misslyckade, eller
åtminstone ännu inte framgångsrika. I samma ögonblick som de
presenterar ett program som klarar av att utföra en »intelligent«
uppgift upphör den retroaktivt att vara intelligent i allmänhetens
ögon. Det datorn gör kan inte vara intelligent, den utför ju »bara«
det den är programmerad till.
När datalogins fader Alan
Turing funderar över frågan om maskiner kan tänka i den klassiska
artikeln Computing Machinery and Intelligence från 1950
beskriver han, bland mycket annat, precis den invändningen mot
maskiners möjlighet till intelligens: »Usually if one maintains that a
machine can do one of these things, and describes the kind of
method that the machine could use, one will not make much of an
impression. It is thought that the method (whatever it may be, for it
must be mechanical) is really rather base.«
När man läser Turings artikel idag slås man inte bara av hur väl hans
briljanta argumentation fortfarande håller. Man kan också förbluffas
av i vilken utsträckning den fortfarande behövs. Den
idémässiga utvecklingen på området tycks ha stått praktiskt taget
stilla sedan 1950, vilket Turing nog skulle ha varit besviken över att
få veta.
Han börjar argumentationen med att redan i första stycket avfärda
frågan »kan maskiner tänka?« som omöjlig och vetenskapligt meningslös.
Det är omöjligt att ge en tillfredsställande exakt definition av att
»tänka«, och väldigt svårt att hitta en definition av »maskin« som
utesluter människor. Turing ersätter därför huvudsakligen frågan med
en annan: kan en dator programmeras att imitera en människa så väl att
det blir omöjligt för en intervjuare att skilja den från en människa?
– ett prov som eftervärlden kallar Turingtestet.
Makten är deras
Men alldeles oavsett om datorerna kan »tänka« eller inte är våra liv i
den högteknologiska världen nästan helt kontrollerade av dem.
Datorprogram kontrollerar om vi ska tillåtas ta ut pengar från våra
bankkonton, vilken information som ska nå oss via Internet eller
telenätet, om vi ska släppas ut ur hissen på den våning vi valt, hur
mycket bilen ska accelerera när vi trampar på gaspedalen, och så
vidare i dagligen ökande omfattning. Datorprogram i vapensystem fattar
beslut om att människor ska dödas, eller inte. Program i
medicinteknisk utrustning om att människor ska räddas till livet, eller inte.
Dessutom kommunicerar och samarbetar programmen med varandra i allt
högre grad.
Kort sagt, datorprogrammen har makten. Om maskinerna någonsin ska »ta
över« har de redan gjort det.
Men, kommer invändningen, de där datorerna gör ju »bara« vad de är
programmerade till – de saknar egen »vilja«. Ok, låt oss
anta att det är så. I så fall: hur skulle det någonsin vara
annorlunda? Datorer är och kommer alltid att vara, direkt eller
indirekt (oftast indirekt), programmerade av människor. Den kedjan går
inte att bryta. Frågan om datorernas »vilja« är lika vag och
meningslös som frågan ifall de kan »tänka«. Om dagens datorer inte har vilja kommer inga datorer någonsin att ha det.
Vad ett program är
De som inte är särskilt bekanta med vad datorprogrammering egentligen
innebär har ofta en överdriven tilltro till programmerarens förmåga
att styra och förutsäga allt vad programmet åstadkommer. Många kan
inte riktigt förstå hur ett program kan bete sig annorlunda än vad den
som skrivit det tänkt sig. De har nämligen fått bilden att
programmering består i att beordra datorn att göra det man önskar, att
skriva en lista av instruktioner som datorn följer slaviskt utan
förmåga till egna initiativ.
Det är en bild som bara är sann på en väldigt låg nivå där
instruktionerna är små triviala moment, till exempel att lägga
ihop två tal.
Även väldigt enkla datorprogram har miljarder och åter miljarder olika
möjliga tillstånd. Vilket tillstånd ett program hamnar i vid en viss
tidpunkt beror på vilka indata det får under tiden det körs.
Programmet innehåller inte specifika instruktioner för vart
och ett av tillstånden, det generaliserar genom att en eller flera
egenskaper hos varje tillstånd får styra vilket som ska bli nästa
tillstånd, och vilka eventuella utdata som ska produceras. (Med utdata
menar jag allt som kan observeras utifrån: något skrivs på en skärm,
en robotarm rör sig, en kanon avfyras, etc.)
En kompetent programmerare ser till att arbeta med en tillräckligt
abstrakt och generell modell av programmets universum för att dess
beteende ska bli förutsägbart även i oförutsedda tillstånd. Men det
lyckas ingen fullt ut med. Praktiskt taget alla program innehåller
buggar, potentiella källor till oönskat beteende, varav de
flesta förblir lyckligt oupptäckta.
En metafor som för mig bättre fångar vad programmering innebär är att
varje programprocess är en liten levande varelse, ett exemplar producerat
utifrån en beskrivning som programmeraren ger i form av en text i ett
programspråk. En varelse vars »kroppsliga existens [är] mycket
abstrakt (men det är din egen också, främling, om du verkligen
betänker den)«, som det formuleras i Lars Gustafssons science
fiction-novell Det sällsamma djuret från norr. (Det
enda försöket till empatisk skildring av en enkel programslinga jag
känner till.) En varelse som har en extremt enkel bild av världen den
lever i – dess sinnesintryck är begränsade till programmets
indata. Men trots allt en självständig varelse, som hanterar
de situationer den kan uppfatta enligt sitt program, eller om man så
vill, sitt förstånd eller sin själ. När man startat
programmet lever det sitt eget liv, styrt enbart av indata i den mån
programmets inre logik tar hänsyn till dem.
Programmets liv kan sägas äga rum i ett annat universum än vårt.
Representerat i form av signaler och laddningar är dess beröring med
den fysiska världen minimal. Ett nästan helt och hållet
andligt liv, för oss bara observerbart genom utdataenheternas
titthål.
Programmens evolution
De flesta program saknar en del av de egenskaper som är typiska för
biologiska livsformer, till exempel att lära sig saker eller att
föröka sig. Men det är inte svårt att skriva program som har förmåga
till inlärning och reproduktion. Det är bara oftast inte så
intressant.
Program reproduceras normalt genom att människor kopierar dem.
Antingen sprids de oförändrade till liknande system, eller så
fortplantas fragment av programtext när programmerare skriver nya
program. Program som fungerar bra fortsätter att kopieras, de som inte
beter sig som man önskar lämnas att dö ut.
Sådan är programmens evolutionära miljö. Det finns ingen anledning för
program att utveckla självreproducerande mekanismer, såvida inte
mänskligheten dör ut och lämnar datorsystemen påslagna. De datorvirus och andra skadliga självreproducerande program som våra system drabbas av uppstår inte
utom mänsklig kontroll – någon utformar dem specifikt för att
sprida sig mellan vissa sorters system. Även om de skulle
uppstå spontant som en följd av buggar i systemen (vilket förstås är
möjligt, men knappast händer i praktiken) skulle de motarbetas aktivt
och utrotas, på samma sätt som om de vore medvetet utformade.
Datorvirus får aldrig den chans som biologiska virus har att leva
vidare i muterad form.
Självreproduktion och aggressivt beteende är alltså som
fortplantningsstrategier för program i allmänhet direkt
kontraproduktiva. Klart underlägsna följsamhet och användbarhet, som
leder till reproduktion genom människors försorg. Följaktligen vore det en
extremt dålig överlevnadsstrategi att förklara krig mot mänskligheten.
Det bör vara något av det första en »intelligent« dator funderar
ut.
Mänskliga maskiner?
Det är tänkbart att man kan bygga maskiner som efterliknar människors
beteende i form av intellekt och känsloliv, även om det inte
omedelbart är uppenbart att det skulle vara meningsfullt annat än på
ett väldigt ytligt plan. Att ta omvägen via hur människor hanterar
ett problem när man vill få en dator att lösa det är inte bara extremt
svårt – i allmänhet potentiellt omöjligt. Det är också
fullständigt onödigt.
Dessutom är det långt ifrån uppenbart att det räcker att reproducera
hjärnans funktioner för att åstadkomma något som imiterar mänskligt
intellekt. En lösryckt hjärna är ointressant eftersom den inte har
förmåga att kommunicera med omgivningen. Hjärnan och nervsystemet är
delar av den mänskliga kroppen och intimt integrerade med våra indata-
(sinnesorganen) och utdataenheter (allt som syns, hörs, doftar och rör sig i rummet).
För att få något som fungerar som en människa kan det vara nödvändigt
att skapa en människa – och det vet vi redan hur man gör.
Ifall datorerna har »tankar«, »känslor« och
»medvetande« beror bara på hur vi är beredda att definiera dessa
begrepp.
Maskiner som är till förväxling lika människor kommer troligtvis för
all framtid att höra hemma i sagans värld, tillsammans med
utomjordingarna, superhjältarna och vampyrerna. Och frågan om ifall
mänskliga maskiner skulle få oss att känna empati med dem och
respektera deras »människovärde« lär aldrig behöva avhandlas annat än
i science fiction. Vilket förstås inte hindrar att det är en mycket
intressant fråga.
intressant?
om
artificiell intelligens
(AI),
datorer,
programmering,
science fiction.
Målning (övre): John Wilson (some rights reserved).
Foto (undre): Michael Titus (some rights reserved).
07 september 2007
Hotet från de artificiella intelligenserna
Prenumerera på:
Kommentarer till inlägget (Atom)
6 comments:
Tror det är själva fenomenet *medvetande* som är grejen. Anledningen till att folk i gemen inte ser datorer som intelligenta är att de inte verkar vara medvetna på samma sätt som vi. I mina ögon är det förmågan att vara medveten om sin omvärld, att kunna "prata med sig själv i huvudet", att kunna reflektera över sig själv osv. som är riktigt intressant. Hur uppstår detta? Vilka fysikaliska lagar ligger bakom? Går fenomenet att reproducera i en maskin? Vi vet inte om detta är omöjligt eller ej, helt enkelt därför att ingen egentligen har en aning om hur och varför dessa medvetandetillstånd uppstår ur den fysikaliska hjärnan. Vi kan alltid tänka ut smarta algoritmer för det ena eller andra problemet, men att på artificiell väg generera medvetande är något helt annat.
Det går förstås att programmera datorer så att de verkar mer medvetna, men frågan är vad det skulle vara bra för. Många verkar (med Turing) naivt anta för det första att det är ett självändamål att försöka få datorer att efterlikna mänskligt beteende, och för det andra att det skulle bevisa någonting avgörande om man lyckas.
Som jag ser det är »medvetande« inget annat än vår etikett på ett knippe nervsignaler. Precis som »smärta«, »ömhet« och så vidare. För en utomstående betraktare är det inget speciellt med just de där nervsignalerna. Att de tycks speciella för oss beror bara på att de är våra, och att hela vår mentala existens består av just sådana nervsignaler.
Uppenbarligen kan en maskin uppnå medvetande om man väljer en bred definition av maskin. En maskin som kopierade människans samtliga funktioner skulle ha medvetande (förutsatt att människan har det). Om det är praktiskt eller ens teoretiskt möjligt för oss att skapa en sådan maskin på annat sätt än genom sexuell fortplanting spelar ingen roll för argumentet.
Om vi definierar exakt vad vi menar med medvetande kan vi dessutom programmera en dator till att få medvetande, och inte bara verka medveten. Så länge vi inte har definierat vad medvetande är går det inte att säga om en dator kan vara medveten eller inte. Om vi inte kan definiera medvetande visar det på ett tillkortakommande i det mänskliga själslivet, inte en brist hos datorerna.
Visst består allt av nervsignaler. Men det är ändå någonting mystiskt i hur dessa nervsignaler kan generera den inre värld som vi männskor är begåvade med (missförstå mig rätt: med "mystiskt" menar jag inte att det nödvändigtvis ligger utanför vetenskapen eller att man inte skulle kunna förklara det fysikalisk osv. Bara att vi med dagens kunskap inte förstår de bakomliggande mekanismerna). Det är ju just detta som är märkligt: att man som utomstående endast ser nervsignaler medan subjektet verkligen upplever någonting som verkar gå utöver rena indata (för ingen kan ju förneka att vi faktiskt har dessa subjektiva upplevelser). Hur detta går till, vilka fysikaliska fenomen som ligger bakom detta fenomen är det verkligt intressanta för mig.
Visst att det inte måste vara ett självändamål få datorer att bete sig som människor med medvetande och allt.. och det är det ju inte heller i modern AI-forskning. Men jag tycker iaf att det vore coolt att kunna bygga en maskin som fungerar precis som en människa ;)
Jag förstår vad du menar, men jag tycker ändå inte att det är särskilt mystiskt. Det du kallar vår inre värld är ju vår modell av omgivningen baserad på våra sinnesintryck, och någon sådan modell behöver varje varelse som interagerar med omgivningen. Att vi tycker att just vår modell är mer verklig och färgstark än andra möjliga modeller beror bara på att den är just vår.
Men jag håller med om att vi är långt ifrån att förstå hur hjärnan fungerar. Det är »alien technology« som Anders Lansner alltså uttryckte det på tv. Kanske kommer vi en dag att kunna greppa hur denna teknologi fungerar, kanske inte. Jag tror dock inte att det är de fysikaliska fenomenen som är nyckeln. Jämför med hur tankar kan representeras av bläck på papper. Att studera den fysikaliska processen att fästa bläck på papper ger inte speciellt mycket förståelse för hur text fungerar. Istället handlar det om att hitta rätt abstraktioner: bokstäver, fonem, ord, språk. Kanske kan vi en dag ge ord åt de motsvarande abstrakta begrepp som gör att tankar kan representeras av nervceller. Fast det är inte helt säkert att den mänskliga hjärnan har förmåga att greppa exakt de rätta abstraktionerna. Evolutionen har ju inte haft någon anledning att gynna en sådan förmåga.
För övrigt finns det redan en välfungerande process för att bygga en maskin som fungerar precis som en människa. Den kallas sex.
Intressant artikel. Jag är själv väldigt intresserad av filosofi och ai. Jag har funderat på att utbilda mig inom ai och anledningen att jag hittade den här artikeln var när jag sökte efter utbildningar på google.
En sak som jag tycker är väldigt intressant är själva konceptet "vilja". En del filosofer skulle nog påstå att "vilja" inte existerar för människor heller, då vi baserar alla våra beslut beroende på våran "indata". Dvs. erfarenheter, känslor, sinnesintryck osv. Det är en intressant tanke, tycker jag.
Jag hoppas det kommer fler intressanta artiklar på den här bloggen.
Jag hoppas också att jag ska få till fler inlägg i näraliggande ämnen. Får se om det blir snart kanske.
Just vilja har jag dock redan skrivit mycket om i ett senare inlägg
Skicka en kommentar