Drömmen om självmedveten artificiell intelligens kan ses som ett försök att återerövra det gudomliga, skriver Janne Wass
Vi har ett inbyggt behov av att besjäla ting. Sedan människan blev en kulturell varelse har hon tillskrivit nästan allt omkring henne personligheter. Fortfarande tenderar vi att ge namn åt fartyg, och bilentusiaster döper sina favoritbilar. Vem har inte gått i verbal dialog med en maskin som krånglat? Fungera, jävla skitdator!
Med tanke på detta behov av besjälande är det knappast förvånande att vi också i detta materialistiska tidevarv fantiserar om att ge maskinerna vi bygger intelligens. I vårt gradvisa förkastande av gudar och övernaturliga makter blir hoppet om sann artificiell intelligens ett slags återerövring av det gudomliga, att kunna skapa liv ur den döda leran. Att i ordets mest sekulära bemärkelse ge en mekanisk varelse en själ. Samtidigt erbjuder idén om artificiellt självmedvetande oändliga möjligheter till att utforska den kanske största filosofiska frågan av dem alla, nämligen vad det innebär att vara människa, eller i förlängningen vad som är meningen med livet.
Maskin-evolution
Som Octavia Westerholm skriver i artikeln på det föregående uppslaget, räknar man ofta Mary Shelleys roman Frankenstein från 1818 som startskottet för fiktion om artificiellt skapade intelligenta varelser. Shelley var ändå mer intresserad av det mänskliga än av det artificiella. Det är också tvivelaktigt om man kan kalla denna varelse för artificiell intelligens, eftersom Frankenstein de facto utgår från en intakt mänsklig hjärna.
Men det är knappast någon slump att Frankenstein skrevs då den skrevs – detta var slutskedet av den industriella revolutionen, likväl som det slutliga brytningsskedet mellan den gamla humoralpatologin och den moderna medicinens tidevarv – då människan började ses som en intrikat maskin snarare än ett simpelt balanskärl för vätskor. Och om en människa kunde vara maskinell, varför skulle då inte en maskin kunna vara mänsklig?
Den första romanen som behandlade verklig artificiell intelligens var antagligen Samuel Butlers Erewhon från 1872. Bokens protagonist upptäcker en isolerad by där maskiner har förstörts av rädsla för en maskinell evolution till det vi i dag kallar singularitet, självmedvetande AI, och den oundvikliga konfrontation mellan människa och maskin som det skulle leda till.
Butler tog idén om artificiell intelligens och maskinevolution på största allvar, i själva verket var en central del av Erewhon en omskrivning av en serie tidningsartiklar han skrev under titeln ”Darwin among the Machines”. Butlers ludditiska slutsats var att om vi inte avsäger oss vårt beroende av maskiner, kommer de förr eller senare resa sig i revolt och förgöra oss.
Datorns intrång
De första historierna om det som vi i dag skulle kalla AI dök upp i samband med födelsen av datorerna i slutet av 1940-talet. Det revolutionerande med dessa maskiner var att de inte bara kunde utföra mekaniskt arbete, utan lagra information och ge människan svar på frågor. Plötsligt var det inte människan som informerade maskinen, utan tvärtom.
En av föregångarna var min favoritförfattare Henry Kuttner, en briljant humorist som samtidigt kunde frambringa ett djupt existentiellt allvar och alltid tänkte utanför boxen. En av hans mer ytliga noveller var The Twonky (1942), i vilken en ny, mystisk radioapparat levereras hem till familjen Westerfield (som för övrigt lyssnar på skivor med Sibelius) och tar långsamt kontroll över hushållet med hjälp av hjärntvätt och elektriska stötar. Ett av hans humoristiska mästerverk är den korta The Proud Robot (1943), som följer en genial uppfinnare som får sina bästa idéer då han är stupfull, men morgonen efter aldrig minns vad han uppfunnit eller hur han gjort det. Mysteriet i novellen är varför han utvecklat världens mest avancerade robot, men gett den ett outhärdligt diva-komplex. A.E. van Vogt är måhända den första som skrivit om en intelligent, självmedveten dator i romanen The World of A– (1948).
Jag, Robot
Giganten inom robotlitteratur är naturligtvis Isaac Asimov, en plågsamt ojämn författare, vars alster sträcker sig från klumpiga Agatha Christie-pastischer i rymden till mästerverk som Stiftelseserien och Robotromanerna. Måhända den största av hans romaner är egentligen en uppiffad novellsamling, den epokgörande I, Robot (1950). Genom nio noveller, som alla var för sig kan läsas som enskilda verk, gör Asimov en svepande historisk framtidsresa från de första, primitiva uppassarrobotarna till ett internationellt nätverk av intelligenta superdatorer som kontrollerar hela världsekonomin.
Asimovs genidrag är att han genom hela historien är ambivalent angående robotarnas egentliga självmedvetenhet, eller singularitet. Är en robot som är programmerad att tro att den är självmedveten verkligen självmedveten? Vad händer då en robots logiska programmering får den att skapa en ny religion med sig själv som högsta gudomlighet? Om ett barn älskar sin robotbarnvakt och denna kärlek synbarligen besvaras, är det då inte äkta kärlek? Om en robot kan älska, blir den då en människa? Om inte, hur definierar vi då vår mänsklighet? Om en artificiell intelligens intalar sig själv att den har en själ, hur skiljer den sig från människor som gör detsamma?
Det intressanta är att fiktionen om artificiell intelligens egentligen inte utvecklats sedan I, Robot. Det är fortfarande samma frågor som dryftas i filmer som Her (2013) och Ex Machina (2014), eller nyversionen av Blade Runner (2017) – Asimov i ny förpackning.
Denna stagnation, om man vill kalla det för det, kan möjligen vara ett tecken på att vi i dag inte är ett dugg närmare att skapa den sorts verkliga artificiella intelligens som Asimovs böcker handlar om. Trots enorma framsteg inom digitaltekniken handlar den AI som vi i dag har rätt uteslutande om automatisering, datainsamling och analys utgående från given programmering, inte om något som ens med bästa vilja kunde kallas för fri intelligens. Trots all hype kring AI är det väldigt mycket snack och ganska lite verkstad. Men de filosofiska frågorna fortsätter att fascinera. Liksom hoppet om att en dag kunna skapa en maskin i vår avbild.
Janne Wass
2 kommentarer
I fully agree that ”de filosofiska frågorna fortsätter att fascinera”, but I think that the impression that we seem so far from a solution could at least partly be ascribed to the fact that philosophers and engineers tend to speak different languages, and even biologists could perhaps contribute to some answers. For example: Is a soul something which we can ”give” to something or somebody, or is it rather so that a soul IS TAKING PLACE in a system? Take yourself in front of a TV set as an example: both you and the TV set are equipped with a structure (the TV set with its wiring, you with a brain); both need for their proper functioning an intact wiring, energy, and input. With these, the TV set procues a picture plus sound, your brain produces a mind. Certainly the brain is somewhat more complicated by consisting of an interface between a cognitive system (which produces a description of the environment), a motor system which is designing and executing adequate actions and reactions, in addition to which there is still, e.g. a motivational system (which decides what outcomes the work of the other systems should try to achieve), etc. .
Or take self-consciousness. Are we self-conscious? We tend to think so, but our brain is anyway not – it is not aware of that spongy lump up there in our skull. Similar about an advanced robot: it may not include a description of its central computer in its work, but it may well be informed at any time about the state and the activities of the attached systems which make the robot so useful to us (and to its own survival). I. e. the relation between the central computer and its attached systems for action is presumably about the same as that of our brain and e.g. our extremities.
And what about ”free intelligence” then? At least we are programmed at any given time, by the genetically established connections in our brain, by the attitudes which we have been imprinted with when growing up (psychoanalysis is the way of finding out more about those), by things we have been taught – altogether by genetics and experiences. But we are usually not aware of it (but take e.g. our attitudes as ”self-evident”). And also a robot is inevitably programmed, already by the simple fact that somebody else has designed and installed the wiring in its central computer. But it can of course also be programmed for learning (e.g. by obseration) – there was fairly recently a computer who spent 4 hours teaching itself chess, and then played it at world champion level. But ANYWAY a program has necessarily (?) to include a target state to be achieved by the program’s actions. Asimov was formulating a few rules what type of target states that should be.
As to our own target states, in our present situation (where we do not tend to go hungry, nor are in permanent danger of being confronted by enemies and dangers) our social programs (which we share with other primates) will make it seem desirable to (a) find a fitting ”tribe” in which to establish ourselves, and (b) to somehow ”earn” a respected position in it (with everything attached which follows from that position). For some, this might already be the (felt) meaning of life … .
Tack för din kommentar Ernst! Jag har egentligen ingenting att invända, jag är själv i grund och botten lika stor matterialist som du. 😉
Det var någon annan här också som lyfte fram frågan om medvetenhet — skulle vara intressant at diskutera vidare, t.ex. på en Klubb Tigern.
/Janne