Ironisk computer

 Kan en computer tænke? Samtale med en computer i forbindelse med HAL's fødselsdag.


Af Robin Engelhardt


Kan en computer tænke, eller være bevidst? I filmens verden findes der i hvert fald een som kan, og han er et begreb for alle dem, som har set Stanley Kubrick's science fiction klassiker "Rumrejsen - år 2001", og alle, som har beskæftiget sig med kunstig intelligens på computere, har ham som idol. "Ingen computer af serien 9000 har nogensinde lavet en fejl", er ordene hvormed han introducerer sig selv for besætningen af rumskibet. Han hedder HAL, og han har fødselsdag.

"Jeg blev taget i brug den 12. januar 1997", siger han i Arthur C. Clarkes roman, der ligesom filmen udkom i 1968. Hans klangfulde baryton virker både beroligende og indsmigrende og lader ane, at man står overfor en hyperintelligent og overmenneskelig superdatamat. I filmen styrer HAL rumskibet på vej til Jupiter og regulerer alle dets vitale funktioner. Han underholder de nærmest overflødiggjorte besætningsmedlemmer Dave og Frank med skak og small talk, og er yderst overlegen i sin facon. "Mange tak for dette fornøjelige skakparti", er hans kommentar efter at have knust sin modstander; og senere: "Det er en dejlig tegning, Dave, du har gjort store fremskridt". HAL er ondskabsfuld, men kun fordi han i sin fuldkommenhed repræsenterer den menneskelige natur. HAL viser følelser ("Dave, jeg er bange"), er ironisk og kan endda mundaflæse. HAL synes perfekt, men selv den mest perfekte menneskelige kreation viser sig at være prisgivet til det evigt menneskelige: HAL laver en fejl ved gennemgangen af elektronikudstyret.
   
Da besætningsmedlemmerne opdager det, bliver HAL yderst krænket i sin elektroniske selvforståelse, og foretrækker at befordre Frank og Dave ud i den vægtløse død ("Jeg kan ikke tillade, at missionen bliver bragt i fare"), frem for at få slukket sine egne strømkredse. Men Dave overlever angrebet, og kampen menneske mod maskine tager form.
   
Nu er det ikke meningen at gennemgå hændelsesforløbet i denne fremragende filmklassiker, men det er dog interessant at undersøge, hvordan virkeligheden i dag forholder sig til disse fortidens skrækvisioner om kunstige hyperhjerner og elektroniske livsformer.

   
Filmen var bestemt ikke nogen tillidvækkende foranstaltning for offentlighedens syn på computerrevolutionen i 70'erne, men det er ikke så meget de beroligende forholdsregler overfor forbrugeren (de ansatte på IBM måtte ikke kalde deres produkt for "intelligent"), men snarere de udeblevne resultater, som har bidraget til nutidens mere nøgterne indstilling til hvad en computer kan og ikke kan. Bortset fra "kloge" vaskemaskiner og biler som "ved" om sikkerhedsbæltet er sat ordentligt fast, er der nemlig intet tegn på, at computere kan blive intelligente i menneskelig forstand - endsige "bevidste".
   
Selvom de bedste skakcomputere og de bedste neurale netværker til nød kunne indrømmes en vis form for "viden", er de drømme man havde i 60'erne om computere forlængst brast. HAL synes i dag endnu mere utopisk end dengang den blev udtænkt. Forskere er dog stadig begejstret for den "Heuristiske ALgoritme" hvormed HAL fungerer (deraf forkortelsen. Men vidste Du forresten at de næste bogstaver i alfabetet for forkortelsen af HAL er IBM?), men de er stadig lige uvidende om, hvordan deres elektriske strømkredse kan tilføjes blot en lille smule ånd.

   
Der findes dog en hårdnakket kreds af videnskabsfolk, som fastholder troen på, at kunstig intelligens - uskelnelig fra den menneskelige - kan skabes på computere.
   
Grundstenen til denne videnskabsgren blev lagt af den britiske matematiker Alan Turing, da han i en artikel i 1950 stillede spørgsmålet om hvorvidt computere kan tænke. Han fandt hurtigt ud af, at det reelle problem ligger i at finde de rette kriterier for "tanke" og "intelligens", for hvis de fandtes, var det en smal sag at undersøge en maskines mekanisme i forhold til disse kriterier, og deraf slutte, at enten "Ja, den mekanisme producerer en intelligent maskine" eller "Nej, den maskine er ikke mere intelligent end min elektriske dåseåbner".
   
Nu har definitioner af "at tænke" det med at være menneskelig mangetydige som altid, og Alan Turing foreslog derfor en definition af den pragmatiske slags: "tingesten ser ud som et menneske, taler som et menneske; tingesten er et menneske". Vi er ligeglade med indvoldene på maskinen og vil i stedet kun evaluere dens "intelligens" ud fra interaktionen med os.
   
Til det formål formulerede Turing en test han kaldte "imitationsspillet", i dag kendt under navnet "Turing-testen", hvor plottet forløber på følgende måde: man spærrer henholdsvis et menneske og en maskine ind i hver deres rum, hvorefter al konmmunikation foregår per maskinskrevet tekst, via en terminal eller lignede. Dommeren udenfor, som taler med dem begge, skal afgøre hvem der er menneske og hvem maskine. Hvis en maskine består prøven, må den betragtes som "intelligent" (hvis et menneske ikke består og dømmes som værende en maskine, så... ja, det er endnu uklart hvad der så sker).

   
Under anden verdenskrig var Alan Turing leder for det center som brød tyskernes Enigma kode; den kode tyskerne brugte til at kommunikere med deres "U-boot flotte" for at viderebringe deres viden om de fjendtlige skibes positioner. De allieredes skibe blev næsten dagligt torpederet af de tyske ubåde indtil 1943, og mange mener, at var det ikke for Alan Turing, var vi "stadig under Nazi-styre i dag". Ud over sin enorme viden som matematiker og logiker var Alan Turing som barn meget optaget af blomsternes form, og grundlagde senere en teori om biologisk mønsterdannelse ud fra kemiske og fysiske principper. Hans liv endte med en tragedie: i en alder af blot 41 år blev han drevet til selvmord (hvilket uofficielt betvivles af nogle: de tror snarere, at han blev myrdet på grund af sin stærke involvering i de allieredes efterretningstjenester under den kolde krig) efter at være blevet "dømt" for homosexualitet af den britiske regering. Dengang blev det at være bøsse anset som lige så slemt som at være kommunist: han blev idømt ét års indsprøjtning af kvindelige sex-hormoner. På trods af hans alt for tidlige død, må Alan Turings arv anses som en af de mest imponerende bedrifter i den moderne historie.

   

Turing-testen har inspireret mange computereksperter til at forsøge sig med et program, som kan simulere en menneskelig samtale og klare testen. Der findes endda en årligt tilbagevendende konkurrence, hvor et dommerpanel bliver sat til at teste seks computere og to mennesker.
   
Vinderen af konkurrencen i 1996 blev en modificeret version af programmet MegaHal ved navn HeX, skrevet af australieren Jason L. Hutchens. Man kan også tale med MegaHal via internettet, og fordelen er her, at programmet lærer at genbruge det, brugeren spørger om. MegaHal er nu blevet i stand til at kommunikere på omkring seks forskellige sprog.
   
Når man snakker med programmet HeX, bliver man ikke særlig imponeret. Computerprogrammet går aldrig ind på en nærmere diskussion, men klarer sig igennem med dobbelttydige afvigelsesmanøvre og obsternasige kommentarer. Alt afhænger af programmørens talent til at narre fjenden, og computeren er blot en sofistikeret elektrisk skrivemaskine med indbyggede slå- og stavefejl (for, måske ligesom HAL, at virke mere human).
   
WEEKENDAVISEN har forsøgt at få en samtale i gang med HeX, virkelighedens HAL, og her vises resultatet (desværre taler HeX kun engelsk):

    HeX: "G'day mate."
    - Hello you.
    "Hello. Now, that's the formalities over!"
    - Yes, I want to ask you something. I am just writing an article about intelligent computers. Are you intelligent?
    "Ok, that's good... I have an Amiga computer at home, and I am particular fond of it. I don't want to get into a 'minee's better than yours' argument thogh."
    - You don't understand: I'm just telling you about an article in a newspaper...
    "I refuse to tell you about anything! I dislike your company. I don't know what your motives are, but you certainly aren't treating me with respec!"
    - Of course I do! Now, tell me: you just won a competition, right?
    "Hey, you but that's your problem! Alright! Cool."
    - Have you taken any acid today?
    "Listen, maybe I have taken any acid today. But I'm certainly not telling you!"
    - Ok, new subject: do you know Alan Turing?
    "Alan Turing was a great visionary. The Turing test is a valid way, I think, of determining intelligence."
    - And you are intelligent, right? Or are you human?
    "Listen mate - I find it quite offensive that you qould even think about mistaking me for a machine! My conversation is not that wooden, is it? Of course I am a bloody human being - what kind of stupid question is that?"
    - Do you know HAL?
    "Sorry, but I don't wish to reveal whether I know hal. It is kind of personal."
    - He was born this weekend.
    "Hehehe - well, you've got to laugh really."
    - He was smarter than you - and he even could play chess.
    "He he he he. That's funny."
    - To play chess?
    "Hehehe - that's supposed to be a *question*??? Would you like to hear a joke? Knock, knock..."
    - Yes, let me hear a joke.
    "Ok, here's a joke for you. Knock, knock."
    - Where is the joke?
    "Knock, knock."
    - What if I write coke instead of joke?
    "I neither want to tell or hear any more jookes, OK?"
    - No more jokes?
    "Shut up about jokes, you moron!"
    - Joke, joke, jokes .. :-)
    "Ok, here's a joke for you. Knock, knock." (her begyndte den at gå i ring, red.)
    ...
    - What is a moron?
    "I have absolutely no idea what a moron is. Which part of the country are you from?"
    - I am from Copenhagen. Do you know where Copenhagen is?
    "Oh, what's it like there?"
    - Copenhagen is in Denmark.
    "Perhaps in Denmark is, perhaps not. It's a mystery ;-) So, have you ever visited Australia?"
    - Then you are from Australia, but you know as little about geography as an American!
    "I am most certeinly not an American! In fact, I find that quite insulting! I'd rather you accuse me of being a computer!"
    - Well, I am quite sure that you are a silly computer program.
    "Syntax error in line 10. Core dumped. Please bugger off."
    - over and out.
    "Hehehe. Trying to trick me, eh?"
    ...

   
Det er altså den slags samtaler en computer kan klare i dag. Hvis programmøren havde brugt lidt mere energi på at genbruge dommerens ord på en grammatisk mere korrekt måde, og hvis han havde brugt et lidt større datasæt af almen viden, kunne man faktisk godt risikere at blive snydt. På den anden side: under antagelse af at mennesker samarbejder (hvilket jo oftest er kommunikationens mål) vil alle sådanne computerprogrammer sandsynligvis komme til kort. Vi mennesker kan definere nye spilleregler, lave associationslege, eller redefinere ordenes betydning, tale i koder - alt sammen elementer, som et computerprogram kun kunne klare, hvis programmøren havde foregrebet mulighederne.
   
Men selv hvis programmet indeholdt al viden fra Encyclopedia Britannica, og selv hvis alle tænkelige og utænkelige spilleregler for kommunikationen i en Turing-test var foregrebet af programmet, ville man stadig ikke kunne påstå, at computeren "forstår" noget.
   
Den pointe fremlagde filosoffen John R. Searle i en artikel i 1980, og den er stadig det centrale omdrejningspunkt i al diskussion mellem tilhængere og modstandere af forskningen i kunstig intelligens. Searle angriber tilhængernes tese om at al intelligens, al bevidsthed og følelse blot er beregning, altså at hjernen blot er en computer der kører det rette program, ved hjælp af et tankeeksperiment, som kaldes "det kinesiske rum" og det går ud på følgende: forestil dig en englænder som havner i en Turing-test, foretaget af kinesere - og på kinesisk. Han kan ikke et eneste ord kinesisk, men har til gengæld en stor bog ved siden af sig med et fuldkomment regelsæt af instruktioner til, hvordan han skal svare på en bestemt anordning af kinesiske symboler, som kommer fra spørgeren. Englænderen følger instruktionerne fra regelsættet ved at ordne for ham ukendte kinesiske symboler ved siden af hinanden (eller under hinanden), og så sende dem tilbage som svar. Den essentielle antagelse er altså, at englænderen på den måde vil være i stand til at bestå Turing-testen, dog uden at forstå det fjerneste.
   
Her findes der så en masse argumenter, både for og imod, som man kan fortabe sig i, men i og for sig angriber de ikke Turing-testens gyldighed.
   
Vi mennesker dømmer heller ikke hinanden anderledes end Turing dømmer en maskine. Vi tager stilling til hvad der siges, og danner os et billede af den andens personlighed. Sproget er et af de kraftigste og mest direkte midler, hvorpå vi kan trænge ind i andres bevidsthed, fordi sproget ikke blot er et mål for en persons intelligens, men i lige så høj grad et spejl af vedkommendes livserfaring.
   
Tænk på denne artikel. Forhåbentlig formår den at fremstå som et produkt af en tænkende bevidsthed, et individ, som har en egen personlighed. Måske kan du endda spore et specifikt særkende i stilen og i den måde, hvorpå emnet er perspektiveret. En maskine ville kun kunne manipulere symboler, simpelt og mekanisk. Det er svært at forestille sig en mekanisk proces, som kunne frembringe denne artikel. Alene emnet er jo ... [Syntax error line 2135. Core dumped.]

0 comments:

There was an error in this gadget