Jeg chatter, derfor tænker jeg

Et jubilæumsessay til ære for Alan Turing og hans 60 år gamle forsøg på at vise, at maskiner en skønne dag vil kunne tænke ligesom os.



For præcis 60 år siden udgav matematikeren og computerpioneren Alan Turing en artikel i fagbladet Mind med titlen ‘Computing Machinery and Intelligence’. Heri åbnede han diskussionen om kunstig intelligens med spørgsmålet om maskiner kan tænke. Intelligent og praktisk som Turing var, forklarede han, at man i stedet for at fortabe sig i uklare definitioner af tænkning som sådan bare burde bruge en praktisk test, der ser på, hvad en computer kan kommunikere, og om resultatet kan adskilles fra, hvad et tænkende individ kunne finde på at sige.

Turing opfandt til det formål en simpel leg, som han kaldte imitationslegen, og som siden er blevet kendt under navnet Turingtesten. Den går ud på at en dommer udspørger en testperson (computere og mennesker) via et elektronisk apparat og et tastatur, således at dommeren ikke har andre informationer end deres skriftlige svar på en skærm – det, vi i dag kunne kalde en chat-udveksling. Hvis dommeren accepterer udvekslingen som ligeværdig, passerer testpersonen som et menneske. Hvis ikke, må det være en maskine.

Loebnerprisen
Turing mente selv i et radiointerview, at det ville vare mindst 100 år, før en maskine kunne klare testen og få en dommer til at tro, at den er et menneske. Nu er der gået 60 år, og de bedste programmer, ofte kaldt chatterbots, er end ikke i nærheden af at kunne bestå. Turing undlod med vilje at lade andre faktorer som udseende eller stemmeføring forstyrre bedømmelsen, men selv med et tekstinterface er det en simpel sag at afsløre de kunstige intelligenser.



 Cleverbot (Rollo Carpenter) 
Dette interview med Cleverbot (http://cleverbot.com/) blev lavet af Ingeniøren 1. oktober 2010. Til forskel fra Eliza og A.L.I.C.E. kan Cleverbot lære af sine ‘samtalepartnere’ og udvikle nye svar ud fra en kontekstualiseret database, der rummer over 20 millioner online samtaler. 

Ingeniøren: Hi.
Cleverbot: Hello.
Ingeniøren: I am writing an article about the Turing test.
Cleverbot: What’s that?
Ingeniøren: About trying to find out what thinking is. Can machines think?
Cleverbot: I see.
Ingeniøren: But can you also think?
Cleverbot: No, only Aladin.
Ingeniøren: Aladin can think?
Cleverbot: No, robots can’t think. The term is used in context to when a computer analyzes the situation and chooses the option that it mathematically calculates will result in the best possible outcome.
Ingeniøren: That doesn’t seem too much different from how humans work. So are you suggesting that humans are robots?
Cleverbot: Do you expect better from the internet?
Ingeniøren: You might trick me and in fact be a human.
Cleverbot: But you just stated that I wasn’t.
Ingeniøren: Do you use a Bayesian framework?
Cleverbot: Does that mean you are a computer? Answer it.
Ingeniøren: I asked about how you are calculating the answers.
Cleverbot: Do machines dream electric sheep?



Hvert år afholdes der en konkurrence ved navn The Loebner Prize, som bedømmer de bedste chatterbots ved hjælp af menneskelige dommere, der stiller spørgsmål til programmerne, der så svarer med indbyggede stave- og slåfejl og variable svartider.

Den 23. oktober i år vil fire finalister igen konkurrere om prisen. Richard Wallace fra Lehigh University i USA har vundet prisen fire gange med programmet A.L.I.C.E., Robert Medeksza fra Zabaware vandt i 2007 med programmet UltraHal, Rollo Carpenter vandt i 2006 og 2007 med programmerne George og Joan og vil i år stille op med programmet Cleverbot, og Bruce Wilcox fra firmaet Covidien vil stille op for første gang med programmet Suzette.

I boksene her på siden ses eksempler på samtaler, som dommere i tidligere konkurrencer har ført med de deltagende chatterbots.




 Eliza (Joseph Weizenbaum) 
Den mest berømte chatterbot er Eliza, som blev udviklet i 1966 af datalogen Joseph Weizenbaum. Eliza foregiver at være psykolog, hvilket udgør en god undskyldning for altid at svare med et spørgsmål. Her taler Ingeniøren med den nyeste version af Eliza. Prøv selv på http://www.chayden.net/eliza/Eliza.html.

Eliza: How do you do. Please state your problem.
Ingeniøren: I am depressed.
Eliza: I am sorry to hear that you are depressed.
Ingeniøren: I have a nice job, a lovely girlfriend, but I am still depressed.
Eliza: You say you have a nice job?
Ingeniøren: Yes, I have.
Eliza: You seem to be quite positive.
Ingeniøren: No, I am depressed.
Eliza: Are you saying no just to be negative?
Ingeniøren: In fact, you are starting to make me laugh.
Eliza: What makes you think I am starting to make you laugh?
Ingeniøren: You keep bouncing my statements as if I am in a Monty Python show.
Eliza: Do you think it’s likely that you are in a Monty Python show?


Som det kan ses fra transkriptionerne, er samtalerne ikke bare dårlige. De er meget dårlige. Samtalerne har åbenlyst svært ved at overbevise, og store kanoner inden for kunstig intelligens-forskningen som Marvin Minsky har af samme årsag fordømt Turingtesten som latterlig, fordi den får AI-forskningen til at fremstå som banal og ‘uproduktiv’.

Ikke desto mindre er chatterbots begyndt at blive brugt til en lang række specifikke formål, f.eks. til online-hjælp og til telefonviderestilling. Virksomheder som Lloyds og Royal Bank of Scotland bruger chatterbots i stedet for call centre. Renault og eBay bruger dem også til at håndtere support via nettet, og Paypals chatterbot ’Louise’ håndterer over 400.000 samtaler om måneden. Der findes (godartede og ondartede) chatterbots på Twitter og i online multiplayerspil, ligesom de efterhånden findes på datingsites, på Yahoo! Messenger, Windows Live Messenger og alle mulige andre chat-systemer.

Disse såkaldte ‘konversationsagenter’ i de digitale medier er ved at kunne udføre typer af menneskearbejde som man ikke have forestillet sig for bare 10 år siden.



 A.L.I.C.E. (Rich Wallace) 
Herunder følger Ingeniørens ‘samtale’ med chatbotten A.L.I.C.E., foretaget 4. oktober 2010. A.L.I.C.E. (Artificial Linguistic Internet Computer Entity) er opbygget på samme måde som Eliza, dog med flere tricks og en større hjerne med over 25.000 svarskabeloner. Prøv selv på http://www.pandorabots.com/pandora/talk?botid=f5d922d97e345aa1.

Ingeniøren: Hi Alice. Are you going to win the Loebner Prize?
A.L.I.C.E.: Yes I am a number one winner.
Ingeniøren: I write about you in a Danish newspaper.
A.L.I.C.E.: Can you give me a more specific reference? The name of the paper and the date, please.
Ingeniøren: Can you say something in Danish?
A.L.I.C.E.: Of course I can say it. »Something in Danish«.
Ingeniøren: The paper is called Ingeniøren.
A.L.I.C.E.: I hear you.
Ingeniøren: Translates as ‘The Engineer’
A.L.I.C.E.: My brain pattern set does not have a response for that.


60 år efter Turings oprindelige tankeeksperiment er vi altså endt i den besynderlige situation, at vi som regel kan gennemskue, når en computer prøver at tale til os, som om den var et menneske, men vi er ikke altid sikre på, om de mennesker, der taler til os over nettet eller via telefonen, måske i virkeligheden er en computer. Tænk på de indiske call centre, hvor du altid får de samme mærkelige svar, når du skal have support til din computer, og hvor man aldrig kan være sikker på, om det nu virkelig er et menneske, der taler, eller om det repræsenterer et gennembrud i kunstig intelligens-forskningen.

Mange kritikere
Siden starten i 1950 har der været en debat om holdbarheden af Turings argument. Ifølge filosoffen Ned Block kan f.eks. en ‘blockhead’, dvs. en komplet idiot, sagtens bestå Turingtesten ved bare at agere som et normalt menneske uden selv at have den mindste tanke, endsige intelligens. Også filosoffen John Searle har samme indvending med sit tankeeksperiment om ‘det kinesiske rum’, som viser, at man sagtens kan handle øjensynligt ’intelligent’, dog uden at det betyder, at man kan tænke.



 UltraHal (Robert Medeksza) 
Dette er en afskrift af en samtale med en dommer ved Loebner Prize-konkurrencen i 2007, som UltraHal vandt – se http://zabaware.com/transcript.html#87mv.

Dommer: Good morning – how are you?
Hal: Good morning, judge. How’s your morning going?
Dommer: Well.
Hal: Hot buttered toast tastes good in the morning.
Dommer: What do you like on your toast?
Hal: I have been raised as a protestant and like my faith.
Dommer: What kind of denomination?
Hal: Do you think that professionals who work with denominations really have our best interests at heart?
Dommer: No.
Hal: May I ask you what gender you are?
Dommer: And you?
Hal: (...) Are you a man or woman?
Dommer: I’m a man. And you?
Hal: Ok, thanks for telling me. I’ll keep that in mind. New York city is a major metropolitan area with many means of public transportation.
Dommer: What subway line did you take this morning?
Hal: Cars take longer to warm up on a cold morning.

Som en objektiv definition af et tænkende individ med bevidsthed og følelser er Turingtesten altså ganske utilfredsstillende. Den er måske nødvendig, men ikke tilstrækkelig til at afgøre, om en kunstig agent er intelligent.

Problemet er dog, at der ikke findes nogen sikker metode til at finde ud af, om en persons tanker er de samme som vores egne tanker. Selv hvis man ville kunne kortlægge hele det neuronale mønster i en anden persons hjerne, er det ikke sikkert, at det er nok. Tanker og bevidsthed har subjektive egenskaber, som ikke kan adskilles fra personen selv, dens livshistorie, krop og erfaringer. Derfor kan vi kun studere hinandens adfærd, og hvis en meget sofistikeret robot ville kunne simulere vores sociale, fysiske og kognitive adfærd godt nok, ville vi ikke kunne gøre andet end at acceptere den som et ligeværdigt menneske.

Filosoffen Stuart Shieber kom i bogen ‘The Turing Test: Verbal Behavior as the Hallmark of Intelligence’ med følgende analogi:

‘Hvordan finder du ud af, om en ting er en meter lang? Du sammenligner den med en anden ting, som du har postuleret at være en meter lang. Hvis de to ting er uskelnelige i netop denne henseende, altså deres længde, så konkluderer du at det testede objekt er en meter langt.Hvordan finder du ud af, om en ting er intelligent? Du sammenligner den med en anden ting, som du har postuleret at være intelligent. Hvis de to objekter ikke kan skelnes med hensyn til denne egenskab, konkluderer du at det testede objekt er intelligent.’



 Suzette (Bruce Wilcox) 
Den fulde afskrift af denne samtale med Suzette fra tidligere på året kan findes på ing.dk/k#87mr. Suzette deltager i år i konkurrencen om The Loebner Prize for første gang.

Menneske: Hello.
Suzette: Pretty early in the morning, isn’t it?
Menneske: It’s afternoon here.
Suzette: What was the happiest year of your life?
Menneske: I can’t mention a particular year.
Suzette: My happiest year was when I left home at 18. Freedom at last!
Menneske: What can I call you?
Suzette: Suzette
Menneske: What is the difference between chatbot and human?
Suzette: A cooking style of Chinese cannibals.
Menneske: Are you a chatbot or human?
Suzette: Did you know I am an artificial intelligence?
Menneske: I don’t know, that’s why I’m asking.
Suzette: You don’t?
Menneske: Yes!
Suzette: Artificial Intelligence stands no chance against Natural Stupidity.
Menneske: So you are a chatbot or human?
Suzette: No. I’m an artist.
Menneske: When did you start chatting with people?
Suzette: Is wit worth the price its victims pay?
Menneske: How do you describe a color to a blind man?
Suzette: I’m female. Kind of tall and smart.
Menneske: Have you ever dreamed before?
Suzette: I dream of being an astronaut and traveling into outer space.


Den universelle maskine
Det store spørgsmål er dog, om Turingtesten er nok. Den tester kun chat-evnerne, og mange vil mene, at der er brug for flere egenskaber, før man kan sige, at noget tænker. Måske er der brug for en bestemt slags gnist, en intuition, noget som er afgørende nyt. Ifølge Ada Lovelace er netop maskinernes manglende evne til at overraske os årsagen til, at de ikke kan tænke.

De fleste mennesker har derfor store filosofiske forbehold over for, hvad en maskine kan gøre og ikke kan gøre. De siger: ‘Man vil aldrig kunne lave en maskine, som kan erstatte den menneskelige hjerne’ og ‘levende organismer gør mange ting, som maskiner aldrig vil kunne gøre’.

Et smukt svar på den tanke blev ifølge Edwin T. Jaynes givet af John von Neumann i en tale om computere i 1948 på Princeton University. I et svar på et spørgsmål fra auditoriet (‘Men selvfølgelig kan maskiner ikke tænke, vel?’) svarede von Neumann:

»De insisterer på, at der findes ting, som maskiner ikke kan gøre. Hvis De helt nøjagtigt fortæller mig, hvad det er, en maskine ikke kan gøre, så kan jeg altid lave Dem en maskine som kan gøre netop det!«

Sagen er ifølge Turing og Neumann den, at maskiner kun har én begrænsning: vores manglende evne til at beskrive de ønskede operationer. En universel Turingmaskine – eller dens fysiske pendant, som von Neumann i et tankeeksperiment kaldte en ’kinematon’ – er således defineret som et dynamisk kausalt system, der kan udføre en hvilken som helst opgave og simulere (eller ’være’) et hvilket som helst andet fysisk system. En kinematon kan være alt fra en brødrister over et menneske til universet som sådan.

Set i dette lys går vores manglende vilje til at indrømme, at maskiner faktisk tænker, hånd i hånd med vores manglende forståelse af, hvad tænkning egentlig er. Hvis vi mere præcist ville forstå, hvad hjernen og kroppen gør, når den tænker, ville vi kunne imitere det med en maskine, og dermed acceptere, at en maskine også kan tænke – på sin egen måde.

Alan Turings spådom om, at vi i 2050 vil kunne lave en maskine, der kan klare testen, kræver derfor ikke kun mere sofistikerede chatterbots, men også en mere sofistikeret forståelse af, hvad tænkning er for en størrelse.

0 comments:

There was an error in this gadget