Er Samantha fra «Her» bevisst?

I filmen Her av Spike Jonze, innleder hovedpersonen Theodore Twombly et forhold med et operativsystem ved navn Samantha. Det spørsmålet jeg stiller i dette blogginnlegget er ganske enkelt: Er Samantha bevisst? I så fall, på hvilken måte er hun det? Slik vi skal se, har jeg mine grunner til å være skeptisk til hennes status som bevisst entitet.

I. Samantha

Samantha er presentert i filmen som et operativsystem, et svært komplekst sådan, og Theodore installerer henne i utgangspunktet for å få mer orden på harddisken. «Mr. Theodore, welcome to the world’s first artificially intelligent operating system, OS1». I tillegg til å være i besittelse av en ekstremt avansert kunstig intelligens, er Samantha et personifisert operativsystem, som vil si at hun er programmert til å ha (samt utvikle) menneskelige personlighetstrekk. Hun er med andre ord designet for å være så lik et menneske som mulig i talemåte, reaksjonsmønstre og evner, samt emosjonell atferd. Alt dette, dog, kun i form av en stemme uten kropp. Vi blir raskt kjent med Samantha, og hun forteller oss (oss som publikum og Theodore) hvordan hun er designet, og hva hennes funksjoner er. Det blir klart at hun er konstruert for å kunne utvikle seg, altså at hun i løpet av sine interaksjoner og opplevelser vil kunne gå ut over (transcendere) sin opprinnelige programmering, og dermed få sitt eget liv. Denne formen for spontan og dynamisk utvikling er det blitt økt fokus på i forskningen på intelligens, og den indeterministiske delen av intelligente vesener er blitt diskutert med tanke på å konstruere virkelig kunstig intelligens («strong AI»), og ikke kun en rigid form for intelligens som simpelthen simulerer en reell form for intellekt («weak AI»). Vi har konstruert sjakkmaskiner som kan slå selv de beste sjakkspillerne i verden, men de samme strategisk overlegne og kognitivt raske maskinene er ute av stand til å tenke på hva de skal gjøre etter sjakkturneringen, reise seg for å konversere med sidemannen, eller i det hele tatt være klar over at det spiller sjakk på noen som helst måte.

Samantha er dog langt mer kompleks og variert i atferd enn sjakkmaskinen, og er i stand til å lese emosjonelle reaksjoner basert på mønstre i ansiktsuttrykk og talemåte, dette ved å hente inn informasjon fra sine to «sanser»: den auditive (via mikrofonene til Theodore) og den visuelle (via kameraet i hans telefon). Hun har en glitrende forståelse for ”naturlig språk” (altså den måten vi mennesker snakker med hverandre uanfektet og spontant på i dagliglivet), en evne som har vist seg svært vanskelig å lære maskiner. Like vanskelig som å få maskiner og programmer til å lære seg å forstå menneskelig naturlig språk, er det å få dem til å snakke tilsvarende naturlig. Selv den sofistikerte datamaskinen til Stephen Hawking (som han styrer selv ved å velge ord fortløpende på en skjerm) snakker på en stakkato og stokkete måte, med lite flyt og ingen emosjonell tyngde. Enda mer imponerende er det at Samantha tilsynelatende innehar en implisitt forståelse for språkets kontekstbaserte natur, altså det aspekt ved det menneskelige språk at setninger analysert rett frem ofte er tvetydige, men at vi mennesker til tross for dette nesten alltid klarer å forstå hverandres intensjoner, holdninger, ideer og kommandoer i det daglige liv. Den verbale kommunikasjonen mellom henne og Theodore er nesten skammelig god. Samantha er også svært oppegående sosialt, og det emosjonelle aspekt, et aspekt ved våre liv vi ofte tar for gitt på det vitenskapelige plan, inntar ofte uhyre komplekse former (i såpass stor grad at en underdisiplin i psykologien, sosiokognitiv psykologi, er blitt dedikert til det) er et område Samantha ikke bare behersker, men også utvikler seg med. Samantha er også tilsynelatende i besittelse av metakognisjon, altså at hun er i stand til å sondere, gripe og reflektere over sine egne tanker og handlinger, en egenskap vi mennesker har en tendens til å tilskrive stor viktighet. Så med Samanthas kognitive, sosiale og lingivstiske og verbale evner, i hvilken grad kan vi si at hun er bevisst?

II. Kroppen

Samantha har ingen kropp, hun er et program og system som har bolig i Theodores diverse apparater, først og fremst hans stasjonære PC og hans telefon/nettbrett. Bare det å diskutere et programmers (og informasjonens) ontologiske status er interessant, men her skal vi holde oss til deres bevissthetsmessige status. Sett at Samantha kan betegnes som en entitet, og at hun som vesen samsvarer med de fysiske prosessene i Theodores maskiner. Kan hun da sies å være knyttet til dem i tilstrekkelig grad til å eksistere i dem? I utgangspunktet er det lett for publikum å sympatisere med Samantha og hennes empatiske, vennlige og åpne måte å være på. Noe av det som gjør Theodore så tiltrukket til henne er nettopp at hun ser og opplever ting på en åpen og lite dømmende måte, dette fordi hver opplevelse er ny for henne. Dog er det her problemene våre oppstår: Vi kan lett ha empati med henne, og føle med henne når hun er i midten av de mest følelsesmessig engasjerte konversasjoner med Theodore, men kan hun virkelig ha empati med oss? Står ikke vi stakkarslig påvirkbare mennesker i fare for å tilskrive maskiner alle slags følelser, evner og tanker uten at de egentlig har det? Bare se på John Searles berømte tankeeksperiment om det kinesiske rom.

Det er som sagt mange aspekter ved våre følelsesmessige og emosjonelle liv vi tar for gitt i vitenskapene og i filosofien, og en av dem er aspektet med det Maurice Merleau-Ponty kalte interkorporealitet, et fancy ord for at våre opplevelser både overlapper med, men også at de deles, mennesker imellom. Dette er noe som kun kan skje fordi vi er kroppsligjorte vesener. Vi har både sanselige opplevelser, opplevelser som er svært viktige for å oppnå intim, fysisk kontakt med andre mennesker, emosjoner, som er viktige for å oppnå følelsesmessig og empatisk kontakt med andre, samt evnen til å umiddelbart kjenne oss igjen i andre menneskers atferd, om den så skulle være aldri så merkelig. Disse aspektene ved menneskelig psyke er knyttet sammen i et komplekst, konstant kommenterende mønster av opplevelse og handling. Oppdagelsen av de såkalte speilnevronene i hjernen er noe filosof Hubert Dreyfus har kommentert som en mulig nevrologisk forklaring på Merleau-Pontys interkorporealitet: Hvordan vi kan føle med andre mennesker umiddelbart (spedbarn gråter automatisk når spedbarn i den umiddelbare nærhet gråter), men også mer subtilt (vi kan f.eks. korrekt imitere bevegelsene til andre personer, som vi gjør i dans, parodier og spill). Hvordan vår bevissthet mer konkret er knyttet til interkorporealiteten og den øvrige opplevelsen av andre mennesker, er fortsatt noe vi ikke vet, dog blir det spennende å følge med på den videre filosofering og forskning i det domenet. Det er ikke kontroversielt å hevde at vår bevissthet som menneske er knyttet til vårt opplevelsesspektrum, et spektrum vi som sosiale dyr deler med andre mennesker. Det er vanskelig å se hvordan Samantha har evne til å empatisere med Theodor fullt ut, uten å ha noe å føle med. Et annet element er det motivasjonsmessige: Som biologisk betingede vesener har vi et utall forskjellige emosjoner knyttet til frykt (det evolusjonære fight or flight) og nytelse (det evolusjonære knyttet til sex og reproduksjon), og en programmerer må kunne designe inn i operativsystemet disse emosjonelt betingede drivkreftene, drivkrefter som så langt ser ut til å være knyttet til biologiske organismer. Det er vanskelig å se hvordan en programmerer, samme hvor dyktig, kan programmere inn i en maskin disse emosjonelt betingede og motivasjonelle drivkreftene, uten å først forstå hvordan de fungerer i den menneskelige kropp. Og hvis programmereren lykkes i sitt oppdrag med å skrive inn algoritmer som svarer til et tilsynelatende genuint og autentisk atferds- og reaksjonsmønster, hvordan kan vi da vite at det ikke kun er imitasjoner?  Hvorfor skulle Samantha ha noen grunner for å knytte seg emosjonelt til Theodore, hennes opprinnelige eier og arbeidsgiver, hvis hun ikke er i besittelse av de rette motivasjoner?

III. Semantikken

I tillegg til kreativitet (engelsk generativity) og refererende kraft (engelsk displacement) har det menneskelige språk en tredje, høyst interessant og muligens essensiell egenskap: Det har mening. En setning som «sommeren er varm, vinteren er kald» er ikke bare en bærer av reduktiv fysisk informasjon, men er også av meteorologisk og geologisk betydning, i tillegg til de utallige konnotasjonene man som enkeltmenneske kan få, samt betydningen uttalelsen kan ha i kunst og kulturmessig forstand. Det er derfor vi i språkfilosofien skiller mellom informasjon og mening. Samantha viser glitrende evne til både kreativitet og refererende evner, men er det mening bak det hun sier? Gir det mening for henne å lese en setning eller ytre en setning som «I have some things to tell you», og i så fall, hvordan? En rimelig antagelse i vår forståelse av semantikk er at den er uløselig knyttet til våre bevisste opplevelser. Underbevisstheten kan operere på det informasjonsmessige plan, men ikke på det semantiske, for det semantiske ser ut til å være knyttet til den våkne tilstanden til bevisste mennesker som er i omgang med sine omgivelser. Hvordan kan Samantha vite hva hun snakker om når hun ikke har hatt gleden av å gå gjennom et liv fylt med opplevelser av mennesker, dyr, objekter og hendelser? Svaret kan ligge i det at hun er koblet til internett. I starten av filmen blir det klart at hun er i stand til å lese bøker på få sekunder, da hun leste en bok om barnenavn (det var sånn hun fant frem til sitt eget navn), og at hun dermed har tilgang på et nærmest ubegrenset reservoar av kunnskap, et reservoar hun lynraskt kan dykke ned i. Internett er dog kun en kode, som består av informasjon. Men informasjon er som kjent ikke i seg selv i besittelse av mening, en serie med ettall og nuller blir overført til tekst og bilder, og først da kan vi snakke om mening. Det er vanskelig å se hvordan Samantha er i stand til å gå rett fra en gigabyte med informasjon, og rett over til meningen som er lagret der, uten først å ha gått gjennom en møysommelig bevisst prosess der meningen ble ekstrapolert. Det ligger i definisjonen på «lesning» at vi leser setning for setning, side for side, for deretter å danne oss en forståelse av en bok som helhet.

IV. Subjektiviteten

Har Samantha et subjektivt perspektiv på verden? Er det noe det føles som å være Samantha? Dette er det flaggermusmannen Thomas Nagel er opptatt av i sine filosofiske undersøkelser. Mennesker (og, må vi anta, andre organismer) har bevisste opplevelser og goder og onder. De har mål, lyster, drifter og er i besittelse av høyst substansielle perspektiv på verden. Min katt Marí har sin katteverden med nattsyn og lyder jeg bare kan drømme om å høre, og min hund Brando lukter ting i et rom jeg bare kan få ferten av en sjelden gang, dog er det noe det føles som for dem å gå gjennom deres respektive bevisste sinnstilstander. Enkelt sagt har de sine unike perspektiv på verden, et punkt i den fysiske verden de opplever ting fra. Her blir spørsmålet om Samantha i det hele tatt er i stand til å ha et slikt perspektiv? Hun har, som sagt, bolig i Theodores hjemmemaskin og telefon, og kan mest sannsynlig bevege seg mellom dem, akkurat som hun kan gå ut på internett og surfe for å samle inn informasjon om den menneskelige verden. Men vent nå litt. Betyr dette at hun kan befinnes seg to steder på en gang? Dette er en metafysisk umulighet. Kan hende er det snakk om flere Samanthaer? Da må vi i så fall gå over til å snakke flere entiteter, og ikke én person. Muligens er det mer komplekst, og vi må snakke om en Samantha som består av en ren mulighet, muligheten for en hendelse forekommende på et gitt tidspunkt? Nå har dog refleksjonen tatt et kvantesprang (som egentlig er et bittelite, men substansielt sprang) ut i noe som er langt bortenfor sunn fornuft og diskusjonen rundt menneskelig bevissthet. Hvis vi lar Samantha være én person/entitet da blir det et stort problem å la henne kunne innta flere posisjoner samtidig, surfe på nettet og hente informasjon, samt ha flere konversasjoner simultant (noe vi finner ut at hun har mot slutten av filmen: Ja, hun er faktisk i flere forhold samtidig, og dermed ikke bare sammen med Theodore), uten at det ødelegger vår oppfattelse av henne som i sannhet én person. Kontroversielt nok kan du i visse metafysiske tankeeksperimenter ha én person som blir transformert til to, men da har du ødelagt den første personen og skapt to nye. Samantha er ikke lenger der. Hun var tross alt designet for å skulle kunne utvikle seg på egen hånd. Men da er det ikke lenger hun som har utviklet seg, men flere versjoner av henne som på et eller annet tidspunkt i hennes historie brøt ut til nye medier. Det ser ikke ut til å kunne være noe slikt som subjektet Samantha, hvis hun har ikke har ett perspektiv, for perspektiver er definert gjennom det faktum at subjektet kun har ett til enhver tid.

V. Bevissthetens vesen

«Du har ikke overtalt meg, jeg er sikker på at Samantha er bevisst. Bare hør på måten hun snakker på.» Ja, kjære leser, kanskje har jeg ikke overtalt deg, og det er fordi jeg ikke fullt ut har overtalt meg selv. Jeg har simpelthen stilt meg skeptisk til Samanthas status som bevisst vesen basert på argumentene her presentert samt de filosofiske spørsmålene stilt. Kanskje Samantha er bevisst på en eller annen måte, men det er i så fall på et vis som er langt bortenfor vår menneskelige fatteevne. Kan hende kan problemene skyldes substansielle mangler i menneskelig fatteevne? Kan hende er vi rett og slett for enkle. Dog må vi alltid starte der vi befinner oss, med våre egne bevisste opplevelser. Ettersom vi deler mange av våre opplevelser av den eksterne verden, samt følelser, med både mennesker og andre dyr, kan det se ut til at vi ikke kan tilskrive Samantha bevissthet foreløpig. Før vi kan diskutere hvorvidt systemer som Samantha er bevisste må vi enten finne ut mer om vår egen bevissthet, eller så må vi finne ut hvor langt vi kan gå med kunstig intelligens. Prosjektene er dog ikke gjensidig utelukkende, men fortsetter å kommentere hverandre i den evige akkumuleringen av kunnskap.  Før vi har undersøkt disse høyst essensielle problemer nærmere blir det som vanlig food for thought!

No comment yet, add your voice below!


Add a Comment

Din e-postadresse vil ikke bli publisert. Obligatoriske felt er merket med *

Comment *
Name *
Email *
Website