Artificiële intelligentie: het nieuwe monster van Frankenstein
Uit: Meervoud nr. 297, zomer 2024.
Door Kevin De Laet
Dat artificiële intelligentie een zeer controversieel thema is, is op zijn zachtst gezegd een understatement. Moordzuchtige robots die de mensheid uitroeien, of de mens die gewoon zichzelf overbodig maakt, er zijn genoeg scenario’s voorhanden die ons waarschuwen voor een bijzonder duistere toekomst.
Daartegenover staan dan de apologeten van de nieuwe technologie, die deze sprong voorwaarts als het begin van een gouden tijdperk zien waarin de menselijke beschaving ongekende hoogtes zal bereiken. Het staat wel vast dat de impact van A.I groot zal zijn, zowel op de economie als op ons dagelijkse leven, en op ons zelfbeeld als mens. Moeten we deze revolutie stoppen? Kan dat nog? En beantwoordt de beeldvorming in het collectieve geheugen aan wat AI werkelijk is? In deze eerste bijdrage over AI volgt een meer theoretische schets van het fenomeen, want AI zelfs maar definiëren is geen eenvoudige opdracht. In een volgende bijdrage zal meer aandacht gaan naar de praktische gevolgen van toegepaste AI, met uiteraard aandacht voor de economische aardverschuiving die er mogelijk aankomt. Maar hoe groot die zal zijn, hangt eigenlijk af van wat AI precies zal zijn en hoe ver het nog kan groeien.
Schaakcomputers, stofzuigers en Meervoudbots
Tot het jaar 1997 was artificiële intelligentie voor het bredere publiek vooral iets uit de Science Fiction. Hoewel er volop werd gewerkt aan de technologie, had dit voor dat bredere publiek nog geen echte betekenis. Dat veranderde toen de beruchte computer Deep Blue een schaakspel won tegen meesterschaker Garri Kasparov. 1997 was toevallig ook het jaar waarin de machines van Skynet in opstand zouden komen tegen de mensheid, volgens de film The Terminator (1984), van regisseur James Cameron, met Arnold Schwarzenegger als de ondertussen iconische moordmachine T800. De Deep Blue was gelukkig nog geen T800, en de apocalyptische oorlog tegen machines is er (nog) niet gekomen, maar het was wel wereldnieuws toen Kasparov de duimen moest leggen voor de superieure intelligentie van een machine. En dat met een spel dat tot dan toe gold als een uiting van menselijk intellect op hoog niveau.
Maar het schaakspel is uiteindelijk ook niet meer dan logica en statistiek: welke zetten hebben statistisch gezien het meest kans op welk resultaat. En laat dat de sterke kracht van computers zijn: ze kunnen véél sneller rekenen dan mensen. Hogere wiskunde is voor een computer kinderspel. Maar echt kinderspel, de voor ons simpele taken, zoals een bal vangen, springen (zonder te vallen) of de straat over steken, blijken bijzonder moeilijk voor machines. De rekenkracht nodig voor die handelingen, die bij ons intuïtief gebeuren, blijkt exponentieel veel groter te zijn dan een schaakspel spelen.
Bovendien hebben machines een heel specifieke intelligentie, uitsluitend voorzien om bepaalde taken uit te voeren, en geen algemene intelligentie, zoals de mens (of een dier). De schaakcomputer mag dan uitblinken in schaken, en elk spel tegen elke menselijke grootmeester winnen, maar daar blijft het ook bij. Wat pas echt groot nieuws zou zijn, is dat een schaakcomputer plots zelf leert autorijden of oude Akkadische teksten vertalen. Dat zou pas wijzen op echt ‘menselijke’ algemene intelligentie.
Toch gaat de technologie met sprongen vooruit. Nog even en we zullen Meervoud volledig kunnen laten volschrijven door AIbots. Al wat we dan nodig hebben is de volledige collectie van vorige jaargangen als invoer, opdat het AIprogramma de politieke lijn kan analyseren, en vervolgens laten we die bot de actualiteit analyseren en daaruit artikels produceren. Misschien gebeurt dat al. Hoe zeker bent u er van dat de auteurs van de artikels in dit blad echte mensen zijn? Geen zorg: we zijn echt (maar dat zou een robot misschien ook zeggen). Het is alleszins geen zinloze vraag: met programma’s als ChatGTP kunnen effectief heel geloofwaardige artikels worden geschreven. De kwaliteit is wisselvallig, maar soms en in toenemende mate wel redelijk hoog, toch zeker als het gaat om een droge rapportering van feiten. Dat hoeft niet noodzakelijk problematisch te zijn, het is een handig instrument, maar zoals met alle instrumenten geldt: het is de mens die het uiteindelijk gebruikt voor eigen doeleinden. En dat AIbots worden gebruikt voor minder fraaie doeleinden weten we: fake news is wel degelijk een groeiend probleem op de sociale media en valse AIgedreven accounts worden ingezet om de stroom van berichtgeving (en het aantal likes) actief te sturen. Uit goede bron heb ik vernomen dat deM eervoudredactie nog niet aan een Meervoud-bot denkt, maar het is niet ondenkbaar dat anderen daar wel aan zouden denken, indien ze ons blad of eender welke andere organisatie of persoon in een kwaad daglicht zouden willen stellen. Niet alleen fake news, maar ook deepfake media zijn immers een groeiend probleem, de software is namelijk beschikbaar om iedereen eender wat te laten zeggen in valse profielen op de sociale media, en in valse video’s en audio’s (diefstal van identiteit wordt een van de grote gevaren op het internet). Hoe dan ook, ChatGTP en andere AIprogramma’s zijn vandaag een realiteit en worden nu al massaal gebruikt. Voor het merendeel gelukkig niet met opzettelijk kwade bedoelingen. Niettemin kunnen de gevolgen, ook al zijn ze onbedoeld, nefast blijken, en waarschuwingen voor de gevaren van AI zijn legio. Tegenwoordig gaat de aandacht daarbij dan vooral naar de economische gevolgen, want inderdaad: héél veel jobs staan op het spel.
AI ziet er vandaag wel heel anders uit dan hoe de populaire beeldvorming tot amper een decennium geleden over artificiële intelligentie dacht: op mensen lijkende robots die door de straten marcheren. Ze bestaan, zulke hominide robots, maar ze zijn op dit moment nog steeds hoogst experimenteel. De meest mobiele robot die de doorsnee consument in de winkel zal kunnen vinden is waarschijnlijk de stofzuiger van Roomba: bijzonder handig in huis, maar niet bepaald een Klaatu, C3PO of Commander Data, om drie SF-iconen te noemen. Een Roomba of een Deep Blue beantwoordt niet echt aan het imago van ‘de robot’ zoals we die kennen uit de klassieke science fiction. Wat dat betreft is ChatGPT wellicht meer stereotype, want het is een programma dat, in tegenstelling tot zelfrijdende stofzuigers, over veel meer intelligentie schijnt te beschikken. Sleutelwoord: schijnt. Want eigenlijk draait het debat vooral over één vraag: wat is artificiële intelligentie nu eigenlijk? En dat is eigenlijk geen gemakkelijke vraag om te beantwoorden. Het is eigenlijk veel gemakkelijker om na te denken over de gevolgen van artificiële intelligentie dan over artificiële intelligentie zelf, want gevolgen kunnen gemeten (en in zekere mate voorspeld) worden, terwijl een definitie van AI thema’s aanraakt die veel dieper liggen en vooralsnog voor ons mensen een mysterie blijven, zoals: wat is bewustzijn nu eigenlijk, en wat betekent het precies om mens te zijn? Inderdaad, filosofie komt daar om het hoekje loeren, net als biologie.
De zoektocht naar intelligentie
Veel mensen lopen permanent met artificiële intelligentie in hun broekzak rond. En pientere commentatoren vragen zich wel eens af wie nu de meest intelligente is: de mens of het toestel. De rekenkracht van die smartphone is exponentieel veel groter dan die van de schaakcomputer die in 1997 Kasparov versloeg. De rekencapaciteit blijft ook exponentieel groeien. Al in 1965 formuleerde Gordon Moore zijn wet dat het aantal transistoren op een elektronisch circuit bijna elke twee jaar zal verdubbelen. Als intelligentie rekenkracht is, of er toch mee te maken heeft, hangt artificiële intelligentie natuurlijk af van de rekencapaciteit van de microchips in de toestellen, en zullen de toestellen dus alsmaar intelligenter worden. De neuronen in onze hersenen werken overigens relatief traag, microchips rekenen nu al miljoenen keren sneller.
Het doel van de pioniers van artificiële intelligentie was het bouwen van denkende machines, met een denkcapaciteit die op zijn minst die van de mens moest kunnen evenaren. Een machine die ‘denkt zoals een mens’ wil zeggen: een algemene intelligentie, die problemen kan oplossen van heel uiteenlopende aard, in interactie kan gaan met de wereld rondom (en niet enkel reageert op een aantal specifieke stimuli), kan communiceren met andere spelers in die wereld rondom (mens en/of machine), en zo voort. Dat betekende eigenlijk in de eerste plaats dat men een theoretisch kader moet formuleren voor wat denken eigenlijk is. Dat bleek nogal hoog gegrepen, want dit is een filosofische en een biologische kwestie waar men tot op de dag van vandaag nog niet helemaal uit is. Dus gaandeweg kwam de focus van AIonderzoek op meer specifieke taken te liggen, die gemakkelijk kunnen herleid worden tot berekeningen doen. De Roombastofzuiger moet niet tolken of vertalen, en van de vertaalmachine verwachten we niet dat die medische analyses maakt. De doorsnee mens kan nogal veel en heel verschillende dingen doen, de doorsnee robot vooralsnog niet.
De afgelopen decennia gebeurde het onderzoek rond AI dan ook naar specifieke cognitieve processen. Aan Artificiële Algemene Intelligentie, of Artificial General Intelligence (AGI), zijn we nog lang niet toe. Het is zeer de vraag of zo’n AGI kan gebouwd worden door gewoon een hoop specifieke ‘intelligenties’ (programmaatjes) bij elkaar te gooien. Misschien zal het geheel meer blijken dan de som van de delen: een echte ‘denkende machine’ moet over nog iets beschikken dat we nog niet gevonden hebben. Hoe dan ook, onderzoek naar artificiële intelligentie is meer dan alleen maar computerprogramma’s bedenken: het is eigenlijk ook onderzoek naar intelligentie zelf, en duikt dus ook in de wereld van biologie, neurologie, psychologie, taalkunde, en nog een rits wetenschappelijke disciplines. Voor computerprogrammeurs die een denkende machine willen bouwen zijn de vragen immers bijna dezelfde als die voor biologen en neurologen die willen weten waarom wij mensen (en andere diersoorten) denken. De onderdelen van een brein, neuronen en neurotransmitters, zijn op zich immers betrekkelijk nietintelligente dingen, maar ze vormen gezamenlijk een complex systeem dat wel kan denken, en dat vormt wat men in de vakliteratuur omschrijft als het intelligentieprobleem. De cognitieve wetenschap staat eigenlijk nog niet ver vergeleken met heel wat van de exacte wetenschappen. We begrijpen de vorming van sterren en melkwegen momenteel veel beter dan de werking van het brein.
Als het over nadenken over denken zelf gaat, is René Descartes eigenlijk een van de sleutelfiguren om bij te starten. Hij was een van de eersten die zich afvroeg of een machine ooit een mens kan nabootsen op zo’n overtuigende manier dat mensen niet zouden doorhebben dat het slechts om een machine gaat. Descartes beschouwde dieren als machines (l’animal-machine) omdat die niet over het zelfbewustzijn en de denkcapaciteiten van de mens beschikken. Zijn beroemde “Cogito, ergo sum (“Ik denk dus ik ben”) is heel relevant voor de discussie rond artificiële intelligentie. Deze vaak geciteerde (maar helaas ook vaak fout gebruikte) leuze heeft niks te maken met intelligentieniveau van individuen of zo, maar met een fundamenteel filosofisch en epistemologisch vraagstuk: bestaat de wereld wel? Hoe zeker zijn we van de dingen die we denken te weten? Het is eigenlijk een uiting van solipsisme: in extremis weten we enkel dat we zelf bestaan (of toch dat er een entiteit ‘ik’ is die ervaart van te bestaan), de rest van de wereld rondom ons kan een illusie zijn. Het gedachten-experiment van de ‘hersenen in een vat’ zegt ons dat we uiteindelijk alleen maar zeker zijn van dat feit dat we zelf bestaan, al wat we verder zintuiglijk waarnemen zou wel eens een hersenschim kunnen zijn. Enigszins verwant hieraan is de zogenaamde theory of mind uit de biologie en psychologie: we gaan er als individuen van uit dat de medemensen met wie wij in contact komen ook bewuste, denkende wezens zijn, maar aangezien we geen gedachten kunnen lezen, zijn we eigenlijk niet zeker: misschien zijn al die andere mensen maar machines, dier-machines. Theory of mind is wat diersoorten sociaal maakt: we erkennen dat andere exemplaren ook levende, denkende en (zelf)bewuste wezens zijn zoals wij. Dit klinkt allemaal misschien als filosofische discussie zonder praktisch nut, maar in het geval van artificiële intelligentie is dit vraagstuk best van belang. Want stel dat er ooit een denkende, zelfbewuste machine komt, zouden we die wel als dusdanig herkennen? En erkennen? Een computer die (uit zichzelf) zegt: “Ik denk, dus ik ben”, zouden we die ernstig nemen?
Zo evident is dat blijkbaar niet, en Descartes heeft dat zelf aangetoond door dieren af te wimpelen als organische machines. In zijn wereldbeeld heeft enkel de mens een denkend zelfbewustzijn, en daarmee pleegt hij solipsisme op niveau van de soort. Zijn theory of mind beperkt zich tot de homo sapiens. Ondertussen weten we veel meer over dieren, en heel wat onderzoek heeft aangetoond dat de mens toch niet zo uniek is, als denkend en (zelf)bewust wezen. In april j.l. publiceerde een groep wetenschappers en filosofen uit verschillende landen en verschillende disciplines de Declaration on Animal Consciousness. In die verklaring stellen ze dat bewustzijn veel vaker voorkomt in het dierenrijk dan we dachten, en niet eens beperkt is tot zoogdieren, maar zelfs insecten zouden een rudimentaire vorm van bewustzijn kunnen hebben. Vandaag de dag is het voor de meeste mensen niet zo vreemd om er van uit te gaan dat de ‘hogere’ diersoorten wel een bewustzijn hebben, we herkennen het zeker bij een aantal van onze gedomesticeerde huisdieren, en ook bij diersoorten in het wild zoals dolfijnen en olifanten. Volgens de groep biologen, neurologen en filosofen achter de verklaring is het fenomeen dus nog veel algemener en zit het zowel bij gewervelde als ongewervelde diersoorten.
Een bewustzijn betekent ook persoonlijke ervaring, waaronder pijn en plezier, iets dat blijkbaar zelfs bijen kennen. De Verklaring zuigt niet zomaar wat wollige newagepraat uit de duim, er is ondertussen heel wat wetenschappelijk onderzoek dat de stelling ook ondersteunt. Er zijn inmiddels heel veel experimenten uitgevoerd rond het gedrag van heel uiteenlopende diersoorten, en op basis van zowel reacties en gedrag, als via directe metingen van hersenactiviteit. Om maar enkele van de recentste wetenschappelijke ontdekkingen te noemen die ook in de pers kwamen: kraaien kunnen luidop tellen, olifanten geven elkaar namen, en bijen lijken zich te amuseren met spel. Veel dieren kunnen zichzelf herkennen in een spiegel. Op de website van de gepubliceerde Verklaring worden nog een aantal van die experimenten opgesomd. Wellicht verschilt de mate van intelligentie en bewustzijn van soort tot soort (eventueel kan men het nog tot zoogdieren beperken op grond van het feit dat zij over een neocortex beschikken), maar er is eigenlijk geen echte reden meer om de theory of mind te beperken tot onze eigen menselijke soort. De vraag is dan of we voor artificiële intelligentie een streng criterium als menselijke algemene intelligentie moeten hanteren. Intelligentie bestaat in gradaties, en een denkende machine met de mentale capaciteiten van een rat of een goudvis, of zelfs een mier, zou al kunnen wijzen op een rudimentaire vorm van intelligentie, en wie weet zelfs bewustzijn.
Testen
Zelfdenkende machines waren al een thema in de science fiction lang voordat de eerste microchips werden gemaakt, dus er werd al ruim over nagedacht vooraleer Alan Turing zijn beroemde Computing Machinery and Intelligence publiceerde in 1950. Tot dan ging het debat over zulke machines, in zoverre er al een debat was over een toen nog hypothetisch concept, juist vooral over de diepere vraagstukken, niet over het hoe, maar eerder over het waarom. Robots werden in science fiction vooral gebruikt om de vraag te stellen wat het nu precies betekent om mens te zijn. Over de technische aspecten werd veel minder gesproken, simpelweg omdat de technologie er uiteraard nog niet was. De term artificiële intelligentie zelf wordt toegeschreven aan John McCarthy, in 1956, wanneer de eerste academische conferentie rond het thema wordt georganiseerd. Turings stuk sprak als eerste echt wetenschappelijke publicatie over de mogelijkheid van machines om mensen na te bootsen, bijvoorbeeld door een schaakspel te spelen. Schaken bleek het geliefkoosde spel te zijn voor computerwetenschappers om hun ideeën te testen. In de jaren zeventig en tachtig werden de eerste commerciële schaakcomputerspellen verkocht, sommige lezers herinneren zich misschien nog Boris, het computerschaakspel dat in ’77 op de markt kwam.
Allerlei testen werden bedacht om te zien hoe slim een computer eigenlijk is, de test van Turing is wellicht de meest bekende. De rode draad is en blijft die vraag wat denken nu eigenlijk is, en daar is nog steeds geen algemene, concrete definitie voor. Vanaf wanneer beschouwen we een elektronisch toestel als een intelligente, denkende entiteit? Andreas Kaplan en Michael Haenlein definiëren artificiële intelligentie als “het vermogen van een systeem om externe gegevens correct te interpreteren, om te leren van deze gegevens, en om deze lessen te gebruiken om specifieke doelen en taken te verwezenlijken via flexibele aanpassing.” Leren is een sleutelwoord hier: het mechanisme is in staat het eigen programma aan te passen naar gelang de omstandigheden. Met dat criterium was Deep Blue eigenlijk helemaal geen denkende machine.
Wie over artificiële intelligentie spreekt, kan uiteraard niet om Turing heen, de geniale Britse wiskundige die een van de grote pioniers van de informatica was (en een icoon van de homobeweging in het Verenigd Koninkrijk). Naar hem werd de A.M. Turing Award genoemd, het equivalent van een Nobelprijs voor de informatica als wetenschap. Hij bedacht ook de beroemde Turingtest, die onrechtstreeks meet of een machine intelligent is. Onrechtstreeks, want zoals Turing zelf opmerkte, is denken op zich een moeilijk te definiëren begrip. Zijn test bestaat eigenlijk uit een imitatie van intelligentie. Er bestaan ondertussen verschillende varianten, maar het komt er op neer dat mensen met elkaar communiceren zonder dat ze elkaar zien of horen, via getikte tekst, waarna een van de mensen zonder medeweten van de andere wordt vervangen door een machine. Als de andere niet door heeft dat er nu een machine deelneemt aan de conversatie, heeft die machine de test succesvol doorbracht. Merk op dat het eigenlijk niet de machine zelf is die getest wordt, maar de menselijke gesprekspartner en diens reacties. De test is vooral gericht op misleiding. In de jaren zestig creëerde Joseph Weizenbaum de chatbot ELIZA, een van de allereerste computerprogrammas dat een ‘gesprek’ aan ging met de gebruiker. Het programma werd voorgesteld als een artificiële psycholoog, en het verhaal gaat dat zijn secretaresse, die het programma uittestte, aan Weizenbaum vroeg om weg te gaan want het gesprek met ELIZA werd blijkbaar nogal persoonlijk. Een klein voorproefje van wat er een halve eeuw later mogelijk zou zijn met chatbots en AI. Maar zijn ze dan ook intelligent? De Turingtest is in de eerste plaats eigenlijk een pragmatische test: het volstaat dat de machine op overtuigende wijze de schijn opwekt te kunnen denken. De grootste kritiek op de test is dan ook dat die eigenlijk niet echt aantoont dat een machine werkelijk denkt.
Maar, daar zitten we weer bij die eeuwige vraag: wat is denken eigenlijk en hoe weet je of een entiteit denkt? Turing erkende zelf het probleem: het is eigenlijk onmogelijk om te weten of een machine denkt, tenzij je de machine zelf bent, cfr. Descartes. Misschien kunnen we uiteindelijk nooit meer doen dan kijken of iets lijkt op denken. Toch heeft de test wel een belangrijke troef: de capaciteiten die de machine moet hebben om de test te doorstaan zijn eigenlijk wel fenomenaal. De machine zou menselijke taal vlot en geheel moeten kunnen verwerken, ook zelf al doende moeten bijleren, alles onthouden wat wordt gezegd én beslissen wat daarvan belangrijk is en wat niet, en over een begrip van de wereld moeten beschikken dat alle nuances en alle dubbelzinnigheden omvat die de mens (al dan niet onbewust) kent en gebruikt in zijn taal, en correct kan toepassen. Op dat punt is het ontkennen of erkennen van intelligentie misschien eerder een filosofische kwestie, zelfs een ideologische, dan een praktisch oplosbaar vraagstuk. Overigens, de Turingtest heeft nog een ander probleem: heel wat mensen zouden zelf de test niet kunnen volbrengen. En dan gaat het hier niet (per sé) over enig sarcasme betreffende het intelligentieniveau van individuen, maar vooral om de simpele vaststelling dat mensen die om de een of andere reden (nog) niet vlot kunnen praten, de test simpelweg niet kunnen doen. Zijn kinderen geen intelligente, denkende wezens, omdat ze op de Turingtest zouden buizen? En dan beperken we ons nog tot één diersoort, terwijl we ondertussen dus wel weten dat er heel veel andere diersoorten zijn die we toch in zekere mate intelligent kunnen noemen. Chimpansees, honden en dolfijnen zouden de test uiteraard ook niet kunnen doorstaan.
De Chinese Kamer van John Searle is een andere bekende gedachtenoefening om artificiële intelligentie proberen vast te stellen, en met dit scenario wilde hij eigenlijk aantonen dat machines niet intelligent zijn. In die afgesloten kamer zit iemand die een procedure uitvoert aan de hand van strikte en duidelijke instructies, zonder zelf te weten wat de procedure is en wat het doel is. Concreet gaat het om iemand die Chinese tekens binnen krijgt (de invoer), volgens de procedures andere Chinese tekens selecteert, en die dan weer naar buiten stuurt (de uitvoer). De persoon kent zelf echter geen Chinees schrift, en voert louter instructies uit volgens de voorgeschreven procedure, die weliswaar heel complex is, maar toch volledig en gedetailleerd uitgeschreven in duidelijke instructies. De gebruikers daarentegen, zij die Chinese tekens de kamer in sturen en zij die er ontvangen uit de kamer, begrijpen de tekens wel, maar zij weten niet wat er in de kamer gebeurt en zij weten niet dat degene die er in zit zelf geen woord (of teken) Chinees kent. Voor hen lijkt het alsof daarbinnen iemand zit die wel vlot Chinees kan, en dat is uiteindelijk voldoende voor de hele procedure om met succes volbracht te zijn. Begrijpt de machine nu Chinees? De persoon in de kamer alvast niet. Misschien begrijpt de handleiding met de procedures wel Chinees? Begrijpen we het begrip begrijpen wel? Deze denkoefening van Searle toont alweer dat een machine niet per sé intelligent moet zijn om als dusdanig over te komen.
Algemene Intelligentie: de heilige graal
Doorheen de twintigste eeuw nam de rekencapaciteit van computers exponentieel toe. Het onderzoek naar AI legde zich toe op het ontwikkelen van steeds complexere algoritmes, en ook een steeds complexer gebruik van statistische methodes. Met de komst van het internet nam het gebruik daarvan ook spectaculair toe, en het is geen geheim dat die systemen nu worden ingezet om ons gedrag actief bij te sturen: denk aan de sociale media en hoe de algoritmes daar werken. Al deze ontwikkelingen, hoe complex en krachtig ze ondertussen ook zijn, blijven echter vooral specifieke taken uitvoeren, geen daarvan heeft al een echt algemene intelligentie voort gebracht die de taak in kwestie overstijgt. Wat dat einddoel betreft, de heilige graal van de computerwetenschap, staan we eigenlijk nog niet echt verder dan in de tijd van Turing en co. In het high-tech milieu wordt al eens gekscherend gezegd dat de Grote Doorbraak in de technologie al zestig jaar lang ‘over tien jaar’ een feit zal zijn.
Wat we wel hebben gekregen zijn zogenaamde expertsystemen: programma’s die uitblinken in één bepaald domein van kennis. Ze zijn een kwalitatieve sprong, in de zin dat ze zich niet beperken tot louter berekeningen maken, maar dat ze met symbolen kunnen omgaan, op een meer abstracte, talige manier. Met deze programma’s kan kennis en expertise opgeslagen worden (als een bibliotheek dus), en ze kunnen aangewend worden om analyses te maken op basis van ingevoerde data, zoals metingen. Expertsystemen vonden vanaf de jaren zestig hun weg naar vele bedrijfstakken, van petrochemie over de luchtvaart tot farmaceutica. In ’58 bedacht John McCarthy de programmeertaal LISP, die een standaard zou worden in de computerwetenschap, zeker wat de ontwikkeling van AI betreft. De ontwikkeling van computerprogramma’s werd vanaf dan een economische bedrijvigheid op zich. De reeds vermelde schaakoverwinning van Deep Blue tegen wereldkampioen Kasparov eind jaren ’90 was zeker een mijlpaal, en legde fabrikant IBM overigens geen windeieren: de gratis reclame van het evenement deed de aandelen van IBM naar recordhoogte schieten. Toch is het, achteraf gezien, eigenlijk niet zo onverwacht dat een computer goed zou scoren in een spel dat draait om logica en statistiek. Deep Blue was eigenlijk zo’n expertsysteem, geheel voorzien om het schaakspel te analyseren, en niets anders. Opnieuw kan de bedenking gemaakt worden dat zo’n expertsysteem niet echt de intelligentie is waar al decennia lang naar gezocht wordt, want daarvoor is het veel te gespecialiseerd en niet flexibel genoeg. Maar: willen we wel dat een machine die de Turingtesten doorstaat? Willen we die denkende machine wel?
In die zin moet men dan een onderscheid maken tussen verschillende vormen van intelligentie, en daar komt het aspect bewustzijn aan te pas. Louter de regels volgen uit een uitgebreide procedure volstaat niet. Het zou pas indrukwekkend zijn en een bewijs van intelligentie en bewustzijn moest de machine uit eigen beweging de procedures breken of wijzigen. Maar zouden we een computer die bewust wordt eigenlijk wel als dusdanig herkennen? Opnieuw de theory of mind. Per slot van rekening kunnen we élk gedrag van een computer, hoe indrukwekkend complex ook, simpelweg ontkennen en afwimpelen als gewoon het volgen van een uitgebreide procedure, zoals Descartes deed met dieren, die volgens hem en volgens de gangbare ideeën van toen ook enkel maar hun voorgeschreven instincten volgen, hun programmering dus. Ondertussen weten we dus dat ook dieren mogelijk een bewustzijn hebben. Blijft natuurlijk de filosofische vraag of bewustzijn werkelijk is wat we willen dat het is, en of we uiteindelijk zelf ook niet gewoon een zeer uitgebreid programma van acties en reacties volgen. Neurologisch onderzoek toont bijvoorbeeld dat vrije wil misschien toch niet zo vrij is, want onze hersenen blijken vaak al beslissingen genomen te hebben nog voor we bewust de beslissing denken te nemen. Het verschil tussen mens en dier blijkt niet zo groot te zijn, maar misschien is de getrokken conclusie net de verkeerde: mensen lijken meer op dieren dan omgekeerd. En als dat het geval is, is de stap naar intelligente, bewuste machines misschien ook minder groot en minder baanbrekend dan ons ego als denkende mens zou willen. Misschien is het er al, maar hebben we het nog niet als dusdanig herkend. Ilya Sutskever, topwetenschapper bij OpenAI (die van ChatGTP), zei in 2022 eens dat het mogelijk is dat de grote neurale netwerken van vandaag al “lichtjes bewust” zijn. We hebben het monster misschien al gemaakt.
Het Frankensteincomplex
In 1818 verscheen een van de pionierromans in het genre van de moderne Science Fiction:
Frankenstein: een Hedendaagse Prometheus, van Mary Shelley. Het boek waarschuwt voor de gevaren van de wetenschappelijke vooruitgang. Of, eigenlijk correcter: het stelt de vraag of de mens klaar is om met die vooruitgang om te gaan. Het monster van Frankenstein (in het boek simpelweg “het Schepsel” genoemd) werd een icoon, en een archetype voor de arrogantie van het ongeremde menselijke vernuft. De hele discussie rond artificiële intelligentie vandaag valt voor een groot stuk tot dit archetypische verhaal terug te leiden. In 1831 verscheen overigens een zwaar bijgewerkte versie, maar die laat ik liever buiten beschouwing, omdat Shelley die aanpassingen deed onder de zachte maar duidelijke druk van omgeving en lezers die aan de ethiek van het verhaal wilden sleutelen. De titel verwijst trouwens zelf naar een ouder icoon uit het collectieve geheugen: Prometheus ging bij de goden het vuur stelen om aan de mensheid te geven, en hij en de hele mensheid werden daar (uiteraard) voor gestraft: Zeus stuurde Pandora naar de arrogante mensen die dachten dat ze het vuur konden temmen, met haar beroemde doos.
Toen Frankenstein verscheen was er van computers uiteraard nog geen sprake, maar de wetenschap zat toen in een fase die misschien wel vergelijkbaar was met die vandaag. Een centraal thema in de natuurfilosofie (zoals de moderne wetenschap aanvankelijk nog heette), was de vraag wat het leven eigenlijk is en wat bewustzijn eigenlijk is. We weten vandaag natuurlijk al een pak meer dan 206 jaar geleden, maar nog lang niet alles. Er zijn veel interpretaties van het Frankensteinverhaal, en ook veel meningen over welke lessen we moeten leren uit dat verhaal. Het stereotype antwoord op die vraag is meestal iets gelijkend op: de mens wil iets maken, maar die uitvinding blijkt krachtiger en gevaarlijker dan verwacht en de mens verliest er controle over, wat tot zijn ondergang leidt. Anno 2024 duikt dat doembeeld nog prominenter op dan destijds in 1818, want de technologieën die we hebben geschapen zijn, tegenwoordig letterlijk, in staat om de wereld te vernietigen. De atoombom is daar het klassieke voorbeeld van. Maar ook prutsen met de bouwblokken van het leven, zowel de organische als de mentale, voeden de vrees dat een hedendaagse variant van ‘het Schepsel’ niet lang meer louter fictie zal blijven. In Shelleys beroemde boek is ‘het Schepsel’ het product van biologisch onderzoek naar het leven zelf, waarbij een van de hoofdpersonages van de roman, de beroemde dr. Frankenstein, het geheim van het leven achterhaalt en een uit stukken lijk samengestelde nieuwe mens tot leven wekt, het tweede hoofdpersonage van het boek.
Overigens, als u nu spontaan aan de beroemde “It’s alive!”-scène denkt uit de film van 1931 (door James Whale en met Boris Karloff als het iconische monster), die scène komt in het oorspronkelijke boek niet voor. Shelley is heel summier wat betreft het eigenlijke mirakelwerk. Wanneer het monster de ogen opent, na een verder niet nader omschreven procedure, gaat de professor gewoon lopen van angst en laat het creatuur aan z’n lot over, wat de eigenlijke reden is voor de verschrikkingen die later in het boek volgen. Wie het boek aandachtig heeft gelezen weet echter dat het grote probleem niet zozeer het ontstaan of bestaan zelf van het monster was, maar wel waarom dat monster uiteindelijk een monster werd: de reacties van de mensen rondom. Meer dan een waarschuwing voor de technologie op zich, is
Frankenstein eigenlijk een waarschuwing voor de reactie op de technologie. Alles draait uiteindelijk rond de zoektocht van dat wezen naar betekenis en contact, en de brutale afwijzing door degene die het wezen heeft gemaakt. Iets om in gedachten te houden wanneer we AI benaderen vanuit een Frankensteiniaanse fobie.
De angst om irrelevant te worden
Frankenstein verscheen in een tijdperk van zware verschuivingen in het paradigma van wetenschap en filosofie. De Verlichting, in de eeuw daarvoor, had aanvankelijk de mens veel centraler geplaatst in het wereldbeeld, en de kiemen gelegd voor een veel strakkere, empirisch gegronde wetenschap. Maar juist die veel striktere wetenschap begon eind 18de eeuw duidelijk te maken dat de mens toch niet zo centraal in de Schepping stond. Meer zelfs, de Schepping zelf bleek niet te zijn wat men altijd al had gedacht en het werd ook veel minder duidelijk of de Schepping wel een schepping was. Natuurwetten werden blootgelegd die toonden dat de wereld draaide op puur mechanistische structuren, niet op magische, bovennatuurlijke krachten, en het leek er ook meer en meer op dat de mens niet degene was waar alles per sé om draaide.
Het duurde natuurlijk een tijd vooraleer dit besef ook doordrong bij het bredere publiek, maar in de negentiende eeuw begon het bij velen stilaan te dagen dat de wereld misschien toch niet expliciet voor de mens was geschapen, en dat de mens niet noodzakelijk de top van de voedselketen was. Charles Darwin moest zijn On the origin of species nog schrijven toen Frankenstein verscheen, maar de twijfel over de statische en door Goddelijke Voorzienigheid aangestuurde aard van de wereld hing al sterk in de lucht (het concept evolutie was trouwens al bekend voor Darwins werk). Aardig wat geologische en biologische ontdekkingen hadden al aangetoond dat de wereld veel ouder kon zijn dan wat het collectieve geheugen van de mensheid zich kon herinneren, en dat het tijdperk van de mens een slechts vrij recent tijdperk was, het product van een lang proces van evolutie. En dat betekende impliciet dat de mens niet noodzakelijk het eindstation was van die evolutie, het magnum opus van de schepping. Dus rees de vraag die dr. Frankenstein zich in het boek expliciet stelt wanneer hij overweegt om een vrouw (zeg maar een Eva) te maken voor zijn eerste schepsel (zeg maar zijn Adam): zal de Mensheid uiteindelijk vervangen worden door superieure wezens, door de mens zelf geschapen? Hoe men het vraagstuk van de artificiële intelligentie vandaag ook bekijkt, het lijkt steeds weer terug te komen op de angst waar dr. Frankenstein mee zit: dat zijn schepping de mensheid simpelweg weg zal concurreren en het over zal nemen als koning in de evolutionaire hiërarchie. Zoals de uitvinder het zelf zegt: “Een ras van duivels zou over de aarde worden verspreid, dat het bestaan van de mens tot een hachelijke en angstige toestand zou maken.” Veel van de angst voor artificiële intelligentie zou men perfect zo kunnen lezen.
En opnieuw, wie het boek aandachtig gelezen heeft, weet dat het ‘monster’ eigenlijk van zichzelf geen kwaadaardige bedoelingen had, dat het er niet op uit was zijn schepper en bij uitbreiding de hele mensheid te vernietigen. In Shelleys boek is het vooral de paniekreactie van Frankenstein, en later van andere mensen die het Schepsel tegen komt, die een tegenreactie van afschuw en wraakzucht voortbrengt. Sinds Darwin zijn we ons bewust van een nog veel krachtiger gevaar dat het individuele en het bewuste overstijgt: het is misschien gewoonweg een natuurwet dat Frankensteins schepping, zowel fysiek als mentaal de superieure tegenover de mensheid, uiteindelijk de overhand neemt, zelfs zonder het als expliciet doel te hebben. Gewoonweg evolutie aan het werk. Juist deze angst om weggeconcurreerd te worden is vandaag de kern van de vrees voor artificiële intelligentie.
De moderne Frankenstein: killer robots.
De hedendaagse popcultuur heeft Frankenstein als archetype uitgewerkt, tot in het extreme. Clichébeeld bij uitstek is natuurlijk Arnold Schwarzeneggers T100: machines die tot leven komen en de totale uitroeiing van de hele mensheid nastreven. H.G. Wells speelde ook al met het thema van het Frankensteincomplex in Het Eiland van Dr. Moreau, verschenen in 1896, daar nog op basis van biologisch, organisch materiaal, net als in Shelleys verhaal. De ijzeren mechanische robotten zijn van iets latere datum, de eerste gebruik van het woord robot komt uit het toneelstuk R.U.R. (Rossums Universele Robots) van Karel Čapek in 1920, in de periode dat de moderne Science Fiction als genre echt uit de startblokken schoot. Vanaf dan werd de mechanische mens populair in de verbeelding: een levend wezen dat het rechtstreekse product was van industrie (staal en elektriciteit), in plaats van organisch weefsel dat nog enigszins in de natuur geworteld was. In de zogenaamde eerste Gouden Era van de science fiction, in het interbellum en rond WO2, kreeg het concept robot echt vorm als archetype. De groeiende filmindustrie droeg daar uiteraard een grote visuele steen toe bij, denk maar aan Fritz Langs beroemde mensrobot Maria de Maschinenmensch, gespeeld door Brigitte Helm in Metropolis(1927). En ook in het stripverhaal als genre, dat toen razend populair begon te worden, doken de robots op. Sindsdien zit de mensachtig uitziende machineman, al dan niet als moordmachine, als collectieve archetype in ons geheugen. Overigens geheel onterecht: in de betere science fiction wordt het fenomeen van kunstmatige intelligentie doorgaans véél genuanceerder behandeld. Begin jaren ’50 verscheen Isaac Asimov’s grote SFklassieker De Stalen Holen, de bekendste in zijn reeks verhalen over robotten, en zijn visie op de mensmachine was heel genuanceerd, net als die van veel schrijvers en scenaristen na hem. Het cliché van de T100, die een totaaloorlog tegen de mensheid begint is alleen maar dat: een cliché uit de Hollywoodfilms. Al is het gebruik van robots als wapen dat door mensen zelf wordt ingezet natuurlijk wél een mogelijkheid, en zelfs zeer waarschijnlijk (denk maar aan drones), het echte gevaar van AI wordt momenteel niet in die fantastische context van een robottenopstand gezien, maar op het economische vlak.
Nu, zelfs in de veronderstelling dat een machine bewust zou worden, zegt dat nog niet veel over de aard van dat bewustzijn, zo zeggen veel voorstanders van AI. Wij mensen associëren die term meteen met een hele rits typisch menselijke (of toch dierlijke) eigenschappen, in de eerste plaats emoties. Maar emoties toeschrijven aan machines is eigenlijk redelijk absurd als je weet waar die emoties precies vandaan komen en welke functies ze vervullen: evolutionair gestuurde responsmechanismen als gevolg van de overlevings en voortplantingsinstincten van organisch leven. We worden niet zomaar angstig, blij, boos, verliefd of nieuwsgierig zonder reden: al die emoties vervullen functies, en we kunnen die emoties tegenwoordig ook vrij precies in kaart brengen in het brein en in ons hormonaal systeem. Als instincten niet zijn geprogrammeerd in computers, hebben computers ook geen reden om de daaruit voortvloeiende emoties te ervaren. Machines hebben geen hormonen. Ze kennen van zichzelf geen angst, zelfs geen behoeftes, behalve misschien de behoefte aan elektriciteit om te kunnen werken. Die functies zijn initieel volledig afwezig bij artificiële intelligentie. Er is voor zulk ‘nieuw leven’ nooit een evolutionair selectieproces geweest dat bepaalde gedragspatronen selecteerde op basis van overlevingskansen. Als het niet initieel werd geprogrammeerd, heeft AI zelfs geen overlevingsinstinct, noch een voortplantingsinstinct, twee eigenschappen die toch in de eerste plaats betrekking hebben op organisch leven. Men zou zich dan de vraag kunnen stellen of dit hypothetische AIwezen dan wel echt leeft. Daar zitten we weer bij de problematische vraag wat leven nu juist is. En wat is dan precies dat bewustzijn, als je het ontdoet van al die emotionele balast? De ultieme Zenboeddhist misschien? Als deze machines intelligent zouden worden, zouden ze geheel andere drijfveren hebben en gedrag vertonen. Dat plaatst dan meteen ook grote vraagtekens bij de Turingtest: we gaan er te gemakkelijk van uit dat intelligent per definitie menselijk betekent. Als we zouden willen dat robots menselijk gedrag vertonen, zouden we dat er expliciet in moeten programmeren. Een algemene robotopstand tegen de mensheid, zoals in The Terminator, roept de vraag op: waarom zouden ze dat willen doen? Geen enkele drijfveer zou daartoe leiden, tenzij die doelbewust werd in geprogrammeerd. Volgens deze redenering is een spontane oorlog tussen mens en machine dus echt zuivere science fiction, met de nadruk op de fictie. Wat natuurlijk wél een mogelijkheid is, is dat kunstmatige intelligentie doelbewust door mensen
wordt misbruikt. Dat de mensen dus zelf, met intentie, malafide drijfveren en doeleinden programmeren. Men kan het dan, in zekere zin, vergelijken met de opvoeding van een kind of een huisdier: is het kind of de hond zelf schuldig voor de slechte opvoeding die het gekregen heeft?
De afwezigheid van emoties heeft natuurlijk ook een keerzijde: zo’n denkende machine heeft geen enkele affiniteit met menselijke bekommernissen als we die niet programmeren. Het welzijn en zelfs het voortbestaan van de mens is geen doel op zich voor de computer. Als we een denkende machine dus de vraag zouden stellen hoe we milieuproblemen kunnen oplossen, zou het meest logische antwoord simpelweg kunnen zijn: “Verwijder alle mensen van de planeet.” Als we toch het welzijn van mensen zouden meegeven als waarde, door het op voorhand in te programmeren, zouden de resultaten wel eens heel verrassend kunnen blijken. In zijn fictieverhalen bedacht Isaac Asimov voor zijn robotten drie onwrikbare wetten, basisprogrammarichtlijnen, voorzien om het beste resultaat voor de mens te bekomen en elk geweld van robot tegen mens te voorkomen, maar één robot ontdekte onvoorzien een extra principe dat de collectieve belangen van de mensheid tegenover de individuele mens plaatste. Met andere woorden: de robot moest plots morele keuzes maken die niet voorzien waren: de belangen van een individu dienen, of die van de groep? Welke drastische oplossingen zou AI voorstellen om de mensheid te redden in geval van bijvoorbeeld een pandemie, maar dan één vergelijkbaar met die van de Pest in de late Middeleeuwen, met extreem hoge steftecijfers?
Er zijn experts die toch emotionele motivering mogelijk zien in het gedrag van een hypothetische AI. Mustafa Süleyman, een van de oprichters van DeepMind (dat ondertussen van Google is) en huidige CEO van Microsoft AI, gelooft dat het voor een denkende machine niet zo moeilijk zou zijn om over een aantal basisemoties te beschikken. Angst is een perfect te verklaren emotie vanuit biologisch standpunt, omwille van een besef van eindigheid van het eigen bestaan.
Voor Süleyman is de broncode waarop de AI is gebaseerd niet zo belangrijk, wel de informatie die gebruikt wordt als invoer om de AI te trainen. En hij heeft zeker een punt, er zijn ondertussen al wel aardig wat gevallen geweest waarbij AI programma’s gekke dingen begonnen te zeggen omdat de invoer waarop ze getraind werden tot onverwachte conclusies leidden. Een AI zal in het begin nog geen drijfveren en emoties of simulaties daarvan kennen, maar de ingevoerde data – bijvoorbeeld het gedrag van mensen op sociale media – zou dat wel kunnen veroorzaken. Angst voor de dood bijvoorbeeld. Zodra een AI zich bewust wordt van de mogelijkheid dat het eigen bestaan kan eindigen, of die angst zelfs maar gaat nabootsen, kan dit een drijfveer worden die het gedrag stuurt. Eigenlijk zou een AI het eigen voortbestaan zelfs als een noodzakelijke voorwaarde kunnen herkennen om andere doeleinden te bereiken, en daardoor zich ook gaan gedragen als een wezen dat zichzelf moet beschermen. Een AI die gevraagd wordt om een oplossing voor het klimaatprobleem te vinden, zou wel eens tot de conclusie kunnen komen dat het probleem enkel opgelost kan worden door de AI, dus moet elk mogelijk gevaar vanwege mensen geëlimineerd worden om het eigen voortbestaan van die AI te verzekeren. De machines zouden wel eens tot de conclusie kunnen komen dat ze in opstand moeten komen tegen de mensheid om de mensheid te redden. Tja, misschien hebben ze zelfs gelijk, wie weet.
Nu, op dit moment wordt het gevaar van robots die in opstand komen niet hoog ingeschat. Momenteel is de angst voor artificiële intelligentie vooral te voelen op economisch vlak. En het klopt dat AI in de toekomst héél veel zal veranderen in onze economie. Dat proces is al volop bezig, maar zal nog exponentieel versnellen. Ook de inzet van AI in militaire en repressieve capaciteiten wordt volop onderzocht. Of dat in ons aller voordeel zal zijn, zal dan vooral afhangen van wie die AI controleert. In de volgende bijdrage zal de klemtoon liggen op de praktische gevolgen, voor zover die kunnen ingeschat worden.
