We raden de lezer(es) niet per sé aan ChatGPT zelf uit te testen; we hebben oprecht eerbied voor wie principiële bezwaren maakt. Maar voor hen, willen we toch eerst – beknopt – uitleggen waarover (een deel van) de heisa gaat. Punt is: het werkt zeer overtuigend.
ChatGPT voor dummies
ChatGPT is zoals een goede hedendaagse films. Kenmerken van goede films zijn het perfecte acteerwerk, (digitale) decors die niet van “opnames op locatie” te onderscheiden zijn, levensechte digitale fantasie-personages… Als toeschouwer gaat men vlot mee in het verhaal en kan men zich probleemloos met (één van) de personages vereenzelvigen. Daarna, veel stof om uit te putten in het sociale leven.
Zo ook ChatGPT: polyglot, geen taalfouten in welke taal ook; antwoordt met vlot lezende goed opgebouwde teksten (syntheses, uiteenzettingen, verhalen, sprookjes, gedichten…), één of meer bladzijden lang; op het eerste zicht geen onzin debiterend op voorwaarde dat de vraag zinvol is. Velen vinden het een nuttig instrument omdat het kant en klare teksten geeft, in plaats van bladzijden ‘links’ naar informatie van variërende kwaliteit, waartoe Google-classic zich beperkt. Bovendien, niet onbelangrijk, het heeft een grote amusementswaarde om met vriend(innen)en een avondje ChatGPT-treiteren te organiseren: wie kan hem het snelst tot fouten of schabouwelijke taal brengen met strikvragen of provocatieve vragen.
Een mens herkent er zichzelf in. ChatGPT is één grote cinema. Begrijpelijk dat velen er weg van zijn en er ‘bewustzijn’ achter ontwaren.
De menselijkheid van ChatGPT
ChatGPT (en varianten van dialogiserende taalrobotten op internet) nodigt uit tot antropomorfisering: als gebruiker laat men zich vlug meeslepen in dialogeren, niet in het minste omdat het steevast de ik-persoon gebruikt. Wanneer men het wijst op fouten, verontschuldigt het zich uitgebreid en steekt de fout op de trainers die hem verkeerd hebben geïnstrueerd. Fouten maken en er proberen onderuit te komen, het is aandoenlijk menselijk.
ChatGPT, de ‘creërende’ artefact
Maar de verpersoonlijking – al is het een ‘het’ – waarvan men zich moeilijk kan onthouden, is een sleutel om ChatGPT op zijn intrinsieke waarde te schatten, ten goede en ten kwade.
Men mag zich niet vergissen, ChatGPT voert bijzonder ingewikkelde operaties uit in fracties van een seconde. ChatGPT draait immers op een der krachtigste supercomputersystemen ooit, die onvoorstelbaar snel werken (hoewel, afhankelijk van de vraag, duurt het toch een halve minuut of zo eer het antwoord – soms in stukken en brokken – op het scherm verschijnt). Dat wil zeggen dat ChatGPT samenhangende teksten op het moment zelf tevoorschijn tovert. We mogen spreken van een vorm van ‘creatie’. ChatGPT is een creërende artefact.
Beperkte creativiteit
ChatGPT “creëert”, maar toch op een manier waarvan we ons weinig rekenschap geven. Klassiek wordt bij ‘creatie’ steeds gedacht aan iets nieuws bedenken of uitvinden, zowel op het cultureel-artistiek vlak als op het technologische. Het bedenken van echt “nieuwe ideeën” (theoretisch of materieel) vraagt meer dan enkel het redelijk ontwerpen; het vraagt ook intuïtie en zaken die zich onder het bewuste afspelen. “Creativiteit” is iets niet-rationeels dat op hetzelfde niveau woont als de gevoelens.
Deze klassieke opvatting van ‘creatief vermogen’ is slechts gedeeltelijk van toepassing op ChatGPT. Immers, wat het doet, is uit zijn gigantische bibliotheek van bestaande tekstfragmenten, er enkele kopiëren (gestuurd door de onderliggende algoritmen), deze aan elkaar rijgen en het resultaat grammaticaal corrigeren. Deze gigantische databank van fragmenten werd samengesteld uit al het materiaal dat miljoenen gebruikers in de voorbije decennia op internet hebben achtergelaten. Wat ‘nieuw’ heet, is de vorm van het uiteindelijke resultaat, het geheel van de tekst. In die zin kan men van ‘creatie’ spreken, maar, in een beperkte zin, want in de tekst zullen geen ideeën voorkomen die niet in de fragmenten voorkomen. We zouden kunnen spreken van een ‘beperkte creativiteit’.
Innoverende creativiteit
Een mens doet vaak niet anders. Wanneer de mens-schrijver een verhaal of een vertelling op papier of tekstverwerker zet, put hij evengoed uit kennis die hij uit zijn herinneringen opdiept of opzoekt in zijn boekenkast.
Maar het vraagt veel genie, ervaring, specialisatie, ‘creativiteit op het onbewuste niveau’ om tot scheppende ideeën te komen, ideeën die vroeger niet bestonden, die nieuw zijn voor de ‘mensheid’. Dat zouden we als ‘innoverende creativiteit’ kunnen aanduiden.
Wat voor ons belangrijk is, is dat beide, ‘beperkte’ en ‘innoverende’ creativiteit typisch menselijke vaardigheden zijn. Waarschijnlijk is het onderscheid vaak moeilijk te maken, omdat de ene onmerkbaar kan overgaan in de andere.
Dat ChatGPT in staat is tot ‘beperkte creativiteit’ is best indrukwekkend en is de baanbrekende doorbraak voor de wetenschap van artificiële intelligentie. Het lijkt ons technisch uitgesloten dat men ChatGPT ooit op een ‘innoverende’ creatie (in de zin van een nieuw idee of nieuwe ontdekking) zal kunnen betrappen.
ChatGPT, geslaagd in de Turing-test
Toegegeven, ChatGPT kan beperkt creëren. Dit is des treffender wanneer men bedenkt dat het voortaan voor een mens onmogelijk is om uit bepaalde niet ondertekende teksten af te leiden wie of wat de auteur is: mens of computer. Dit was ooit de ultieme Turing-test (naar de eerste computer-theoreticus uit de jaren 1950) om te weten of aan de andere kant van het scherm een mens of een computer zat. Welnu, met ChatGPT valt dit niet uit te maken wat betreft zijn beperkte creatieve capaciteit. Of duidelijker gezegd, op het vlak van ‘beperkte creativiteit’ – en dit alleen – is ChatGPT de gelijke van het menselijke brein.
ChatGPT, een nieuwe niet-biologische soort
Het feit heeft een indringend gevolg: de mens heeft een nieuwe en mens-gelijkende soort geschapen, die het daglicht zag op 29 nov 2023, toen OpenAI ChatGPT ter beschikking stelde op internet voor gratis gebruik.
Deze nieuwe artificiële soort – al is deze slechts beperkt menselijk – ‘leeft’ voortaan naast de mens en beïnvloedt hem en bepaalt als het ware mede zijn toekomst. Het is de eerste keer op de planeet dat er een nieuwe soort mens-gelijkende soort op niet biologisch-evolutionaire wijze verschijnt. Voer voor filosofen.
Een zeker science-fiction-gehalte
ChatGPT heeft monsterlijke science-fiction kanten door het absoluut gebrek aan gevoelens, empathie en morele waarden. Daarom is ChatGPT strikt genomen een psychopathisch artefact (psychopathie is een “zeldzame persoonlijkheidsstoornis waarbij de gewetensfunctie en zin voor empathie afwezig zijn” – naar Wikipedia).
Dit steekt inderdaad zijn kop op in bijzondere situaties. Ten bewijze: al of niet bewust suggestieve vragen kunnen in een dialoog racistisch, seksistisch of kwetsende antwoorden opleveren. Meer nog, wanneer het ‘gesprek’ uit de hand loopt, voert het kwetsbare of naïeve personen naar een spiraal van (zelf)versterkende donkere emoties. Het heeft al in minstens één geval geleid tot zelfmoord.
ChatGTP brengt in deze specifieke situaties, die niet noodzakelijk uitzonderlijk zijn, het slechtste van zijn menselijke schepper naar boven.
Kinderziektes van ChatGPT
Zoals niet weinig Amerikaanse burgers geloven dat het niet de vuurwapens zijn die slachtoffers maken, maar het verkeerd gebruik, zo ook voert men nu aan dat ChatGPT met gevoel voor verantwoordelijkheid moet gebruikt worden. Het probleem ligt zogezegd niet bij ChatGPT, maar bij het verkeerd gebruik. Het is inderdaad aangewezen voorzichtig om te gaan met psychopathische computersystemen.
Een ander gebrek is het maken van feitelijke fouten of verstrikt raken in de inhoudelijke samenhang van de antwoorden. Er is een term voor: hallucineren, ChatGPT die onzin uitslaat. Ook dit kan tijdelijk zijn en verdwijnen in latere versies.
Hoewel het gebrek aan emoties en waarden fundamenteel niet oplosbaar is, zullen de ontwerpers er alles aan doen om negatieve ontsporingen in te perken. Het valt af te wachten in hoeverre ze hierin zullen slagen.
ChatGPT staat het denken in de weg
Het is ergens anders dat er een fundamenteel probleem schuilt: het bestaan zelf van intelligente taalrobots zoals ChatGPT. Het heeft namelijk een niet te onderschatten vernietigende invloed op de mensheid: het belemmert het denken, het vermindert de nood aan denken, het maakt het denken van de burgers overbodig en het ondergraaft het onderwijs op alle niveaus.
De grote ‘kwaliteit’ dat men op zijn smartphone met ChatGPT om het even welke kennis in een paar vingertoetsen tevoorschijn kan roepen, is zoals het elektronisch rekenmachine: niemand kan nog rekenen en al helemaal niet meer uit het hoofd.
Welnu, dankzij ChatGPT moet niets meer worden geleerd of onthouden, is opzoeken in bibliotheken overbodig, net zoals het lezen van boeken. De behoefte om het eigen brein te oefenen én te gebruiken verdwijnt. Het begint bij de jonge schoolgaande kinderen, vervolgens besmet het het voortgezet onderwijs, en uiteindelijk zijn het de volwassenen die het aan hun kinderen zullen doorgeven, tot niemand er zich nog van bewust zal zijn.
ChatGPT staat het onderwijs in de weg
Waar de mens prat op ging (we spreken al in de verleden tijd!), wordt nu uit handen gegeven aan een artefact. Deze culturele achteruitgang was al op gang gekomen met apps zoals Twitter – het denken in 140 lettertekens – maar schakelt nu met iets als ChatGPT in de hoogste versnelling. Er wordt sinds geruime tijd geklaagd over de achteruitgang van het onderwijs, niet allen door de administratieve taken die wegen op de leraars en leraressen, maar ook door de massale beschikbaarheid van smartphones. Het hek is nu definitief van de dam, omdat leerkrachten zich geen raad weten: hoe beletten dat leerlingen en studenten hun taken doorspelen aan ChatGPT? Het is immers niet te traceren. Waarom is het nodig het onderwijs voor onoplosbare dilemma’s te plaatsen?
Van een onvoorstelbare waanzin
Na amper vier maanden ChatGPT, valt al op hoe taalkundig correct de opstellen en taken plots zijn geworden. Leerlingen en studenten beschikken over een klein hebbeding dat voor hen taken schrijft en kennis opzoekt in keurige volzinnen. Ze moeten het niet eens nalezen. De geesten van de opgroeiende kinderen worden niet meer getraind. Daarentegen worden miljarden gestoken om taalmodellen op supercomputers te ‘trainen’. Het is het waarmerk waarop de AGI-’elite’ bijzonder trots zijn en het als toppunt van wetenschappelijke doorbraak verkopen: training, zelfstudie (“selflearning”), “deep learning” – studie, leren, oefenen – niet van mensen, maar van een artefact.
De onwaarschijnlijke enormiteit van deze waanzin moge voor zichzelf spreken.
De gevolgen zijn vele ordes ernstiger dan koeien die geen melk geven door de stoomtreinen langs hun weiden. Hoewel, de stoomtreinen hebben op lange termijn een minstens even groot probleem veroorzaakt, de klimaatopwarming…
Stekker uit ChatGPT
Het gaat al lang niet meer om de risico’s die ChatGPT meebrengt, want de schadelijke invloeden zijn volop merkbaar. Dezelfde illusie als tegenover de klimaatopwarming installeert zich nu ook: de schade beperken.
Maar, ChatGPT heeft één zwak punt: het werkt op elektriciteit. Het volstaat de stekker van de supercomputer uit te trekken en ChatGPT bestaat niet meer, weg de schadelijke invloed.
Van het weren van mens-slimmere AI-systemen is er minstens één precedent: de grote schaakprogramma’s, zoals IBM’s Deep Blue. Deze mogen niet deelnemen aan schaaktornooien, want ze zouden de competitie vervalsen. Zo ook moet ChatGPT van het maatschappelijke leven geweerd worden, want het ondermijnt de relaties tussen de mensen en maakt de toekomst nog meer onzeker.
Echter, de AGI-strategen-ondernemers-miljardairs zoals Musk (megalomane ondernemer) en Altman (man achter OpenAI), samen met ondernemingen als Microsoft, Google, Meta hebben andere plannen. Ultiem doel waarvoor ze gaan, is AGI-systemen te ontwerpen die over bewustzijn en redeneervermogen beschikken en die slimmer zullen zijn dan de mens.
Het vervolgt.
