Nogmaals AI

Iedereen die in staat is tot begrip kan inzien dat AI in staat is tot het genereren van begrijpelijke volzinnen. Deze volzinnen zijn betekenisvol omdat ze door ons begrepen kunnen worden. Het produceren van betekenisvolle volzinnen door AI is, hoe indrukwekkend ook, echter nog niet hetzelfde als het produceren van begrip. AI begrijpt zelf niet en ik denk niet dat AI ooit zal begrijpen. Maar het verbijsterende is wel dat het betekenisvol taalgebruik van AI slechts voortkomt uit enorme aantallen matrixvermenigvuldigingen. Betekenis ontstaat uit louter wiskundige bewerkingen. Taal blijkt hier wiskunde. Het voortbrengen van betekenis vereist dus niet noodzakelijk begrip. Wat zegt dat over de mens? De gevolgen voor ons zelfbeeld kunnen groter zijn dan die van Darwin.

Het hierboven gemaakte onderscheid tussen enerzijds het genereren van betekenisvolle volzinnen en anderzijds het in staat zijn tot begrip is van fundamenteel belang. Van begrijpen of verstaan is bij AI geen sprake. Er is echter wel sprake van het voortbrengen van betekenisvolle volzinnen. En dat is verbijsterend genoeg zodra je je realiseert dat tijdens het gebruik van AI die betekenisvolle volzinnen worden geproduceerd door louter elementaire wiskundige operaties.

We zijn eraan gewend geraakt dat wiskundige structuren gebruikt kunnen worden om Cantors paradijs van eindige en oneindige verzamelingen te representeren, om de meest complexe geometrische en topologische ruimten te beschrijven en om allerlei zeer geavanceerde algebraïsche systemen te representeren. AI leert ons nu iets onvoorstelbaars. Hoewel AI geen bewustzijn heeft en niets daadwerkelijk begrijpt of verstaat, laat AI ons inmiddels zien dat wiskundige structuren zelfs rijk genoeg zijn om het gehele veld aan betekenisvolle menselijke taaluitingen te coderen en vervolgens aan te wenden voor het genereren van betekenisvolle dialogen. Zou de oude Pythagoras dan alsnog gelijk krijgen?

Leibniz reduceerde in de zeventiende eeuw betekenisvol syllogistisch redeneren tot rekenkunde. AI mag dan niets begrijpen of verstaan, maar reduceert in onze tijd het voortbrengen van betekenisvolle taal als zodanig tot wiskunde. Natuurlijk worden de modellen van AI vooraf getraind op allerlei teksten die uit menselijke auteursintenties zijn voortgekomen. Zodra die getrainde modellen echter gebruikt worden voor het voeren van een dialoog, produceren ze betekenisvolle taaluitingen zonder dat er op dat moment sprake is van auteursintenties. Want de output komt tijdens het genereren causaal voort uit uitsluitend elementaire matrixvermenigvuldigingen. Eerdere menselijke auteursintenties zijn dus weliswaar nodig voor het trainen van de AI modellen. Maar tijdens het gebruik van het model zijn bij de AI geen actuele auteursintenties meer aanwezig.

En precies daarin ligt het verbijsterende. Voor het voortbrengen van betekenisvolle volzinnen blijken actuele intenties en begrip helemaal niet nodig. Gödel heeft met zijn eerste onvolledigheidsstelling in de vorige eeuw aangetoond dat waarheid niet tot bewijsbaarheid en daarmee semantiek niet tot syntax kan worden herleid. Maar dit laat onverlet dat AI in onze tijd lijkt aan te tonen dat het voeren van betekenisvolle dialogen in elementaire wiskundige bewerkingen te vangen is. En dat is opmerkelijk genoeg.

Gebruik, betekenis en begrip: een korte reflectie op ChatGPT en de mens

De manier waarop wij als kind een taal leren, lijkt op de wijze waarop ChatGPT getraind wordt, namelijk door met eindeloos veel voorbeelden van het gebruik ervan geconfronteerd te worden. Maar is het leren van een taal vanuit het gebruik ervan niet reeds het leren spreken en daarmee leren om betekenisvol met betekenissen om te gaan? Zo lijkt de wijze waarop ChatGPT leert betekenisvol met zijn omgeving te communiceren op de manier waarop mensen dit leren. Wat zegt dat over de vraag of ChatGPT tot werkelijk begrip in staat is? Of omgekeerd: wat zegt het over de vraag of de mens tot werkelijk begrip in staat is?

Is het resultaat van beide leerprocessen fundamenteel verschillend omdat het leerproces van de mens is ingebed in concrete geleefde ervaring? En zo ja, is dit vooralsnog fundamentele verschil computationeel te overbruggen door ChatGPT mobiel te maken en beeld- en geluidsensoren te geven, zodat het eveneens rechtstreeks van de concrete leefwereld kan leren? En zo ja, is er daarna geen fundamenteel verschil in resultaat meer? Of blijkt het resultaat alsnog fundamenteel verschillend? En zo ja, zou dit dan verklaard kunnen worden door te stellen dat zelfs dan de mens iets heeft wat ChatGPT mist, namelijk een innerlijk mentaal bewustzijnsleven?

Sommigen zullen wellicht willen beweren dat ChatGPT nu al, in zijn huidige vorm, een krachtige bevestiging is van Wittgensteins these dat betekenis gebruik is. Want zelfs met de momenteel nog beperkte vorm van leren door gebruik blijkt ChatGPT verrassend effectief in het voeren van betekenisvolle dialogen. Laat staan waartoe ChatGPT in staat is zodra het concreet in de leefwereld ingebed wordt. Toch blijft de vraag of er zo daadwerkelijk sprake is van begrip. Vereist werkelijk begrip uiteindelijk niet zoiets als fenomenaal bewustzijn of innerlijke subjectieve ervaring? Vooralsnog is ChatGPT echter vooral een troef in handen van hen die geen licht zien tussen betekenis en begrip, en beide reduceren tot gebruik.

Ontisch denken is abstract denken

Ontisch denken bestaat erin het bijzondere geval onder een vast en vooraf bepaald begrip te subsumeren. Daarbij wordt het bijzondere slechts gezien als instantie van het bepaalde begrip en verliest het elke eigen concreetheid. Het begrip is dan allesbepalend: het bijzondere geldt alleen nog als voorbeeld ervan en is daarin volledig geabstraheerd. Zou het bijzondere méér zijn dan een instantie van het gegeven begrip, dan zou het een eigen concreetheid meebrengen en zou het begrip zelf niet langer gesloten zijn en vaststaan, maar door het geval mede worden bepaald en veranderd. Het begrip waaronder het concrete geval wordt gesubsumeerd is dan onbepaald. In dat geval verlaten we het ontische denken en de loutere abstractie. Ontisch denken is dus abstract denken. Concreet denken daarentegen is een stap voorbij het ontische, in de richting van het ontologische, omdat het het bijzondere niet volledig in het begrip laat opgaan, maar het laat meewegen in wat het begrip zelf betekent.