Nogmaals AI

Iedereen die in staat is tot begrip kan inzien dat AI in staat is tot het genereren van begrijpelijke volzinnen. Deze volzinnen zijn betekenisvol omdat ze door ons begrepen kunnen worden. Het produceren van betekenisvolle volzinnen door AI is, hoe indrukwekkend ook, echter nog niet hetzelfde als het produceren van begrip. AI begrijpt zelf niet en ik denk niet dat AI ooit zal begrijpen. Maar het verbijsterende is wel dat het betekenisvol taalgebruik van AI slechts voortkomt uit enorme aantallen matrixvermenigvuldigingen. Betekenis ontstaat uit louter wiskundige bewerkingen. Taal blijkt hier wiskunde. Het voortbrengen van betekenis vereist dus niet noodzakelijk begrip. Wat zegt dat over de mens? De gevolgen voor ons zelfbeeld kunnen groter zijn dan die van Darwin.

Het hierboven gemaakte onderscheid tussen enerzijds het genereren van betekenisvolle volzinnen en anderzijds het in staat zijn tot begrip is van fundamenteel belang. Van begrijpen of verstaan is bij AI geen sprake. Er is echter wel sprake van het voortbrengen van betekenisvolle volzinnen. En dat is verbijsterend genoeg zodra je je realiseert dat tijdens het gebruik van AI die betekenisvolle volzinnen worden geproduceerd door louter elementaire wiskundige operaties.

We zijn eraan gewend geraakt dat wiskundige structuren gebruikt kunnen worden om Cantors paradijs van eindige en oneindige verzamelingen te representeren, om de meest complexe geometrische en topologische ruimten te beschrijven en om allerlei zeer geavanceerde algebraïsche systemen te representeren. AI leert ons nu iets onvoorstelbaars. Hoewel AI geen bewustzijn heeft en niets daadwerkelijk begrijpt of verstaat, laat AI ons inmiddels zien dat wiskundige structuren zelfs rijk genoeg zijn om het gehele veld aan betekenisvolle menselijke taaluitingen te coderen en vervolgens aan te wenden voor het genereren van betekenisvolle dialogen. Zou de oude Pythagoras dan alsnog gelijk krijgen?

Leibniz reduceerde in de zeventiende eeuw betekenisvol syllogistisch redeneren tot rekenkunde. AI mag dan niets begrijpen of verstaan, maar reduceert in onze tijd het voortbrengen van betekenisvolle taal als zodanig tot wiskunde. Natuurlijk worden de modellen van AI vooraf getraind op allerlei teksten die uit menselijke auteursintenties zijn voortgekomen. Zodra die getrainde modellen echter gebruikt worden voor het voeren van een dialoog, produceren ze betekenisvolle taaluitingen zonder dat er op dat moment sprake is van auteursintenties. Want de output komt tijdens het genereren causaal voort uit uitsluitend elementaire matrixvermenigvuldigingen. Eerdere menselijke auteursintenties zijn dus weliswaar nodig voor het trainen van de AI modellen. Maar tijdens het gebruik van het model zijn bij de AI geen actuele auteursintenties meer aanwezig.

En precies daarin ligt het verbijsterende. Voor het voortbrengen van betekenisvolle volzinnen blijken actuele intenties en begrip helemaal niet nodig. Gödel heeft met zijn eerste onvolledigheidsstelling in de vorige eeuw aangetoond dat waarheid niet tot bewijsbaarheid en daarmee semantiek niet tot syntax kan worden herleid. Maar dit laat onverlet dat AI in onze tijd lijkt aan te tonen dat het voeren van betekenisvolle dialogen in elementaire wiskundige bewerkingen te vangen is. En dat is opmerkelijk genoeg.