Er is de laatste tijd veel te doen over kunstmatige intelligentie. De kranten staan bol van artikelen over het thema. Jubelende stemmen tegenover zorgwekkende, waarschuwende berichten. Sommigen voorspellen dat met de nieuwste ontwikkelingen de mensheid en zelfs de hele planeet ernstig gevaar lopen. Toppunt van commotie vormen de uitlatingen van AI pionier Geoffrey Hinton – briljant Amerikaan en ex-werknemer bij Google. Begin mei uitte hij in een interview met The New York Times zijn bezorgdheid over de snelheid en richting waarin AI zich ontwikkelt, een ontwikkeling waaraan hij een cruciale bijdrage leverde. Het ging nog verder: hij had spijt van zijn rol. Spijt omdat hij vreest dat kunstmatige intelligentie kan worden misbruikt door kwaadwillende geesten.
In de medische wereld lijkt AI zegen en vooruitgang te brengen – een enorm argument ten goede. (Precies zo ging het in de 16e eeuw toen de wetenschap ontstond en haar eerste vruchten konden worden geplukt door genezers en hun patiënten. Ontwikkelingen en profijt op medisch gebied zijn door de eeuwen heen misschien wel de motor geweest voor ongebreideld onderzoek in het algemeen. Krachtiger promotie en rechtvaardiging van de wetenschap zijn niet denkbaar.)
Op tekstgebied inzake AI staan de zaken er anders voor. De introductie van Chat GPT zaait naast lof en hoge verwachtingen vooral ook angst, twijfel en wantrouwen. Waar gaat het naar toe met de menselijke geest? Zijn we nog wel van waarde? Nodig? Nuttig? Als machines beter kunnen denken dan wij, moeten we onszelf dan niet opnieuw gaan uitvinden? Als we die kans nog krijgen !(De mogelijkheid dat AI ons niet alleen gaat overvleugelen maar zelfs gaat vernietigen wordt ook wel singulariteit genoemd). Hoe dan ook: onzeker lijkt ons lot.
In de bovenmatige aandacht en plaats die aan AI wordt toegekend zit een gedachte die wringt. Alom – en zeker ook onder wetenschappers – is bekend dat de menselijke kennis zo ongeveer 5% van de totale werkelijkheid beslaat. Over de resterende 95 % weten we niets. Kunstmatige intelligentie, tenslotte een menselijk product qua vinding maar ook qua voeding met data, is geboren uit die relatieve kennis en steunt daar dus op. Hoe zien we dat dan allemaal voor ons? Waar geloven we in? Waar kijken we naar? Mogelijk schuilt het gevaar juist in deze blinde vlek die op een denkfout lijkt, op iets wat niet logisch is, niet klopt. Want in hoeverre stopt (inderdaad) de ontwikkeling van de mensheid wanneer we het hierbij laten, wanneer we onze beperkte geest laten stollen in AI en niet meer zelf actief en creatief verder willen zoeken en ontdekken?
Zoals bij veel voorgaande producten van technologische aard zien we ook bij AI weer het bekende patroon. Nieuwe vindingen worden klakkeloos omarmd en door de techindustrie onmiddellijk op de markt gebracht voordat mogelijke effecten en implicaties voor mens en aarde moreel, filosofisch of praktisch grondig worden doordacht en gewogen. Geen sprake van sturing of begrenzing. Pas achteraf wordt men wakker en roept men ach en wee. Dat gebeurde bij de komst van internet, bij sociale media en nu weer bij AI. Maar springen op een rijdende trein gaat niet en dus is het modderen geblazen met wat nu eenmaal in het leven geroepen is. Intussen wordt achter de schermen financieel garen gespind bij dit patroon en niet zo’n klein beetje ook.
Waar staat de wetenschap eigenlijk in dit verhaal? Waar is zij mee bezig, welk doel heeft zij? Gezien de situatie waarin de wereld zich bevindt moesten we haar na vijf eeuwen van totale vrijheid misschien eens bevragen. Wat weten we als burgers bijvoorbeeld van de verbinding tussen wetenschap en markt? Hoe doorzichtig zijn de systemen die ons meer en meer bepalen en grip op ons krijgen? In ‘Het nieuwe moeten; vragen om cultuur’ wordt het zo gezegd:
‘Probleem van de wetenschap is dat zij weliswaar veel tot stand heeft gebracht maar dat zij zich nooit doelen heeft gesteld. Kennisvermeerdering was het streven. Maar de vraag waartoe kennis moest dienen bleef buiten beeld. Daarom is wetenschap fundamenteel ongericht geweest in haar ontwikkeling. Ja, zij moest natuurlijk nuttig zijn. Maar wat is nut? En voor wie? Nut is een vaag en subjectief begrip, voor velerlei uitleg vatbaar. Bovendien is het als criterium willekeurig toegepast. (………………………………)
Ernstiger is dat bij gebrek aan een bewust gesteld doel onbewuste doelstellingen kansen krijgen. De geschiedenis van de wetenschap laat dat zelf zien. Gaandeweg is iets naar voren gekomen dat het oorspronkelijke verlangen om te weten heeft overstegen. De drang om de werkelijkheid te beheersen en te manipuleren kon vrij spel krijgen omdat er geen kaders bestonden. Geen idee dat de controle behield. Dit feit heeft de wetenschap zélf kwetsbaar gemaakt. Manipuleerbaar soms. Inzetbaar voor andere, politieke en/of commerciële doeleinden’.
De wetenschap lijkt in haar voortgang te zijn losgezongen van haar omgeving. Het ‘idee dat de controle behoudt’ zou dan ook wel eens buiten haarzelf kunnen liggen. Als de gemeenschap vooraf ging meedenken zouden andere onderzoeksvragen worden gesteld. Urgente vragen: waarom gaat het niet goed met de wereld? Waarom worden kwesties maar niet opgelost en hoe kunnen we dat verbeteren? Wat kunnen we doen aan de tirannie van het geld? Hoe kunnen we ervoor zorgen dat wat mensen echt voelen en zien veel meer in de wetenschap of politiek terecht komt? Etcetera.
Werkbare scenario’s maken naar de toekomst toe. De geest levend houden. Wat willen we? Hoe bereiken we dat? De vrijheid van onderzoek op zich hoeft door een dergelijke aanpak niet in gevaar te komen.
Wetenschap terugbrengen in de schoot van de gemeenschap betekent niet dat haar hart wordt aangetast maar dat haar bezieling terug kan keren.