Kunstmatige intelligentie een treurige puinhoop (?)

Friedrich Fröbel

De Duitse opvoedkundige Friedrich Fröbel (afb: WikiMedia Commons)

Steeds vaker lees je dat kunstmatige intelligentie (ki) wordt gebruikt, in wetenschappelijk onderzoek, bij het regelen van webzaken, door overheden, bedrijven en zelfs in spellen. Ki wordt allerlei prachtigs toegedicht, maar veelal duister is hoe die  systemen tot hun ‘conclusies’ komen. Dat zou wetenschappers toch moeten interesseren voordat ze die ‘zwarte doos’ gebruiken. Dan praten we nog niet eens over de gigantische hoeveelheden energie die ki verstookt. Robbert Dijkgraaf vraagt zich in Quanta Magazin af of ki de nieuwe alchemie is en of dat erg is. Hij denkt dat dat altijd zo werkt in wetenschap. Ja?
Volgens ki-onderzoeker Ali Rahimi zijn de hedendaagse neurale netwerken en zelflerende systemen gebaseerd op een verzameling trucs versierd met een toef optimisme en niet op systematische analyses. Rahimi is niet de enige die zo denkt. Moderne ingenieurs zouden op dezelfde manier en met onbegrip hun codes produceren als vroeger de alchemisten deden om van lood goud te maken of bij het bereiden van hun toverdrankjes.
Zoals gezegd wordt ki overal al ingezet, terwijl we weinig idee hebben welke processen zich daarin afspelen of waar die systemen tegen hun grenzen aanlopen. De nieuwe ki-systemen (neurale netwerken en zelflerende systemen) zijn heel anders dan de ouderwetse ki, die (code)regel voor regel te volgen is. Ik had het over een zwarte doos en dat is het ook eigenlijk wel: je stelt een vraag en er komt iets uit (geen idee hoe dat proces verloopt en op basis van welke criteria de uitkomst is geproduceerd).
Deze discussie is niet van belang gespeend aangezien ki steeds dieper doordringt in onze maatschappij. De wetenschap zou zelf in die zwarte doos (het zwarte gat) kunnen verdwijnen, stelt Dijkgraaf. Zijn we in de wetenschap weer terug bij af, bij de alchemie?
Dat gaat Yann LeCunn een beetje te ver. Hij won in 2018 de Turingprijs om zijn werk aan neurale netwerken. Volgens hem is er niet nieuws aan ki in wetenschapsland. Dat vakgebied is pas in zijn puberjaren en maakt dezelfde fases door als andere pubers in de wetenschap: gekenmerkt door probeer-maar-wat, verwarring, overmoed en weinig begrip. We hebben weinig te vrezen en veel te winnen, vindt hij. We zijn eenvoudigweg meer gewend aan het tegenovergestelde.

Ideeën ontwikkelen zich met vallen en opstaan tot, als het werkt, een brede delta aan toepassingen, stel Dijkgraaf. Dat is volgens hem het beroemde nut van nutteloze kennis van Abraham Flexner uitgesproken op een lezing in 1939 (nog nooit van gehoord; as). De hoogleraar haalt daarbij de algemene relativiteitstheorie van Einstein van stal. Zonder Einsteins theorie, bedacht achter een bureau in, dacht ik, Bern zouden de huidige navigatiesystemen niet goed te gebruiken zijn (want constant in beweging). De beroemde Deense wetenschapper Niels Bohr had het over de nutteloosheid van nuttige kennis. Misschien kan ki ook tegen de berg op stromen, schrijft Dijkgraaf.

Nuttige kennis

In de geschiedenis van de wetenschap zouden we volgens LeCunn vele voorbeelden kunnen aanwijzen van dit effect, dat volgens hem misschien de nutteloosheid van nuttige kennis zou moeten worden genoemd. Een fundamenteel belangrijk idee zou uit een lange reeks kleine verbeteringen en slimme proeven tevoorschijn kunnen komen, zeg van Fröbel naar Nobel(prijs, neem ik aan; as).
Dat zou het best kunnen worden duidelijk gemaakt met de wetten van de thermodynamica. Die vergelijkingen beschrijven het behoud van energie, de toename van de entropie (‘chaos’). Die regels zijn overal toepasbaar, maar ze werden pas ontdekt na een lange, verwarrende periode van experimenteren te beginnen met de bouw van de eerste stoommachine.

De wetenschap zou zelf de weg naar boven gevolgd hebben tot de ontwikkeling van methoden in de 17de eeuw, stelt de wetenschapper. Tot die tijd was het vooral rondtasten. Alchemie wordt nu gezien als nuttige voorloper van de moderne wetenschap, meer ‘voorwetenschap’ dan tovenarij.
Dat ‘gefrutsel’, stelt Dijkgraaf, kan een vruchtbare manier zijn om belangrijke theorieën en inzichten te ontwikkelen. Nano-onderzoekers ‘klungelen’ zich nu een weg naar moderne equivalenten van de stoommachine op moleculair niveau. Methoden als CRISPR maken het ons mogelijk te knippen en plakken in de code van het leven (DNA). In structuren van een onvoorstelbare complexiteit sturen we de natuur naar nieuwe werkelijkheden, beweert Dijkgraaf. Hij is ervan overtuigd dat we met al die nieuwe mogelijkheden afstevenen op een gouden eeuw van de moderne alchemie in de goede zin van het woord (alchemie; as).

We moeten echter niet de harde lessen uit het verleden vergeten, gaat Dijkgraaf verder. Alchemie was niet alleen een protowetenschap maar ook een ‘hyperwetenschap’ die veel beloofde en weinig opleverde. De astrologie was zo belangrijk dat het leven zich aan de theorie moest aanpassen (in plaats van andersom). De moderne maatschappij is niet vrij van dergelijk ‘magisch denken’, stelt hij terecht. Die heeft te veel vertrouwen in de almachtige algoritmen, zonder vragen te stellen over de logica en de ethiek.
De ontwikkelingen in de wetenschap verlopen nooit gelijkmatig. Dijkgraaf hoopt dat de huidige ‘knutsel’periode in de ki, de kwantumcomputer en DNA-bewerking, met (volgens hem) een overvloed aan nuttige toepassingen, zal leiden tot een dieper inzicht in hoe de wereld in elkaar steekt. Wie weet, zeg ik (=as) dan, maar ondertussen wordt ki overal al ingezet en het is niet vanzelfsprekend dat dit traject in wetenschap goed afloopt. Ooit hebben ontwikkelingen in de kernfysica geleid tot de atoombom, ik roep maar wat… Ki is te belangrijk om aan wetenschappers overgelaten te worden.

Bron: quantamagazine.org

Geef een antwoord

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Deze site gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.