Geoffrey Hinton, die alom wordt omschreven als ‘geestelijke vader’ van de kunstmatige intelligentie (maar waar ik nog niet eerder van gehoord had en ook de Nederlandse Wikipedia kent hem niet; as), en inmiddels al 75 jaar heeft zijn baan bij Google opgezegd en zegt spijt te hebben van zijn bijdrage aan die volgens hem riskante technologie. De Britse Canadees (of Canadese Brit) is opgeleid in neurowetenschappen en psychologie en zou een belangrijke rol hebben gespeeld bij de ontwikkeling van (synthetische) neurale netwerken die een grote rol spelen in de hedendaagse kunstmatige intelligentie, die werken op de manier zoals wetenschappers denken dat onze hersens werken.
Hinton zei in een vraaggesprek met de Britse publieke omroep BBC dat ki op het ogenblik nog niet intelligenter is dan mensen, maar dat het niet lang zal duren voordat dat werkelijkheid is. Vooral bij het creëren van nepinformatie in filmpjes, foto’s en artikelen ziet Hinton de een dreiging. Wat gebeurt er als ki in verkeerde handen valt, vraagt hij zich af, maar je kunt je natuurlijk al afvragen hoe onverkeerd die handen van Google of Microsoft zijn. Ernstiger dreigingen ziet hij in de autonome wapens en strijdrobots die zelf bepalen wat ze gaan doen. Dat zijn toestanden waarbij vergeleken James Bond een stuntelende amateur is.

Riskant

Al vaker is gewezen op de gevaarlijke kanten van een techniek die zich op een gegeven moment aan de greep van de mens zou kunnen ontworstelen. Steeds vaker wordt ki gebruikt om uitsluitsel te geven. In de geneeskunde wordt ki steeds bijdehanter in het stellen van diagnoses, maar ook in het bepalen van behandelingen.
Onlangs drongen onderzoekers maar ook ki-ondernemers aan op onderzoekspauze van een half jaar na de opkomst van de kletsbot ChatGPT van OpenAI. Hinton zou die oproep niet hebben ondertekend omdat hij het werk van Google niet wilde afvallen. Volgens hem staat Google aan de goede kant. Googlebaas Sundar Pichai riep overheden in 2020 al op ki te reguleren. Het blijft verbazingwekkend dat Hinton 75 heeft moeten worden voordat dit inzicht bij hem doordrong.

Een groot probleem bij ki is dat de veel gebruikte neurale netwerken volslagen ondoorzichtig zijn. Hoe zo’n netwerk tot conclusies komt is ook voor ki-specialisten onnavolgbaar. Nu ki steeds meer greep krijgt op beslisprocessen lijkt het dan ook verstandig om die processen allereerst transparant te maken, maar of dat een oplossing zal zijn? De dr. No’s van de ki-wereld zullen zich daar niet zo erg veel van aantrekken, tot de machines het overnemen (natuurlijk)…

Bron: Le Monde, New York Times