Komt er een internationale ethiekcommissie voor ki?

'Slimme' brillen met gezichtsherkenining voor de politie in China

De politie in China heeft al heel wat mensen gesnapt dankzij hun ‘slimme’ brillen met gezichtsherkenning (afb: New Scientist)

Frankrijk en Canada zijn bezig met het oprichten van een internationale commissie die zich zou moeten bezighouden met de ethische kanten van kunstmatige intelligentie. Die commissie zou onafhankelijk haar werk moeten kunnen doen. Dat is een mooi streven, maar zou dat iets veranderen aan de ontwikkeling van ki?  Ki heeft nogal wat duistere kanten zoals de hand- en spandiensten die die technologie levert aan de Chinese dictatuur.
China wil in 2030 nummer een worden op het gebied van ki. Dat zullen de VS proberen te voorkomen de, waarschijnlijk, huidige nummer een. Ook andere rijke landen mikken op die kip met de gouden eieren.
De wapenwedloop op het gebied van ki is in alle hevigheid losgebarsten. Zowel bedrijven als overheden steken duizelingwekkende bedragen in ki-onderzoek. De ‘kip’ zou in 2030 15 biljoen dollar waard zijn, wereldwijd (ruim 13 biljoen euro), meer dan vier keer het bruto binnenlands product van Duitsland in 2017.
Zoals gezegd heeft ki haar duistere kanten. Die kan worden gebruikt voor het volgen en identificeren van individuen tot het manipuleren van verkiezingsuitslagen, stelt Nature (daar heb je geen ki voor nodig; as). Zoals op vele andere terreinen zoals genetische manipulatie en klimaatverandering zijn overheden op het gebied van ki nogal laks op het gebied van regulering, waarschijnlijk verblind door al dat goud dat blinkt op die beloofde eieren.
Het lijkt er op dat nationale academies van wetenschappen van enkele landen in dat gat zijn gesprongen. De academies van Frankrijk, Duitsland en Japan hebben gezamenlijk opgeroepen om met onderzoeksvoorstellen te komen waarbij aandacht aan de ethische kant van ki wordt besteed. In het Verenigd Koninkrijk is er een nieuw centrum gekomen voor data-ethiek (rare term;as) en -innovatie en Frankrijk en Canada hebben samen een internationaal forum voor kunstmatige intelligentie opgericht (IPAI) dat zal worden voorgesteld op de komende G7-top in Biarritz (F).

IPAI

Dat forum zou een netwerk van deskundigen moeten vormen, die overheden kunnen adviseren over onderwerpen als bescherming van persoonsgegevens en mensenrechten waarbij ki een rol speelt. Die deskundigen zouden uit alle lagen van de maatschappij moeten komen (overheid, bedrijven, academische wereld en burgerorganisaties).
De inspiratie voor het forum is gekomen van het VN-klimaatforum, maar er zijn grote verschillen. Op de eerste plaats is de VN niet bij dit initiatief betrokken. Daarnaast is het de bedoeling dat bedrijven er meer bij betrokken worden dan bij het klimaatforum het geval is. Dat is niet onbelangrijk aangezien bedrijven zoals Google, Microsoft en IBM een stevige vinger in de ki-pap hebben.

Om geloofwaardig te blijven zal het forum onafhankelijk moeten kunnen werken, maar de grote vraag is natuurlijk hoe je dat voor elkaar krijgt. Leden van het forum zouden gekozen moeten worden op basis van hun kennis en niet van hun afkomst, maar hoe garandeer je dat? Of eerder nog wie of wat? En wie kiest?
Op de jongste G20 in juni ondertekenden de twintig grootste economieën ter wereld een ki-verklaring.  Daaronder ook China en de VS die op het ogenblik een onderlinge handelsoorlog uitvechten. Wat zo’n verklaring waard is moeten we maar afwachten, maar ik heb er weinig vertrouwen in. Zo wordt daarin gesproken over ‘democratische waarden’ maar wat weet China daar nu van af?

Het zal een hele klus zijn zo’n onafhankelijk ki-forum van de grond te tillen en dan nog? Er wordt gesproken over openheid en transparantie en openbare bijeenkomsten, maar wie kan mij vertellen waar dat mooie ideaal ooit werkelijkheid is geworden. Zelfs in een niet eens zo slechte democratie als de Nederlandse zijn we daar nog ver van verwijderd. En zelfs als die transparantie en openheid in het werk van de commissie maximaal is, wie zal zich iets van haar adviezen aantrekken? Als ergens gouden eieren aan de horizon blinken wie zal dan de adviezen van een onafhankelijke commissie van deskundigen nog horen? We dioen toch ook gewoon zaken met een kwalijke dictatuurals China?

Bron: Nature

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Deze website gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.