Terwijl nog verre van duidelijk is hoe kunstmatige intelligentie in bijvoorbeeld neurale netwerken werken en hoe die tot conclusies komen, lijkt het of ki-systemen allerwegen worden omarmd. De Roemeense regering heeft onlangs een ki-systeem als adviseur in de arm genomen. Mij (=as) benieuwen hoe lang het nog duurt voordat zo’n regering het stokje geheel overdraagt aan een ki-systeem. Hoe betrouwbaar zijn die ‘zwarte dozen’ eigenlijk? Voorlopig nog niet erg.
Minister-president Nicolae Ciucă schijnt daar geen problemen mee te hebben. Woensdag kondigde hij aan een nieuwe ‘ereraadgever’ te hebben aangesteld: Ion (het omgekeerde van ‘wij’ in het Roemeens maar ook een voornaam). Deze ki-raadgever moet de Roemeense regering op de hoogte houden van alles wat er onder de bevolking leeft.
Ion is ontwikkeld door Humains.ai, stelt Futura-Sciences (ik=as kan dat nieuwe bedrijfje niet vinden op het web). De raadgever wordt gevoed met berichten op sociale media, maar ook kunnen de Roemenen hun ideeën kwijt op een speciale daarvoor gecreëerde webstek: ion.gov.ro.

Ion, een neuraal netwerk en zelflerend systeem, zal daar niet direct op reageren, maar de binnengekomen berichten en ideeën rangschikken op belang alvorens die door te geven naar Nicolae Ciucă en zijn ministers. Overigens kan Ion alleen nog maar overweg met geschreven informatie, maar er wordt aan gewerkt om Ion ook met beeld en geluid te laten werken.
De vraag is natuurlijk wat de regering aan moet met de bedenksels van zo’n onbetrouwbaar systeem (zoals maar al te vaak is gebleken bij, onder veel meer, ChatGPT). Ook zou Ion kunnen worden misbruikt voor politieke of andere minder acceptabele doeleinden, maar ja, uiteindelijk je ook politici omkopen zoals maar weer eens blijkt uit de recente corruptieproblemen in het Europese Parlement

Bron: Futura-Sciences