Als je ki ‘opleidt’ met menselijke wrochtsels worden ze net als mensen

Taalmodellen brengen rare eigenschappen over

De opzet van de belangrijkste proeven van Owain Evans et al. met ‘leraar’ en ‘leerling’ (afb: Owain Evans et al./ArXiv)

Laat ik maar (weer eens) vooropstellen dat ik deskundig op geen enkel terrein ben en dus ook niet op het gebied van kunstmatige intelligentie. Wat ik er van begrepen heb is dat de grote taalmodellen, de jongste mode op dit terrein, worden ‘opgeleid’ aan de hand van door mensen gecreëerde teksten/gegevens. Regelmatig verbazen ook geleerden zich dat die ki-systemen regelmatig uit de bocht vliegen, maar als je die systemen voedt met menselijke wrochtsels, dan moeten die ki-systemen uiteindelijk ook de slechte eigenschappen overnemen van die zichzelf ernstig overschattende zoogdieren. Nu blijken ki-systemen ook ‘onderhuids’ vreselijke boodschappen af geven… Tja. Lees verder