Zo zou een ‘gifaanval’ van Nachtschade er uit moeten zien (afb: Ben Zhao et. al)

Kunstmatige intelligentie is natuurlijk een geweldige en geweldig intimiderende ontwikkeling. Zoals met alles kun je ki gebruiken ten goede en te kwade. Er zijn al mensen die ChatGPT of een van zijnhaar ‘collega’s boeken laten schrijven of schilderijen laten maken. Waar zijn kunstenaars van vlees en bloed dan nog voor nodig en meer nog, van die kunstenaars uit geredeneerd, hoe beschermen die zich tegen ki? Met Nachtschade (Nightshade). De in november gelanceerde anti-ki-toep zou sedert de lancering in november vorig jaar al 250 000 keer binnengehaald zijn.
Nachtschade is een giftige plant (de aardappel is de knol van een nachtschadeplant; de besjes van de aardappelplant zijn giftig). Nightshade is, zoals de ontwikkelaars van de universiteit van Chicago het noemen, een gericht gif tegen tekst-naar-beeld-ki-systemen. Door die gifaanvallen zouden die tekst-naar-beeld-modellen van de kook raken.
Nachtschade wijzigt de beelden ongemerkt om ze onbruikbaar te maken voor het wegwijs maken van ki-systemen zoals Onderzoekers hebben een giftige ‘plant’ ontwikkeld die tekst-naar-beeld-ki-systemen het leren onmogelijk moet maken en kunstenaars beschermt tegen dit soort systemen zoals Midjourney, Dall-E (van OpenAI) of Stable Diffusion.
Eerder hadden de onderzoekers al een voorloper gelanceerd (Glaze) dat op een soortgelijke manier ki-systemen in de war bracht. Glaze verandert de stijl van de afbeelding zoals gezien door het ki-systeem om te voorkomen dat deze de persoonlijke stijl van de kunstenaar leert.
Deze keer gingen de onderzoekers verder door een toep te maken die het beeld zodanig aanpast dat het ki-systeem het onderwerp als iets anders identificeert. Dus in plaats van een hond te zien, zal ki een kat zie. Een koe in een weiland zal dan op een handtas die in het gras ligt worden of soortgelijke geintjes. Dat ‘gif’ zou er niet uit te filteren zijn. Nachtschade verandert zo’n 80% van de beeldpunten.

Auteursrecht

Het idee van de onderzoekers rond Ben Zhao is niet om het fenomeen ki dwars te zitten, maar om eigenaars van het ki-systeem te laten betalen voor de rechten die de maker, in dit geval de schilder of tekenaar, toekomen Dat ze met hun product zoveel geestdrift over de hele wereld hebben opgewekt hadden ze niet verwacht.

Ik (=as) zit nog wel met een misschien wel heel erg domme vraag: hoe dien je dat gif toe aan die ki-systemen. Die kunnen toch gewoon aan de slag gaan met plaatjes van de schilderijen van de gezochte schilder of tekenaar? Volgens de onderzoekers zijn die ‘gifaanvallen’ op ki-systemen al goed onderzocht (en ontwikkeld?). De Microsoft, Googles en wat dies meer zij moeten kennelijk op hun ki-tellen passen…

Bron: Futura-Sciences