{"id":10854,"date":"2019-10-09T20:26:16","date_gmt":"2019-10-09T18:26:16","guid":{"rendered":"http:\/\/www.arnoschrauwers.nl\/weblog\/?p=10854"},"modified":"2019-10-09T20:26:16","modified_gmt":"2019-10-09T18:26:16","slug":"kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen","status":"publish","type":"post","link":"https:\/\/www.arnoschrauwers.nl\/weblog\/09\/10\/2019\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\/","title":{"rendered":"Kunstmatige intelligentie laat zich erg makkelijk foppen"},"content":{"rendered":"
\"Ki

Plak wat dingetjes op een stopbord en het ki-systeem leest ’45’ (afb: Nature)<\/p><\/div>\n

Kunstmatige intelligentie wordt tegenwoordig overal bijgehaald, maar die techniek blijkt ontzettend makkelijk te flessen te zijn. Koester de menselijke intelligentie zo lang ki nog verregaand onbetrouwbaar is. Dan hebben we het nog niet eens over de energierekening gehad die ki ons presenteert. Net als bij allerlei veelbelovende medicijnen wordt bij dit soort ‘veelbelovende’ technologie\u00ebn nooit het prijskaartje getoond… In Nature staat daar een mooi verhaal over. Lees dat, zou ik zeggen.
\nZelfbewegers maken gebruik van ki om de omgeving te interpreteren zoals, onder veel meer, verkeersborden. Mensen hebben daar geen problemen mee, maar het blijkt dat ki-systemen daar moeite mee hebben als er op dat verkeersbord dingen zitten die daar niet thuishoren. Dan leest ons matig intelligente systeem niet, bijvoorbeeld, ‘Stop’ maar ’45’.
\nDat schijnt in de dagelijkse praktijk nog niet voorgekomen te zijn, maar onderzoekers hebben al laten zien<\/a> hoe makkelijk een ki-systeem is te foppen door wat te veranderen aan een verkeersbord. Ook gezichtsherkenningssystemen zijn simpel voor de gek te houden<\/a> door bepaalde patronen op hoeden en brillen te printen of spraakherkenningssystemen door wat witte ruis<\/a> toe te voegen.<\/p>\n

Gammel<\/h2>\n

Dat zijn maar een paar voorbeeldjes om te laten zien hoe makkelijk het is om (kunst)matig intelligente systemen voor de gek te houden. Ki wordt steeds belangrijker (gemaakt). Dictaturen als China maken er graag gebruik van bij het onderdrukken van hun onderdanen, maar ze moesten eens weten hoe gammel die ‘intelligentie’ is. Je hoeft maar kleine dingetjes te veranderen aan een beeld of geluid en ki is helemaal in de war en leest ’45’ in plaats van ‘stop’. Zelfs de domste mens zal daar geen probleem mee hebben (vooropgesteld dat die kan lezen).<\/p>\n

Dat is meer dan kinderziektes van een nog niet geheel volmaakte technologie, zegt Dan Hendrycks, promovendus aan de universiteit van Californi\u00eb in Berkeley. Lerende neurale netwerken (ki) zijn fundamenteel gammel; geweldig in wat ze kunnen totdat ze op onbekend terrein komen. Dan gaan ze op een onvoorspelbare manier de fout in.<\/p>\n

Bron: Nature<\/a><\/em><\/p>\n","protected":false},"excerpt":{"rendered":"

Kunstmatige intelligentie schijnt erg makkelijk te foppen te zijn door ingrepen die mensen geen problemen geven. Lees verder →<\/span><\/a><\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[425,60,59],"tags":[5180,6856,1931,3298],"class_list":["post-10854","post","type-post","status-publish","format-standard","hentry","category-kunstmatige-intelligentie","category-mensen","category-techniek","tag-gezichtsherkenning","tag-misleiden","tag-neurale-netwerken","tag-spraakherkenning"],"yoast_head":"\nKunstmatige intelligentie laat zich erg makkelijk foppen - Geleerd uitschot<\/title>\n<meta name=\"description\" content=\"Kunstmatige intelligentie schijnt erg makkelijk te foppen te zijn door ingrepen die mensen geen problemen geven.\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.arnoschrauwers.nl\/weblog\/09\/10\/2019\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\/\" \/>\n<meta property=\"og:locale\" content=\"nl_NL\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Kunstmatige intelligentie laat zich erg makkelijk foppen - Geleerd uitschot\" \/>\n<meta property=\"og:description\" content=\"Kunstmatige intelligentie schijnt erg makkelijk te foppen te zijn door ingrepen die mensen geen problemen geven.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.arnoschrauwers.nl\/weblog\/09\/10\/2019\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\/\" \/>\n<meta property=\"og:site_name\" content=\"Geleerd uitschot\" \/>\n<meta property=\"article:published_time\" content=\"2019-10-09T18:26:16+00:00\" \/>\n<meta property=\"og:image\" content=\"http:\/\/www.arnoschrauwers.nl\/weblog\/wp-content\/uploads\/stopverkeersbord.jpg\" \/>\n<meta name=\"author\" content=\"arno s\" \/>\n<meta name=\"twitter:label1\" content=\"Geschreven door\" \/>\n\t<meta name=\"twitter:data1\" content=\"arno s\" \/>\n\t<meta name=\"twitter:label2\" content=\"Geschatte leestijd\" \/>\n\t<meta name=\"twitter:data2\" content=\"2 minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/09\\\/10\\\/2019\\\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/09\\\/10\\\/2019\\\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\\\/\"},\"author\":{\"name\":\"arno s\",\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/#\\\/schema\\\/person\\\/8c74e34597e3e2a46ff9b2fb8483fde2\"},\"headline\":\"Kunstmatige intelligentie laat zich erg makkelijk foppen\",\"datePublished\":\"2019-10-09T18:26:16+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/09\\\/10\\\/2019\\\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\\\/\"},\"wordCount\":360,\"commentCount\":0,\"image\":{\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/09\\\/10\\\/2019\\\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\\\/#primaryimage\"},\"thumbnailUrl\":\"http:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/wp-content\\\/uploads\\\/stopverkeersbord.jpg\",\"keywords\":[\"gezichtsherkenning\",\"misleiden\",\"neurale netwerken\",\"spraakherkenning\"],\"articleSection\":[\"kunstmatige intelligentie\",\"mensen\",\"techniek\"],\"inLanguage\":\"nl-NL\",\"potentialAction\":[{\"@type\":\"CommentAction\",\"name\":\"Comment\",\"target\":[\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/09\\\/10\\\/2019\\\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\\\/#respond\"]}]},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/09\\\/10\\\/2019\\\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\\\/\",\"url\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/09\\\/10\\\/2019\\\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\\\/\",\"name\":\"Kunstmatige intelligentie laat zich erg makkelijk foppen - Geleerd uitschot\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/09\\\/10\\\/2019\\\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/09\\\/10\\\/2019\\\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\\\/#primaryimage\"},\"thumbnailUrl\":\"http:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/wp-content\\\/uploads\\\/stopverkeersbord.jpg\",\"datePublished\":\"2019-10-09T18:26:16+00:00\",\"author\":{\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/#\\\/schema\\\/person\\\/8c74e34597e3e2a46ff9b2fb8483fde2\"},\"description\":\"Kunstmatige intelligentie schijnt erg makkelijk te foppen te zijn door ingrepen die mensen geen problemen geven.\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/09\\\/10\\\/2019\\\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\\\/#breadcrumb\"},\"inLanguage\":\"nl-NL\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/09\\\/10\\\/2019\\\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"nl-NL\",\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/09\\\/10\\\/2019\\\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\\\/#primaryimage\",\"url\":\"http:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/wp-content\\\/uploads\\\/stopverkeersbord.jpg\",\"contentUrl\":\"http:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/wp-content\\\/uploads\\\/stopverkeersbord.jpg\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/09\\\/10\\\/2019\\\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Kunstmatige intelligentie laat zich erg makkelijk foppen\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/#website\",\"url\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/\",\"name\":\"Geleerd uitschot\",\"description\":\"Over wetenschap en ander vermaak\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"nl-NL\"},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/#\\\/schema\\\/person\\\/8c74e34597e3e2a46ff9b2fb8483fde2\",\"name\":\"arno s\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"nl-NL\",\"@id\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/bb84bca689a0564d3856b4db510b1c81bd818da9cf10a0ca85a6a84687de5ad3?s=96&d=blank&r=g\",\"url\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/bb84bca689a0564d3856b4db510b1c81bd818da9cf10a0ca85a6a84687de5ad3?s=96&d=blank&r=g\",\"contentUrl\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/bb84bca689a0564d3856b4db510b1c81bd818da9cf10a0ca85a6a84687de5ad3?s=96&d=blank&r=g\",\"caption\":\"arno s\"},\"sameAs\":[\"http:\\\/\\\/www.arnoschrauwers.nl\"]}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Kunstmatige intelligentie laat zich erg makkelijk foppen - Geleerd uitschot","description":"Kunstmatige intelligentie schijnt erg makkelijk te foppen te zijn door ingrepen die mensen geen problemen geven.","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.arnoschrauwers.nl\/weblog\/09\/10\/2019\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\/","og_locale":"nl_NL","og_type":"article","og_title":"Kunstmatige intelligentie laat zich erg makkelijk foppen - Geleerd uitschot","og_description":"Kunstmatige intelligentie schijnt erg makkelijk te foppen te zijn door ingrepen die mensen geen problemen geven.","og_url":"https:\/\/www.arnoschrauwers.nl\/weblog\/09\/10\/2019\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\/","og_site_name":"Geleerd uitschot","article_published_time":"2019-10-09T18:26:16+00:00","og_image":[{"url":"http:\/\/www.arnoschrauwers.nl\/weblog\/wp-content\/uploads\/stopverkeersbord.jpg","type":"","width":"","height":""}],"author":"arno s","twitter_misc":{"Geschreven door":"arno s","Geschatte leestijd":"2 minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/09\/10\/2019\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\/#article","isPartOf":{"@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/09\/10\/2019\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\/"},"author":{"name":"arno s","@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/#\/schema\/person\/8c74e34597e3e2a46ff9b2fb8483fde2"},"headline":"Kunstmatige intelligentie laat zich erg makkelijk foppen","datePublished":"2019-10-09T18:26:16+00:00","mainEntityOfPage":{"@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/09\/10\/2019\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\/"},"wordCount":360,"commentCount":0,"image":{"@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/09\/10\/2019\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\/#primaryimage"},"thumbnailUrl":"http:\/\/www.arnoschrauwers.nl\/weblog\/wp-content\/uploads\/stopverkeersbord.jpg","keywords":["gezichtsherkenning","misleiden","neurale netwerken","spraakherkenning"],"articleSection":["kunstmatige intelligentie","mensen","techniek"],"inLanguage":"nl-NL","potentialAction":[{"@type":"CommentAction","name":"Comment","target":["https:\/\/www.arnoschrauwers.nl\/weblog\/09\/10\/2019\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\/#respond"]}]},{"@type":"WebPage","@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/09\/10\/2019\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\/","url":"https:\/\/www.arnoschrauwers.nl\/weblog\/09\/10\/2019\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\/","name":"Kunstmatige intelligentie laat zich erg makkelijk foppen - Geleerd uitschot","isPartOf":{"@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/09\/10\/2019\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\/#primaryimage"},"image":{"@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/09\/10\/2019\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\/#primaryimage"},"thumbnailUrl":"http:\/\/www.arnoschrauwers.nl\/weblog\/wp-content\/uploads\/stopverkeersbord.jpg","datePublished":"2019-10-09T18:26:16+00:00","author":{"@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/#\/schema\/person\/8c74e34597e3e2a46ff9b2fb8483fde2"},"description":"Kunstmatige intelligentie schijnt erg makkelijk te foppen te zijn door ingrepen die mensen geen problemen geven.","breadcrumb":{"@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/09\/10\/2019\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\/#breadcrumb"},"inLanguage":"nl-NL","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.arnoschrauwers.nl\/weblog\/09\/10\/2019\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\/"]}]},{"@type":"ImageObject","inLanguage":"nl-NL","@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/09\/10\/2019\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\/#primaryimage","url":"http:\/\/www.arnoschrauwers.nl\/weblog\/wp-content\/uploads\/stopverkeersbord.jpg","contentUrl":"http:\/\/www.arnoschrauwers.nl\/weblog\/wp-content\/uploads\/stopverkeersbord.jpg"},{"@type":"BreadcrumbList","@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/09\/10\/2019\/kunstmatige-intelligentie-laat-zich-erg-makkelijk-foppen\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/www.arnoschrauwers.nl\/weblog\/"},{"@type":"ListItem","position":2,"name":"Kunstmatige intelligentie laat zich erg makkelijk foppen"}]},{"@type":"WebSite","@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/#website","url":"https:\/\/www.arnoschrauwers.nl\/weblog\/","name":"Geleerd uitschot","description":"Over wetenschap en ander vermaak","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.arnoschrauwers.nl\/weblog\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"nl-NL"},{"@type":"Person","@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/#\/schema\/person\/8c74e34597e3e2a46ff9b2fb8483fde2","name":"arno s","image":{"@type":"ImageObject","inLanguage":"nl-NL","@id":"https:\/\/secure.gravatar.com\/avatar\/bb84bca689a0564d3856b4db510b1c81bd818da9cf10a0ca85a6a84687de5ad3?s=96&d=blank&r=g","url":"https:\/\/secure.gravatar.com\/avatar\/bb84bca689a0564d3856b4db510b1c81bd818da9cf10a0ca85a6a84687de5ad3?s=96&d=blank&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/bb84bca689a0564d3856b4db510b1c81bd818da9cf10a0ca85a6a84687de5ad3?s=96&d=blank&r=g","caption":"arno s"},"sameAs":["http:\/\/www.arnoschrauwers.nl"]}]}},"_links":{"self":[{"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/posts\/10854","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/comments?post=10854"}],"version-history":[{"count":1,"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/posts\/10854\/revisions"}],"predecessor-version":[{"id":10856,"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/posts\/10854\/revisions\/10856"}],"wp:attachment":[{"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/media?parent=10854"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/categories?post=10854"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/tags?post=10854"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}