{"id":14859,"date":"2023-10-04T16:04:11","date_gmt":"2023-10-04T14:04:11","guid":{"rendered":"https:\/\/www.arnoschrauwers.nl\/weblog\/?p=14859"},"modified":"2023-10-04T16:04:11","modified_gmt":"2023-10-04T14:04:11","slug":"conclusies-ki-inzichtelijk-gemaakt","status":"publish","type":"post","link":"https:\/\/www.arnoschrauwers.nl\/weblog\/04\/10\/2023\/conclusies-ki-inzichtelijk-gemaakt\/","title":{"rendered":"Conclusies ki inzichtelijk gemaakt (?)"},"content":{"rendered":"

\"\"<\/a>Kunstmatige intelligentie wordt overal blijmoedig gebruikt, maar er zitten een hoop soms gevaarlijke en kwalijke haken en ogen aan die technologie. Zo verbruikt ki een immense hoeveelheid energie om zich zaken eigen te maken en is meestal volstrekt duister<\/a> hoe een ki-systeem tot een bepaalde conclusie is gekomen. Nu stellen een aantal onderzoeksinstituten in Duitsland een manier ontwikkeld te hebben<\/a> om te kunnen begrijpen hoe een ki-systeem tot een conclusie is gekomen.
\nDe wegen van ki-systemen zijn veelal duister en daar denken de onderzoekers iets op gevonden te hebben: de conceptrelevantievoortgang (CRP in angelsaksische afko). CRP zou niet alleen de factoren aangeven die belangrijk zijn geweest voor een bepaalde conclusie van een ki-systeem, maar ook weergeven hoe de gehanteerde concepten worden voorgesteld en welke delen van het neurale netwerk daarvoor verantwoordelijk zijn geweest.
\nDoor dit CRP-systeem zouden hele nieuwe normen worden gesteld voor het beoordelen van en de interactie met ki-systemen, stellen de onderzoekers. Dit lijkt me (=as) eerlijk gezegd het paard achter de wagen spannen, want waarom zou je ki-systemen niet inherent ’transparant’ maken in hun gang door de argumentatie?<\/p>\n

Maar goed, iets is beter dan niets. Met CRP zou het hele beslissingsproces voor een mens navolgbaar zijn geworden van gebruikte gegevens tot resultaat. De afgelopen jaren zouden de onderzoekers al diverse systemen op potmn hebben gezet om die redeneergang te kunnen volgen, zoals laagsgewijze relevantievoortgang (LRP), maar kennelijk voldeden die niet. CRP is een verbetering\/uitbreiding van, onder meer, LRP.<\/p>\n

Beeldherkenning<\/h2>\n

“Beeldherkenning door ki is een goed voorbeeld (van die verbetering, neem ik aan; as)”, zegt Wojciech Samek<\/a> van het Fraunhoferinstituut HMI en hoogleraar van de TU Berlijn. “Bij de invoer geeft CRP aan welke beeldpunten voor het systeem belangrijk zijn. Dat is een belangrijke stap om de conclusies te kunnen volgen, maar verklaart niet welk concept daarachter zit, waarom juist die beeldpunten belangrijk zijn.”
\n“CRP brengt de uitleg over van de invoerruimte, waar het beeld met al zijn pixels zich bevindt, naar de betekenisvolle conceptruimte, gevormd door hogere lagen van het neurale netwerk”, legt medeonderzoeker Sebastian Lapuschkin ietwat kryptisch uit. “CRP is de volgende fase in de navolgbaarheid van ki en geeft nieuwe mogelijkheden voor onderzoek, beoordeling en verbetering van ki-modellen.” Hij zegt dat hij het model graag op ChatGPT<\/a> zou willen uitproberen. Ga je gang, zou ik(=as) zeggen, maar begin bij het begin: maak ki-systemen die inherent navolgbaar zijn.
\n
\nBron: idw-online.de<\/a><\/em><\/p>\n","protected":false},"excerpt":{"rendered":"

Onderzoekers hebben een systeem ontwikkeld, CRP gedoopt, dat navolgbaar maakt hoe ki-systemen aan hun conclusies komen. Lees verder →<\/span><\/a><\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[4,425],"tags":[9505,8099,9504,1931,7282,7285],"class_list":["post-14859","post","type-post","status-publish","format-standard","hentry","category-energieprobleem","category-kunstmatige-intelligentie","tag-crp","tag-ki-systemen","tag-navolgbaar","tag-neurale-netwerken","tag-transparantie","tag-zwarte-doos"],"yoast_head":"\nConclusies ki inzichtelijk gemaakt (?) - Geleerd uitschot<\/title>\n<meta name=\"description\" content=\"Onderzoekers hebben een systeem ontwikkeld, CRP gedoopt, dat navolgbaar maakt hoe ki-systemen aan hun conclusies komen.\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.arnoschrauwers.nl\/weblog\/04\/10\/2023\/conclusies-ki-inzichtelijk-gemaakt\/\" \/>\n<meta property=\"og:locale\" content=\"nl_NL\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Conclusies ki inzichtelijk gemaakt (?) - Geleerd uitschot\" \/>\n<meta property=\"og:description\" content=\"Onderzoekers hebben een systeem ontwikkeld, CRP gedoopt, dat navolgbaar maakt hoe ki-systemen aan hun conclusies komen.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.arnoschrauwers.nl\/weblog\/04\/10\/2023\/conclusies-ki-inzichtelijk-gemaakt\/\" \/>\n<meta property=\"og:site_name\" content=\"Geleerd uitschot\" \/>\n<meta property=\"article:published_time\" content=\"2023-10-04T14:04:11+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-content\/uploads\/ChatGPT-1024x528.jpg\" \/>\n<meta name=\"author\" content=\"arno s\" \/>\n<meta name=\"twitter:label1\" content=\"Geschreven door\" \/>\n\t<meta name=\"twitter:data1\" content=\"arno s\" \/>\n\t<meta name=\"twitter:label2\" content=\"Geschatte leestijd\" \/>\n\t<meta name=\"twitter:data2\" content=\"3 minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/04\\\/10\\\/2023\\\/conclusies-ki-inzichtelijk-gemaakt\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/04\\\/10\\\/2023\\\/conclusies-ki-inzichtelijk-gemaakt\\\/\"},\"author\":{\"name\":\"arno s\",\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/#\\\/schema\\\/person\\\/8c74e34597e3e2a46ff9b2fb8483fde2\"},\"headline\":\"Conclusies ki inzichtelijk gemaakt (?)\",\"datePublished\":\"2023-10-04T14:04:11+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/04\\\/10\\\/2023\\\/conclusies-ki-inzichtelijk-gemaakt\\\/\"},\"wordCount\":401,\"commentCount\":0,\"image\":{\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/04\\\/10\\\/2023\\\/conclusies-ki-inzichtelijk-gemaakt\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/wp-content\\\/uploads\\\/ChatGPT-1024x528.jpg\",\"keywords\":[\"CRP\",\"ki-systemen\",\"navolgbaar\",\"neurale netwerken\",\"transparantie\",\"zwarte doos\"],\"articleSection\":[\"energieprobleem\",\"kunstmatige intelligentie\"],\"inLanguage\":\"nl-NL\",\"potentialAction\":[{\"@type\":\"CommentAction\",\"name\":\"Comment\",\"target\":[\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/04\\\/10\\\/2023\\\/conclusies-ki-inzichtelijk-gemaakt\\\/#respond\"]}]},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/04\\\/10\\\/2023\\\/conclusies-ki-inzichtelijk-gemaakt\\\/\",\"url\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/04\\\/10\\\/2023\\\/conclusies-ki-inzichtelijk-gemaakt\\\/\",\"name\":\"Conclusies ki inzichtelijk gemaakt (?) - Geleerd uitschot\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/04\\\/10\\\/2023\\\/conclusies-ki-inzichtelijk-gemaakt\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/04\\\/10\\\/2023\\\/conclusies-ki-inzichtelijk-gemaakt\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/wp-content\\\/uploads\\\/ChatGPT-1024x528.jpg\",\"datePublished\":\"2023-10-04T14:04:11+00:00\",\"author\":{\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/#\\\/schema\\\/person\\\/8c74e34597e3e2a46ff9b2fb8483fde2\"},\"description\":\"Onderzoekers hebben een systeem ontwikkeld, CRP gedoopt, dat navolgbaar maakt hoe ki-systemen aan hun conclusies komen.\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/04\\\/10\\\/2023\\\/conclusies-ki-inzichtelijk-gemaakt\\\/#breadcrumb\"},\"inLanguage\":\"nl-NL\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/04\\\/10\\\/2023\\\/conclusies-ki-inzichtelijk-gemaakt\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"nl-NL\",\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/04\\\/10\\\/2023\\\/conclusies-ki-inzichtelijk-gemaakt\\\/#primaryimage\",\"url\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/wp-content\\\/uploads\\\/ChatGPT.jpg\",\"contentUrl\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/wp-content\\\/uploads\\\/ChatGPT.jpg\",\"width\":1708,\"height\":1078,\"caption\":\"ChatGPT schijnt het druk te hebben (afb: blog ChatGPT)\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/04\\\/10\\\/2023\\\/conclusies-ki-inzichtelijk-gemaakt\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Conclusies ki inzichtelijk gemaakt (?)\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/#website\",\"url\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/\",\"name\":\"Geleerd uitschot\",\"description\":\"Over wetenschap en ander vermaak\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"nl-NL\"},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/www.arnoschrauwers.nl\\\/weblog\\\/#\\\/schema\\\/person\\\/8c74e34597e3e2a46ff9b2fb8483fde2\",\"name\":\"arno s\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"nl-NL\",\"@id\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/bb84bca689a0564d3856b4db510b1c81bd818da9cf10a0ca85a6a84687de5ad3?s=96&d=blank&r=g\",\"url\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/bb84bca689a0564d3856b4db510b1c81bd818da9cf10a0ca85a6a84687de5ad3?s=96&d=blank&r=g\",\"contentUrl\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/bb84bca689a0564d3856b4db510b1c81bd818da9cf10a0ca85a6a84687de5ad3?s=96&d=blank&r=g\",\"caption\":\"arno s\"},\"sameAs\":[\"http:\\\/\\\/www.arnoschrauwers.nl\"]}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Conclusies ki inzichtelijk gemaakt (?) - Geleerd uitschot","description":"Onderzoekers hebben een systeem ontwikkeld, CRP gedoopt, dat navolgbaar maakt hoe ki-systemen aan hun conclusies komen.","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.arnoschrauwers.nl\/weblog\/04\/10\/2023\/conclusies-ki-inzichtelijk-gemaakt\/","og_locale":"nl_NL","og_type":"article","og_title":"Conclusies ki inzichtelijk gemaakt (?) - Geleerd uitschot","og_description":"Onderzoekers hebben een systeem ontwikkeld, CRP gedoopt, dat navolgbaar maakt hoe ki-systemen aan hun conclusies komen.","og_url":"https:\/\/www.arnoschrauwers.nl\/weblog\/04\/10\/2023\/conclusies-ki-inzichtelijk-gemaakt\/","og_site_name":"Geleerd uitschot","article_published_time":"2023-10-04T14:04:11+00:00","og_image":[{"url":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-content\/uploads\/ChatGPT-1024x528.jpg","type":"","width":"","height":""}],"author":"arno s","twitter_misc":{"Geschreven door":"arno s","Geschatte leestijd":"3 minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/04\/10\/2023\/conclusies-ki-inzichtelijk-gemaakt\/#article","isPartOf":{"@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/04\/10\/2023\/conclusies-ki-inzichtelijk-gemaakt\/"},"author":{"name":"arno s","@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/#\/schema\/person\/8c74e34597e3e2a46ff9b2fb8483fde2"},"headline":"Conclusies ki inzichtelijk gemaakt (?)","datePublished":"2023-10-04T14:04:11+00:00","mainEntityOfPage":{"@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/04\/10\/2023\/conclusies-ki-inzichtelijk-gemaakt\/"},"wordCount":401,"commentCount":0,"image":{"@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/04\/10\/2023\/conclusies-ki-inzichtelijk-gemaakt\/#primaryimage"},"thumbnailUrl":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-content\/uploads\/ChatGPT-1024x528.jpg","keywords":["CRP","ki-systemen","navolgbaar","neurale netwerken","transparantie","zwarte doos"],"articleSection":["energieprobleem","kunstmatige intelligentie"],"inLanguage":"nl-NL","potentialAction":[{"@type":"CommentAction","name":"Comment","target":["https:\/\/www.arnoschrauwers.nl\/weblog\/04\/10\/2023\/conclusies-ki-inzichtelijk-gemaakt\/#respond"]}]},{"@type":"WebPage","@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/04\/10\/2023\/conclusies-ki-inzichtelijk-gemaakt\/","url":"https:\/\/www.arnoschrauwers.nl\/weblog\/04\/10\/2023\/conclusies-ki-inzichtelijk-gemaakt\/","name":"Conclusies ki inzichtelijk gemaakt (?) - Geleerd uitschot","isPartOf":{"@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/04\/10\/2023\/conclusies-ki-inzichtelijk-gemaakt\/#primaryimage"},"image":{"@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/04\/10\/2023\/conclusies-ki-inzichtelijk-gemaakt\/#primaryimage"},"thumbnailUrl":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-content\/uploads\/ChatGPT-1024x528.jpg","datePublished":"2023-10-04T14:04:11+00:00","author":{"@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/#\/schema\/person\/8c74e34597e3e2a46ff9b2fb8483fde2"},"description":"Onderzoekers hebben een systeem ontwikkeld, CRP gedoopt, dat navolgbaar maakt hoe ki-systemen aan hun conclusies komen.","breadcrumb":{"@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/04\/10\/2023\/conclusies-ki-inzichtelijk-gemaakt\/#breadcrumb"},"inLanguage":"nl-NL","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.arnoschrauwers.nl\/weblog\/04\/10\/2023\/conclusies-ki-inzichtelijk-gemaakt\/"]}]},{"@type":"ImageObject","inLanguage":"nl-NL","@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/04\/10\/2023\/conclusies-ki-inzichtelijk-gemaakt\/#primaryimage","url":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-content\/uploads\/ChatGPT.jpg","contentUrl":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-content\/uploads\/ChatGPT.jpg","width":1708,"height":1078,"caption":"ChatGPT schijnt het druk te hebben (afb: blog ChatGPT)"},{"@type":"BreadcrumbList","@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/04\/10\/2023\/conclusies-ki-inzichtelijk-gemaakt\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/www.arnoschrauwers.nl\/weblog\/"},{"@type":"ListItem","position":2,"name":"Conclusies ki inzichtelijk gemaakt (?)"}]},{"@type":"WebSite","@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/#website","url":"https:\/\/www.arnoschrauwers.nl\/weblog\/","name":"Geleerd uitschot","description":"Over wetenschap en ander vermaak","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.arnoschrauwers.nl\/weblog\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"nl-NL"},{"@type":"Person","@id":"https:\/\/www.arnoschrauwers.nl\/weblog\/#\/schema\/person\/8c74e34597e3e2a46ff9b2fb8483fde2","name":"arno s","image":{"@type":"ImageObject","inLanguage":"nl-NL","@id":"https:\/\/secure.gravatar.com\/avatar\/bb84bca689a0564d3856b4db510b1c81bd818da9cf10a0ca85a6a84687de5ad3?s=96&d=blank&r=g","url":"https:\/\/secure.gravatar.com\/avatar\/bb84bca689a0564d3856b4db510b1c81bd818da9cf10a0ca85a6a84687de5ad3?s=96&d=blank&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/bb84bca689a0564d3856b4db510b1c81bd818da9cf10a0ca85a6a84687de5ad3?s=96&d=blank&r=g","caption":"arno s"},"sameAs":["http:\/\/www.arnoschrauwers.nl"]}]}},"_links":{"self":[{"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/posts\/14859","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/comments?post=14859"}],"version-history":[{"count":1,"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/posts\/14859\/revisions"}],"predecessor-version":[{"id":14863,"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/posts\/14859\/revisions\/14863"}],"wp:attachment":[{"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/media?parent=14859"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/categories?post=14859"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.arnoschrauwers.nl\/weblog\/wp-json\/wp\/v2\/tags?post=14859"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}