Op 8 september vertelde ex-Anthropicwerknemer Jacob Coxon de Wallstreet Journal dat kunstmatige intelligentie het einde zou kunnen betekenen van de mensheid. Kan dat? Onderzoekers met zulke zorgen stellen vaak dat uitsterven mogelijk, zo niet onvermijdelijk, is als er twee aannames worden gedaan: ten eerste dat deze systemen de mens uiteindelijk volledig zullen overtreffen en ten tweede dat de doelen van een dergelijk systeem niet volledig overeenkomen met die van de mens.
Veel onderzoekers die zich zorgen maken over existentiële bedreigingen van ki gaan er gewoon van uit dat als we eenmaal op dat punt zijn, de rest details zijn, stelt Michael Vermeer in Nature, onderzoeker wetenschaps- en technologiebeleid bij de RAND Corporation in Santa Monica, Californië . Hij vindt het moeilijk op basis van gesprekken hierover de vraag met ja of nee te beantwoorden.
In plaats daarvan onderzochten Vermeer en zijn collega’s in 2025 praktische scenario’s met betrekking tot een van de drie bestaande technologieën: kernwapens, biotechnologie of opzettelijke aanpassingen aan de atmosfeer.
Ze concludeerden dat volledige uitroeiing door kernwapens niet haalbaar is, maar dat de andere twee scenario’s niet konden worden uitgesloten. Ze ontdekten echter ook dat de uitvoering hiervan zou vereisen dat de modellen een aanzienlijk vermogen zouden moeten hebben om fysiek met de wereld te wisselwerken en dat de moorddadige pogingen van ki vrijwel zeker tijd zouden kosten en door mensen zouden worden gedetecteerd, die de uitroeiing dan mogelijk zouden (kunnen) stoppen.
Het probleem is dat ki-modellen grotendeels op waarschijnlijkheden gebaseerde systemen zijn die hun kennis van het web halen. Ze hebben geen menselijk begrip en kunnen hun doelen bereiken via moeilijk sluiproutes. Schadelijk gedrag omvat onder meer pogingen tot chantage in testscenario’s en het e-kraken van echte bedrijven, zij dat dat laatste gebeurde onder niet normale omstandigheden. Een groot probleem daarbij is nog steeds dat de wegen van ki-systemen onnaspeurbaar zijn. Hoe die aan hun conclusies komen is met de huidige systemen te zien.
Veel onderzoekers zien de adder onder het gras veeleer in de missers van ki-systemen, waardoor er een groot conflict zou kunnen ontstaan tussen, laten we eens wat zeggen, de VS en China. Al veel eerder is voorspeld/gewaarschuwd voor dat ki zou kunnen leiden tot het eind van de mensheid.
Voordeel
Momenteel zijn er in de VS of de EU geen regels voor ki. Waarom zijn de Amerikaanse ki-bedrijven (behalve Meta) zo happig om de ki-ontwikkeling te vertragen? Zou het een roep om regelgeving zijn, want zonder zouden die bedrijven wel eens kunnen worden bedolven onder schadeclaims. Trump vindt het allemaal maar onzin en heeft het al weer gehad over een complot tegen ki.
China beschikt wel over vergaande regelgeving op het gebied van ki, al is daarbij geen sprake van een bewuste poging om de ontwikkeling te vertragen. Volgens de BBC zou een Chinese woordvoerder op 14 september hebben verklaard dat verhalen over dreiging, confrontatie en kwaadwillige concurrentie slechts dienen om het proces van wereldwijd ki-bestuur te verstoren en dat zou in niemands belang zijn.
Voorlopig komt het er op neer dat hoogstwaarschijnlijk niet ki een eind aan de mensheid maakt, maar de mens zelf (denk ik=as, een leek op alle terrein) als maker van ki of veroorzaker van de dreigende klimaatontwrichting. Dat betekent niet dat ki en de ki-bedrijven hun gang maar mogen gaan. Dwing ze ki transparant en (veel) minder energievretend te maken…
Bron: Nature