Yoshua Bengio (2019) (afb: WikiMedia Commons)
Je wordt doodgegooid met kunstmatige intelligentie, maar die tak van sport is voornamelijk het domein van de toch al dominante techbedrijven en dreigt alle plannen voor een duurzame(re) energievoorziening te torpederen. Nu lijkt er in Canada een ki-onderzoeker te zijn die de ki terug wil snijden naar de menselijke maat. Informaticus Yoshua Bengio van de universiteit van Montréal heeft het bedrijf LoiZero (LawZero oftewel wet nul) opgezet om te voorkomen dat ki-bots de mens kwaad doen.Het is natuurlijk niet verwonderlijk als ki-systemen (grote taalmodellen zoals ChatGPT) die worden gevoed met menselijke voortbrengsels, zich uiteindelijk net zo zullen gedragen als mensen, met alle opzichtige gevaren die daarmee verbonden zijn.
Bengio won in 2018 de belangrijke Turingprijs en is in Montréal wetenschappelijk directeur van het instituut voor ki. Hij zou een van de ontwikkelaars van het leerproces voor ki-systemen zijn geweest, maar waarschuwt ook voor de gevaren die kleven aan het gebruik van die technologie. LoiZéro zou ki moeten ontwikkelen die zich niet tegen de mens keert en die niet gebruikt kan worden voor vernietiging (van wat dan ook, inclusief de mens).
Daarvoor heeft hij een bedrijf opgezet zonder winstoogmerk dat dat soort ‘ingeperkte’ ki moet ontwikkelen. De naam van de organisatie is een verwijzing naar de intenties. Nulwet refereert aan de eerste wet van de robotica van romanschrijver Isaac Asimov: Een robot mag een mens geen kwaad doen. De nulde wet is breder: Een ki-systeem mag de mensheid geen kwaad doen.
Geen kletsbots
LoiZéro gaat geen grote taalmodellen of kletsbots ontwikkelen maar oplossingen zoeken voor het ontwerpen van veilige ki-systemen. De wetenschappelijke aanpak is gebaseerd op eigen onderzoek. Volgens LoiZéro moet ki worden beschouwd als een wereldwijd publiek goed, dat veilig ontwikkeld en gebruikt moet (kunnen) worden om de mens ten goede te komen. Ik(=as) ben benieuwd. Over het waanzinnige energieverbruik van ki (dat heeft vooral met het ‘leren’ te maken) zie ik niets in de aankondigingen (maar wel in het rapport over de gevaren/problemen van ki).
Bron: le Monde