Terok moet programmeurs helpen bij veiliger maken van de code (afb: A. Knüpfer/CASUS)

Grote taalmodellen (LLM’s in Engelse afko) worden al veelvuldig gebruikt voor programmeerwerk. Mogelijkheden zoals het uitvoeren van de gemaakte code of het manipuleren van bestanden zouden de productiviteit nog verder verhogen, schrijft het Helmholtzcentrum. Ki-systemen (vaak ‘agenten’ of ‘agents’ genoemd) die dit kunnen, bestaan ​​al. Die hebben echter beperkingen, met name op het gebied van beveiliging en gegevensbescherming, wat hun wijdverspreide toepassing in de academische wereld en het bedrijfsleven belemmert. Onderzoekers van het Helmholtzcentrum Dresden-Rossendorf (HZDR) ontwikkelden Terok dat programmeurs helpt om het resultaat veiliger te maken.
Ki-ondersteund programmeren is een nieuwe technologie die snel is geaccepteerd in de academische wereld en het bedrijfsleven. In een ‘kletsbotmodus’ (we hebben het dan over GPT-achtige systemen die eerst geïnstrueerd moeten worden) communiceert de programmeur met een taalmodel. Gebruikers moeten aanwijzingen formuleren om de gewenste code van het taalmodel te ontvangen. Deze code moet vervolgens van de bot naar het programmatuurproject worden overgezet.
Agentgebaseerde programmeerassistenten zijn krachtiger. Die kunnen code schrijven, maar ook zelfstandig bestanden lezen, code uitvoeren en reageren op de resultaten van deze acties. De aanpak is vergelijkbaar met die van een mens. Gebruikers die met deze programmeerassistenten werken, melden dat er daarbij weinig behoefte is aan gebruikersinteractie, aangezien die ki-‘agenten’ autonoom (kunnen) werken en zichzelf corrigeren.
“In de programmeerwereld woedt momenteel een debat over hoe om te gaan met agentgebaseerde programmeerassistenten”, zegt Andreas Knüpfer, hoofd van de CASUS Scientific Computing Core-groep. “De meningen lopen uiteen van ‘Het is ronduit slecht en niemand zou er aan moeten komen’ tot ‘Morgen worden alle programmeurs vervangen door ki’. Wij delen geen van beide extreme standpunten.”

De SCC-onderzoekers zagen het enorme potentieel voor programmeren in het algemeen en voor wetenschappelijk programmeren in het bijzonder. Het gebruik van bestaande ki-agenten voor praktijktoepassingen in de wetenschap was echter geen optie. Agentgebaseerde ki-systemen presteren het best wanneer de ki-agent grotendeels zonder beperkingen opereert.
Dit maakt ze echter kwetsbaar voor sabotage of storingen. In het eerste geval kunnen gevoelige gegevens, zoals wachtwoorden, worden gestolen. In het tweede geval kunnen de agenten belangrijke gegevens verwijderen. Terok pakt daarom een ​​lange lijst van potentiële kwetsbaarheden aan die in het verleden actief zijn misbruikt.

“Om het potentieel van deze nieuwe ki-agentmodus volledig te benutten, moeten we gegevens uit de praktijk van relevante projecten kunnen gebruiken”, zegt hoofdontwikkelaar Jiří Vyskočil. “We wilden verschillende LLM’s en programmeermiddelen kunnen vergelijken op hun geschiktheid voor verschillende programmeertaken, hun potentieel en hun valkuilen. Daarom zijn we eind 2025 begonnen met de ontwikkeling van Terok.”

Blablador

Terok is een open-bronproduct dat een reeks extra beveiligingsfuncties kent om het gedrag van de ki-agenten op lokale apparatuur te controleren. Het stelt gebruikers in staat om te schakelen tussen verschillende taalmodellen waartoe ze toegang hebben. “Ongeacht welke LLM of agent wordt gebruikt, Terok biedt bescherming”, legt Vyskočil uit. Toonaangevende commerciële ki-systemen zoals Claude van Anthropic, maar ook agenten uit de academische sector in Duitsland, zoals Blablador van het Helmholtzcentrum en KISSKI Chat AI, zijn direct gebruiksklaar.

“Terok kan worden beschouwd als een vangnet voor agentgebaseerde ki”, zegt Knüpfer. “Als jong academisch project in een snel ontwikkelend vakgebied is het zeker nog niet volledig volwassen en compleet, maar het maakt een groot verschil vergeleken met het naïeve gebruik van agentgebaseerde taalmodellen op een eigen rekentuig zonder zo’n netwerk. Gebruikers kunnen nu eindelijk leren hoe al deze verschillende LLM’s van elkaar verschillen qua mogelijkheden en de kosten voor specifieke taken. Voor ons team is Terok als de sleutel tot een avontuurlijke speeltuin die voorheen ontoegankelijk was.”

Bron: idw-online.de