Ki-systemen veiliger laten programmeren voor wetenschappelijk gebruik

Terok

Terok moet programmeurs helpen bij veiliger maken van de code (afb: A. Knüpfer/CASUS)

Grote taalmodellen (LLM’s in Engelse afko) worden al veelvuldig gebruikt voor programmeerwerk. Mogelijkheden zoals het uitvoeren van de gemaakte code of het manipuleren van bestanden zouden de productiviteit nog verder verhogen, schrijft het Helmholtzcentrum. Ki-systemen (vaak ‘agenten’ of ‘agents’ genoemd) die dit kunnen, bestaan ​​al. Die hebben echter beperkingen, met name op het gebied van beveiliging en gegevensbescherming, wat hun wijdverspreide toepassing in de academische wereld en het bedrijfsleven belemmert. Onderzoekers van het Helmholtzcentrum Dresden-Rossendorf (HZDR) ontwikkelden Terok dat programmeurs helpt om het resultaat veiliger te maken. Lees verder

De hartewensen van een groot ki-bedrijf zijn knap eng

Alex Karp

Alex Karp schreef ‘De technologische republiek’ (afb: WikiMedia Commons)

Aangezet door Futura-Sciences zag ik op X een onmogelijke boodschap van het Amerikaanse techbedrijf Palantir dat vooral voor inlichtingendiensten en legers werkt. “Kom op tegen de tirannie van de toepassingen”, stond daar onder meer, kreten overgenomen uit het boek ‘De technologische republiek’ van medeoprichter Alex Karp. Dat zette me op het verkeerde been. Op X staan 22 regels/doelen in het (uitgebreide) bericht en al lezende zag ik dat Karp geen luddiet is die de huidige technologieoverheersing wil beëindigen, maar eerder lijkt te willen dat de technologie de boel maar overneemt, inclusief de oorlogen (waarbij ki bepaalt wie je vijand is). Lees en huiver van een exponent uit de ooit zo hoog geprezen Siliciumvallei. Hij schijnt een van de honderd invloedrijkste mensen ter wereld te zijn. Lees verder

Wordt de ‘zwarte doos’ van ki ontraadseld?

Kunstmatige intelligentieHet is natuurlijk heel raar dat ki-systemen vrijwel ondoorzichtig zijn, een zwarte doos. Dat heeft naar mijn(=as) beschei-den mening alles te maken met de makers. Was/is dat onkunde of opzet? Geen idee, maar hoe ki-systemen tot een ‘besluit’ komen was niet te volgen, terwijl er wel degelijk transparante ki-systemen zijn te ontwikkelen. Het lijkt er op dat er nu een groepje wetenschappers die een methode heeft ontwikkeld op grote taalmodellen, een momenteel veel gebruikte vorm van kunstmatige intelligentie, ‘open te breken’, maar is het niet zinnig te eisen dat ki-systemen antwoord kunnen geven op de vraag hoe ze tot een bepaalde beslissing zijn gekomen.

Lees verder

Een programma maken: ki kan de was doen

Claude Code is een ki-systeem waarmee je kunt programmeren. Het is in mei gepresenteerd door Anthropic en schijnt al fiks gebruikt te worden. Daarmee kunnen ‘sukkels’ die geen enkele programmeertaal beheersen programma’s maken. Claude Code is overigens niet het enige programmeersysteem. Zo heb je ook Base44 en Cursor. Je moet daar wel voor betalen. Het schijnt dat e-krakers er al gebruik van maken. Maak je borst maar vast nat.

Bron: New York Times

Trump heeft wetenschap VS in een wurgende greep

Grote Broer

Grote Broer kijkt mee (en meer dan dat) (afb: WikiMedia Commons)

De Amerikaanse president Donald Trump heeft weinig op met wetenschap en is bezig alle wetenschap, en dat is nogal veel, die hem niet bevalt de mond te snoeren of dwars te zitten. Onderwijl maakt hij, samen met zijn kompaan Elon Musk, de VS steeds meer tot een politiestaat. Lees verder

Digitale computer is nog (lang?) niet verslagen door de kwantumneef

Opsluiting

Opsluiting zou de oorzaak zijn dat een kwantumprobleem makkelijk is op te lossen met een digitale computer (afb: Flatironinstituut)

Telkens als de kwantumcomputer ter sprake komt gaat het over verbazing-wekkende dingen die zo’n kwantum-rekentuig kan, maar de vraag is of die hoge verwach-tingen ook echt uitkomen (en ten koste van wat?). Nu duikt er een verhaal op waar de aloude digitale het kwantumgenie heeft verslagen. Hoe een klassiek rekentuig een kwantumcomputer versloeg in zijn eigen terrein. Lees verder

Komt DNA als bitsopslagmateriaal in beeld

DNA-methylering

DNA-methylering

Al vaker is in dit blog DNA opgevoerd als materiaal om informatie voor zeer lange tijd op te slaan, maar dat leek (mij=as) vaak meer een geintje dan serieuze werkelijkheid. Nu schijnen onderzoeksters er in geslaagd te zijn DNA als opslagmateriaal ietwat praktischer gemaakt te hebben. Lees verder

Kan een computer bewustzijn krijgen? Liever niet, zegt Wanja Wiese

Wanja Wiese

Wanja Wiese (afb: RUB, Marquard)

Niemand weet hoe bewustzijn ontstaat en het is natuurlijk intrigerend om te bedenken dat alle leven op aarde, wat simplistisch gesteld, een min of meer complexe vorm van een chemische fabriek is. Hoe kunnen al die chemische reacties met hun natuurkundige ‘bijwerkingen’ die die veroorzaken bewustzijn opleveren? Dan zou dat besef (bewustzijn) ook kunnen ontstaan in een ander systeem als dat maar complex genoeg is. Wanja Wiese heeft onderzocht aan welke voorwaarden zo’n systeem moet voldoen. Hij wil voorkomen dat ki-systemen ‘per ongeluk’ zelfbewust zouden worden. Lees verder

Wordt het nog wat met dat biorekentuig?

Kweekhersentjes

Je kunt (nu nog minuscule) hersenorgaantjes kweken uitgaande van stamcellen

In New Scientist staat een verhaal over onderzoekers die een soort biocomputer hebben gemaakt van hersencellen van muizen, maar ik heb geen abonnement (en kan het niet lezen). Op de stek van scientias.nl wordt heel blij gemeld dat het niks wordt met kunstmatige intelligentie. Het zou orgaanintelligentie worden (oi ipv ki). Dat zegt auteur Vivian Lammerse op gezag van onderzoekers die in het blad Frontiers in Science de vergezichten en vooruitzichten van oi schetsen (“een nieuwe frontlijn”). Lees verder

Ook rekenmodellen kunnen aantal proefdieren verminderen

Stop dierproeven

Actie tegen dierproeven (afb: openverse)

Al jaren proberen dierenbeschermers het gebruik van proefdieren terug te dringen, maar voorlopig worden er vooral bij geneeskundig en farmaceutisch onderzoek nog steeds veel proefdieren ‘verbruikt’

, vooral ratten en muisjes. Kweekorgaantjes en organen-op-chip kunnen het proefdiergebruik terugdringen, maar er zijn ook informatische hulpmiddelen zoals rekenmodellen die de proefdieren minder noodzakelijk maken. De Amerikaanse gezondheidsautoriteiten stellen dierproeven niet langer verplicht voor het testen van (kandidaat)medicijnen. Lees verder