Regulering AI-ontwerp virussen nadrukkelijk gewenst

Een recent onderzoek door een internationaal team heeft geleid tot de creatie van zestien nieuwe virussen met behulp van een AI-systeem. Dit systeem genereerde unieke DNA-sequenties, die theoretisch in een laboratorium kunnen worden vervaardigd. Deze ontwikkeling heeft een stevige roep om strengere regulaties voor wetenschappers die met dergelijke algoritmen werken, op gang gebracht. Beleidsmakers in Europa en Nederland verlangen duidelijkheid over bioveiligheidsnormen en toezicht.

Het team maakte gebruik van een generatief model, dat nieuwe data kan creëren op basis van bestaande voorbeelden. Door bekende virusgenomen te analyseren, produceerde het model varianten met vergelijkbare structuren. Hoewel de door het model gegenereerde sequenties niet noodzakelijkerwijs daadwerkelijk ziekten veroorzaken, roept de eenvoudiger toegang tot laboratoriumtechnieken en goedkope DNA-synthese vragen op over de noodzaak van striktere onderzoekseisen. De onderzoekers stippen aan dat de publicatie van hun code en datasets mogelijk wetenschappelijk nut heeft, maar ook het risico op misbruik door kwaadwillenden vergroot.

Er zijn inmiddels duidelijke oproepen voor het vaststellen van richtlijnen en regels rond publicatie en datasetkeuze om de risico's van gevaarlijke outputs te beperken. Voorstanders van een vergunningsplicht voor AI-systemen die pathogenen kunnen ontwerpen pleiten voor intensievere controles, zoals onafhankelijke veiligheidschecks en striktere toetsing door peer reviewers. Diegenen die tegen regulering zijn, wijzen op het risico dat nuttig onderzoek, zoals ontwikkelingsprojecten voor vaccins, vertraagd wordt. De consensus groeit echter dat generatieve algoritmen nieuwe risico's met zich meebrengen die aangepaste beleidsmaatregelen vereisen.

De invoering van de Europese AI-verordening (AI Act) gaat verder en introduceert eisen voor risicobeheer en datagovernance in omgevingen met hoge risico’s. De toepasbaarheid van deze wet op bio-ontwerpsoftware blijft echter onduidelijk. Binnen Nederland is er ondersteuning voor het uitbreiden van bestaande bioveiligheidsstructuren met AI-specifieke eisen en een verzoek tot DNA-screening door syntheseleveranciers. De samenwerking tussen verschillende ministeries en instanties is essentieel om richtlijnen en controlemechanismen op te stellen die aansluiten bij snel veranderende technologieën en om risico’s te beperken.

Tot slot is er een groeiende noodzaak aan internationale afstemming in de omgang met AI-gestuurde biotechnologie. Samenwerking tussen regio’s zoals de EU en de VS kan helpen bij het ontwikkelen van uniforme standaarden om zo het risico op misbruik over grenzen heen te beperken.

Lees het volledige artikel van AI Insider.