AI ontwerpt nieuwe virussen: doorbraak maar groot risico

Onderzoekers in Europa en de Verenigde Staten zetten generatieve AI in om nieuwe virale varianten te ontwerpen binnen gecontroleerde laboratoria. Deze innovatieve aanpak heeft als doel het versnellen en goedkoper maken van vaccins, gentherapie en algemeen virusonderzoek. Echter, er zijn ook groeiende zorgen omtrent misbruik en de veiligheid van deze technologie. Dit brengt de Europese AI-verordening (AI Act) en nationale biosecurityregels in het vizier van universiteiten, ziekenhuizen en overheden.

Generatieve AI leert uit bestaande data en kan nieuwe DNA- of eiwitsequenties ontwerpen, wat de snelheid en efficiëntie van het virusontwerp vergroot. Voorbeelden van technologieën zijn onder meer ESM-3 van EvolutionaryScale en RFdiffusion van de University of Washington. Ondanks de veelbelovende vooruitgang blijven de resultaten voorlopig experimenteel en beperkt tot labtests. Er zijn steeds mogelijks stabiliteits- en functionaliteitsissues. De focus ligt momenteel op het versnellen van het identificeren van kansrijke onderzoeksrichtingen, in plaats van het ontwikkelen van een automatische virusbouwer.

Het dual-use karakter van virusonderzoek, waarbij kennis zowel voor goede als slechte doeleinden kan worden aangewend, zorgt voor strenge bioveiligheidsnormen. Toezichthouders zijn bezorgd over de mogelijkheid dat toegang tot geavanceerde AI-modellen en DNA-synthese te gemakkelijk wordt. Daarom houden instellingen als het Erasmus MC en het Rega Instituut zich aan strikte protocollen en vergunningseisen. Om de risico's te beperken, is er verhoogde controle over toegang tot deze technologieën, waarbij strenge eisen gesteld worden aan de identiteit en doeleinden van gebruikers.

De Europese AI-verordening legt verplichtingen op aan aanbieders van AI-systemen, vooral die met systemische risico's. Daarnaast is er Europese exportcontrole die software en cloudtoegang kan reguleren indien deze bepalend zijn voor het ontwerpen van biologische agentia. De verschuiving van "kan het?" naar "mag het, en hoe dan wel?" benadrukt de noodzaak van ethische overwegingen en juridische afstemming in innovaties rond virusontwerp. Dit alles wijst op een toekomst waarin de balans tussen medische vooruitgang en biosecurity cruciaal zal zijn.

Lees het volledige artikel van AI Insider.