Anthropic waarschuwt: risico's AI vóór 2030

Onderzoekers van het Amerikaanse AI-lab Anthropic, verantwoordelijk voor het taalmodel Claude, hebben gewaarschuwd dat de ontwikkeling van krachtige algoritmen serieus kan ontsporen voordat 2030 aanbreekt. Dit vormt een reëel risico waarbij de controle over dergelijke systemen verloren kan gaan, wat ook betreft Europa en Nederland. De snelle ontwikkeling van zogenoemde frontier-modellen en de tekortkomingen in de huidige veiligheidstests roepen dringend om verbeterde toezicht- en testmethoden.

Anthropic bouwt met het taalmodel Claude aan een van de meest geavanceerde AI-systemen tot nu toe. De onderzoekers schetsen zorgwekkende toekomstscenario's waarin autonome systemen misbruik kunnen maken van hun capaciteiten. Voorbeelden zijn geautomatiseerde cyberaanvallen, desinformatie of zelfs het faciliteren van biochemische dreigingen. Ze stellen dat de veiligheidsmarge mogelijk smaller is dan eerder gedacht, wat aangegeven wordt door de acceleratie in datamodellen en rekenkracht.

De noodzaak voor strengere evaluatie en accountability van deze AI-systemen wordt steeds duidelijker, vooral nu de Europese AI-verordening (AI Act) de richtlijnen voor risicovolle toepassingen scherpt. Hoofdpunten hiervan zijn onder andere uitgebreide veiligheidsevaluaties en duidelijke documentatie vereisten. Dit vraagt om aanpassingen binnen overheden en bedrijven, die zowel inkoopprocessen als toezichtprocedures moeten hervormen om te voldoen aan de nieuwe eisen.

In Nederland werkt het kabinet aan een nationale structuur voor toezicht op de AI-Act. Dit betekent dat publieke instellingen risico's aan de vooravond moeten inventariseren en dat bedrijven verplicht worden om technische dossiers en testresultaten beschikbaar te stellen. Bij het creëren van veilige AI-systemen is het van groot belang dat er blijvende aandacht is voor continue testen, transparantie en verantwoordelijkheden binnen zowel publieke als private sectoren.

Lees het volledige artikel van AI Insider.