Demis Hassabis van DeepMind: AI baart zorgen

Demis Hassabis, de CEO van Google DeepMind, heeft zijn bezorgdheid geuit over de ontwikkeling van krachtige AI-systemen en pleit voor striktere waarborgen voordat deze breed worden ingezet. Deze oproep komt op een moment dat de AI-wetgeving in Europa, de AI Act, in verschillende fasen in werking treedt. Deze wetgeving moet de innovatie stimuleren, terwijl de risico’s van AI-technologieën tijdig worden ingedamd.

In zijn visie is samenwerking tussen bedrijven, wetenschappers en toezichthouders essentieel. Hassabis wijst op de noodzaak van grondige tests voor zogenaamde frontiermodellen, waaronder generatieve systemen en autonome agenten. Hij benadrukt het belang van onafhankelijke evaluaties en transparantie door middel van vaste benchmarks en rapportages, evenals duidelijke noodprocedures voor onvoorziene gedragingen van systemen. Dit sluit aan bij de Europese stippen op verantwoordelijk en transparant gebruik van AI.

De AI-verordening legt bedrijven - inclusief Google DeepMind - plichten op, zoals het documenteren en beperken van risico's van AI-toepassingen. Dit vraagt om meer openheid over de modellen die in Europa worden aangeboden en houdt rekening met auteursrechten en privacy. Voor Nederlandse overheden betekent dit een duidelijk kader voor inkoop en gebruik van AI, inclusief vereisten voor impactanalyses en toezicht.

Hassabis onderstreept dat veiligheid een belangrijk aspect is bij de ontwikkeling van AI-modellen. Google DeepMind investeert in technieken zoals watermerken voor gegenereerde beelden en audio om transparantie te waarborgen. Tegelijkertijd brengt dit de uitdaging met zich mee van het waarborgen van open wetenschap versus gesloten productontwikkeling. In Nederland hebben universiteiten en medische instellingen inmiddels Alfold en de bijbehorende database geïntegreerd in hun onderzoek, wat leidt tot snellere innovaties in de biomedische sector.

Er is echter bezorgdheid over de invloed van grote techbedrijven op de regelgeving en de impact daarvan op kleinere bedrijven. De Europese Commissie streeft naar een balans tussen innovatie en toezicht, wat belangrijke implicaties heeft voor de toekomst van AI-toepassingen. De oproep van Hassabis voor transparantie, robuustheid en verantwoord gebruik van AI is dus kritischer dan ooit.

Lees het volledige artikel van AI Insider.