EU stimuleert Europese generatieve AI: kansen voor TNO, ChatGPT en Google

Nederlandse overheden hebben de handen ineengeslagen om generatieve AI-oplossingen te verkennen en te testen in het kader van het initiatief Digitale Overheid. Dit programma, geïnitieerd in Den Haag, bevat participatie van het rijk, gemeenten en uitvoerende instanties. De focus ligt op proefprojecten en het ontwikkelen van inkoopkaders die tegemoetkomen aan publieke waarden en voldoen aan de AVG en de Europese AI-verordening. De nadruk ligt op een veilige inzet van technologie met duidelijke implicaties voor de overheid.

Het initiatief stimuleert het gebruik van generatieve systemen van Europese aanbieders, met als hoofddoel het vergroten van datasoevereiniteit. Door gegevens binnen Europa en onder Europees recht te houden, wordt de afhankelijkheid van niet-Europese platforms verminderd. Er zijn verschillende Europese spelers actief, zoals Mistral AI en Aleph Alpha, die taalmodellen aanbieden die geschikt zijn voor taken als tekstsamenvatting en -generatie. De overheid onderzoekt hoe dergelijke oplossingen kunnen bijdragen aan haar taken en welke eisen daarbij gelden.

De nieuwe Europese AI-verordening zal eisen stellen aan zowel de modellen als de praktijken die overheden in de publieke dienstverlening hanteren. Van generatieve basismodellen wordt verwacht dat zij documentatie en veiligheidsmaatregelen leveren. Daarnaast dient er menselijk toezicht te zijn op toepassingen, vooral wanneer zij in de risicocategorieën vallen. Voor contact met burgers wordt voorzichtig omgegaan met AI-toepassingen, waarbij heldere richtlijnen en waarschuwingen noodzakelijk zijn om transparantie te waarborgen.

Bij inkoopprocessen zullen overheden strenge eisen stellen aan beveiliging en prestaties, waarmee leveranciers verplicht worden om modelkaarten en auditrechten te verstrekken. De focus op herleidbaarheid en stabiliteit bij generatieve modellen is essentieel om vertrouwen in het gebruik ervan op te bouwen. Samenwerking en kennisdeling binnen het programma Digitale Overheid is cruciaal, zodat ervaringen en best practices van pilots kunnen worden gedeeld en de consistentie met de AI-verordening gewaarborgd blijft. Hierdoor kunnen generatieve systemen bijdragen aan een snellere en begrijpelijkere dienstverlening aan burgers, waarbij de transparantie en inclusiviteit gewaarborgd zijn.

Lees het volledige artikel van AI Insider.