Italiaanse gemeente zet AI-wethouder in met ChatGPT

Een Italiaanse gemeente is deze maand gestart met een bijzondere pilot: de inzet van een ‘AI‑wethouder’. Dit digitale adviessysteem is ontworpen om beleidsstukken op te stellen, opties te vergelijken en bestuurders te ondersteunen bij hun besluitvorming. Doel van deze proef is om het werk van de gemeente te versnellen en te stroomlijnen, terwijl ook de sterke vereisten van de Europese AI-wetgeving en de Algemene Verordening Gegevensbescherming (AVG) in acht worden genomen.

De AI-wethouder fungeert niet als besluitvormer, maar als een geavanceerd hulpmiddel dat conceptnotities kan genereren en voor- en nadelen van maatregelen in kaart kan brengen. Bij deze pilot blijft de eindverantwoordelijkheid bij wetgevende en ambtelijke medewerkers, die de adviezen van de AI controleren en indien nodig aanpassen. Dit ‘mens-in-de-lus’-principe sluit aan bij de Europese beleidslijnen die menselijke controle over technologie vereisen.

De gemeente heeft taken en verantwoordelijkheden van de AI duidelijk afgebakend. Deze mag enkel adviserend functioneren en noot geen bestuurlijke besluiten nemen zoals het afwijzen van vergunningen of het toekennen van uitkeringen. Om de transparantie te waarborgen, worden adviezen voorzien van bronvermeldingen en worden versies van documenten bijgehouden. De verantwoordelijkheid voor fouten ligt bovendien bij de gemeente en niet bij het algoritme, wat belangrijk is in het kader van de bestaande bestuursrechtwetgeving.

Hoewel de AI-wethouder mogelijk onder de hoge-risicoklasse van de Europese AI-wetgeving valt, is de gemeente zich bewust van de noodzakelijke controles en eisen op het gebied van risicobeheer en menselijke supervisie. Dit is cruciaal in het openbaar bestuur, waar elke beslissing directe impact kan hebben op burgers. Voor andere Europese gemeenten biedt deze pilot waardevolle inzichten. De integratie van de AI-wetgeving en de AVG kunnen bovendien voorbereidende stappen bieden voor een toekomst waarin meer publieke overheden AI toepassen in hun processen.

Lees het volledige artikel van AI Insider.