Bert Hubert over AI-waarschuwingen van Big Tech

Techexpert Bert Hubert heeft recent de waarschuwingen van topmannen van OpenAI, Google DeepMind en Anthropic over ‘existentiële’ AI-risico’s als een incoherent verhaal bestempeld. Deze leiders pleiten voor wereldwijde actie en stevige regelgeving, terwijl hun eigen systemen in rap tempo verder ontwikkelen. Gezien de urgentie van de AI-verordening in Europa en de implicaties daarvan voor zowel de overheid als bedrijven, is deze kwestie uiterst relevant.

Hubert merkt op dat de huidige waarschuwingen vaak vaag en onduidelijk zijn, wat het voor toezichthouders en beleidsmakers moeilijk maakt om effectieve richtlijnen te formuleren. Cruciale informatie over de risico’s wordt niet duidelijk afgebakend of gewogen, waardoor het lastig is om de juiste stappen te ondernemen. De gevolgen zijn aanzienlijk, aangezien bedrijven niet weten waar ze aan toe zijn als ze AI-systemen inkopen, wat onzekerheid in de markt creëert.

Bijzonder zorgwekkend is de spanning tussen de commerciële belangen van Big Tech en publieke veiligheid. Dezelfde bedrijven die waarschuwen, creëren ook de krachtigste AI-modellen, met verdienmodellen die zijn gebaseerd op schaalvergroting. Hubert stelt dat duidelijke, algemeen geldende eisen essentieel zijn om te voorkomen dat bestaande spelers de regelgeving in hun voordeel gebruiken, wat kan leiden tot ‘regulatory capture’.

Met de recente wetgeving rondom de AI klinkt de roep om transparantie steeds luider. Het doel is om gegevens, audits en een toegankelijk overzicht van gebruikte modellen te waarborgen. De EU stelt eisen aan hoog-risicotoepassingen en richtlijnen voor foundation-modellen. Dit raakt niet alleen organisaties maar ook burgers, die recht hebben op heldere communicatie over hoe AI wordt ingezet in overheidsbesluiten. Huberts conclusie is dat veiligheid vraagt om concrete en toetsbare eisen, zoals gestandaardiseerde evaluaties en onafhankelijk toezicht. Dit is cruciaal om de beloftes rond AI te staven met >gevoel en begrip, en om de kloof tussen beleidsmakers en marktspelers te dichten.

Lees het volledige artikel van AI Insider.