Op 1 augustus 2024 trad de Europese AI-Act in werking. Dit is een Europees wettelijk kader rond artificiële intelligentie, dat regels oplegt aan bedrijven en overheden bij de productie en het gebruik van AI. Ondanks bepaalde positieve bepalingen is het Europese middenveld vanuit een mensenrechtenperspectief zeer kritisch voor de AI-Act. De federale regering had de kans om de zwaktes van de AI-Act aan te pakken, maar heeft in plaats daarvan besloten deze zwaktes actief uit te buiten.
Nergens is dit zo duidelijk het geval als met betrekking tot het gebruik van gezichtsherkenning en andere surveillancetechnologieën die gebruik maken van AI. De Europese regelgeving heeft het gebruik van deze technologieën verboden omdat deze een onaanvaardbaar risico vormen voor de mensenrechten, maar heeft onder druk van lidstaten bepaalde uitzonderingen toegelaten – waaronder de uitvoering van grenscontroles. In plaats van de regelgeving te verscherpen, zoals Kif Kif vraagt in haar beleidsbrief, neemt de federale regering zich voor om deze technologieën zo snel mogelijk in gebruik te nemen. Zo wil de federale overheid ‘proeftuinen’ opzetten waar geëxperimenteerd wordt met onder meer ‘gezichtsherkenningstechnologie voor de opsporing van veroordeelden en verdachten’. Een ander doel is het ‘verruimen van de camera-wetgeving om meer toepassingen mogelijk te maken van (slimme) camerabewaking’.
Repressie van activisten en mensen op de vlucht
Zoals we al eerder schreven, is nooit aangetoond dat het gebruik van AI-camera’s leidt tot meer veiligheid of een daling van de criminaliteit, maar is wel bewezen dat het zorgt voor etnische profilering en overpolicing van gemarginaliseerde groepen. Structurele bias in AI-modellen, onder andere als gevolg van niet-representatieve data waarmee de ze getraind zijn, leidt daarbij tot nog meer discriminatie en racisme.
Het gebruik van slimme camera's zorgt voor etnische profilering en 'overpolicing' van gemarginaliseerde groepen
Ook maken de uitzonderingen in de AI-Act gemarginaliseerde groepen extra kwetsbaar voor surveillance. Zo zijn er bijna geen beperkingen rond AI-surveillance wanneer de politie inschat dat het om ‘nationale veiligheid’ gaat. Deze bepaling is een enorm risico voor activisten en dissidenten, die wereldwijd ook nu al doelwit zijn van surveillance met deze technologieën. Inbreuken op de privacy van bijvoorbeeld Pro-Palestina-activisten zouden volledig vrij en achter de schermen kunnen gebeuren. Ook voor de toepassing van AI-surveillance bij grenscontroles is er een totaal gebrek aan regelgeving. Zo mag grenspolitie gebruikmaken van AI-software die pretendeert emoties te kunnen herkennen en leugens te kunnen detecteren. Hoewel deze technologie totaal onbetrouwbaar en discriminatoir is, wordt deze toch voorgesteld als een tool om grenzen ‘te managen’. AI zal dus vrijwel zeker zorgen voor extra mensenrechtenschendingen van migranten.
Op internationaal vlak volgt de regering de oorlogsretoriek die opgang heeft gemaakt sinds de illegale inval van Rusland in Oekraïne. De ambitie is om te ‘investeren in middelen voor elektronische oorlogsvoering en in artificiële intelligentie. Zo heeft de verdere uitbouw van ons cybercommando onder meer tot doel om onze weerbaarheid tegen buitenlandse inmenging op te schroeven en om ons desgevallend voor te bereiden op offensieve operaties’, zo staat te lezen in het regeerakkoord.
Geen aanpak van online haat
Aansluitend verwijst het akkoord meermaals naar het gevaar van fake news en desinformatie op sociale media. Zo wil men bewustwordingscampagnes voeren en samenwerken met media- en technologiebedrijven om desinformatie tegen te gaan, en online platformen verantwoordelijk houden. Concrete maatregelen ontbreken echter. Opvallend is hier dat de tekst uitgaat van fake news als een product van kwalijke buitenlandse inmenging, terwijl onderzoek aantoont dat fake news vooral een product is van een extreemrechtse politieke strategie. Dat online haatcampagnes, een andere extreemrechtse politieke strategie, helemaal niet vermeld worden, hoeft dan ook niet te verwonderen. Nochtans is online haat voor onze democratie niet minder gevaarlijk dan fake news. Ook een onderzoeksrapport van Kif Kif toonde al aan dat er een winstmodel en electorale strategie achter schuilt.
Interessant genoeg vermeldt het regeerakkoord over het reguleren van nieuwe technologieën dat men vooral kijkt naar samenwerking op ‘trans-Atlantisch vlak’, met aandacht voor ‘de uitdaging van artificiële intelligentie en de marktmacht van de grote digitale spelers’. Het is opvallend dat men eerder wil samenwerken met de Verenigde Staten dan binnen de Europese Unie. Het is namelijk de EU die momenteel het meeste weerwerk biedt tegen Big Tech, en die zorgt voor enige bescherming via de GDPR en de Digital Services Act. Dit terwijl de grote technologiebedrijven binnen de Amerikaanse regering momenteel geen strobreed in de weg gelegd wordt. We stellen ons dus vragen bij de ambitie van de regering om de macht van Big Tech in te perken en ze verantwoordelijk te houden.
Wat nergens aan bod komt in het regeerakkoord, is een consistente visie om mensenrechten te beschermen in het digitale tijdperk
Naast het repressieve veiligheids- en defensiebeleid, wordt AI in het regeerakkoord voornamelijk vermeld in de context van efficiëntiewinst en dus kostenbesparing voor de overheid. Zo doelt men op een ‘integraal beleid inzake het gebruik van AI zodat de werking van de overheid kan verbeteren met efficiëntiewinsten tot gevolg’. Men wil ook AI inzetten in ‘spending reviews’, om te zien waar men verder kan besparen, en men wil de politie van administratieve taken ontlasten door AI in te zetten. Men wil ook chatbots inzetten voor de communicatie tussen burgers en overheid, waarbij wel wordt gesteld dat rechtstreeks contact met overheidsmedewerkers mogelijk blijft. Dat laatste is ongetwijfeld een positief punt, maar rechtstreeks contact met overheidsmedewerkers is nu al geen sinecure. Gegeven de algemene besparingsdrift van deze regering kan men zich dus afvragen of die voorwaarde effectief zal worden nageleefd.
Wat nergens aan bod komt in het regeerakkoord, is een consistente visie om mensenrechten te beschermen in het digitale tijdperk. Nergens is aandacht voor alternatieven voor de machtsconcentratie van grote technologiebedrijven, zoals het opbouwen van gedecentraliseerde mediaplatformen of de ontwikkeling van publieke artificiële intelligentie die enkel ingezet wordt voor een meer gelijke samenleving. Ambitieuze maatregelen om de uit de hand gelopen macht van Big Tech aan de kaak te stellen, ontbreken. In plaats daarvan gaat men mee in een agressief veiligheidsbeleid en een besparingsbeleid dat alleen maar zal leiden tot meer ongelijkheid.
Wil je meer weten? Lees dan onze beleidsbrief voor de nieuwe federale regering hier.
Over de auteur:
Igor Živković heeft een master in de sociaal-economische wetenschappen behaald aan de Universiteit Antwerpen, en specialiseerde nadien in ontwikkelingssamenwerking en milieurechtvaardigheid. Hij heeft onderzoek gedaan naar het discours van radicaal-rechts rond klimaatverandering en naar gender- en klimaatongelijkheid. Igor werkt momenteel als beleidsmedewerker voor Kif Kif rond online racisme, met een nadruk op AI, data en racisme.
