Artificiële Intelligentie (AI) maakt een steeds groter deel uit van onze belevingswereld. Wereldwijd zijn inmiddels een groot aantal systemen ontstaan die gebruikers in staat stellen om een veelheid aan informatie op een intelligente manier te combineren. Dit kan tot heel verdienstelijke resultaten leiden, maar er schuilen ook gevaren in.
De Europese AI-Act is de eerste in zijn soort
De omvang en snelheid waarmee AI in onze samenlevingen oprukt maakt het nodig om gebruik en toepassing ervan te reguleren. Op Europees niveau werd daarom op 21 mei 2024 de eerste AI Act goedgekeurd door de Europese Raad. Deze Europese Verordening werkt op nationaal niveau in alle EU-lidstaten door als een vorm van wetgeving. De Verordening is in augustus 2024 in werking getreden en wordt gefaseerd van kracht. Wereldwijd bezien is de Europese AI-Act de eerste wet die in brede zin de gehele problematiek probeert te regelen. Daarom wordt verwacht dat deze AI-Act wereldwijd voor een normering kan gaan zorgen.

Met de AI-Act wordt geprobeerd AI als zodanig te definiëren. Daarmee worden ook toekomstige AI-systemen gecatalogiseerd. Belangrijk is verder dat de randvoorwaarden voor het gebruik ervan zijn omschreven. Zo wordt veel waarde gehecht aan de eis dat AI-systemen transparant, traceerbaar en veilig worden toegepast. Ze mogen daarbij niet discrimineren, terwijl ook aan milieuvriendelijkheid veel aandacht wordt besteed.
Innovatie op een veilige manier
De Europese AI-Act is niet bedoeld om de ontwikkeling van AI-systemen af te remmen. Integendeel, innovatieve toepassingen blijven zeer gewenst. De bedoeling is vooral om riskante toepassingen van AI te beteugelen en eventueel te verbieden. Zo wordt extra gelet op het gebruik door een AI-systeem van biometrische identificatie, mogen gebruikers van dergelijke systemen niet op hun kwetsbaarheid worden gemanipuleerd en wordt getracht het klachtrecht van consumenten en hun recht op uitleg optimaal te waarborgen. Ook het gebruik door overheden wordt aan banden gelegd, waarbij gedacht kan worden aan het verbod op profilering door politie-instanties binnen de Europese Unie.
Het risiconiveau van AI-systemen
Om de AI-Act effectief te laten functioneren, wordt gewerkt met verschillende risiconiveaus. Veel systemen worden gekenmerkt door een laag risico. De daarbij behorende transparantieverplichtingen zullen beperkt zijn. AI-systemen met een hoog risico worden juist onderworpen aan strenge verplichtingen, als voorwaarde voor toegang tot de EU-markt. Bovendien is voor deze AI-systemen een registratie-instantie in de maak. AI-systemen met een te hoog risico kunnen op grond van de nieuwe AI-Act worden verboden. Toezicht zal plaatsvinden op nationaal en Europees niveau.
Wanneer wordt de AI-Act van kracht?
De eerste regels uit de AI-Act worden in februari 2025 van kracht. Dit zijn de regels die betrekking hebben op verboden praktijken. Voor de basissystemen, de General Purpose AI-modellen, worden de regels in augustus 2025 van kracht. Daarbij moet ook het toezicht op orde zijn. In augustus 2026 worden de overige regels uit de Verordening van kracht. Tot slot een extra bepaling die op AI-systemen van de overheden ziet. Alle AI-systemen bij de overheid die al voor augustus 2024 bestonden moeten in augustus 2030 voldoen aan de eisen die gelden voor een hoog risico AI-systeem.
Eerdere Europese verordeningen
Rond de veiligheid op internet en de bijbehorende privacy van personen, bouwt zich de laatste jaren een steeds sterker netwerk van regelgeving op. Het gaat hierbij vooral om Europese regels, die voor harmonisatie zorgen in alle lidstaten. Zo is sinds 2018 de Algemene verordening gegevensbescherming (AVG) van toepassing. Het effect van deze verordening op de privacy van burgers is in alle geledingen van de maatschappij waar te nemen. Sinds zaterdag 17 februari 2024 geldt ook de Digital Services Act (DSA). Deze Europese verordening beschermt burgers tegen illegale praktijken bij leveringen en diensten die via internet worden afgenomen.
Interessante scriptieonderwerpen
Het valt te verwachten dat bij de toepassing van AI-Act, DSA en AVG onderling sterke juridische verbanden zullen ontstaan. Die zullen hun neerslag hebben in rechtspraak en literatuur. Het is interessant om te onderzoeken hoe de bescherming die deze drie verordeningen bieden voor verschillende doelgroepen zal uitvallen. Wat gaat er verbeteren en wat missen we nog? Zo kom je al gauw aan een ideaal onderwerp om een goede scriptie over te schrijven!