Begin 2024 komt de AI Act eraan. De AI Act is een Europese verordening die in de EU strenge regels stelt voor alle autonoom handelende computersystemen die beslissingen nemen, content genereren of mensen assisteren. Het doel van de AI Act is dat mensen en bedrijven in de EU kunnen rekenen op veilige, transparante, traceerbare, niet-discriminerende en milieuvriendelijke AI-systemen die onder toezicht staan van mensen. In deze blog leggen we je uit wat de AI Act inhoudt.

Airtificial Intelligence

Kunstmatige Intelligentie (AI) is een brede tak van de computerwetenschappen.  AI houdt zich bezig met het bouwen van slimme machines die taken kunnen uitvoeren waarvoor doorgaans menselijke intelligentie nodig is. AI is een verzamelnaam geworden voor systemen die complexe taken uitvoeren waarvoor voorheen menselijke input was vereist. Neem als voorbeeld onlinecommunicatie met klanten of een potje schaken. AI wordt vaak door elkaar gebruikt met andere gerelateerde termen, zoals machine learning en deep learning.

Er zijn echter verschillen. Machine learning is gericht op het bouwen van systemen die kunnen leren of zich kunnen verbeteren op basis van de data waarmee de systemen worden gevoed. Machine learning is een vorm van AI valt, maar AI is niet altijd een vorm van machine learning.

AI stelt machines in staat de mogelijkheden van het menselijke kunnen te modelleren of zelfs te verbeteren, zoals aangegeven door het Europese Parlement. Van de ontwikkeling van zelfrijdende auto’s tot de verspreiding van generatieve AI-tools zoals ChatGPT en Google’s Bard. AI wordt steeds meer een onderdeel van het dagelijks leven – en een gebied waar bedrijven in elke sector in investeren.

Risico’s van AI

AI zal in de toekomst steeds vaker gebruikt worden in verschillende sectoren en systemen. Een groot voordeel van AI is dat enorme gegevens en datasets sneller kunnen worden verwerkt. Het wordt al door onlineplatforms gebruikt om onrechtmatig en ongepast onlinegedrag op te sporen en erop te reageren. Daarbij neemt het gebruiken van AI wel degelijk verschillende risico’s met zich mee. De resultaten die AI oplevert, zijn afhankelijk van hoe het is ontworpen en welke gegevens het gebruikt. Zowel het ontwerp als de gegevens kunnen opzettelijk of onopzettelijk bevooroordeeld zijn.

AI zou het recht op privacy en gegevensbescherming ernstig kunnen aantasten. Het kan bijvoorbeeld worden gebruikt in gezichtsherkenningsapparatuur of voor het online volgen en profileren van individuen. Bovendien maakt AI het mogelijk om stukjes informatie die een persoon heeft gegeven samen te voegen tot nieuwe gegevens, wat kan leiden tot resultaten die de persoon niet zou verwachten.

Regulatie van AI

Om de risico’s betreffende het gebruik van AI te beperken en de markt te reguleren heeft de Europese Commissie in april 2021 het eerste EU-regelgevingskader voor AI voorgesteld. Het regelgevingskader voor AI stelt dat AI-systemen die in verschillende toepassingen kunnen worden gebruikt, worden geanalyseerd en geclassificeerd op basis van het risico dat ze voor gebruikers (kunnen) opleveren. De verschillende risiconiveaus zullen meer of minder regulering met zich meebrengen. Eenmaal goedgekeurd, zullen dit de eerste regels ter wereld op het gebied van AI zijn.

De voorgestelde AI Act zorgt ervoor dat Europeanen kunnen vertrouwen op wat AI te bieden heeft. Hoewel de meeste AI-systemen weinig tot geen risico’s met zich meebrengen en kunnen bijdragen aan het oplossen van veel maatschappelijke uitdagingen, creëren bepaalde AI-systemen risico’s die aanpakken dienen te worden om ongewenste uitkomsten te voorkomen.

De AI Act

De prioriteit van het Parlement is om ervoor te zorgen dat de AI-systemen die in de EU worden gebruikt, veilig, transparant, traceerbaar, niet-discriminerend en milieuvriendelijk zijn. AI-systemen moeten onder toezicht staan ​​van mensen, in plaats van door automatisering, om schadelijke gevolgen te voorkomen.

De AI Act stelt nieuwe regels en verplichtingen aan de hand van het (potentiële) risico dat het gebruik van de AI kan hebben. Hoewel veel AI-systemen een minimaal risico met zich meebrengen, moeten ze worden beoordeeld. De AI Act maakt onderscheid tussen AI-systemen met een onaanvaardbaar risico en AI-systemen met een hoog risico.

AI-systemen met een onaanvaardbaar risico zijn systemen die als een bedreiging voor mensen worden beschouwd en zullen worden verboden. Deze zijn in ieder geval AI-systemen die:

  • Cognitieve gedrag van mensen of specifieke kwetsbare groepen kan beïnvloeden, waaronder de manipulatie van iemands gedrag:
  • Mensen classificeren op basis van gedrag, sociaal-economische status of persoonlijke kenmerken;
  • Realtime en op afstand biometrische gegevens gebruiken ter identificatie, zoals gezichtsherkenning.

Er kunnen enkele uitzonderingen worden toegestaan: bijvoorbeeld ‘post’-systemen voor biometrische identificatie op afstand waarbij de identificatie na een aanzienlijke vertraging plaatsvindt, mogen ernstige misdrijven vervolgen, maar alleen na goedkeuring van de rechtbank.

Hoog risico

AI-systemen met een hoog risico, zijn AI-systemen die een negatieve invloed hebben op de veiligheid of de grondrechten van een persoon en zijn in twee categorieën verdeeld. De eerste vorm zijn AI-systemen die worden gebruikt in producten die vallen onder de productveiligheidswetgeving van de EU. Denk hierbij aan speelgoed, luchtvaart, auto’s, medische hulpmiddelen en liften. De tweede vorm zijn AI-systemen die onder specifieke gebieden vallen en die in een EU-database moeten worden geregistreerd.

Generatieve AI-systemen (zoals ChatGPT) dienen zich te houden aan het transparantie beginsel van de AI Act waaronder het aangeven dat de inhoud is gegenereerd door AI, het model ontwerpen om te voorkomen dat het illegale inhoud genereert en het publiceren van samenvattingen van auteursrechtelijk beschermde gegevens die voor training van het AI-systeem worden gebruikt.

De toekomst

Op 14 juni 2023 namen de EP-leden het onderhandelingsstandpunt van het Parlement over de AI-wet aan. De gesprekken met de EU-landen in de Raad zullen nu beginnen over de definitieve vorm van de wet. Volgens het Europese Parlement is de doelstelling dat eind jaar 2023 tot een akkoord is gekomen betreffende de AI Act.

Blijf up-to-date over nieuws en andere interessante informatie!

Bij Juristenblog.nl proberen we je zo adequaat mogelijk te informeren over veel aspecten van wetten omtrent AI. Vond je deze blog interessant? Houd dan ook zeker onze andere blogartikelen in de gaten!

Begin 2024 komt de AI Act eraan. De AI Act is een Europese verordening die in de EU strenge regels stelt voor alle autonoom handelende computersystemen die beslissingen nemen, content genereren of mensen assisteren. Het doel van de AI Act is dat mensen en bedrijven in de EU kunnen rekenen op veilige, transparante, traceerbare, niet-discriminerende en milieuvriendelijke AI-systemen die onder toezicht staan van mensen. In deze blog leggen we je uit wat de AI Act inhoudt.

Airtificial Intelligence

Kunstmatige Intelligentie (AI) is een brede tak van de computerwetenschappen.  AI houdt zich bezig met het bouwen van slimme machines die taken kunnen uitvoeren waarvoor doorgaans menselijke intelligentie nodig is. AI is een verzamelnaam geworden voor systemen die complexe taken uitvoeren waarvoor voorheen menselijke input was vereist. Neem als voorbeeld onlinecommunicatie met klanten of een potje schaken. AI wordt vaak door elkaar gebruikt met andere gerelateerde termen, zoals machine learning en deep learning.

Er zijn echter verschillen. Machine learning is gericht op het bouwen van systemen die kunnen leren of zich kunnen verbeteren op basis van de data waarmee de systemen worden gevoed. Machine learning is een vorm van AI valt, maar AI is niet altijd een vorm van machine learning.

AI stelt machines in staat de mogelijkheden van het menselijke kunnen te modelleren of zelfs te verbeteren, zoals aangegeven door het Europese Parlement. Van de ontwikkeling van zelfrijdende auto’s tot de verspreiding van generatieve AI-tools zoals ChatGPT en Google’s Bard. AI wordt steeds meer een onderdeel van het dagelijks leven – en een gebied waar bedrijven in elke sector in investeren.

Risico’s van AI

AI zal in de toekomst steeds vaker gebruikt worden in verschillende sectoren en systemen. Een groot voordeel van AI is dat enorme gegevens en datasets sneller kunnen worden verwerkt. Het wordt al door onlineplatforms gebruikt om onrechtmatig en ongepast onlinegedrag op te sporen en erop te reageren. Daarbij neemt het gebruiken van AI wel degelijk verschillende risico’s met zich mee. De resultaten die AI oplevert, zijn afhankelijk van hoe het is ontworpen en welke gegevens het gebruikt. Zowel het ontwerp als de gegevens kunnen opzettelijk of onopzettelijk bevooroordeeld zijn.

AI zou het recht op privacy en gegevensbescherming ernstig kunnen aantasten. Het kan bijvoorbeeld worden gebruikt in gezichtsherkenningsapparatuur of voor het online volgen en profileren van individuen. Bovendien maakt AI het mogelijk om stukjes informatie die een persoon heeft gegeven samen te voegen tot nieuwe gegevens, wat kan leiden tot resultaten die de persoon niet zou verwachten.

Regulatie van AI

Om de risico’s betreffende het gebruik van AI te beperken en de markt te reguleren heeft de Europese Commissie in april 2021 het eerste EU-regelgevingskader voor AI voorgesteld. Het regelgevingskader voor AI stelt dat AI-systemen die in verschillende toepassingen kunnen worden gebruikt, worden geanalyseerd en geclassificeerd op basis van het risico dat ze voor gebruikers (kunnen) opleveren. De verschillende risiconiveaus zullen meer of minder regulering met zich meebrengen. Eenmaal goedgekeurd, zullen dit de eerste regels ter wereld op het gebied van AI zijn.

De voorgestelde AI Act zorgt ervoor dat Europeanen kunnen vertrouwen op wat AI te bieden heeft. Hoewel de meeste AI-systemen weinig tot geen risico’s met zich meebrengen en kunnen bijdragen aan het oplossen van veel maatschappelijke uitdagingen, creëren bepaalde AI-systemen risico’s die aanpakken dienen te worden om ongewenste uitkomsten te voorkomen.

De AI Act

De prioriteit van het Parlement is om ervoor te zorgen dat de AI-systemen die in de EU worden gebruikt, veilig, transparant, traceerbaar, niet-discriminerend en milieuvriendelijk zijn. AI-systemen moeten onder toezicht staan ​​van mensen, in plaats van door automatisering, om schadelijke gevolgen te voorkomen.

De AI Act stelt nieuwe regels en verplichtingen aan de hand van het (potentiële) risico dat het gebruik van de AI kan hebben. Hoewel veel AI-systemen een minimaal risico met zich meebrengen, moeten ze worden beoordeeld. De AI Act maakt onderscheid tussen AI-systemen met een onaanvaardbaar risico en AI-systemen met een hoog risico.

AI-systemen met een onaanvaardbaar risico zijn systemen die als een bedreiging voor mensen worden beschouwd en zullen worden verboden. Deze zijn in ieder geval AI-systemen die:

  • Cognitieve gedrag van mensen of specifieke kwetsbare groepen kan beïnvloeden, waaronder de manipulatie van iemands gedrag:
  • Mensen classificeren op basis van gedrag, sociaal-economische status of persoonlijke kenmerken;
  • Realtime en op afstand biometrische gegevens gebruiken ter identificatie, zoals gezichtsherkenning.

Er kunnen enkele uitzonderingen worden toegestaan: bijvoorbeeld ‘post’-systemen voor biometrische identificatie op afstand waarbij de identificatie na een aanzienlijke vertraging plaatsvindt, mogen ernstige misdrijven vervolgen, maar alleen na goedkeuring van de rechtbank.

Hoog risico

AI-systemen met een hoog risico, zijn AI-systemen die een negatieve invloed hebben op de veiligheid of de grondrechten van een persoon en zijn in twee categorieën verdeeld. De eerste vorm zijn AI-systemen die worden gebruikt in producten die vallen onder de productveiligheidswetgeving van de EU. Denk hierbij aan speelgoed, luchtvaart, auto’s, medische hulpmiddelen en liften. De tweede vorm zijn AI-systemen die onder specifieke gebieden vallen en die in een EU-database moeten worden geregistreerd.

Generatieve AI-systemen (zoals ChatGPT) dienen zich te houden aan het transparantie beginsel van de AI Act waaronder het aangeven dat de inhoud is gegenereerd door AI, het model ontwerpen om te voorkomen dat het illegale inhoud genereert en het publiceren van samenvattingen van auteursrechtelijk beschermde gegevens die voor training van het AI-systeem worden gebruikt.

De toekomst

Op 14 juni 2023 namen de EP-leden het onderhandelingsstandpunt van het Parlement over de AI-wet aan. De gesprekken met de EU-landen in de Raad zullen nu beginnen over de definitieve vorm van de wet. Volgens het Europese Parlement is de doelstelling dat eind jaar 2023 tot een akkoord is gekomen betreffende de AI Act.

Blijf up-to-date over nieuws en andere interessante informatie!

Bij Juristenblog.nl proberen we je zo adequaat mogelijk te informeren over veel aspecten van wetten omtrent AI. Vond je deze blog interessant? Houd dan ook zeker onze andere blogartikelen in de gaten!

Over Juristenblog.nl

Het team van Juristenblog.nl bestaat uit ervaren juristen. Wekelijks wordt onderzoek gedaan naar interessante onderwerpen waarover geschreven kan worden. Vervolgens schrijft de jurist met de meeste kennis van het onderwerp de betreffende blog. Op deze manier blijft ons concept up-to-date en relevant.

Schrijf je in & Blijf op de hoogte

Laat hieronder je e-mailadres achter en ontvang elke maandagochtend een overzicht van de meest recente berichten die op juristenblog.nl zijn verschenen.

We spammen niet. Je kunt je op ieder moment uitschrijven.