AI is tegenwoordig enorm populair, maar bestaat al jaren in andere vormen. De Europese Unie is daarom al enige tijd bezig met het ontwikkelen van de AI Act. Het Europees Parlement beoogd om het gebruik van AI te reguleren met deze AI Act. De meeste mensen weten dat AI veel gegevens gebruiken, maar niet precies hoe dit in zijn werk gaat. De meeste organisaties maken gebruik van gegevens in het publieke domein om hun AI te trainen. Dit gebruik van gegevens in het publieke domein brengt vragen met zich mee over de privacy van de bevolking. De European Data Protection Supervisor (EDPS) is het hier mee eens en heeft enige opiniestukken over de jaren uitgebracht over de AI Act. In deze blog nemen we een nadere kijk naar de mening van de EDPS en de AI Act.
De werking van AI en de impact op privacy
Om te begrijpen waarom AI en privacy met elkaar te maken hebben, is het belangrijk om te weten hoe AI werkt. De meeste AI van vandaag gebruiken LLM’s, ofwel Large Language Models genoemd. Om een LLM te maken, voeren organisaties gegevens in om de AI te trainen. De uitkomst van deze gegevens worden samengevoegd in grote databases. Deze databases zijn de grondslag voor een AI, en de gegevens hierin worden op doorgaande basis gebruikt door de AI om te functioneren.
De gegevens die gebruikt worden om de LLM’s te trainen komen uit allerlei bronnen. Deze kunnen volgen uit het publieke domein of privé databanken van bedrijven. Het publieke domein omvat alle openbare bronnen van informatie, zoals sociale media, websites, databanken van bedrijven die deze beschikbaar stellen en meer. Hierdoor worden veel persoonsgegevens in een LLM gebruikt. Het gebruik van deze persoonsgegevens op zo’n schaal is een inbreuk op de privacy en mensen hebben geen grip meer op wat er gebeurt met hun persoonsgegevens.
Privacyoverwegingen in de AI Act
Op 9 december 2023 is besloten op de inhoud van de AI Act door het Europees parlement. De uiteindelijke bepalingen kunnen nog enigszins wijzigen, maar dit geeft alvast een duidelijke inkijk op hoe de AI act er uiteindelijk uit zal komen te zien. De AI Act zal regels afstellen op de mate van risico’s die zijn vastgesteld. Deze zijn opgedeeld in onacceptabele risico’s, hoge risico’s, beperkte risico’s en algemene of generative AI.
De risico’s zijn gebaseerd op de invloed die de AI heeft op de rechten en veiligheden van anderen. Een AI met een onacceptabel risico zou surveillance, biometrische herkenning op basis van bijzondere persoonsgegevens, manipulatie of een systeem van sociale scores zoals in China kunnen bewerkstelligen. In de AI Act wordt een hoge mate van risico toegepast wanneer de AI in belangrijke infrastructuur gebruikt word, of die in producten gebruikt worden die onder de Europese productveiligheid richtlijnen vallen. De meest bekende AI, ChatGPT, valt onder generative AI. Bij generative AI zal transparantie over de gebruikte data, de oorsprong van de gecreëerde werken en een veilig en legaal ontwerp centraal staan. Het Europees Parlement heeft de deur opengehouden om in de toekomst nieuwe reguleringen in te voeren voor generative AI met een hoger risico.
Uit deze doelstellingen lijkt de Europese Unie voornamelijk de gebruiksdoeleinden te beperken. Terwijl er enige overwegingen zijn voor de privacy van het individu, zullen de meeste genoegen moeten nemen met de mogelijkheid om een verzoek om informatie en een klacht in te kunnen dienen. De AI Act zal in ieder geval bescherming bieden tegen specifieke verwerkingen van bijzondere persoonsgegevens.
Mening van de EDPS over de AI Act
De EDPS heeft in het verleden een opiniestuk uitgebracht over de doelstellingen van de AI Act. Het Europees Parlement heeft de AI Act geconcretiseerd. Op deze concrete tekst heeft de EDPS een aanvullende opinie uitgebracht. In dit stuk benadrukt de eerdere positie die de EDPS heeft ingenomen. De potentiële mogelijkheden van AI zijn een leidende zorg. AI kan ingezet worden om surveillance uit te voeren of de maatschappij op enige wijze te manipuleren. Dat deze zorgen zijn verwerkt in de AI Act biedt enige zekerheid. Echter zijn er enkele opmerkingen over de effectiviteit van de AI Act.
De huidige AI Act geeft volgens de EDPS te veel beoordelingsruimte en uitzonderingen aan de houders van de AI over het risiconiveau. Wanneer een AI opnieuw getraind wordt zijn er te weinig waarborgen om deze wijziging in kaart te brengen. De AI Act bevat uitzonderingen voor bestaande AI modellen met een hoog risiconiveau. Vooral in het kader van het vrije oordeel over de risicoprofielen van een AI kan deze uitzondering leiden tot een bedreiging van de rechten en vrijheden van de bevolking.
Naast deze specifieke zaken wil de EDPS een actievere rol innemen en hun expertise bieden in het invullen van de nieuwe ‘’AI office’’. Ze geven aan een nauwere samenwerking te willen bevorderen en meer te willen inbrengen. De EDPS heeft een observerende rol in de AI office gekregen zonder stemrecht. Naast de rolverdeling in de AI office is ook het secretariaat van de AI office in het visier van de EDPS gevallen. De EDPS geeft aan veel expertise en een eigen interne structuur gericht op het beschermen data te hebben, een structuur die ook beoogt wordt in het secretariaat van de nieuwe AI office. Ze hebben voorgesteld dat ze zelf het secretariaat kunnen leveren voor de AI office.
Conclusie
De AI Act ziet toe op de ernstigste scenario’s, zoals manipulatie van de bevolking, misbruik van infrastructuur en massa surveillance. Volgens de EDPS zijn dit stappen in de juiste richting, en is er een positieve uitkijk op de AI Act. De regelgeving is aangepast aan het risiconiveau van de AI, zoals de EDPS heeft voorgesteld. De EDPS voorziet wel enkele problemen in de AI Act. De AI Act biedt te veel beoordelingsvrijheden en uitzonderingen op het risiconiveau. Bestaande AI zullen worden uitgezonderd van bepaalde eisen uit de wetgeving. Naast de inhoud van de AI Act heeft de EDPS ook gekeken naar de opzet van de samenwerking. De EDPS de European AI Office een goed startpunt van de Europese samenwerking. De enige opmerking van de EDPS hierin is dat ze een grotere rol willen spelen.
Blijf up-to-date over nieuws en andere interessante informatie!
Bij Juristenblog.nl proberen we je zo adequaat mogelijk te informeren over veel aspecten van het recht. Vond je deze blog interessant? Houd dan ook zeker onze andere blogartikelen in de gaten!
AI is tegenwoordig enorm populair, maar bestaat al jaren in andere vormen. De Europese Unie is daarom al enige tijd bezig met het ontwikkelen van de AI Act. Het Europees Parlement beoogd om het gebruik van AI te reguleren met deze AI Act. De meeste mensen weten dat AI veel gegevens gebruiken, maar niet precies hoe dit in zijn werk gaat. De meeste organisaties maken gebruik van gegevens in het publieke domein om hun AI te trainen. Dit gebruik van gegevens in het publieke domein brengt vragen met zich mee over de privacy van de bevolking. De European Data Protection Supervisor (EDPS) is het hier mee eens en heeft enige opiniestukken over de jaren uitgebracht over de AI Act. In deze blog nemen we een nadere kijk naar de mening van de EDPS en de AI Act.
De werking van AI en de impact op privacy
Om te begrijpen waarom AI en privacy met elkaar te maken hebben, is het belangrijk om te weten hoe AI werkt. De meeste AI van vandaag gebruiken LLM’s, ofwel Large Language Models genoemd. Om een LLM te maken, voeren organisaties gegevens in om de AI te trainen. De uitkomst van deze gegevens worden samengevoegd in grote databases. Deze databases zijn de grondslag voor een AI, en de gegevens hierin worden op doorgaande basis gebruikt door de AI om te functioneren.
De gegevens die gebruikt worden om de LLM’s te trainen komen uit allerlei bronnen. Deze kunnen volgen uit het publieke domein of privé databanken van bedrijven. Het publieke domein omvat alle openbare bronnen van informatie, zoals sociale media, websites, databanken van bedrijven die deze beschikbaar stellen en meer. Hierdoor worden veel persoonsgegevens in een LLM gebruikt. Het gebruik van deze persoonsgegevens op zo’n schaal is een inbreuk op de privacy en mensen hebben geen grip meer op wat er gebeurt met hun persoonsgegevens.
Privacyoverwegingen in de AI Act
Op 9 december 2023 is besloten op de inhoud van de AI Act door het Europees parlement. De uiteindelijke bepalingen kunnen nog enigszins wijzigen, maar dit geeft alvast een duidelijke inkijk op hoe de AI act er uiteindelijk uit zal komen te zien. De AI Act zal regels afstellen op de mate van risico’s die zijn vastgesteld. Deze zijn opgedeeld in onacceptabele risico’s, hoge risico’s, beperkte risico’s en algemene of generative AI.
De risico’s zijn gebaseerd op de invloed die de AI heeft op de rechten en veiligheden van anderen. Een AI met een onacceptabel risico zou surveillance, biometrische herkenning op basis van bijzondere persoonsgegevens, manipulatie of een systeem van sociale scores zoals in China kunnen bewerkstelligen. In de AI Act wordt een hoge mate van risico toegepast wanneer de AI in belangrijke infrastructuur gebruikt word, of die in producten gebruikt worden die onder de Europese productveiligheid richtlijnen vallen. De meest bekende AI, ChatGPT, valt onder generative AI. Bij generative AI zal transparantie over de gebruikte data, de oorsprong van de gecreëerde werken en een veilig en legaal ontwerp centraal staan. Het Europees Parlement heeft de deur opengehouden om in de toekomst nieuwe reguleringen in te voeren voor generative AI met een hoger risico.
Uit deze doelstellingen lijkt de Europese Unie voornamelijk de gebruiksdoeleinden te beperken. Terwijl er enige overwegingen zijn voor de privacy van het individu, zullen de meeste genoegen moeten nemen met de mogelijkheid om een verzoek om informatie en een klacht in te kunnen dienen. De AI Act zal in ieder geval bescherming bieden tegen specifieke verwerkingen van bijzondere persoonsgegevens.
Mening van de EDPS over de AI Act
De EDPS heeft in het verleden een opiniestuk uitgebracht over de doelstellingen van de AI Act. Het Europees Parlement heeft de AI Act geconcretiseerd. Op deze concrete tekst heeft de EDPS een aanvullende opinie uitgebracht. In dit stuk benadrukt de eerdere positie die de EDPS heeft ingenomen. De potentiële mogelijkheden van AI zijn een leidende zorg. AI kan ingezet worden om surveillance uit te voeren of de maatschappij op enige wijze te manipuleren. Dat deze zorgen zijn verwerkt in de AI Act biedt enige zekerheid. Echter zijn er enkele opmerkingen over de effectiviteit van de AI Act.
De huidige AI Act geeft volgens de EDPS te veel beoordelingsruimte en uitzonderingen aan de houders van de AI over het risiconiveau. Wanneer een AI opnieuw getraind wordt zijn er te weinig waarborgen om deze wijziging in kaart te brengen. De AI Act bevat uitzonderingen voor bestaande AI modellen met een hoog risiconiveau. Vooral in het kader van het vrije oordeel over de risicoprofielen van een AI kan deze uitzondering leiden tot een bedreiging van de rechten en vrijheden van de bevolking.
Naast deze specifieke zaken wil de EDPS een actievere rol innemen en hun expertise bieden in het invullen van de nieuwe ‘’AI office’’. Ze geven aan een nauwere samenwerking te willen bevorderen en meer te willen inbrengen. De EDPS heeft een observerende rol in de AI office gekregen zonder stemrecht. Naast de rolverdeling in de AI office is ook het secretariaat van de AI office in het visier van de EDPS gevallen. De EDPS geeft aan veel expertise en een eigen interne structuur gericht op het beschermen data te hebben, een structuur die ook beoogt wordt in het secretariaat van de nieuwe AI office. Ze hebben voorgesteld dat ze zelf het secretariaat kunnen leveren voor de AI office.
Conclusie
De AI Act ziet toe op de ernstigste scenario’s, zoals manipulatie van de bevolking, misbruik van infrastructuur en massa surveillance. Volgens de EDPS zijn dit stappen in de juiste richting, en is er een positieve uitkijk op de AI Act. De regelgeving is aangepast aan het risiconiveau van de AI, zoals de EDPS heeft voorgesteld. De EDPS voorziet wel enkele problemen in de AI Act. De AI Act biedt te veel beoordelingsvrijheden en uitzonderingen op het risiconiveau. Bestaande AI zullen worden uitgezonderd van bepaalde eisen uit de wetgeving. Naast de inhoud van de AI Act heeft de EDPS ook gekeken naar de opzet van de samenwerking. De EDPS de European AI Office een goed startpunt van de Europese samenwerking. De enige opmerking van de EDPS hierin is dat ze een grotere rol willen spelen.
Blijf up-to-date over nieuws en andere interessante informatie!
Bij Juristenblog.nl proberen we je zo adequaat mogelijk te informeren over veel aspecten van het recht. Vond je deze blog interessant? Houd dan ook zeker onze andere blogartikelen in de gaten!
Over Juristenblog.nl
Het team van Juristenblog.nl bestaat uit ervaren juristen. Wekelijks wordt onderzoek gedaan naar interessante onderwerpen waarover geschreven kan worden. Vervolgens schrijft de jurist met de meeste kennis van het onderwerp de betreffende blog. Op deze manier blijft ons concept up-to-date en relevant.
Schrijf je in & Blijf op de hoogte
Laat hieronder je e-mailadres achter en ontvang elke maandagochtend een overzicht van de meest recente berichten die op juristenblog.nl zijn verschenen.
We spammen niet. Je kunt je op ieder moment uitschrijven.
