De nieuwe AI Act gaat uw bedrijfsvoering fundamenteel veranderen als u AI-toepassingen gebruikt. Deze eerste uitgebreide AI-wetgeving ter wereld brengt nieuwe verplichtingen met zich mee waar u niet omheen kunt.

De European AI Act introduceert strikte regels voor het gebruik van kunstmatige intelligentie binnen de EU. Van risicoclassificatie tot verplichte documentatie - deze wetgeving raakt vrijwel elk aspect van AI-implementatie in uw organisatie. Met de AI Act inwerkingtreding in zicht is het cruciaal dat u nu al actie onderneemt.

In deze gids leiden we u stap voor stap door de belangrijkste aspecten van de AI Act. U leert precies welke verplichtingen er op u afkomen en hoe u uw organisatie kunt voorbereiden op deze nieuwe regelgeving.

De Belangrijkste Eisen van de AI Act

Om te voldoen aan de AI Act moet u eerst begrijpen welke eisen er voor uw organisatie gelden. De wetgeving hanteert een risicogebaseerde aanpak met verschillende verplichtingen per risiconiveau.

Classificatie van AI-systemen en risiconiveaus

De AI Act onderscheidt vier risiconiveaus voor AI-systemen:

• Onaanvaardbaar risico: Verboden toepassingen zoals sociale scoring en manipulatieve AI

• Hoog risico: Streng gereguleerde systemen voor bijvoorbeeld werving, onderwijs en kritieke infrastructuur

• Beperkt risico: Transparantieverplichtingen voor bijvoorbeeld chatbots

• Minimaal risico: Minimale verplichtingen voor standaard AI-toepassingen

Verplichte documentatie en registratie

Voor AI-systemen met een hoog risico gelden uitgebreide documentatieverplichtingen. U moet technische documentatieopstellen voordat u het systeem in gebruik neemt. Deze documentatie moet aantonen dat uw systeem voldoet aan alle vereisten en moet regelmatig worden bijgewerkt.

Daarnaast moet u uw AI-systeem registreren in de EU-database als het als hoog risico wordt geclassificeerd. Dit geldt ook voor systemen waarvan u heeft bepaald dat ze geen hoog risico vormen.

Transparantie en menselijk toezicht

De AI Act vereist dat u gebruikers informeert wanneer ze met AI interacteren. Voor systemen met een hoog risico moet u effectief menselijk toezicht mogelijk maken. Dit betekent dat:

• Toezichthouders voldoende training en bevoegdheden moeten hebben

• Er mogelijkheden moeten zijn om in te grijpen of het systeem te stoppen

• De werking van het systeem begrijpelijk moet zijn voor de toezichthouders

U moet ook kunnen aantonen hoe u automatiserings-vooroordelen voorkomt en ervoor zorgt dat menselijke beoordelingen niet te veel op AI-aanbevelingen vertrouwen.

Praktische Stappen voor Compliance

Nu de AI Act realiteit wordt, is het tijd voor concrete actie. Het implementeren van de juiste maatregelen vraagt om een systematische aanpak.

Het in kaart brengen van je AI-toepassingen

Start met het maken van een volledig overzicht van alle AI-systemen binnen uw organisatie. Dit moet gebeuren vóór februari 2025, wanneer de eerste regels voor verboden AI-systemen van kracht worden. Maak een inventarisatie van:

1. Alle actieve AI-toepassingen

2. Systemen in ontwikkeling

3. AI-diensten van externe leveranciers

4. Toekomstige AI-projecten

Risicobeoordeling uitvoeren

Na de inventarisatie moet u voor elk AI-systeem een grondige risicobeoordeling uitvoeren. De AI Act vereist een doorlopend risicomanagementproces gedurende de hele levenscyclus van het systeem. Belangrijke aandachtspunten zijn:

• Impact op gezondheid en veiligheid

• Mogelijke effecten op fundamentele rechten

• Technische robuustheid en nauwkeurigheid

• Cyberbeveiligingsrisico's

Implementatie van controlesystemen

Voor systemen met een hoog risico moet u een kwaliteitsmanagementsysteem opzetten. Dit systeem moet procedures bevatten voor:

• Conformiteitsbeoordeling van AI-systemen

• Kwaliteitscontrole en -borging

• Monitoring na implementatie

• Documentatie van aanpassingen

U moet ook kunnen aantonen dat uw systemen voldoen aan de technische vereisten door middel van uitgebreide documentatie voordat ze op de markt komen. Voor publieke dienstverleners en bepaalde sectoren zoals kredietwaardigheid en verzekeringen geldt bovendien de verplichting om een fundamentele rechten-effectbeoordelinguit te voeren.

Verantwoordelijkheden en Rollen

Het succesvol implementeren van de AI Act vraagt om duidelijke rolverdeling binnen uw organisatie. Als gebruiker van AI-systemen moet u zorgen voor effectief toezicht en controle.

Taken van de AI-verantwoordelijke

Als deployer van AI-systemen moet u een AI-verantwoordelijke aanwijzen. Deze persoon moet toezien op:

• Naleving van gebruiksinstructies van AI-leveranciers

• Monitoring van invoergegevens en systeemwerking

• Bijhouden van geautomatiseerde logs (minimaal 6 maanden)

• Uitvoering van impactbeoordelingen voor fundamentele rechten bij publieke dienstverlening

Samenwerking tussen afdelingen

De implementatie van de AI Act vereist een interdisciplinaire aanpak. U moet zorgen voor effectieve samenwerking tussen verschillende expertises. Psychologen en besliskundigen helpen bij het definiëren van verboden praktijken, terwijl IT-specialisten de technische haalbaarheid beoordelen. Juridische experts zorgen voor compliance met wet- en regelgeving.

Training en bewustwording van medewerkers

Volgens artikel 4 van de AI Act bent u verplicht om uw medewerkers voldoende AI-kennis bij te brengen. Dit betekentdat u:

1. Het huidige kennisniveau van medewerkers moet beoordelen

2. Trainingen moet aanbieden afgestemd op verschillende gebruikersgroepen

3. Een gedragscode moet opstellen voor AI-gebruik

4. Theoretische én praktische training moet verzorgen

De training moet medewerkers in staat stellen om AI-systemen competent te gebruiken én zich bewust te zijn van zowel de kansen als de risico's. Begin tijdig met het opleiden van uw personeel, aangezien deze verplichting al zes maanden na inwerkingtreding van de AI Act van kracht wordt.

Tijdlijn en Deadlines

Met de inwerkingtreding van de AI Act op 1 augustus 2024 start een nieuwe fase in AI-regulering. U moet zich voorbereiden op een reeks deadlines en verplichtingen die gefaseerd worden ingevoerd.

Belangrijke data en mijlpalen

De eerste cruciale deadline is 2 februari 2025, wanneer de verboden op onaanvaardbare AI-systemen van kracht worden. Vervolgens gaan op 2 augustus 2025 de regels voor algemene AI-modellen in. De volledige implementatie voor hoogrisico AI-systemen volgt op 2 augustus 2026.

Datum

Verplichting

2 februari 2025

Verbod op onaanvaardbare AI-systemen

2 augustus 2025

Regels voor algemene AI-modellen

2 augustus 2026

Volledige implementatie hoogrisico systemen

Gefaseerde implementatie

De AI Act hanteert een stapsgewijze aanpak om organisaties tijd te geven zich aan te passen:

• Fase 1 (eerste 6 maanden): Focus op het identificeren en uitfaseren van verboden systemen

• Fase 2 (12 maanden): Implementatie van regels voor algemene AI-modellen en transparantieverplichtingen

• Fase 3 (24 maanden): Volledige compliance voor hoogrisico AI-systemen

• Fase 4 (36 maanden): Aanvullende verplichtingen voor specifieke productveiligheidssystemen

Voorbereidingstips per fase

Voor een soepele overgang naar de nieuwe regelgeving is het essentieel dat u nu al start met de voorbereidingen. Begin met het informeren van belanghebbenden over de komende veranderingen. Stel een AI-team samen dat verantwoordelijk is voor de implementatie.

Ontwikkel een risicomanagementkader om AI-systemen te beoordelen en documenteer alle stappen zorgvuldig. Zorg dat u uiterlijk begin 2025 klaar bent met de inventarisatie van uw AI-systemen, zodat u tijdig kunt voldoen aan de eerste deadlines voor verboden praktijken.

Voor systemen die als hoogrisico worden geclassificeerd, moet u extra tijd inplannen voor het opzetten van monitoringsystemen en het uitvoeren van conformiteitsbeoordelingen. Houd er rekening mee dat sommige verplichtingen, zoals die voor productveiligheidssystemen, doorlopen tot 2027.

Conclusie

De AI Act brengt grote veranderingen met zich mee voor elke organisatie die AI-systemen gebruikt. Nu u de belangrijkste verplichtingen kent, kunt u doelgericht aan de slag met de implementatie. Het classificeren van uw AI-systemen, het opzetten van documentatie en het trainen van medewerkers vragen om een gedegen voorbereiding.

De gefaseerde invoering geeft u tijd om uw organisatie klaar te maken voor de nieuwe regelgeving. Met de eerste deadline van februari 2025 in zicht moet u nu beginnen met het inventariseren van uw AI-toepassingen en het beoordelen van risico's.

Bij Mr. Franklin zijn we gecertificeerde AI compliance officers die ondernemingen kunnen helpen bij het oppuntstellen van hun AI beleid en helpen bij het conformeren met de AI act.

De komende jaren zullen bepalend zijn voor het verantwoord gebruik van AI binnen uw organisatie. Met een systematische aanpak en de juiste expertise kunt u ervoor zorgen dat uw AI-toepassingen niet alleen innovatief zijn, maar ook volledig voldoen aan alle wettelijke vereisten.

FAQs

Q1. Wanneer treedt de AI Act in werking en wat zijn de belangrijkste deadlines? De AI Act treedt in werking op 1 augustus 2024. Belangrijke deadlines zijn 2 februari 2025 voor het verbod op onaanvaardbare AI-systemen, 2 augustus 2025 voor regels omtrent algemene AI-modellen, en 2 augustus 2026 voor volledige implementatie van regels voor hoogrisico AI-systemen.

Q2. Welke risiconiveaus onderscheidt de AI Act voor AI-systemen? De AI Act onderscheidt vier risiconiveaus: onaanvaardbaar risico (verboden toepassingen), hoog risico (streng gereguleerde systemen), beperkt risico (transparantieverplichtingen), en minimaal risico (minimale verplichtingen voor standaard AI-toepassingen).

Q3. Wat zijn de belangrijkste verplichtingen voor bedrijven die AI-systemen gebruiken? Bedrijven moeten hun AI-systemen classificeren, risicobeoordeling uitvoeren, verplichte documentatie bijhouden, zorgen voor transparantie en menselijk toezicht, en een AI-verantwoordelijke aanwijzen. Voor hoogrisico systemen gelden aanvullende eisen zoals registratie in de EU-database.

Q4. Hoe kunnen bedrijven zich voorbereiden op de AI Act? Bedrijven moeten beginnen met het in kaart brengen van al hun AI-toepassingen, een risicobeoordeling uitvoeren, controlesystemen implementeren, en zorgen voor training en bewustwording van medewerkers. Het is belangrijk om tijdig te starten met deze voorbereidingen.

Q5. Welke rol speelt training van medewerkers bij de implementatie van de AI Act? Training van medewerkers is cruciaal. Bedrijven zijn verplicht om hun personeel voldoende AI-kennis bij te brengen. Dit omvat het beoordelen van het huidige kennisniveau, het aanbieden van gerichte trainingen, en het opstellen van een gedragscode voor AI-gebruik. Deze verplichting gaat al zes maanden na inwerkingtreding van de AI Act in.