AI Act

Naast de AVG dient een organisatie ook rekening te houden met diverse andere juridische vereisten. Wanneer een applicatie AI bevat, kan de AI Verordening van toepassing zijn. Vanuit de risicogebaseerde indeling van deze verordening kunnen verschillende regimes van toepassing zijn. Binnen legal zal de verboden categorie waarschijnlijk niet snel voorkomen, maar voorbeelden uit de categorie beperkt risico of hoog risico zijn wel denkbaar. Organisaties moeten per tool de risicoklasse en de eigen rol (aanbieder of gebruiksverantwoordelijke) in kaart brengen en afstemmen met de leverancier welke maatregelen er nodig zijn. Daarbij dient er ook aandacht te zijn voor tools die reeds in gebruik zijn. Lastig is dat steeds meer leveranciers ook AI toevoegen aan bestaande tooling.

Sinds februari 2025 geldt onder de AI Act bovendien de (inspannings)verplichting tot AI-geletterdheid. Sinds 27 juli 2026 is die verplichting door de Digital Omnibus on AI (Verordening (EU) 2026/1744) afgezwakt: organisaties die AI-systemen inzetten, moeten maatregelen nemen om de AI-geletterdheid van hun medewerkers te ondersteunen, zonder dat een bepaald niveau gegarandeerd hoeft te worden. Veel organisaties zijn hier al mee aan de slag gegaan. In de praktijk vertaalt zich dat in beleid en governance rond AI: wanneer en hoe mogen generatieve AI-tools wel of niet worden gebruikt? Uit de interviews en overige bronnen blijkt dat ook AI-geletterdheid als een steeds belangrijker thema wordt gezien. Hierop gaan we hierna onder Vaardigheden en rollen van juristen nog uitgebreider in.

AI flash

Bij de selectie van AI-systemen is het niet altijd direct duidelijk waar de data heen gaat. Vrijwel alle applicaties maken gebruik van een van de grote taalmodellen (van OpenAI, Anthropic, Google of Mistral). Die draaien meestal in de cloud, bij de modelleverancier zelf of via een cloudplatform als Azure, AWS of Google Cloud, eventueel binnen de EU. Alleen bij open modellen, zoals een deel van de modellen van Mistral, is lokaal draaien een reële optie. In de meeste gevallen gaat er dus informatie naar een derde partij. Naast de datastroom en beveiliging van de applicatie zelf is dus ook de beveiliging van de leverancier van het taalmodel relevant.

Bij tools met AI-functionaliteit komt daar een extra vraag bij: worden de ingevoerde gegevens, zoals contracten of e-mails, gebruikt om het onderliggende model te trainen of te verbeteren? Bij een groot deel van de generieke AI-diensten is dat standaard het geval, tenzij een organisatie dit expliciet uitzet of voor een zakelijke variant kiest. Zonder die uitzondering kan vertrouwelijke informatie van de organisatie of een cliënt indirect terechtkomen in een model dat ook door andere gebruikers wordt geraadpleegd.

Daarnaast is uitlegbaarheid een aandachtspunt dat bij traditionele software geen rol speelt: kan de leverancier aangeven waarop een gegenereerd antwoord of een risicobeoordeling is gebaseerd, of blijft dit een ‘black box’? Bij toepassingen die direct invloed hebben op een juridisch advies of een dossier is een menselijke controlestap (human in the loop) voor de output geen overbodige luxe maar een randvoorwaarde.