Staatssecretaris Alexandra van Huffelen (Digitale Zaken) heeft plannen aangekondigd om ambtenaren binnen de overheid tijdelijk te verbieden om gebruik te maken van AI-software, zoals Juridische ChatBot, vanwege de huidige risico’s op het gebied van privacy en auteursrechten.
Het voorgenomen verbod heeft betrekking op AI-programma’s die in staat zijn om teksten, afbeeldingen, audio of video’s te genereren, zoals chatbots zoals ChatGPT en Bard, of afbeeldingsgeneratoren zoals Dall-E.
De Autoriteit Persoonsgegevens (AP), concludeert dat “niet-gecontracteerde generatieve AI-toepassingen over het algemeen niet voldoen aan de Nederlandse wetgeving op het gebied van privacy en auteursrecht.”
AI-toepassingen waarbij de overheid wel een contract aangaat met een leverancier zouden niet onder dit brede verbod vallen.
Staatssecretaris Alexandra van Huffelen wijst erop dat het “onduidelijk” is of aanbieders zoals ChatGPT voldoende aandacht besteden aan de rechten van auteurs. De taalmodellen achter programma’s zoals ChatGPT en Bard zijn getraind met grote hoeveelheden teksten, waaronder krantenarchieven en auteursrechtelijk beschermde boeken. Dit geldt ook voor generatieve-AI.
“Transparantie ontbreekt vaak,” zegt de Staatssecretaris over veel aanbieders. Daarnaast ontbreekt er nog een duidelijke juridische uitspraak over het gebruik van openbare internetbronnen voor dit doel.
Privacy
Privacy is ook een zorgpunt: “Een generatieve AI-toepassing kan zeer gevoelige informatie afleiden uit de interactie met de gebruiker.” Tot slot wijst de staatssecretaris op een fundamenteel gevaar dat samenhangt met het gebruik van AI: de antwoorden van een programma zoals ChatGPT “kunnen worden gebruikt om beslissingen over een persoon te nemen.”
De nota zal binnenkort worden besproken in de ministerraad. Als deze wordt goedgekeurd, zal het verbod gelden voor overheidsdiensten en hun leveranciers.
Veilig en verantwoord Tegelijkertijd ziet Van Hees ook mogelijkheden voor het nuttige gebruik van generatieve AI binnen de overheid, maar dan wel op een veilige manier. Dit moet worden bereikt via verschillende experimenten. Deze pilotprojecten moeten halverwege volgend jaar zijn afgerond, waarna er richtlijnen zullen worden opgesteld voor het verantwoorde gebruik van AI door overheidsorganisaties. Daarnaast komt er een opleidingsprogramma voor ambtenaren en een uitgebreidere visie op AI. Deskundigen waarschuwen al geruime tijd dat organisaties vaak te lichtvaardig denken over het gebruik van programma’s zoals ChatGPT. Professionals voeren bijvoorbeeld vertrouwelijke stukken in om deze te laten samenvatten of vertalen, zonder dat altijd duidelijk is wat het techbedrijf precies doet met die informatie. Bij diensten zoals ChatGPT is er ook een extra zorgpunt, aangezien ambtenaren verplicht zijn om in te loggen met hun e-mailadres, waardoor eenvoudig kan worden achterhaald wie vragen stelt aan de systemen.
‘Nederland kan achterop raken’
Sander Klous, hoogleraar datatechnologie aan de Universiteit van Amsterdam, erkent de genoemde risico’s in de nota, maar een algeheel verbod gaat hem te ver: “Er zijn zoveel nuances in AI-toepassingen dat het beter is om het gebruik te beperken op basis van reële risico’s in plaats van alles direct te verbieden.” Een breed verbod zou Nederland ook in een achterstandspositie kunnen plaatsen ten opzichte van landen die ruimer gebruikmaken van generatieve AI, waarschuwt de hoogleraar. Een woordvoerder van het ministerie van Binnenlandse Zaken, waar Juridische Zaken onder valt, laat weten dat het ministerie de ontwikkelingen op het gebied van generatieve AI nauwlettend volgt, maar wil geen commentaar geven op het conceptvoorstel en kan ook niet aangeven wanneer dit eventueel in de ministerraad zal worden besproken.
Wilt u meer weten over dit onderwerp, stel een vraag aan advocaten.nl of bel met 0900-advocaten.