Een snellere beoordeling kan prettig zijn voor een organisatie en nadelig uitpakken voor degene die beoordeeld wordt. Denk aan een AI-samenvatting van een sollicitatie waarin relevante ervaring ontbreekt. Dan wil je weten wie dat opmerkt, of de sollicitant de fout kan laten herstellen en of iemand opnieuw naar het oorspronkelijke materiaal kijkt.
Zulke vragen maken ethische AI concreet. Je moet bepalen welke belangen tellen, waar je grenzen trekt en wat iemand kan doen als de uitkomst niet klopt. Afspraken helpen om die keuzes in het dagelijkse werk zichtbaar te maken. Ze vervangen het gesprek over de keuzes zelf niet.
1. Leg doel, betrokkenen en grenzen vast
Beschrijf waarvoor je AI wilt gebruiken en wie daar gevolgen van kan ondervinden. Een sneller proces is een belang; zorgvuldige behandeling is dat ook. Spreek af welke afweging een medewerker zelf moet maken en welke rol het systeem daarin krijgt.
Bij het sollicitatievoorbeeld zou je bijvoorbeeld kunnen afspreken dat een samenvatting het originele dossier niet vervangt en dat een medewerker relevante informatie controleert voordat er een besluit valt. Dat is een voorbeeld van een werkafspraak, geen volledige beoordeling van de toepassing.
2. Maak uitkomsten controleerbaar en bespreekbaar
Een plausibele toelichting is niet genoeg. Een beoordelaar moet kunnen nagaan welke informatie is gebruikt en waar belangrijke onzekerheden zitten. Bepaal ook hoe betrokkenen een fout of ongewenst gevolg kunnen melden en wie een verzoek tot herbeoordeling behandelt.
Wees duidelijk over de rol van AI waar dat nodig is voor een eerlijke beoordeling of waar regels dat vereisen. Welke informatie je precies verstrekt, hangt af van de toepassing en de betrokken mensen.
3. Beperk het gebruik van gegevens tot wat nodig is
Leg vast welke gegevens de toepassing nodig heeft en onder welke afspraken de leverancier die verwerkt. Doe hetzelfde voor de gegevens die je bewaart om het gebruik te controleren. Een volledig log kan ook gevoelige informatie bevatten. Spreek daarom af wat je vastlegt, wie toegang krijgt en wanneer gegevens worden verwijderd.
Neem persoonsgegevens, vertrouwelijke informatie en rechten op gebruikt materiaal afzonderlijk mee in die beoordeling. Een contract met een leverancier neemt die afweging niet van je over.
4. Geef iemand de bevoegdheid om in te grijpen
Menselijk toezicht vraagt om meer dan een naam onder een goedkeuring. De verantwoordelijke moet de uitkomst kunnen betwisten, aanvullende informatie kunnen opvragen en het gebruik kunnen onderbreken. Maak de route bij problemen bereikbaar voor de mensen die ermee werken én voor degenen die er gevolgen van ondervinden.
Spreek vooraf af welke signalen aanleiding zijn om een toepassing tijdelijk stil te zetten en wie daarover beslist.
5. Beoordeel ook wat je niet had voorzien
Kijk na ingebruikname verder dan tijdwinst en foutpercentages. Onderzoek ook klachten, terugkerende uitzonderingen en groepen die anders worden behandeld dan bedoeld. Betrek waar passend de mensen die gevolgen ondervinden. Pas de toepassing of afspraken aan als de oorspronkelijke afweging niet meer houdbaar is.
Voor het organiseren van die opvolging bestaan hulpmiddelen. NIST publiceerde een vrijwillig raamwerk met een profiel voor generatieve AI. ISO/IEC 42001 beschrijft eisen aan een AI-managementsysteem. Welke wettelijke verplichtingen daarnaast gelden, vraagt een beoordeling van de concrete toepassing en de rol van de organisatie.
Hoe dit aansluit op Common Sense Management
Common Sense Management draait om helderheid, verantwoordelijkheid en eenvoudige afspraken die in het werk bruikbaar zijn. Dikke handboeken horen daar niet bij. Voor AI geldt hetzelfde. Houd het klein:
- duidelijke doelen
- een duidelijke eigenaar
- duidelijke afspraken
- een vast ritme
Zo bekeken hoort ethische AI gewoon bij goed management. Het hoeft geen extra laag bovenop het werk te zijn.
Waar ik een afspraak op toets
Een goede afspraak maakt duidelijk wat er gebeurt wanneer belangen botsen of iemand de uitkomst betwist. Dáár zou ik een gesprek over ethische AI op toetsen. Kunnen de betrokken mensen met de afspraken uit de voeten, ook als de situatie lastig wordt?
Wil je deze vragen uitwerken voor een toepassing in jouw organisatie? Laten we kennismaken.