Wie draagt de verantwoordelijkheid?
Toezichthouders in Engeland en Australië willen bewijs dat AI veilig werkt, en CIO's worden aangesproken op AI die ze niet zelf kozen. De rode draad deze week: eigenaarschap is niet uit te besteden.
Vier berichten met dezelfde boodschap. Verantwoordelijkheid voor AI kun je niet afschuiven op de technologie, een leverancier of een andere afdeling. Wie AI inzet, moet kunnen laten zien wie beslist en hoe het geregeld is.
-
Information Commissioner's Office (ICO) ·
ICO secures changes from leading AI developers as scrutiny extends to AI agents
De ICO zegt het zonder omwegen: dat een agent zelfstandig handelt, is geen excuus voor slechte compliance. Wie agents met persoonsgegevens laat werken, blijft dus zelf aanspreekbaar, en dat hoort vooraf in je privacyafweging, niet achteraf. Reageren op de call for evidence kan tot 20 november.
-
ABC News ·
Australia outlines plans to make AI companies prove their safety systems work
Australië wil dat AI-ontwikkelaars aantonen dat hun veiligheidssystemen werken, naar het model van bank- en luchtvaarttoezicht, omdat vrijwillige codes niet genoeg zijn. Ik verwacht dat die bewijslast ook in Europese directiekamers landt: niet zeggen dat je AI beheerst, maar het kunnen laten zien.
-
CIO Dive ·
Who actually controls enterprise AI?
Thoughtworks vroeg 3.200 CIO's wie AI bezit en betaalt, en een vast model is er niet. Toch verwacht 94% van de Amerikaanse CIO's aangesproken te worden op fouten van AI die andere afdelingen zelf hebben ingezet. Leg beslisrechten en verantwoordelijkheid bij dezelfde persoon, anders wordt het bij het eerste incident zoeken naar een schuldige.
-
ITPro ·
ISACA CEO says AI compliance will be like 'SOX on steroids'
ISACA-topman Erik Prusch verwacht dat AI-compliance zwaarder wordt dan SOX en dat bestuurders in rechtszaken worden genoemd als AI misgaat. In Europa komen de AI Act, NIS2, DORA en de Cyber Resilience Act tegelijk op organisaties af. Eén samenhangend governancekader is dan slimmer dan vier losse compliancetrajecten.