Tussen doemdenken en utopie ligt goed AI-bestuur

Boultwood ziet de maatschappelijke weerstand groeien. In de Verenigde Staten is een meerderheid tegen nieuwe datacenters in de buurt, en in sommige regio’s stegen de stroomprijzen fors. Vrijwillige afspraken van techbedrijven volstaan volgens haar niet meer. Ze pleit voor stevig overheidstoezicht, met verplichte rapportage over incidenten en over de impact op energie en water. Daarnaast zou de sector een eigen toezichthouder moeten oprichten, naar voorbeeld van de Amerikaanse zelfregulering in de financiële sector, die veiligheidstests standaardiseert en kennis over incidenten deelt.

Voor risicomanagers is vooral het derde niveau relevant: de organisatie zelf. Dat geldt niet alleen voor AI-ontwikkelaars, maar ook voor banken en andere bedrijven die modellen van derden gebruiken. Boultwood past het model van de drie verdedigingslinies toe, met internal audit als ogen en oren van het bestuur. Ze waarschuwt wel voor spanningen. Commerciële druk om snel te lanceren kan de controle door de tweede en derde lijn ondermijnen, en auditors hebben diepe technische kennis nodig zonder hun onafhankelijkheid te verliezen. AI-risico beheersen vraagt daarmee niet om stilstand, maar vooral om duidelijke verantwoordelijkheden op elk niveau.

Dit is een samenvatting van het volledige artikel op de site van GARP.