Government AI use outpacing official rules, study warns
A study of AI adoption in a public sector organization found employees widely using generative AI without formal approval, while governance frameworks remained stuck in planning mode. The finding suggests governments promoting "responsible AI" may lack the organizational flexibility to manage real-world deployment—a gap that could undermine accountability and security.
Originaltitel: Bridging the Governance-Practice Gap: A Socio-Technical Study of AI Co-evolution
Offentliga organisationer adopterar AI snabbare än deras styrningssystem hinner anpassas sig. En ny studie från Stockholm University avslöjar ett betydande gap mellan officiella AI-ramverk och hur anställda faktiskt använder teknik i sin dagliga verksamhet — ofta utan att ledningen är medveten. Forskarna intervjuade sexton anställda på olika nivåer i en kenyansk offentlig myndighet och identifierade omfattande "skugganvändning" av generativ AI, där tekniken implementerades bottom-up innan några formella riktlinjer fanns på plats. Organisationen närmat sig problemet genom att stärka människans tillsyn och ge informell vägledning, men håller fortfarande människan centralt för ansvaret. Slutsatsen är kritisk för politiska beslutsfattare: ansvarsfull AI-integration är inte en engångskontrollöversättning utan en pågående adaptiv process. Kommuner och myndigheter behöver återkommande uppdateringar av sina styrdokument för att matcha verklig användning.
AI is increasingly embedded in public sector operations, reshaping policy development, service delivery, and administrative decision-making. While governments promote frameworks for “trustworthy” and “responsible” AI, little is known about how governance evolves as employees integrate AI into everyday work. This study examines the co-evolution of AI governance and organisational control within a public organisation. Drawing on a socio-technical perspective, we conceptualise governance as a dynamic interplay between frontline AI use and managerial responses. An interpretive qualitative single-case study was conducted in a Kenyan public organisation, based on sixteen semi-structured interviews across hierarchical levels. Findings reveal a pronounced governance–practice gap: generative AI adoption emerged bottom-up, leading to widespread “shadow AI” use, while formal controls lagged behind. Governance was adapted incrementally through strengthened human oversight and informal managerial guidance, while accountability remained firmly human-centred. The study highlights responsible AI integration as an adaptive organisational process rather than a static compliance exercise.