Tech's 'Public Values' Push Often Backfires, Research Warns
A new study of algorithmic systems across Europe reveals that companies invoking public values like privacy and fairness frequently fail to deliver—sometimes achieving the opposite result. The finding matters because regulators and executives are increasingly betting on 'values-based' AI governance, yet the research identifies five specific ways this approach can fail without proper execution.
Originaltitel: The dark side of public values in algorithmic systems
Algoritmer som beslutsstöd i offentlig sektor riskerar att undergräva sina eget syfte när värden som integritet, jämlikhet och solidaritet implementeras utan lokal förankring. En etnografisk studie från fem europeiska länder identifierar fem kritiska fallgropar: värdesnävring (fokus på få mätbara värden), värdespelande (formell efterlevnad utan faktisk förändring), värdepushning (påtvingade värden som saknar lokalt stöd), värdekollision (motsägande krav mellan värden) och värdeprojection (antaganden om vad medborgare faktiskt värderar). Forskare från King's College London, Linköpings universitet, Helsingfors och Leuven visar att tekniska lösningar utan dialog med dem som ska tillämpa systemet snarare motverkar intended outcomes. För kommuner och myndigheter innebär detta att värdebaserad algoritmpolicy kräver iterativ samverkan med personal och berörda grupper — inte ensidig övergripande normering.
Recent discussions around artificial intelligence and algorithmic systems increasingly speak of ‘public values’ being under threat. Big tech is thought to realise values like efficiency and accuracy at the expense of collectively held values like privacy, autonomy, solidarity and equality. However, there are dangers involved in invoking public values without specifying what they are and how they are to be realised. In this article, drawing on ethnographic studies of algorithmic systems (across five European countries and a variety of fields) we explain how various uses of values can lead to practical problems, even to the opposite of originally stated objectives. We offer a list of five problems which arise when values are ‘disconnected’ from local specificities, from the people who must realise them or from other values. Our list includes: value narrowing, value tickboxing, value pushing, value mismatch and value projection.