AI & makten över besluten

Som någon som jobbar inom offentlig sektor, och har sett hur beslut om ”digitalisering” fattas av chefer som år 2024 behöver hjälp av ”tekniker” för att hitta muteknappen i Teams, skrämmer den här utvecklingen livet ur mig. I en tid när vi mer än någonsin behöver tänka efter exakt hur mycket av beslutsfattande och persondatahantering vi vill stoppa in i smarta försäljares svarta lådor kommer vi snarare att glatt fortsätta ”leka och lattja” (exakt citat vad jag som bibliotekarie uppmuntras göra med ”artificiell” ”intelligens”) oss fram till en punkt där vi inte längre vet hur beslut fattas, på vilka grunder, och vem som är ansvarig. Problemet med s k AI är inte att den är för smart; det är att vi är för dumma.

Snälla någon, bevisa att jag har fel.

- Göteborg som lät en algoritm fördela var skolbarn skulle gå i skolan och inte förstod skillnaden mellan fågelväg och resetid. Och sedan inte tog ansvar. Och förvaltningsdomstolen inte förstod problemet.
- ”Teknik är alltid byggd av någon, på ett visst sätt, med ett speciellt syfte i åtanke, och detta syfte kommer också att avspeglas i teknikens utformning. Om teknikens politiska dimensioner glöms bort riskerar vi att osynliggöra samhällsbeslut som borde fattas i demokratiska församlingar. Motmedlet är en medvetenhet om att den tekniska utvecklingen inte är självgående utan den kan och bör underkastas demokratins principer.”
- ”Hur mycket data varje medborgare genererar, och vilka beteenden medborgaren ’matar’ systemet med, är inte jämlikt fördelat. Den som äger fler tekniska prylar tenderar att skapa mer data”
- ”Några har gjort ett medvetet val, men de flesta förblir passiva och väntar på styrsignaler från regeringen eller (…) SKR. Styrsignaler de med stor sannolikhet inte kommer att få. (…) Konsekvensen är enskilda inköp till astronomiska totalbelopp, obefintlig förhandlingsstyrka gentemot ett fåtal jätteleverantörer och – om vi ska vara ärliga – ofta rätt kassa system.” (Marcus Matteby, Sundsvalls kommun)
- ”Att AI har potential att bidra med stora nyttor inom offentlig sektor är det ingen som förnekar, men samtidigt finns risk för att marknadens affärsmodeller skapar än större inlåsningseffekter med ytterligare minskad transparens som effekt. (…) Detta behöver dock inte bli en sanning för kommuner och regioner om vi lyckas driva utvecklingen mot användning av en mer öppen AI-infrastruktur…”
- ”Det offentliga ska inte lockas till en innovationsverksamhet som inte håller medborgares fri- och rättigheter i första rummet. Att sjösätta eller tillåta samhällsbärande digitala lösningar utan att förstå hur tekniken är uppbyggd eller hur lösningarna hanterar medborgares data är att tillåta sig att medvetet ignorera den nya teknikens maktmedel – algoritmerna – och den inverka de kommer att ha på medborgarnas tillit till samhällets förmåga att utvecklas i samklang med den digitala tidsålder vi lever i.”
- ”Digitaliseringen har lett till att myndigheter kunnat omformulera sitt uppdrag från myndighetsutövning till ett ’tjänsteutbud’ efterliknande en kommersiell aktörs terminologi. När medborgaren förvandlas till kund förlorar individen också makten över samhällsutvecklingen. Kundens val gäller individuella tjänster för individen, till skillnad från att ge en medborgare agens när det gäller samhället i stort.”
- ”Trots detta har digitalisering aldrig varit en partipolitisk fråga där ideologiska vägval presenteras för väljarna. (…) Den enda konkreta fråga som fanns med i programförklaringarna var löften om utbyggd bredband. De drygt 1330 motioner om digitalisering som i skrivande stund har lämnats in till riksdagen ger inte heller de någon bild av vad partierna avser att digitaliseringen ska leda till för ett samhälle.”
- ”Användningen av ML-teknik som beslutsstöd i offentlig myndighetsutövning är rättfärdig enligt demokratiska normer om, och endast om (I) det grundar sig på skäl som överensstämmer med offentliga beslut om de mål som demokratiskt har beslutats, och (II) skälen är tillgängliga för dem som omfattas av ett beslut fattat av en offentlig myndighet.”