Smoke and mirrors

Jag var på ett av de många seminarierna om en av de många rapporterna om AI (nu på ESO). Tyvärr var både rapporten och diskussionen tyngd av samma vridna bias som i princip alltid i dessa sammanhang. Sanningar som att AI, utifrån mycket cherry pickade exempel, kommer att öka effektiviteten i offentlig sektor och att "produktiviteten" generellt är låg i offentlig sektor. Dessa teser anses inte behövas beläggas och inte heller behöver man ta med risker eller laterala effekter som kraftigt ökad energiförbrukning. Jag måste tillstå att jag är litet tagen av att man tillmäter BCG:s programmeringskonsulter, "upplevd effekt" och hur många annonser hos Arbetsförmedlingen som nämner AI så oerhört stor betydelse i en produkt som ändå har akademiska anspråk. En annan reflektion är med vilken lätthet arbetsgivarorganisationen SKR presenterar AI som en stor hjälp i "kontroll av regelefterlevnad", dvs. övervakning av anställda i kommuner och regioner.

Lösningen var också som alltid "stärkt ledarskap". Under en längre tid har jag funderat över vad det här ständiga yrkandet på bättre ledarskap egentligen betyder men seminariet hade det goda med sig att jag tror mig förstå den sanna innebörden av uttrycket. Jag tror att det helt enkelt betyder att om du gör som vi (allahanda digitaliserings- och AI-ivrare samt leverantörer) säger så är du "modig" och visar ledarskap. Visserligen betyder det också att du struntar i alla andra aspekter och många erfarenheter som tyder att på att det är ganska svårt att genomföra lyckosamma digitaliseringsprojekt men det får det vara värt.

Vad som mer sällan tas upp i rapporter och på seminarier är de faktiska utfallen av olika digitaliserings- och AI-projekt i offentlig sektor. Här finns ju verkligen ett mycket omfattande material för den som vill bli bättre genom att lära av erfarenheter. Tyvärr får det väl ses som en allmän trend att organisationer mycket sällan utnyttjar kunskapen från mer eller mindre misslyckade projekt (jag har under några år försökt begära ut utvärderingsrapporter efter projekt som havererat med klent resultat). Därmed kan samma misstag upprepas gång på gång bekostade av skattemedel som kunde ha använts bättre.

Det finns likheter i dessa projekt. En dramatisk båge som upprepas till leda är först det stora anslaget: vi ska förändra allt, effektivisera som en Musk, förbättra kvalitet, spara pengar, lösa det demografiska dilemmat osv. Sedan en turné på konferenser och media när projektet marknadsförs och applåderas, inte minst av leverantörer som är inblandade. Sedan tystnad förutom det interna arbetet som sällan belönas med de framgångar som utlovats. Förlåt att jag tjatar, jag vet att jag redan skrivit om fenomenet digitala björnskinn ett antal gånger, bland annat här, men jag tycker ytterligare exempel förtjänar att lyftas.

Ett konkret exempel är IVO. Under 2021 beslöt sig IVO att börja med vad man kallade datadriven tillsyn. I praktiken innebar det att myndigheten samlade in 60 000 journaler från äldreboenden vilket skapar en enorm arbetsbörda för kommunerna. Detta leder till SKR ifrågasätter IVO:s tolkning av sitt uppdrag. De inhämtade journalerna förvaras på myndighetens file server utan särskilt behörighetsskydd tillgängliga för en stor andel av myndighetens medarbetare. Ansvariga på myndigheten ser inget problem med detta och inte heller med att man saknar en registerlag som ger tillåtelse till att samla in personuppgifter på det här sättet. Attityden känns igen från när myndigheten fick stark kritik angående en enkät som låg helt öppen och möjlig att påverka.

Syftet med insamlingen får sägas vara gott eftersom så stora brister avtäckts i äldrevården under pandemin men sättet att genomföra det ifrågasattes både inifrån myndigheten och utifrån. Dessvärre är det idag mycket svårt att se vad det här så förment revolutionerande projektet egentligen lett till förutom mycket stora risker för enkildas integritet. När jag frågar myndigheten om man utvärderat resultatet tar det mycket lång tid innan jag ens får något svar. När det till slut kommer framgår det tydligt att det inte skett någon systematisk utvärdering utan man hänvisar till uppgifter i myndighetens årsrapport :

Man har alltså en egen uppfattning om att man nog blivit bättre men det tycks bygga på en egen upplevelse - inte en systematisk utvärdering som går att presentera och lära sig av. Som utomstående är det mycket svårt att se bevis för att myndigheten ökat sin produktivitet och i så fall till vilka kostnader/risker. Hur som helst har marknadsföringen av resultatet, om den alls sker, inte alls samma braskande rubriker. Litet tråkigt är ju att myndigheten samtidigt verkar försumma de mest elementära digitala rutinerna vilket leder till sannolikt lagbrott, att enskildas integritet kränks och att myndigheten får oönskad uppmärksamhet.

Jag menar att trycket från regeringen att digitalisera till varje pris understödjer denna olyckliga fördumning inom digitalisering och AI. När regeringen säger att det inte spelar någon roll vilken digitalisering eller AI som används bara det görs är det som att säga "förbruka så mycket el som möjligt oavsett på vad". En duktig GD profilerar sig med digitalisering/AI. Det är så Millennium-projekt skapas (även om det var i en region)!

På engelska finns det ett bra uttryck: smoke and mirrors, det vill säga att när man som en magiker skapar en illusion för att förvilla åskådarna och få dem att tro att de ser något helt annat än vad som faktiskt sker i verkligheten. För mig framstår hela området digitalisering och AI som ett inte alltför lustigt men vilseledande hus fyllt av rök och speglar.