AI och källkritik

Jag blir alltmer intresserad av hur två aktuella behov/trender kolliderar: användandet av AI och källkritik. Frågan är om detta kommer att bli två oförenliga områden, mest på grund av vår mänskliga lättja.

Låt oss ta ett konkret exempel. Efter att ha läst boken om Stockholms stads skolplattform (Olle Lidbom Skolplattformen), som jag ska återkomma till i ett senare inlägg, framkommer att en mängd mycket fatala beslut fattades på vägen mot haveriet med enorma kostnader och ett misslyckat resultat: Skolplattformen. En med stort ansvar för detta är den person som först var CIO för utbildningsförvaltningen, därefter CIO för hela staden. Hon hette Ann Hellenius och fick en mängd lovord och utmärkelser så länge det gick bra, försvann i rättan tid men fick sitta kvar i regeringens digitaliseringsråd fram till och med 2023. För Stockholms stads skattebetalare var hon en tveksam "välsignelse" som en av hennes dåvarande kanske väl devota underhuggare kallade henne.

För att testa vilken beskrivning som AI-lösningar kan ge av detta förlopp testade jag först Perplexity med frågan Hur har Ann Hellenius bidragit till Stockholms stads digitala utveckling?

Ann Hellenius har gjort flera betydande bidrag till Stockholms stads digitala utveckling under sin tid som IT-direktör:

Omorganisation för digital transformation:

Hon lade ner den traditionella IT-avdelningen och ersatte den med en digitaliseringsavdelning för att skapa en mer flexibel och innovativ organisation12.

Detta ledde till besparingar på 300 miljoner kronor samtidigt som det satte fokus på utvecklingen av den smarta och hållbara staden3.

Visionen om "världens smartaste stad":

Hellenius drev arbetet med att utveckla en strategi för att göra Stockholm till "världens smartaste stad" ur hållbarhets-, demokrati- och ekonomiska perspektiv12.

Hon betonade vikten av att använda digitalisering för att möta samhällsutmaningar som urbanisering, globalisering och förändrad demografi6.

Fokus på medborgarnytta och e-förvaltning:

Hon prioriterade utvecklingen av e-tjänster för att möta medborgarnas behov och förenkla deras interaktion med staden2.

Hellenius arbetade för att öka invånarnas inflytande och deltagande i demokratiska processer genom digitalisering2.

Digitalisering av skolor:

Innan hon blev IT-direktör ledde Hellenius digitaliseringen av Stockholms skolor, inklusive implementeringen av en ny IT-plattform2.

Innovativa initiativ:

Hon arrangerade barn-hackathons i Stadshuset och initierade samarbeten med startup-företag3.

Erkännanden:

Under Hellenius ledning utsågs Stockholm till "Most Innovative City of the Year" 2016 och "Årets digitaliseringskommun" 20175.

Hon själv utsågs till "Årets CIO" 2017 och "European CIO of the Year" 201635.

Genom dessa insatser har Ann Hellenius bidragit till att positionera Stockholm som en ledande digital stad och skapat en grund för fortsatt innovation och medborgarcentrerad digital utveckling.

Idel lovord där det saknas väsentliga pusselbitar om vad som egentligen hände under den tid hon hade ansvar för stadens it-verksamhet. Fördelen med Perplexity är källhänvisningarna där det framgår vad uppgifterna hämtats ifrån.

Om vi istället använde ChatGPT och frågar vem Ann Hellenius är får vi följande svar:

Samma renodlat positiva bild men denna gång utan källhänvisningar.

Det inte personen Ann Hellenius jag är ute efter utan den närmast övermäktiga uppgiften att ta sig an kontrollera det så smidigt presenterade AI-underlaget och kontrollera om det är korrekt och fullständigt. Både som historiker och samhällsinvånare blir jag orolig över om det är så att den som har möjlighet att få sin version presenterad en masse också kommer att få denna version accepterad som "sanningen".

Det blir en avgörande maktfråga, den som har makt över vad som presenteras kommer också att få inte historieskrivningen utan även problemformuleringsprivilegiet - alltså makten över samhällsutvecklingen.

Detta är säkert gamla sanningar för många men det blir för mig så uppenbart när man ser på ett faktiskt exempel på hur verkligen retuscheras. Och vem kan och har resurser för att utveckla och sedan använda metoder för att korrigera AI-sanningen? Kommer AI att bli något som tynger ner oss i gamla strukturer och maktförhållanden istället för att lyfta oss till ny höjder?