artificiell intelligens

Digitaliseringen finns inte. Inte framtiden heller. Vi behöver ett brett samtal om teknik och dess tillämpning, som ger plats för både olika tankar om vad teknik är och olika röster om hur den kan påverka.

Den här veckan arrangeras eMedborgarveckan, samordnad av Digidelnätverket. Mitt bidrag har varit sju biblioteksföreläsningar om vad digitalisering är och hur vi kan förhålla oss till den. Den hos Hyltebruks Digidelcenter livesändes på Facebook och går att se i efterhand.

Den här bloggtexten är en mix av lite av det jag sagt, diskussionerna som följt på mina föreläsningar och lite nya funderingar som uppstått i kölvattnet av dem. Några av tankarna har jag redan berört i Digitalsamtal, och därför också några länkar till podden. Var och en av underrubrikerna är egentligen värd ett eget, längre blogginlägg. Och så blir det säkert vad det lider.

Men nu i kortformat.

(Om nu 13000 tecken är kort.)

Digitaliseringen finns inte

En viktig utgångspunkt för diskussionen om digitalisering är att slå fast att digitaliseringen inte finns. Det finns inte en digitalisering, i bestämd form singular. Det finns många olika aspekter av digitalisering, och vi behöver förhålla oss till dem som separata saker.

Varför är det viktigt? Av den enkla anledningen att digitalisering ser väldigt olika ut i ett sågverk, på ett äldreboende och i ett tonårsrum. Om vi i tanken och i samtal försöker samla alla dessa olika former av digitalisering under ett enda paraplybegrepp och sen försöker ta ställning till om Digitaliseringen (bestämd form singular, här till och med med stort D) är bra eller dålig, viktig eller oviktig, lätt eller svår, då kommer vi aldrig hamna rätt. Var och en av oss kommer att lasta begreppet Digitaliseringen med olika idéer om vad det är och därmed diskutera den utifrån helt olika utgångspunkter.

Att tänka på och diskutera olika former av digitalisering gör det möjligt att på ett mer relevant sätt förhålla sig till de olika typernas styrkor och svagheter, möjligheter och utmaningar.

(Digitalsamtal #172 – Det finns inte en Digitalisering med stort D.)

Digitalisering är inte teknik

Jag tror också att det är viktigt att särskilja den underliggande tekniken från tillämpningen. En anledning är att det gör det möjligt att bättre förstå hur nyttan av digitalisering uppstår, och varför viss digitalisering är problematisk.

Det går inte att titta på ett lyckat digitaliseringsprojekt och tro att det ska gå att upprepa bara för att man väljer att använda samma verktyg. ”Om allt du har är en hammare så ser allt ut som en spik.” Ska man lyckas med ett digitaliseringsprojekt går det inte att börja med att gräva i verktygslådan och se vad man har. Man måste börja med att fundera på vad målet är, och sen skaffa en verktygslåda som gör det möjligt att bygga en lösning som tar en närmare det.

Men det omvända gäller också: Om vi tänker på tekniken som en verktygslåda blir det uppenbart att det är vad vi människor väljer att göra med verktygen som spelar roll. Med en hammare går det att bygga fantastiskt nyttiga saker. Men det går också att bygga sånt som orsakar problem och skada på både samhälle och för enskilda individer. Det går det däremot inte att skylla hammaren för. Att ett verktyg som maskininlärning kan ge fördomsfulla system är inte en anledning att döma ut maskininlärning rent generellt. Och det här är ytterligare ett argument för varför vi måste prata om olika former av digitalisering, istället för Digitaliseringen.

Om vi utgår från en Digitalisering och är rädda för fördomsfull maskininlärning, då finns en risk att vi väljer bort alla positiva tillämpningar av tekniken för att undvika baksidorna. Och det tror jag vore olyckligt. Mänskligheten står inför många stora utmaningar, och många av dem kommer vi kunna lösa med hjälp av digitala verktyg. Kolla gärna på seminariet Schyssta algoritmer – människans bästa vän? från Almedalen 2018. Vinnovas generaldirektör Darja Isaksson är en av paneldeltagarna. Hon lyfter diskussionen från att handla om enskilda algoritmer, till tekniktillämpning mer generellt. Och konstaterar att schyssta algoritmer är att se till att tekniken används där den gör nytta för människor.

Sen tror jag att det kan finnas verktyg i den digitala verktygslådan som så ofta används i problematiska tillämpningar att användningen av dem måste begränsas, kanske till och med förbjudas. Men oftast tror jag att det är tillämpningen inte tekniken i sig som vi bör fundera kring när skruvar på regelverk och lagstiftning.

(Digitalsamtal #188 – Så får artificiell intelligens fördomar.)

Fler röster behövs i samtalet

Att det inte går digitalisering som enbart teknik innebär också att fler än tekniker måste vara delaktiga i samtalet om tekniken och dess användning. Just nu rusar utvecklingen av självkörande bilar framåt. Ingenjörer hos alla fordonstillverkare är dem som bäst förstår hur en bil ska bli självkörande. Men det är inte troligt att de också är bästa på att förstå vilka konsekvenserna av självkörande fordon blir.

På många håll och på många nivåer runt om i landet behöver de som planerar den fysiska infrastrukturen fundera på vad självkörande bilar gör med behovet av parkeringsplatser och motorvägar. Inom sjukvården behöver man också fundera på vad självkörande bilar kommer att få för konsekvenser. Färre olyckor är ett av de drivande argumenten bakom teknikutvecklingen. Färre trafikskadade på akutmottagningar runt om i världen, alltså. Men en sökning på ”self driving cars organ donation” visar på ett möjligt dilemma: Färre trafikolyckor innebär färre organ att transplantera. Vad innebär det för sjukvårdens rutiner för att välja mottagare i en transplantation? Får det konsekvenser för den illegala handeln med organ?

Redan i utvecklingen av teknik finns det därför all anledning att inkludera så många kompetensområden som möjligt, för att på bästa möjliga sätt förstå både positiva och negativa konsekvenser.

Men det tvärdisciplinella gäller också i tillämpningen. Jag hör att digitalisering i många verksamheter fortfarande ses som ett teknikprojekt, och därför många gånger hamnar på bara it-chefen och it-avdelningen att hantera. Men en it-chef eller en it-tekniker har inte nödvändigtvis den detaljförståelsen för hur det ser ut ute i verksamheten. Vilka problem som finns att lösa, vad kärnuppdraget faktiskt är.

Rapporten The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation, som vintern 2018 publicerades av forskare från 14 institutioner, lyfter bland annat fram bristande teknikförståelse och teknikintresse hos lagstiftarna som en stor utmaning. En annan risk lyfts är att de som utvecklar tekniken är ovilliga att diskutera teknikens problem.

Det är ofta affärsmodellen som skaver

Föreläser man om digitalisering är det just nu omöjligt att inte hamna i diskussioner om personlig integritet, distraktioner och skärmtid. Men också här tror jag att det är viktigt att fortsätta hålla isär underliggande teknik från tillämpning.

Jag läser just nu boken  The Age of Surveillance Capitalism av Shosanna Zuboff. Den handlar om hur data har blivit en viktig råvara i en tid när annonsfinansiering är det viktigaste och vanligaste sättet att bygga en affärsmodell för konsumenttjänster. Men i boken blir det också uppenbart att det är just affärsmodellen som är det stora problemet. Eftersom individdata är så viktig för den görs intrång i den personliga integriteten, därför överutnyttjas notifieringarna i mobilen för att få användarna att plocka upp telefonen och därför hamnar vi också i diskussionen av skärmtid.

Vem ska hjälpa barnen att få en sund relation till sina skärmar?

Mobiltelefoner kan vara oerhört distraherande, med ständigt plingande notifieringar. Om det tror jag att vi alla kan vara överens.

Det går också att sträva mot en framtiden med färre digitala distraktioner. Men här och nu måste vi förhålla oss till verkligheten som den faktiskt ser ut. Högljudda debattörer låter allt för ofta, enligt min åsikt, diskussionen om skolans digitalisering handla om skärmtid istället för undervisningens innehåll. (Se där, ett konkret exempel på problemet med Digitaliseringen som samlingsbegrepp!)

För det första tycker jag att det är ett stort problem att innehållet i de nya styrdokument som började gälla för grundskolan 2018 reduceras till att handla om skärmarnas vara eller icke-vara i klassrummen. Skolan ska ta sig an digitalisering på väldigt många olika sätt, där mycket inte alls handlar om vilka verktyg som eleverna ska använda, utan vad de ska lära sig.

För det andra så kan man fundera på var barnen ska få lära sig hantera distraktionerna i mobiltelefonen om inte i skolan. Jag har aldrig hört en motståndare till mobilförbud som menar att telefonerna ska få användas hur som helst i klassrummen, att det ska vara okej att spela Fortnite på mattelektionen och skrolla flödet i Instagram på kemin. Däremot att telefonen kan användas som ett verktyg när det passar. Och när det inte passar, då ska den ligga i ljudlöst läge i jackfickan eller väskan. Om inte eleverna i skolan får lära sig de verktyg och inställningar som faktiskt finns för färre och minskade distraktioner i mobilen, var ska de lära sig om dem då? Är det rimligt att utgå från att de elever som har störst problem att låta telefonen ligga när den inte behövs i skolarbetet kommer lära sig det på egen hand utanför skoltid?

Den personliga integriteten

Den personliga integriteten. Jag pratade om den i veckans föreläsningar, och den kom flera gånger upp i diskussionerna efteråt.

Jag tycker att det här är en svår nöt.

Å ena sidan är den personliga integriteten viktig, av oerhört många anledningar. Till exempel så håller alla de här argumenten för ett starkt skydd av den personliga integriteten som jag spaltade upp i en text 2015 fortfarande. I min yrkesutövning som journalist är integriteten viktig som en del i källskyddet. (Ett av de senaste avsnitten av podden Recode/Decode är för övrigt väldigt intressant lyssning på just det temat: Whistleblowers have never been more important — or more at risk, says Whistleblower Aid CEO John Tye.)

Å andra sidan så har vi till exempel hur artificiell intelligens och maskininlärning öppnar dörren till allt bättre diagnos- och behandlingsmetoder. Men AI och ML är datakrävande lösningar, och i fallet med sjuk- och hälsovård så är det ofta data om enskilda individer som behövs.

Hur viktar vi rätten till personlig integritet mot möjligheten att få en tidig och korrekt diagnos på ett potentiellt livshotande tillstånd?

(Digitalsamtal #198 – Internetkunskap med fokus på integritet och #194 – Tekniken i akutsjukvårdens frontlinje.)

De etiska konsekvenserna när teknik som väljs bort

Den offentliga debatten kring digitalisering handlar väldigt mycket om konsekvenserna, inte minst de etiska, av den teknik vi väljer att använda. För att återvända till de självkörande bilarna så har en populär tankelek varit att fundera över hur en självkörande bil kommer att välja vem den kommer att köra ihjäl när en olycka är omöjlig att undvika.

Jag tror att det ofta kan vara nog så viktigt att göra den omvända tankeleken: Om vi låter bli att använda den här tekniken, vilka konsekvenser får det? Vem drabbas om vi inte ersätter en nuvarande, mänsklig och analog process, med en digital? Vilka kommer att drabbas av trötta, påverkade eller stressade mänskliga bilförare?

Framtiden finns inte heller

Jag inledde det här inlägget med att konstatera att Digitaliseringen inte finns. Det samma går att säga om framtiden. Den finns inte heller. Inte i bemärkelsen att den är förutbestämd.

Vi kan alla vara med och påverka hur den blir. Är vi tekniker, genom de lösningar vi är med och bygger. Är vi lagstiftare, genom de regelverk vi sätter upp. Är vi beslutsfattare, genom den teknik vi väljer att implementera. Är vi användare, genom hur vi väljer att utnyttja tekniken.

Sex frågor till dig

Den här veckan har också gett upphov till några frågor, sex stycken närmare bestämt, som jag ställde till Digitalsamtals lyssnare i onsdags. Du som läser det här får gärna också svara på dem:

• Hur pratar ni om digitalisering i din verksamhet – med breda penseldrag eller väldigt konkret?
• Vilka kompetenser är med i diskussionerna om digitalisering – är det tekniker, verksamhetsansvariga, personal, användare, andra grupper?
• Är diskussionerna i första hand fokuserade på tekniken – eller på vad det är ni vill åstadkomma med hjälp av tekniken?
• Hur pratar ni om konsekvenserna av digitaliseringen – som ett direkt resultat av den underliggande tekniken eller hur den används?
• Hur pratar ni om konsekvenserna av att avstå från att digitalisera?
• Hur diskuteras kraven på de digitaliserade processerna – finns det förväntningar på att de ska vara felfria eller görs jämförelser med hur väl dagens processer fungerar?