Bloggpost Fredrik Scheja
BLOGGPOST
DIGITAL

"Idag är ingen vanlig dag"

Förintelsens minnesdag får Fredrik Scheja att blogga om hur vi bör bygga in robusta etiska mekanismer i våra lösningar, mekanismer som kommer spela en avgörande roll när vi genom digtaliseringen hoppas kunna bygga en bättre värld.

Många dagar har ett speciellt tema. Idag är det inte kanelbullens eller korsbefruktningens dag, idag är det Förintelsens minnesdag – the Holocaust.

Bifogat foto nedan sägs vara ett namnregister ur ett inventeringsarbete utfört i Sverige för omkring 80 år sedan. När man upptäcker sitt egna efternamn i en sådan förteckning kommer det hela en väldigt nära. Hade historiens vingslag fladdrat till lite annorlunda i mitten på förra seklet hade jag kanske inte funnits till. Mina förfäders genetiska kod hade kunnat spela en avgörande roll för beslutet om min släktlinje skulle elimineras eller inte. Det hade inte med religon att göra, beslutet var endast genetiskt och politiskt. 

scheja-forintelsebild_450.jpg

 

Jag skriver detta av en anledning, jag uppmärksammar detta idag eftersom jag under min livstid funderat på hur jag ska förhålla mig till detta och till slut landat i ett förhållningssätt som jag tror på och finner tillförsikt inför. 

Så – med anledning av detta kommer jag nu med en tanke, en idé - en uppmaning som vid en första anblick kan uppfattas som provocerande, särskilt en dag som denna, nämligen: 

Ta det inte för allvarligt 

Jag menar så här - ta det precis så pass respektfullt allvarligt att du finner det värdefullt att lyssna till hur andra människor tänker och förhåller sig till utanförskap, hat, jämställdhetsfrågor, integrationsfrågor, migration, mångfald, valfrihet, respekt. 

Men ta det inte så pass allvarligt att du blir förblindad och vägrar bjuda in till värdefokuserade samtal. Stäng inga åsikter eller röster utanför - låt nyfikenheten vinna över frustrationen. Gör inte så som jag erfar är det rådande förhållningssätt i media, vetenskapliga eller politiska kretsar i samhället idag, att avstå från att bjuda in grupper, partier, individer med ’fel’ åsikter. 

Meningsskiljaktigheter är inte farliga, så tillåt inte din hjärnas reflexmässiga hotreaktion förmå dig att fly eller bemöta andra människor med utfrysning, förnekelse eller förlöjliganden, oavsett de ståndpunkter de representerar. Respektera varandras åsikter. Lyssna. På riktigt. Gå in dialogen och börja samtala, ställ frågor, även om du inte delar samma uppfattning. Var inte så himla säker på att du har rätt och den du pratar med har fel, för det är väldigt få saker som vi faktiskt kan säga är ’sanningen’. 

Öva, säg fel saker utan att förledas tro att det blir förödande, öva på att odla dina egna åsikter, dina interna modeller för etik och moral och finn din egna värdegrund genom att öva, öva, öva dina synapser, ditt ordförråd, dina frågeformuleringar och dina tankemodeller genom att samtala med dem omkring dig om det som är viktigt, på riktigt. 

Då bygger vi steg för steg tillsammans ett inkluderande samhälle, ett samhälle där vi bemöter varandra som de suveräna individer vi är och utefter våra unika, speciella förmågor istället för att låta vårt bemötande bestämmas utefter ytliga epitet såsom kön, etnicitet, religion, ålder, diagnoser m.m. Detta är ett modernt angreppssätt jag ser att vi praktiskt kan applicera för att förebygga det som denna minnesdag påminner oss om – att liknande scenarion inte får tillåtas ske igen. För det är svårt att närma sig Förintelsen, svårt att prata om den, svårt att sätta ord på den, då det inte finns något vackert, rent, att balansera historien med och slutresultatet, effekten som det ledde till är något av det mest fasansfulla som kan tänkas ske. 

Men - med detta sagt är jag övertygad kring att det inte skedde över en natt utan på grund av en ofantligt stor mängd små små faktorer, tillfälligheter och oräkneliga mänskliga möten som ledde fram till den möjlighet att detta scenario kunde utvecklas. Det jag vill framöver fokusera på är hur vi gemensamt utforskar och bygger ett robust socialt kontrakt i samhället som bygger på nätverkande, öppenhet, respekt och mod där vi vågar utforska oss själva och andras tankemönster så att vi går till botten med vad det var för faktorer som kunde leda mänskligheten så snett. För först när vi är, på riktigt, medvetna om dessa förmågor och mekanismer kan vi hjälpas åt att förebygga bort dem, socialt, politiskt, teknologiskt. Jag tror att vi på detta sätt kan uppnå en jämställdhet vi kan känna stolthet inför där ingen blir bemött eller behandlad utefter ytliga attribut utan istället sedd för sin mänskliga förmåga och bemött med ömsesidig respekt. 

Jag arbetar med teknisk utveckling och test av digitala lösningar. Jag ser i dagsläget att vi inte har en susning och är varken medvetna eller rustade för att bygga in robusta etiska mekanismer i våra lösningar, mekanismer som kommer spela en avgörande roll när vi genom digtaliseringen hoppas kunna bygga en bättre värld. Redan idag är det vanligt att rekommendationer presenteras för användaren av digitala lösningar utifrån det rimligaste valet, så kallade rekommendationsmotorer. Det har dock redan visat sig att denna enkla form av artificiell intelligens är behäftad med problematik då algoritmerna inte kan vara mer intelligenta än den data vi matar den med. Dessa rekommendationsalgoritmer byggs idag in som stöd för läkare, myndigheter, personal i alla samhällets stödsystem. Men alltför många observationer har redan noterats där tekniken misslyckats att ta hänsyn till exempelvis jämställdhet vilket resulterat i att termen technochauvinism redan etablerats för att belysa problemområdet.

Undersökningar visar att fler än 8 av 10 utvecklingsbolag redan noterat oetiska effekter som ett resultat vid implementationen av artificiell intelligens, så vad finns det för fler moraliskt/etiska problem underbyggda som vi är omedvetna om i dagens digitaliseringshets? Läkare som omedvetetet planerar en operation tidigare än någon annan baserat på patientens kön eller etnicitet? Migrationsbeslut baserat på tidigare exekverade beslut, som i sin tur baserats på kultur och tradition – 'det är så vi tidigare hanterat ärenden gällande den regionen'. Om våra redan existerande direktiv, processer och rutiner förblir baserade på enkla modeller och synsätt redan innan digitaliseringen kommer inte AI att hjälpa. Artificiell intelligens är inget magiskt trollspö. Lär vi oss inte först själva hur vi bygger upp en solid plattform av självmedvetenhet, självledarskap, etik och moral och vad detta syftar till så kommer vi agera ytligt, eller till och med fel, och dessa handlingar matas in i form av data i våra digitala produkter, och de kommer lära sig och kopiera, kanske till och med förstärka våra tillkortakommande. 

Det är därför av yttersta vikt att vi eftertänksamt utforskar hur vi tänker kring oss själva och våra värderingar, bygger modeller för hur vi ska 'uppfostra' våra digitala lösningar samt hur data ska hanteras på ett moget sätt - för det är ur detta våra självlärande digitala komponenter kommer att plocka insikter samt ta beslut ifrån. Vi bör skyndsamt etablera teknoetik som en självklar punkt på utvecklingsagendan där vi börjar utreda frågeställningar så som – Hur vill vi att våra framtida system ska agera? Utefter vilken värdegrund? Denna resa börjar nu, men vi måste börja med oss själva. För bilden jag bifogade på registret för judar boendes i Sverige är inte dåligt i sig, det ligger ingen oren värdering, ingen ond intention i själva datarepresentationen, det är hur datan används, vilka beslut som tas på grund av datan som kan ha moraliska/etiska implikationer. I dagsläget är det kanske läkaren, brandmannen, handläggaren i samhället som fortfarande har det exekutiva ansvaret för beslutet, men hur länge kommer det ta innan läkaren anser att det är enklast att låta maskinen ta beslutet själv?

Snart kommer vi låta maskinerna ta beslut åt oss, och hur ska vi då se till att dessa genom en ofantligt stor mängd autonoma små, små beslut i oräkneliga digitala system sakta men säkert på det stora hela avviker från vad vi trodde var självklart? Jag vill bara inte att vi står där om 80 år och säger 'Hur kunde digitaliseringen leda mänskligheten så snett'? Är detta en överhängande risk? Jo, för vad digitaliseringen gör är endast att bygga en eftersläpande skuggrepresentation, en digital tvilling av oss själva och vårt samhälle. Det är vår uppgift att se till att vi fångar möjligheten att bygga en bättre version av oss själva, istället för vår onda tvilling.

todo todo
KONTAKT
  • fredrik scheja
    Fredrik Scheja
    Test Architect/Test Automation Expert
    070-345 27 13