Att träna omdöme

Moralisk autonomi i en tid av algority och totalgoritärt rationella system

“Our objectives require us to constantly practise making decisions and taking responsibility, to constantly overcome our fear of making mistakes.” — Ingvar Kamprad, En möbelhandlares testamente

Det finns citat som åldras. Och så finns det citat som långsamt visar sig ha handlat om något större än sin egen tid. När Ingvar Kamprad skrev dessa ord i En möbelhandlares testamente formulerade han dem som en praktisk hållning för ett växande företag. I dag går de att läsa som något mer: en djupt relevant beskrivning av hur moralisk autonomi faktiskt fungerar.

Inte som en princip. Utan som en muskel.

Moralisk autonomi är inget tillstånd – det är en praktik

Kamprads poäng är lika enkel som krävande: ansvar uppstår inte genom rätt strukturer eller perfekta beslut, utan genom ständig övning i att fatta beslut och bära konsekvenserna av dem. Det är först när vi accepterar risken att göra fel som ansvar blir verkligt.

Detta ligger förvånansvärt nära vad moralpsykologisk forskning visar. Förmågan till självständig moralisk analys utvecklas inte automatiskt. Den stärks genom exponering för dilemman, genom friktion, genom situationer där regler och rutiner inte räcker. Och den försvagas när den inte används.

Precis som en muskel.

Här uppstår den första spänningen mot vår samtid.

Algority – när auktoritet flyttar in i beräkningen

I dag formas allt fler beslut av algoritmiska system. Inte alltid genom tvång, utan ofta genom rekommendationer, scoringar och sannolikheter. Allt oftare tillskrivs dessa system epistemisk auktoritet – de upplevs som tillförlitliga källor till vad som är sant, korrekt eller bäst att göra.

I en nyligen publicerad empirisk studie beskriver Frida Milella och Federico Cabitza detta fenomen som algority: människors benägenhet att tillskriva AI epistemisk auktoritet, det vill säga att behandla algoritmiska utsagor som övertygande påståenden om verkligheten och därmed som vägledning för vad som bör göras (Milella & Cabitza, Perceiving AI as an Epistemic Authority or Algority, 2026).

Det avgörande här är att auktoriteten inte ligger i algoritmen som sådan, utan i relationen mellan människan och systemet.

Algority handlar därför inte om att människor är okritiska, lata eller tekniskt naiva. Tvärtom. I komplexa och höginsatssituationer – juridiska bedömningar, rekrytering, vård, kreditgivning – är det fullt rationellt att luta sig mot system som upplevs som konsekventa, objektiva och mindre sårbara än mänskligt omdöme.

Men om vi läser Kamprad noggrant börjar problemet träda fram.

Att undvika misstag är inte samma sak som att utveckla ansvar. Att minimera osäkerhet är inte samma sak som att träna omdöme.

När algoritmiska system tar över den kognitiva och moraliska belastningen, händer något subtilt: människan slipper använda sin moraliska muskel.

Ett personligt korrektiv: HumanITet

I detta spänningsfält har jag själv börjat arbeta med begreppet HumanITet. HumanITet är inte ett etablerat ramverk, utan ett experimentellt utforskande jag bedriver som kretsar kring frågan: kan modern teknik – särskilt AI – designas för att hjälpa människor att bli mer mänskliga snarare än mindre?

Mer omdömesmässiga. Mer ansvarstagande. Mer benägna att stå kvar i det moraliskt osäkra, snarare än att avlasta sig själva från det.

HumanITet är därmed inte teknikoptimism, utan en prövande hållning: hur måste system utformas för att träna den mänskliga förmåga som Kamprad beskriver, snarare än försvaga den?

Från algority till det totalgoritärt rationella

Kamprads formulering pekar också mot något mer strukturellt. Han talar om vad våra mål kräver av oss. Alltså vilka egenskaper ett system, en kultur eller en organisation främjar eller underminerar.

Här ligger steget till det totalgoritärt rationella nära.

Med totalgoritärt menar jag här inte ett auktoritärt system i klassisk politisk mening, utan ett tillstånd där algoritmisk rationalitet tillåts bli total – där beräkning, optimering och rekommendationer gradvis tränger undan mänsklig prövning, utan att någon formellt tar bort människans ansvar.

Ett system blir inte totalgoritärt för att det använder algoritmer. Det blir totalgoritärt när algoritmisk rationalitet blir total – när den inte längre möter motstånd i mänskligt omdöme, utan ersätter det.

Algority beskriver då mekanismen på individnivå. Det totalgoritära beskriver konsekvensen på systemnivå.

Människan behåller formellt mandatet. Men slutar gradvis träna sin autonomi.

Hybridlösningen – räddning eller ansvarsförskjutning?

I praktiken vill få helt ersätta mänskligt beslutsfattande med AI. Det vanligaste svaret är hybridlösningar: människa + AI. På ytan låter detta som balans. Men Kamprads citat hjälper oss att ställa den svårare frågan:

Vem gör egentligen träningsarbetet?

Om människan formellt fattar beslutet men låter algoritmen definiera problemet, väga alternativen och legitimera utfallet, riskerar ansvar och omdöme att glida isär. Beslutet tas av en människa – men tänks av systemet.

Det är här rädslan för att göra fel blir central. Algoritmisk auktoritet erbjuder skydd: från skuld, från ensamhet i beslutet, från exponering.

Men ett skydd som används för ofta blir en inlåsning.

Rädsla för misstag – och dess pris

Kamprad skrev om att ständigt övervinna rädslan för att göra misstag. I dagens organisations- och systemlandskap sker ofta motsatsen. Vi designar bort rädslan genom kontroll, standardisering och beslutsstöd. Misstag ska helst inte inträffa alls.

Men där misstag inte får ske, tränas heller inget omdöme.

Ett samhälle som systematiskt minimerar moralisk friktion riskerar därför att producera något paradoxalt: formellt ansvarstagande människor med allt svagare förmåga att faktiskt ta ansvar.

HumanITet som träningsprincip

I detta ljus framstår HumanITet inte som ett värdeord, utan som ett funktionellt krav. Ett korrektiv mot det totalgoritärt rationella.

Kamprads citat kan här läsas som en designprincip:

System som gör oss tryggare genom att befria oss från beslut gör oss inte mer ansvarstagande. De gör oss bekvämare.

Och bekvämlighet är, för den moraliska muskeln, detsamma som förtvining.

Att välja friktion

Moralisk autonomi kräver inte perfekta människor. Den kräver miljöer som tillåter övning. Dilemman utan facit. Beslut utan fullständigt beslutsunderlag. Ansvar som inte kan delegeras bort – varken till regler, processer eller algoritmer.

Det kanske låter ineffektivt. Men alternativet är värre.

Ett samhälle som outsourcar sitt omdöme, även frivilligt, står utan skydd den dag systemen får fel – eller när ingen längre minns hur det känns att själv bära ett beslut.

Kamprad avslutade sitt testamente med tanken att det mesta ännu är ogjort. I dag kan det också läsas som en uppmaning:

Det mänskliga omdömet är aldrig färdigt. Men det måste tränas. I annat fall gör någon – eller något annat – det åt oss.

---

Du har precis läst artikel två av fem. Här nedan hittar du mer läsning ur artikelserien. Och du, har du frågor är det bara att du höra av dig till mig.

Del 1: Tränar vi omdöme – eller lydnad?