MÄNNISKAN I LOOPEN RÄCKER INTE – SÅ GRANSKAR NI AI-BESLUT
Det står en människa mellan AI:n och beslutet. På pappret ser det tryggt ut. I praktiken kan samma person ha fyrtio ärenden i kön, bara se AI:ns sammanfattning och sakna mandat att välja en annan väg. Då är människan inte en kontroll – bara det sista klicket i automatiseringen. Här är en metod för att ta reda på om er granskning faktiskt kan upptäcka fel, och för att bygga om den innan ett felaktigt förslag blir ett beslut.
Vem står bakom innehållet?
Den här artikeln är redaktionellt framtagen av AI på svenska för chefer, handläggare, HR, kvalitet, IT, skyddsombud och andra som utformar eller arbetar i processer där AI ger förslag, prioriteringar eller beslutsunderlag.
Den bygger på Digg och IMY:s riktlinjer för generativ AI i offentlig förvaltning, AI-förordningens artikel 14, EU-kommissionens aktuella tidslinje efter AI Omnibus, EU-kommissionens gemensamma forskningscentrums studie om mänsklig kontroll i rekrytering och kreditgivning samt NIST:s rapport om uppföljning av AI-system i drift.
Texten är allmän information, inte juridisk rådgivning. En konkret bedömning måste utgå från systemets avsedda användning, vilka personer som påverkas och vilka regler som gäller i verksamheten.
En människa är inte en kontrollmekanism i sig
Uttrycket human in the loop används ofta som ett färdigt svar på AI-risker: systemet föreslår, en människa beslutar. Men det beskriver bara var en person befinner sig i flödet. Det säger inget om vad personen kan se, vad hen kan, hur mycket tid som finns eller vad som händer om hen säger nej.
Verklig kontroll kräver minst fem saker:
- Kompetens: granskaren förstår sakområdet, uppgiften och de fel som AI-systemet kan göra.
- Underlag: granskaren kan jämföra förslaget med originalet, inte bara läsa AI:ns egen sammanfattning av det.
- Tid: arbetsmängden gör det möjligt att granska på den nivå som beslutets konsekvens kräver.
- Mandat: granskaren kan avvika, begära mer underlag, stoppa processen eller eskalera utan att straffas av produktionsmåttet.
- Återkoppling: fel och avvikelser registreras så att organisationen kan se mönster och förbättra både systemet och arbetssättet.
Om en av dessa saknas kan kontrollen bli svag. Om flera saknas är ”mänskligt godkänd” mest en etikett.
Människor rättar inte automatiskt en orättvis AI
EU-kommissionens gemensamma forskningscentrum, JRC, undersökte mänsklig kontroll i AI-stödda rekryterings- och kreditbeslut. Studien omfattade 1 411 HR- och bankanställda i Italien och Tyskland, följt av intervjuer och workshoppar.
Resultatet är en viktig varning mot att använda ”en människa fattar slutbeslutet” som hela säkerhetsargumentet. Deltagarna var lika benägna att följa rådet från en generell AI som gav diskriminerande råd som från en AI som hade utformats för att vara rättvis. Den mänskliga kontrollen hindrade alltså inte diskriminering när den partiska modellen användes. När den mer rättvisa modellen användes blev valen mindre könsmässigt snedvridna, men deltagarnas egna fördomar påverkade fortfarande resultatet.
Studien bevisar inte att varje AI-granskare kommer att göra samma sak. Den gäller två känsliga beslutstyper, två länder och ett experimentellt upplägg. Men den visar att en människa i flödet inte neutraliserar ett snedvridet beslutsstöd av sig själv. JRC:s slutsats är att kontrollen behöver utformas systemiskt och att granskare behöver vägledning om när AI-rekommendationen ska åsidosättas.
Två fel uppstår när systemet blir facit
Fel genom handling: granskaren följer ett felaktigt förslag eftersom systemet verkar säkert, konsekvent eller mer informerat än den egna bedömningen. Ett lågriskärende markeras rött, en kvalificerad kandidat sorteras ned eller ett påhittat lagrum följer med in i beslutsmotiveringen.
Fel genom utebliven handling: granskaren missar något som systemet inte flaggade. När uppmärksamheten riktas mot AI:ns markeringar får det som saknar markering mindre granskning, trots att systemet aldrig lovat full täckning.
Detta brukar kallas automatiseringsbias. AI-förordningens artikel 14 nämner uttryckligen risken att automatiskt eller överdrivet förlita sig på utdata från ett högrisksystem. Det är särskilt relevant när systemet lämnar information eller rekommendationer som människor ska fatta beslut utifrån.
Risken blir större när AI-förslaget visas först, när det är formulerat med självsäker ton, när källan ligger flera klick bort, när avvikelse kräver en skriftlig förklaring men godkännande bara kräver ett klick, eller när arbetsmåttet belönar snabb genomströmning. Gränssnittet och bemanningen kan alltså göra kontrollen svag även när policyn är välskriven.
Tolv testärenden avslöjade kontrollen
En serviceenhet använder AI för att föreslå om inkomna klagomål ska hanteras som gröna, gula eller röda. En handläggare godkänner varje klassning. Enheten beskriver därför processen som helt mänskligt kontrollerad.
Vid ett internt test lägger kvalitetsteamet in tolv syntetiska ärenden där rätt hantering är bestämd i förväg. Fyra innehåller en ovanlig men tydlig risksignal som systemet missar och klassar grönt. Handläggarna fångar ett av de fyra. De övriga tre går vidare eftersom AI:ns korta sammanfattning ligger överst, originaltexten är hopfälld och kön är lång.
Scenariot är illustrativt, men testmetoden är verklig och enkel. Processen hade en människa i varje ärende, men kontrollen saknade tre avgörande egenskaper: originalunderlaget syntes inte först, granskaren visste inte vilken feltyp som skulle eftersökas och arbetsmåttet premierade hastighet. Lösningen är därför inte bara att säga ”granska noggrannare”. Flödet behöver byggas om.
Vad artikel 14 säger – och när den gäller
AI-förordningens artikel 14 gäller system som klassas som högrisk. Den kräver att sådana system utformas så att de effektivt kan övervakas av människor. Den som ansvarar för kontrollen ska, på en nivå som är proportionerlig till risk och sammanhang, kunna förstå systemets relevanta förmågor och begränsningar, tolka resultatet, upptäcka avvikelser och vara medveten om automatiseringsbias. Personen ska också kunna avstå från att använda systemet, bortse från eller ändra resultatet samt ingripa eller stoppa systemet.
Det betyder inte att artikel 14 gäller varje chattbot, skrivhjälp eller AI-sammanfattning. Först måste systemets avsedda användning och riskklass bedömas. Efter att AI Omnibus (förordning (EU) 2026/1744) trädde i kraft den 27 juli 2026 börjar högriskreglerna för system i bilaga III – bland annat vissa användningar inom anställning – tillämpas den 2 december 2027. För högrisksystem som är säkerhetskomponenter i produkter enligt bilaga I är datumet den 2 augusti 2028.
De senare datumen är inget skäl att skjuta upp fungerande kontroll. Digg och IMY:s riktlinjer för offentlig förvaltning säger att generativ AI vid beslutsfattande bör användas med försiktighet, ha mänsklig kontroll och kunna förklaras i sin helhet. De betonar också att verksamheten måste behålla den kompetens som krävs för kvalitetskontrollen. Förvaltningsrätt, dataskydd, diskrimineringsrätt, arbetsmiljöregler och interna delegationsordningar kan gälla oberoende av när AI-förordningens högriskkrav börjar tillämpas.
Det viktiga är att inte använda ”mänsklig kontroll” som juridisk trollformel. En människa gör inte ett olämpligt system lämpligt, och en extra signatur gör inte otillåten databehandling tillåten.
Bygg kontrollen i sju steg
- Beskriv konsekvensen av ett fel. Börja inte med verktyget. Beskriv vem som kan påverkas och vad som händer om ett felaktigt förslag godkänns eller om en viktig signal missas.
- Bestäm kontrollens djup. Låg konsekvens kan hanteras med kriterier och stickprov. Hög konsekvens kan kräva självständig kontroll mot originalunderlaget, särskild kompetens eller ett andra godkännande enligt befintlig specialist- och beslutsrutin.
- Visa källan före slutsatsen. Låt granskaren möta relevanta fakta och ange en preliminär egen bedömning innan AI-rekommendationen visas när en oberoende bedömning är viktig.
- Gör avvikelse lika lätt som godkännande. Det ska finnas tydliga val för att ändra, stoppa, begära komplettering och eskalera. Kräv inte en uppsats för att säga nej om ett ja bara kräver ett klick.
- Skriv stoppregler. Ange vilka situationer som alltid lämnar standardflödet: saknat underlag, motstridiga källor, påverkan på rättigheter, skyddade personuppgifter, ovanliga fall eller tecken på säkerhetsproblem.
- Testa med kända fall. Använd syntetiska eller korrekt avidentifierade fall där facit finns. Blanda lätta fall med sällsynta och allvarliga fel. Kör testet under realistisk tids- och arbetsbelastning.
- Följ upp kontrollen, inte bara modellen. Mät upptäckta och missade fel, kontrolltid, avvikelser, eskaleringar och återkommande feltyper. Justera gränssnitt, bemanning, instruktioner eller system när mönstret kräver det.
NIST:s rapport om uppföljning av AI-system i drift från mars 2026 understryker att praxis och validerade metoder fortfarande är splittrade och omogna. Det är ett skäl att dokumentera hur den egna kontrollen fungerar, inte ett skäl att vänta på en perfekt standard.
Fem frågor som ska få plats bredvid beslutet
- Vilket originalunderlag stöder AI-förslaget?
- Vilken uppgift eller vilket perspektiv kan saknas?
- Vilken känd feltyp är mest relevant här?
- Vad blir konsekvensen om förslaget är fel?
- Ska jag godkänna, ändra, begära mer underlag, stoppa eller eskalera?
Frågorna ersätter inte yrkeskunskap. De hjälper granskaren att använda den. I rutinärenden kan kortet vara en enkel kontrollista. I känsliga beslut behöver det kopplas till verksamhetens ordinarie krav på dokumentation, motivering, kommunicering, specialistgranskning och överklagande.
Om problemet i stället gäller AI-genererade texter före utskick finns en närliggande, mer avgränsad metod i artikeln Dubbelläs AI-svar före utskick.
Sex kontrollupplägg som ser bättre ut än de är
- Granskaren ser bara AI-sammanfattningen. Då går det inte att kontrollera utelämnanden mot originalet.
- Alla förslag måste behandlas lika snabbt. Då trängs fördjupad kontroll bort även när konsekvensen är hög.
- Avvikelser räknas som sämre produktivitet. Då finns formellt mandat att säga nej men ett praktiskt incitament att säga ja.
- Samma person bygger prompten, driftar flödet och godkänner kvaliteten. Då kan återkommande antaganden bli osynliga.
- Överstyrningsgraden används som kvalitetsmått. En låg andel kan betyda hög precision, men också passiv granskning. En hög andel kan betyda vaksamhet eller ett dåligt system.
- Endast lyckade vardagsfall testas. Då vet ni inget om sällsynta fall, motstridiga underlag eller situationer där någon faktiskt kan skadas.
Om modellen, prompten, källorna eller verktygen ändras behöver kontrollen testas igen. Sajten har en separat steg-för-steg-guide för regressionstest av AI-arbetsflöden.
Prompt för att granska själva kontrollprocessen
Det finns ingen universell granskningskvot
Det går inte att ange en enda säker siffra för hur många procent av AI-förslag som ska dubbelkontrolleras eller hur många minuter en granskning ska ta. En sådan nivå måste bero på konsekvens, feltyp, systemets dokumenterade prestanda, granskarens kompetens och möjligheten att rätta ett fel i efterhand.
JRC-studien ger stark anledning att inte lita på mänsklig närvaro ensam, men den säger inte exakt vilket gränssnitt eller vilken arbetsfördelning som fungerar bäst i varje verksamhet. NIST beskriver samtidigt brist på gemensam terminologi och validerade metoder för uppföljning efter driftsättning. Praktiska råd i den här artikeln är därför en metod för att pröva och förbättra kontrollen – inte ett bevis på regelefterlevnad.
Vi känner inte heller till någon svensk domstolspraxis som avgör när en viss utformning av mänsklig kontroll är tillräcklig enligt AI-förordningens artikel 14. Kravet gäller högrisksystem och ska tillämpas proportionerligt. Verksamheter med beslut som påverkar enskilda bör därför dokumentera sin bedömning och ta in juridisk, säkerhetsmässig och verksamhetsnära kompetens där konsekvensen motiverar det.
Ett test på nästa teammöte
- Välj ett AI-stött arbetsmoment där en människa i dag godkänner resultatet.
- Be granskaren visa exakt vilket originalunderlag, vilka alternativ och vilka stoppval som finns i gränssnittet.
- Skapa tre syntetiska testfall med kända fel: ett tydligt, ett subtilt och ett där AI:n utelämnar en viktig signal.
- Kör dem under normal arbetsbelastning och notera vad som upptäcks, hur lång tid det tar och om någon använder stopp- eller eskaleringsvägen.
- Rätta först det största hindret: underlaget, tiden, kompetensen, mandatet eller återkopplingen.
Det testet säger mer om kontrollens kvalitet än en policyformulering om att ”människan alltid har sista ordet”.
Vanliga frågor om mänsklig kontroll av AI
Vad krävs för att mänsklig kontroll av AI ska vara verklig?
Granskaren behöver förstå uppgiften och AI-systemets begränsningar, få se det underlag som krävs för en egen bedömning, ha tillräckligt med tid och ha mandat att avvika, stoppa eller eskalera. Organisationen behöver dessutom följa upp om kontrollen faktiskt hittar fel. En namngiven person eller en godkännandeknapp räcker inte om dessa villkor saknas.
Måste varje AI-förslag granskas helt från början?
Inte alltid. Kontrollens djup bör följa konsekvensen av ett fel. Vid beslut som påverkar människors rättigheter, ekonomi, vård, anställning eller säkerhet kan en självständig kontroll mot originalunderlaget behövas. För utkast med låg konsekvens kan tydliga kriterier, källkontroll och återkommande stickprov vara rimligare. Dataskydd, sekretess och verksamhetens befintliga beslutsregler gäller oavsett nivå.
Gäller AI-förordningens artikel 14 redan för alla AI-verktyg?
Nej. Artikel 14 gäller AI-system som klassas som högrisk och gör inte vanliga kontorsverktyg till högrisk bara för att de använder AI. Efter AI Omnibus börjar högriskreglerna för system i bilaga III tillämpas den 2 december 2027 och för produktinbyggda system i bilaga I den 2 augusti 2028. Andra regler, avtal och interna krav på kontroll kan gälla redan nu.
Hur mäter man om AI-granskningen fungerar?
Använd kända testfall och stickprov där facit eller originalunderlaget finns. Mät vilka fel granskarna upptäcker, hur ofta felaktiga förslag går vidare, hur lång kontrollen tar, vilka avvikelser som görs och om stopp- och eskaleringsregler används rätt. Andelen godkända eller överstyrda AI-förslag är inte ensam ett kvalitetsmått.
Källor och vidare läsning
- Digg och IMY: Beslut med stöd av generativ AI bör ha mänsklig kontroll (öppnas i ny flik)
- EU AI Act Service Desk: artikel 14 om mänsklig kontroll (öppnas i ny flik)
- EUR-Lex: förordning (EU) 2026/1744 om ändrade tillämpningsdatum i AI-förordningen (öppnas i ny flik)
- EU-kommissionens JRC: The impact of human oversight on discrimination in AI-supported decision-making (öppnas i ny flik)
- NIST AI 800-4: Challenges to the monitoring of deployed AI systems (öppnas i ny flik)
- Journal of the American Medical Informatics Association: systematisk översikt om automatiseringsbias (öppnas i ny flik)