HÖGRISK-SYSTEM

KÄLLHÄNVISNING

Bilaga I och bilaga III

Högrisk-AI-system definieras i två bilagor till EU AI Act. Bilaga I listar produkter som regleras av befintlig EU-lagstiftning (t.ex. medicintekniska produkter, fordon) och som nu också måste följa EU AI Act om de innehåller AI. Bilaga III är en ny lista med högrisk-ändamål som gäller direkt.

Det är bilaga III som är mest relevant för de flesta svenska organisationer. Den uppdateras av EU-kommissionen via delegerade akter och kan utvidgas med nya sektorer.

NY ARBETSLINJE: FRISTÅENDE HÖGRISK 2 DEC 2027, PRODUKTINBYGGD HÖGRISK 2 AUG 2028

HR OCH REKRYTERING

Anställning och personalhantering

Detta är en av de mest direkt relevanta kategorierna för svenska organisationer. AI-system i dessa sammanhang klassas som högrisk:

• Automatiserad gallring, rankning eller filtrering av ansökningar och CV:n
• AI-system som sätter poäng på kandidater under rekryteringsprocessen
• Systhem som bedömer lämplighet för befordran
• AI som analyserar prestationer och produktivitet för att ge underlag till personalprocesser
• System för automatiserad tilldelning av arbetsuppgifter i plattformsarbete (gig-ekonomi)

Praktisk konsekvens: Om ni använder ett ATS-system (Applicant Tracking System) med AI-funktioner för gallring eller rankning av kandidater är det troligen högrisk. Ni måste säkerställa mänsklig granskning och informera kandidater.

Läs om AI i rekrytering för HR-proffs

UTBILDNING

Skola och akademi

• System som avgör tillgång till utbildningsinstitutioner (antagningsbeslut)
• AI som bedömer och sätter betyg på elevers och studenters prestationer
• AI som identifierar fusk eller oegentligheter i examinationer
• System som används för att övervaka elevers/studenters beteende under utbildning

Praktisk konsekvens: Automatiserade betygssystem och AI-baserade fuskdetektorer är högrisk. Mänsklig bedömning måste alltid vara möjlig och tillgänglig som alternativ.

Läs om AI-etik för lärare

HÄLSA OCH SJUKVÅRD

Vård och omsorg

Medicintekniska produkter med AI regleras primärt under bilaga I (MDR/IVDR) men berörs nu även av EU AI Act. Under bilaga III gäller högrisk för:

• AI-system avsedda som medicinska hjälpmedel för diagnos, behandling eller monitorering
• System för triagering och prioritering av patienter i akutsjukvård
• AI som bedömer risk för självskada eller psykisk ohälsa
• Kliniska beslutsstödssystem som rekommenderar behandling

Praktisk konsekvens: AI-stöd för diagnostik och kliniska beslut kräver CE-märkning och dokumentation. Vårdgivare som driftsätter sådana system är driftsättare med egna skyldigheter.

Läs om AI-etik för vård och omsorg

VITALA TJÄNSTER OCH FINANS

Bank, försäkring och offentliga förmåner

• AI-system för kreditbedömning som påverkar en persons tillgång till lån
• Automatiserade system för försäkringsbedömning som avgör premier eller täckning
• AI som bedömer rätten till offentliga förmåner (socialbidrag, bostadsbidrag m.m.)
• System för bedömning av kreditvärdighet hos juridiska personer (om det påverkar individer)

Praktisk konsekvens: Banker och försäkringsbolag med AI i kreditbedömningen och kommuner med AI-stöd i bidragsprövning är driftsättare av högrisk-AI.

OFFENTLIG FÖRVALTNING

Myndighetsutövning och handläggning

• AI-system som ger stöd till beslut i ärenden som påverkar enskildas rättigheter
• System för riskklassificering av individer i offentlig verksamhet
• AI-stöd för bedömning av asylansökningar och migrationsbeslut
• System för biometrisk identifiering i gränskontroll

Praktisk konsekvens: Myndigheter och kommuner som använder AI-stöd i handläggning av ärenden som påverkar individers rättigheter är driftsättare av högrisk-AI med tydliga krav på mänsklig kontroll och transparens.

Läs om sekretess och GDPR för offentlig sektor

JURIDIK OCH BROTTSBEKÄMPNING

Polis, åklagare och domstolar

• AI-verktyg som ger riskbedömning av personer för brottsförutsägelse
• System som används i brottsutredning för mönsterigenkänning och analys
• AI-stöd för bedömning av bevis och sakförhållanden i rättsliga processer
• System för polisiär prioritering baserat på AI-analys

Läs om AI-etik för jurister

INTE HÖGRISK

Vad är inte högrisk?

Det är lätt att överbedöma risknivån. Följande är inte högrisk enligt bilaga III:

• AI-assisterade HR-verktyg som hjälper rekryterare att skriva jobbannonser (ingen gallring av kandidater)
• Chatbotar för internt FAQ och knowledge management
• AI-textverktyg (Copilot, ChatGPT) för att skriva rapporter och sammanfattningar
• Automatisk bildklassificering av interna dokument utan beslutspåverkan
• Grammatik- och stavningskontroll

REGELN: OM AI-SYSTEMET DIREKT PÅVERKAR BESLUTET OM EN INDIVIDS RÄTTIGHETER, MÖJLIGHETER ELLER TILLGÅNG TILL TJÄNSTER — ÄR DET SANNOLIKT HÖGRISK

KÄLLOR OCH FÖRDJUPNING

Officiella källor att kontrollera

• EU-kommissionen: AI Act och aktuell tillämpningstidslinje (öppnas i ny flik) (öppnas i ny flik)
• EU-kommissionen: utkast till riktlinjer för högriskklassificering (öppnas i ny flik) (öppnas i ny flik)
• Europeiska unionens råd — slutligt godkännande av AI Omnibus, 29 juni 2026 (öppnas i ny flik)
• EU-kommissionen: AI Act Service Desk och Single Information Platform (öppnas i ny flik) (öppnas i ny flik)
• EUR-Lex: förordning (EU) 2024/1689 i fulltext (öppnas i ny flik) (öppnas i ny flik)

AI OMNIBUS BESLUTADES FORMELLT 29 JUNI 2026. KONTROLLERA ALLTID SENASTE MYNDIGHETSVÄGLEDNING.