TANKESÄTTET
Automatisera processen — delegera inte ansvaret
Börja med verksamhetsmålet, beslutspunkterna och konsekvensen av fel. Modellen är en osäker komponent i ett större system, inte processägaren.
Fråga: vilket steg kräver ett modellval, vilket kan vara deterministiskt och vilket måste en människa äga?
Åtta frågor som blir systemets krav
- Vilket mätbart resultat ska systemet skapa?
- Vilken input är tillåten och vilken är uttryckligen förbjuden?
- Vilka steg är fasta och var behövs modellstyrt val?
- Vilka tools, scopes och nätverksmål är minsta nödvändiga?
- Vad är en irreversibel handling och vem godkänner den?
- Hur ser timeout, återförsök, idempotens, stopp och manuell reservrutin ut?
- Vilka evals och acceptansgränser gäller före och efter lansering?
- Vem äger kostnad, loggar, incidenter och avveckling?
Kartlägg normalfall, undantag och angripare
Utför processen manuellt på flera representativa fall. Dokumentera beslut, datakällor, undantag och vad som kräver omdöme. Lägg sedan till missbruksscenarier: manipulerad webbsida, illvilligt mejl, komprometterat tool, läckt token, fel användare och för stor payload.
Resultatet ska vara en körbar specifikation och ett eval-set — inte bara en längre systemprompt.
När du ska välja prompt, workflow eller människa
- Prompt: låg volym, manuell start och lättkontrollerat utkast.
- Workflow: stabila regler, kända steg och krav på reproducerbarhet.
- Agent: verklig variation där modellens verktygsval ger mätbar nytta.
- Människa: otydligt mål, svårverifierat utfall eller hög konsekvens utan säker grind.
Frekvens och tidsvinst räcker inte. Även risk, verifierbarhet, underhåll och felkostnad avgör.
Modell, prompt, tools och data förändras
Versionera varje beroende och kör regressionsevals vid ändring. Följ kvalitet, farliga verktygsförsök, manuell eskalering, kostnad, latens och fel per datakälla. Sätt larm och avstängningsgränser.
Loggar kan innehålla känsliga data och behöver egen åtkomst, lagringstid och redaktion. Tracing är en observability-funktion, inte ett tillstånd att samla allt.
Fem designfel som skapar onödig risk
- En bred agentidentitet med fler scopes än uppgiften kräver.
- Instruktioner används som enda skydd mot farliga tool calls.
- Återförsök saknar idempotens och skapar dubbla handlingar.
- Ett polerat svar godkänns utan käll-, schema- eller policykontroll.
- Systemet lanseras utan ägare, evals, incidentväg, pausknapp eller avvecklingsplan.
Skribent, källkontroll och begränsning
Skribent och teknisk källgranskare: Christopher Leijon. Funktioner, protokoll och säkerhetsråd har kontrollerats mot länkade primärkällor .
Extern sakgranskning: Ingen extern systemarkitekt, AI-säkerhetsspecialist eller dataskyddsspecialist har granskat sidan. Materialet är ett praktiskt orienteringsstöd och ersätter inte säkerhetsgranskning, hotmodellering, juridisk bedömning eller organisationens förändringsprocess.
Nästa: Promptbibliotek
Kopiera och anpassa promptmallar för systemprompt, research, sammanfattning och agentspecifikation.