Arbejdsdeling
Hvad AI ikke kan – og hvorfor det er den vigtigste pointe
AI kan levere et overbevisende forarbejde uden at have hele grundlaget. Her får du en matrix og en stopmodel, der placerer formål, kontekst, kontrol og konsekvens hos de rigtige mennesker.
Et flydende AI-svar kan ligne resultatet af en grundig vurdering. Det kan have overskrifter, forbehold og en rolig konklusion. Men formen fortæller ikke, om de bærende oplysninger er sande, om vigtig lokal viden mangler, eller om anbefalingen passer til den konkrete situation. Det er den første grænse, man skal arbejde med: sproglig sikkerhed er ikke det samme som et sikkert beslutningsgrundlag.
Grænserne flytter sig, når modeller, værktøjer og datakilder bliver bedre. Derfor er det upræcist at sige, at »AI aldrig kan« løse en bestemt opgavetype. Det mere holdbare spørgsmål er, hvilken del af den aktuelle opgave et nuværende system kan udføre under hvilke betingelser, og hvilken del et menneske fortsat skal eje. Denne artikel giver en praktisk arbejdsdeling, ikke en filosofisk dom over al fremtidig teknologi.
Flydende output kan stadig være forkert
Generative sprogmodeller danner svar ud fra mønstre i deres data og den kontekst, de får. Den mekanisme kan producere både præcis og nyttig tekst, men også forkerte eller indbyrdes modstridende påstande. NIST kalder denne fejltype confabulation: systemet kan præsentere fejlagtigt indhold med stor sproglig sikkerhed. Et citat, en dato eller en begrundelse bliver ikke dokumentation, bare fordi det står pænt i outputtet.
Det betyder ikke, at alle svar er forkerte. Det betyder, at korrekthed skal komme fra en kontrol uden for selve formuleringen. Ved faktuelle opgaver skal den vigtige påstand kunne spores til en gældende originalkilde. Ved beregninger skal resultatet kunne efterprøves. Ved kategorisering skal kriterierne være kendte, og fejlene skal måles på relevante eksempler. Artiklen om hallucinationer, bias og kildekontrol beskriver den arbejdsgang mere detaljeret.
Kontekst er mere end dokumenter
Et system kan kun arbejde med den kontekst, der faktisk er gjort tilgængelig. Selv en stor dokumentbase kan mangle det, medarbejderne ved uden at have skrevet det ned: hvorfor en regel blev indført, hvilken aftale der ligger bag en undtagelse, hvem der skal høres, eller hvorfor en formelt oplagt løsning vil skabe et andet problem.
Tavs og lokal viden er ikke mystisk. Den kan ofte gøres tydelig gennem interviews, procesbeskrivelser, eksempler og beslutningslog. Men så længe den ikke er fanget, kan modellen ikke pålideligt tage højde for den. Og selv når den står i et dokument, kan dokumentet være gammelt, tvetydigt eller i konflikt med den praksis, organisationen faktisk følger. Mere kontekst er derfor ikke automatisk bedre kontekst; den skal have en ejer, en version og en gyldighed.
Værdier og ansvar kan ikke afleveres med prompten
Nogle spørgsmål har ikke ét teknisk korrekt svar. Hvor meget fejlrisiko vil organisationen acceptere? Hvem skal bære en ekstra byrde? Skal hurtighed veje tungere end mulighed for indsigelse? Modellen kan opstille hensyn og sammenligne valgmuligheder, hvis den får et klart grundlag. Men den fastlægger ikke organisationens legitime formål, mandat eller værdier.
Det er også et ansvarsspørgsmål. Et system kan foreslå en handling, men det kan ikke stå til ansvar over for en borger, kunde, medarbejder eller bestyrelse. Den person, der godkender et resultat, skal derfor have reel mulighed for at forstå, ændre og afvise det. En godkendelsesknap uden tid, kompetence eller adgang til grundlaget er ikke meningsfuld menneskelig kontrol.
En praktisk arbejdsdelingsmatrix
Følgende matrix er en anbefalet startfordeling. Den er ikke en beskrivelse af, hvad alle modeller præsterer lige godt. Opgaven skal stadig testes med det konkrete værktøj, de konkrete data og den konkrete anvendelse.
| Del af arbejdet | Modellen kan bidrage med | Mennesket skal eje | Kontrol før brug |
|---|---|---|---|
| Formål | Omskrive et givet mål og pege på uklarheder | Fastlægge hvorfor opgaven findes, og hvem den skal gavne | Kan formålet forklares uden at nævne værktøjet? |
| Udkast | Foreslå struktur, formuleringer og alternativer | Vælge budskab, tone og endelig betydning | Læs mod kilder, målgruppe og konsekvens |
| Klassifikation | Anvende beskrevne kategorier på mange ens input | Definere kategorier, undtagelser og acceptabel fejl | Test på et mærket, repræsentativt sæt |
| Sammenligning | Stille dokumenter eller muligheder op efter givne kriterier | Vælge kriterier og afgøre deres vægt | Kontrollér udeladelser og bærende påstande |
| Kontekst | Bruge de dokumenter og data, systemet får adgang til | Fortolke lokal historik, relationer og tavs viden | Angiv kilde, version, ejer og gyldighed |
| Beslutning | Belyse muligheder og formulere begrundelser | Afveje værdier, have mandat og eje konsekvenserne | Navngiven beslutningstager kan tilsidesætte outputtet |
Matrixen peger på en nyttig asymmetri: Systemet kan gøre meget af forarbejdet, men mennesket må stadig sætte rammen og lukke arbejdet. Hvis det er uklart, hvem der ejer formålet eller konsekvensen, er problemet organisatorisk før det er teknisk.
Usikkerhed skal omsættes til en regel
En generel besked om at »være kritisk« er for svag. Brug i stedet tre forhold til at bestemme kontrollen: alvor, reversibilitet og evidens. Det er en anbefalet beslutningsregel, ikke en officiel risikoklassifikation.
- Alvor: Hvad kan en fejl gøre ved økonomi, sikkerhed, helbred, rettigheder, omdømme eller et konkret menneske?
- Reversibilitet: Kan resultatet ændres, før nogen påvirkes, eller er handlingen vanskelig at rulle tilbage?
- Evidens: Kan den bærende påstand kontrolleres mod en autoritativ kilde, et facit eller observerbare data?
Når alvoren er lav, resultatet let kan ændres, og fejlen er synlig, kan modellen få stor plads til at foreslå. Når alvoren stiger, handlingen er svær at tilbageføre, eller evidensen er svag, skal menneskelig kontrol flyttes tidligere i forløbet. Hvis alle tre peger mod høj risiko, bør AI-outputtet ikke udløse handling direkte.
Et tænkt eksempel: fra klagesvar til afgørelse
Tænkt eksempel: En organisation vil bruge AI til at behandle henvendelser. Ved generelle spørgsmål kan systemet finde relevante afsnit i en godkendt vidensbase og skrive et svarudkast. En medarbejder kan hurtigt se, om link og formulering passer. Fejlen er synlig, svaret kan rettes før afsendelse, og konsekvensen er begrænset. Her kan AI være en produktiv kladdepartner.
En klage over en konkret afgørelse ligner sprogligt den samme opgave, men er det ikke. Sagen kan indeholde mundtlige oplysninger, tidligere praksis, frister, partshensyn og juridisk fortolkning. En flydende opsummering kan skjule, at et bilag mangler. Her bør modellen højst hjælpe med at ordne materialet efter menneskedefinerede kategorier. Den fagansvarlige fortolker, indhenter mangler og træffer beslutningen.
Forskellen ligger ikke i, om modellen kan skrive et pænt svar i begge tilfælde. Den ligger i konsekvensen, muligheden for at opdage og rette en fejl samt kvaliteten af det tilgængelige grundlag. Det er derfor opgavens anvendelse – ikke værktøjets navn – der skal styre arbejdsdelingen.
En handoff- og stopmodel
Design overdragelsen, før arbejdet begynder. En enkel model har fem led:
- Afgræns: Opgaveejeren beskriver formål, tilladte data, ønsket output og den handling, outputtet kan føre til.
- Producer: Modellen laver kun det aftalte udkast, den aftalte klassifikation eller sammenligning.
- Vis grundlaget: Outputtet skal pege på de anvendte dokumenter, kendte mangler og forhold, der ikke kunne afgøres.
- Overdrag: En navngiven fagperson kontrollerer de bærende påstande og tager stilling til undtagelser og konsekvenser.
- Stop eller beslut: Fagpersonen stopper ved manglende grundlag, modstridende kilder, uklar kompetence eller en konsekvens uden for den aftalte ramme. Ellers træffer personen beslutningen og dokumenterer den.
Stopreglen skal beskrive næste skridt. »Stop ved tvivl« efterlader stadig medarbejderen alene. En brugbar regel kan lyde: »Hvis en bærende oplysning ikke findes i den godkendte kilde, må udkastet ikke sendes; sagen går til den fagansvarlige, som enten indhenter oplysningerne eller fjerner påstanden.«
Sådan afprøver I arbejdsdelingen
Vælg først en reversibel opgave med kendt grundlag. Saml et lille sæt almindelige tilfælde, grænsetilfælde og tilfælde, hvor systemet bør sige fra. Få en fagperson til at beskrive et acceptabelt resultat, før modellen prøves. Mål derefter ikke kun, om teksten ser god ud, men om den mangler noget, tilføjer noget uden belæg, placerer sagen forkert eller skaber mere kontrolarbejde end den fjerner.
Ændr én ting ad gangen: prompt, datakilde, model eller godkendelsestrin. Gentag prøven, når en af delene ændres. Hvis opgaven udvikler sig fra udkast til handling på tværs af systemer, er artiklen om AI-agenter og kontrollerede arbejdsgange det naturlige næste sted at gå hen.
Vil I øve selve arbejdsdelingen på egne processer, kan workshoppen Fra idé til testet AI-arbejdsgang give en fælles metode. Pointen er ikke at finde en opgave, hvor mennesket kan fjernes, men at gøre både maskinens bidrag og menneskets ansvar tydelige.
Konklusion: Den relevante grænse går ikke mellem »AI kan« og »AI kan ikke« i absolut forstand. Den går mellem forarbejde og ansvar. Lad modellen formulere, klassificere og sammenligne, når opgaven er afgrænset og testbar. Lad mennesker fastlægge formålet, fortolke lokal kontekst, afveje værdier og eje konsekvenserne. Jo mere alvorlig, irreversibel og dårligt dokumenteret opgaven er, desto tidligere skal overdragelsen ske – og desto tydeligere skal stopreglen være.
Kilder og videre læsning
- NIST: Generative AI Profile til AI Risk Management Framework, herunder confabulation, menneske-AI-konfiguration og risikobaseret kontrol.
- NIST AI Resource Center: AI RMF Core, om formål, kontekst, måling, roller og løbende risikostyring.
- EUR-Lex: Konsolideret AI-forordning pr. 27. juli 2026, især artikel 14 om menneskeligt tilsyn med højrisiko-AI-systemer.
