Alt det med småt - RAG

En kort oversigt over regler, gennemsigtighed og dokumentation omkring AI-løsninger.

Vigtige datoer: Kravet om AI-færdigheder gælder fra 2. februar 2025, forpligtelser for generelle AI-modeller fra 2. august 2025 og gennemsigtighedskrav for chatbots mv. fra 2. august 2026.

Læs om reglerne i AI-forordningen hos Digitaliseringsstyrelsen.

• Brugeren skal informeres om, at vedkommende interagerer med et AI-system eller en chatbot, medmindre det er indlysende.
• AI-genereret eller AI-manipuleret indhold som lyd, billede eller video kan udløse særlige gennemsigtighedskrav.
• Chatbots må ikke anvendes på måder, der falder ind under forbudte eller uacceptable AI-praksisser.
• For almindelige chatbots er den centrale regel typisk gennemsigtighed: Det skal fremgå, at brugeren taler med en AI.

• Brug af AI skal ske ansvarligt og uden diskrimination eller vildledning.
• Der er krav om AI-færdigheder og AI-literacy hos medarbejdere, der arbejder med AI-løsninger, fra 2. februar 2025.

• Fra 2. august 2025 gælder der særlige forpligtelser for udbydere af generelle AI-modeller.
• En del af disse forpligtelser er at offentliggøre et tilstrækkeligt detaljeret resumé af det indhold, der er brugt til at træne modellen.
• Formålet er at give et overblik over datagrundlaget uden at offentliggøre hele datasættet linje for linje.
• Hvis en generel AI-model indgår i en professionel løsning, er dokumentation om modellens egenskaber og begrænsninger vigtig for dem, der integrerer den videre.
• For almindelige chatbots med begrænset risiko er hovedkravet oftest stadig gennemsigtighed over for brugeren, ikke nødvendigvis fuld specialoplysning om hele datagrundlaget.

• En overordnet beskrivelse af træningsindholdet, fx tekst, billeder, lyd eller video.
• Angivelse af datakategorier, fx offentligt tilgængelige data, private datasæt, web-scrapede data, syntetiske data eller brugerdata.
• Oplysning om hovedkilder, fx Wikipedia, offentlige websites, bøger, licenserede arkiver eller databaser.
• En generel beskrivelse af datasættets egenskaber, formål, tidsrum og centrale begrænsninger.
• Oplysning om særlige typer data, hvis de kan have betydning for bias, ophavsret eller følsomhed.
• Et forståeligt overblik, der gør dokumentationen brugbar for andre end kun udvikleren.

• Dokumentationen bør være tilgængelig online på en måde, som er let at finde.
• Det er god praksis at linke direkte til dokumentationen fra produktets eller modellens hovedside.
• Materialet bør være åbent og gratis at tilgå for de relevante målgrupper.
• Ved større ændringer i modellen bør dokumentationen opdateres.
• Formatet bør være digitalt og læsevenligt, fx HTML eller PDF.

• Fortæl tydeligt, når en studerende møder en chatbot eller en anden AI-assistent i undervisningen.
• Markér AI-genereret materiale, hvis det bruges som forklarende indhold, eksempelmateriale eller offentlig information.
• Brug ikke AI som skjult autoritet. Studerende skal kunne forstå, at svar kommer fra et AI-system og skal vurderes kritisk.
• Vær opmærksom på, hvilke data du deler med AI-værktøjer, især hvis materialet indeholder personoplysninger, cases eller interne dokumenter.
• Hvis et værktøj får stor betydning for faglige beslutninger eller vurderinger, er det vigtigt at kende dets begrænsninger og datagrundlag.
• Arbejd med AI-literacy i undervisningen, så studerende ikke kun bruger værktøjerne, men også forstår deres styrker, svagheder og risici.

• Du bør altid vide, når du taler med en chatbot eller bruger et AI-værktøj i en faglig sammenhæng.
• Du skal ikke tage AI-svar for fakta uden at kontrollere dem kritisk mod faglige kilder.
• Hvis du bruger AI i en opgave, er det vigtigt at være bevidst om, hvad værktøjet hjælper med, og hvor grænsen går for din egen faglige indsats.
• Du bør være forsigtig med at dele personlige oplysninger, følsomme data eller andres arbejde i eksterne AI-systemer.
• AI kan være god til ideer, struktur og feedback, men den kan tage fejl, forenkle eller skjule usikkerhed.
• God AI-brug handler ikke kun om at få et hurtigt svar, men om at bruge værktøjet klogt og ansvarligt.