EU AI Act

Læs EU’s AI-forordning på dansk på EUR-Lex

EU AI Act forbyder ikke brug af AI i uddannelse, men den stiller krav til ansvarlig, gennemsigtig og risikobevidst brug. For undervisere er de vigtigste pointer især knyttet til vurdering, transparens og menneskelig kontrol.

1. AI må gerne bruges i undervisning

AI må gerne bruges i undervisning, men ikke ukritisk.

Chatbots, feedbackværktøjer, kodeassistenter og lignende er som udgangspunkt acceptable, så længe brugen ikke krænker rettigheder, skaber skjult kontrol eller erstatter den faglige dømmekraft.

Automatiseret vurdering af studerende er derimod følsomt.

2. Uddannelse er et high-risk område

AI, der bruges til karaktergivning, eksamensvurdering, adgang, udvælgelse eller præstationsmåling, kan klassificeres som high-risk AI.

Det betyder i praksis:

Du må ikke overlade afgørende vurderinger til AI alene.
Der skal være menneskelig kontrol.
AI-output skal kunne forklares og begrundes.
Den faglige beslutning skal ligge hos et menneske.

AI kan støtte din faglige dømmekraft, men ikke erstatte den.

3. Studerende har ret til at vide, når AI bruges

Transparens er et kernekrav.

Det betyder:

Studerende skal informeres, hvis AI bruges i feedback eller vurderingsprocesser.
Skjult AI i LMS, eksamenssystemer eller analyseværktøjer er problematisk.
AI-brug bør forklares på en måde, de studerende kan forstå.

Det kan samtidig bruges aktivt til AI-dannelse og metarefleksion.

4. Overvågende og manipulerende AI er problematisk

Følgende former for AI er enten forbudte eller stærkt begrænsede:

Emotion-genkendelse, fx engagementsmåling via kamera.
Social scoring af studerende.
Adfærdsmanipulation uden klart og legitimt grundlag.

Det rammer især løsninger med learning analytics, psykologiske profiler, kamerabaseret eksamensovervågning og værktøjer, der påstår at måle motivation, stress eller opmærksomhed.

5. AI-kompetence bliver et ansvar

Organisationer skal sikre, at ansatte har et rimeligt niveau af AI-kompetence.

Du forventes ikke at være AI-ekspert, men du skal kunne:

forstå centrale begrænsninger ved AI,
forklare brugen for studerende,
vurdere hvornår AI er fagligt forsvarligt,
opdage situationer hvor AI ikke bør bruges.

Det er et argument for efteruddannelse, fælles retningslinjer og kollegial videndeling.

6. Eksamen og snyd

EU AI Act regulerer udbydere og brug af AI. Den fastlægger ikke direkte reglerne for studieordninger, eksamensformer eller snyd.

Institutionen skal derfor stadig definere:

hvornår AI er tilladt som hjælpemiddel,
hvornår AI-brug skal deklareres,
hvad der tæller som selvstændigt arbejde,
hvad der betragtes som snyd.

AI Act understøtter tydelighed, proportionalitet og gennemsigtighed i disse regler.

7. En didaktisk mulighed

EU AI Act er ikke kun regulering. Den giver også et sprog for ansvar, faglig dømmekraft og etik.

Det passer godt med professionsidentitet, refleksion og myndiggørelse af studerende. Mange undervisere bruger allerede AI ansvarligt. Nu bliver der et fælles juridisk og etisk fundament at tale ud fra.

Kort opsummering

AI er tilladt, men autonom vurdering er problematisk.
Uddannelse kan være et high-risk område.
Mennesket skal have sidste ord.
Studerende skal informeres.
Overvågende AI er problematisk.
AI-kompetence bliver en del af underviserrollen.