06-LLM-API-IMPL

Gang: 6 (27/4)

Tema: Implementering af LLM API-opgaven

Indhold: Vi bygger videre på arbejdet fra gang 05 og bruger hele dagen på at implementere opgaven i praksis. Fokus er at få rubric, prompts, backend, API-kald og struktureret output til at spille sammen i en samlet løsning. Undervejs arbejder vi med debugging, iteration på prompts, fejlhåndtering og afprøvning på de udleverede eksempler.

Output / portfolio: En fungerende første version af jeres LLM-drevne vurderingsapp, hvor opgaven fra gang 05 er implementeret end-to-end. Dokumentation af jeres rubric, promptdesign, endpoint(s), eksempel på request/response samt korte refleksioner over, hvad der virker, hvad der er usikkert, og hvad næste iteration bør forbedre.

I gang 05 arbejdede vi med, hvordan man designer en løsning, der integrerer et LLM-API i sin egen applikation. I gang 06 er fokus mere konkret: Nu skal løsningen implementeres.

Målet er ikke at starte på noget nyt, men at få en idé omsat til kode, så I står med en lille, fungerende applikation, hvor en bruger kan indsende en tekst og få en struktureret, vejledende AI-vurdering tilbage.

Det betyder, at dagens arbejde består af at:

• lave en rubric til vurdering af eksamensopgave
• omsætte prompts til rigtig backend-logik
• kalde LLM-API’et fra jeres egen applikation
• parse og returnere et brugbart output
• teste løsningen på en eller flere af de udleverede opgaver

I fortsætter med samme opgave som i gang 05 og implementerer den i kode:

• Find opgaven her

Det vigtigste i dag er, at I får en sammenhængende løsning op at køre. I behøver ikke bygge alt perfekt, men I skal have de centrale dele til at hænge sammen:

Hvis noget ikke virker stabilt i første omgang, er det helt forventeligt. Det centrale er, at I kan identificere, hvor problemerne opstår, og forbedre løsningen systematisk.

Vi kigger især efter, om I kan omsætte jeres design til en konkret løsning:

• at opgaven fra gang 05 faktisk er implementeret
• at jeres API-integration fungerer i praksis
• at rubric og promptdesign hænger sammen med outputtet
• at I kan teste, evaluere og forbedre jeres løsning
• at I kan dokumentere jeres tekniske valg kort og præcist

• Find opgaven her
• Tjekliste med praktiske ting, du bør huske, når du udvikler applikationer med et LLM-API
• Ordliste med centrale begreber og fagudtryk inden for LLM-integration
• Integration og automatisering – anbefalinger til dataintegration, deduplikering og undgåelse af unødvendige LLM-kald