02-RAG
Gang: 2 (13/4)
Tema: Retrieval Augmented Generation (RAG)
Indhold: Introduktion til RAG-arkitektur. Vi ser hvordan egne dokumenter kan kobles til en LLM via embeddings og retrieval. Fokus på hvornår RAG giver værdi, og hvornår det ikke gør.
Efter en introduktion til RAG, hvor vi genemgik hvad RAG er, og hvornår det det giver mening at bruge RAG, så vi på tre forskellige tilgange til RAG:
- ChatGPTs customGPT.
- customGPT.ai
- Dify.ai
Vi diskuterede fordele og ulemper ved hver tilgang, herunder brugervenlighed, omkostninger og fleksibilitet. Derefter implementerede vi en simpel RAG-chatbot ved hjælp af Dify.ai, hvor vi uploadede vores studieordning og brugte den som kilde til at besvare spørgsmål. Vi så også på hvordan data kan forberedes og struktureres for at forbedre retrieval-processen. I dette tilfælde konverterede vi PDF’en til markdown.
Hvis du mangler noget forståelse for Dify.ai, så kan du se denne video for en praktisk introduktion.
Output / portfolio: Mini-projekt: Byg en simpel RAG-chatbot på eget materiale.