1. Semester – Introduktion til Generativ AI og LLM Prompt Workshops
1. Definition af begrebet
Hvad er en prompt? Ordet “prompt” stammer fra latin promptus (parat/rede) og bruges i it-sammenhæng om at give stikord eller instrukser. prompt engineering er processen med at designe og forfine disse instruktioner for at få de bedst mulige resultater fra generative AI-modeller (LLM’er).
Selvom nogle eksperter, som Ethan Mollick, påpeger, at teknisk “prompt engineering” bliver mindre vigtigt i fremtiden, fordi modellerne bliver bedre til at gætte vores intentioner, er det stadig en essentiel kompetence at kunne guide modellerne præcist.
2. Beskrivelse og Formål
Hvorfor arbejder vi med det? Formålet er at forstå mekanikken bag chatbots, så vi ikke blot bruger dem blindt. Sprogmodeller genererer output ved at beregne sandsynlige næste tokens ud fra mønstre i træningsdata og den aktuelle kontekst. Det er derfor vigtigt ikke ukritisk at sidestille modellernes output med menneskelig forståelse eller tænkning.
Vi fokuserer på de indbyggede begrænsninger og risici:
- Bias: Modellerne afspejler de data, de er trænet på, hvilket kan føre til skævvredne eller politisk farvede svar.
- Ingen garanti for sandhed: Sprogmodeller kan producere plausible, men forkerte eller upræcise svar. Faktuelle oplysninger bør derfor kontrolleres mod relevante og pålidelige kilder.
3. Hvordan gør vi på studiet?
Vi arbejder praktisk med at “prompte” generative AI-værktøjer ved at afprøve forskningsbaserede metoder på konkrete opgaver, såsom eksamenssynopser eller blogindlæg. Vi benytter særligt tre tilgange:
- Few Shot Learning: Vi giver modellen eksempler på korrekte løsninger eller det ønskede layout, før vi stiller opgaven.
- Adding Context: Vi tildeler modellen en rolle (fx “du er ekspert i undervisning”) og definerer målgruppen for at skærpe svaret.
- Chain of Thought: Vi beder modellen løse opgaven trin-for-trin (fx først skitsere, så skrive, så revidere) i stedet for at levere hele svaret på én gang.
4. Teoretiske begreber
Workshoppen dykker ned i de tekniske og sociotekniske begreber bag AI:
- Black Box: Vi ser kun input og output, men den interne kompleksitet (parametre, system prompts) er ofte skjult for brugeren.
- Hallucinering: Når modellen opfinder fakta for at opfylde sandsynlighedskriterier.
- Tokens: Måden modellen nedbryder tekst til talværdier på.
- Bias & Guardrails: Hvordan firmaerne bag modellerne forsøger at styre (eller overkorrigere) modellens svar gennem “System Prompts”.
5. Litteraturliste
- Latour, B. (1999). Pandora’s hope: Essays on the reality of science studies. Harvard University Press.
- A primer on the inner workings of transformer-based language models. (2024). arXiv. https://arxiv.org/abs/2405.00208
- Language models are few-shot learners. (2020). arXiv. https://doi.org/10.48550/arXiv.2005.14165
- Chain-of-thought prompting elicits reasoning in large language models. (2022). arXiv. https://arxiv.org/abs/2201.11903
- Mollick, E. (n.d.). Captain’s log: The irreducible weirdness … One Useful Thing. https://www.oneusefulthing.org/p/captains-log-the-irreducible-weirdness
- Mollick, E. (n.d.). On working with wizards. One Useful Thing. https://www.oneusefulthing.org/p/on-working-with-wizards
- Prompt engineering is dead. (n.d.). IEEE Spectrum. https://spectrum.ieee.org/prompt-engineering-is-dead
- IDA. (n.d.). Du kommer til at bruge AI – men glem hypen om prompt engineering. https://ida.dk/raad-og-karriere/ai-kunstig-intelligens/forsker-du-kommer-til-at-bruge-ai-men-glem-hypen-om-prompt-engineering
- The unreasonable effectiveness of eccentric automatic prompts. (2024). arXiv. https://arxiv.org/pdf/2402.10949
- Large language models understand and can be enhanced by emotional stimuli. (2023). arXiv. https://arxiv.org/abs/2307.11760
- Stevens, I. W. (n.d.). Motivating multimodal models: Balancing threats and rewards for enhanced performance. Medium. https://medium.com/@ingridwickstevens/motivating-multimodal-models-balancing-threats-and-rewards-for-enhanced-performance-2126e419dac4
- Anthropic’s Claude vulnerable to emotional … (2024, October 12). The Register. https://www.theregister.com/2024/10/12/anthropics_claude_vulnerable_to_emotional/
- How Google tells you what you want to hear. (2024, October 31). BBC Future. https://www.bbc.com/future/article/20241031-how-google-tells-you-what-you-want-to-hear
- xAI. (n.d.). grok4_system_turn_prompt_v8.j2 [Source code]. GitHub. https://github.com/xai-org/grok-prompts/blob/main/grok4_system_turn_prompt_v8.j2
- Ordbog over det danske sprog. (n.d.). prompt [Ordbogsopslag]. https://ordnet.dk/ddo/ordbog?query=prompt
- CFU. (2025, March 5). SkoleGPT skærmer nu bedre elever for problematiske emner. https://cfu.dk/2025/03/05/skolegpt-skaermer-nu-bedre-elever-for-problematiske-emner
- Promptfoo. (n.d.). Gemma-3-27B: Model report. https://www.promptfoo.dev/models/reports/gemma-3-27b
- SkoleGPT. (n.d.). SkoleGPT [Website]. https://skolegpt.dk
6. Værktøjer + Links til vejledninger
Vi diskuterer forskellen på betalte og gratis modeller, samt sikker brug:
Sikkerhed: Vi tester grænserne for modellernes sikkerhedsfiltre (Jailbreaking) for at forstå, hvordan “Guardrails” fungerer.
SkoleGPT: En generativ AI-løsning udviklet til undervisningsbrug. Ifølge SkoleGPTs aktuelle tekniske dokumentation kræver løsningen ikke login, spørgsmål og svar gemmes ikke, og systemet hostes hos DBC Digital i danske datacentre. Som ved andre AI-værktøjer bør man stadig undgå at indtaste personoplysninger.
Betalte vs. gratis modeller: Gratisudgaver kan have begrænsninger i fx modelvalg, kontekstvindue, hastighed og funktioner. Forskellene varierer mellem udbydere og ændrer sig løbende.