Training Werken met Large Language Models in Python

Large Language Models draaien op de transformer-architectuur, en pas als je die architectuur doorgrondt, zie je wat een model wel en niet kan. Tijdens deze training leer je eerst hoe die architectuur is opgebouwd en hoe modellen als GPT, BERT en de nieuwere open modellen Llama, Mistral, Qwen en Gemma zich van elkaar onderscheiden. Daarna verschuift het accent naar de praktijk: je werkt met de Hugging Face transformers-bibliotheek om bestaande modellen te downloaden, te gebruiken en te finetunen op eigen data.

Voor het finetunen werk je met PyTorch en GPU's, en naast klassiek transfer learning kijk je naar parameter-efficiënte technieken als LoRA, QLoRA en PEFT, waarmee je een model bijstuurt zonder alle parameters opnieuw te trainen. Je verkent embeddings en vector stores, koppelt context met Langchain en stelt je model via FastAPI beschikbaar aan je eigen toepassingen. Zo werk je van de theorie naar een model dat je daadwerkelijk kunt aanroepen.

Onze trainers zijn, naast trainer, dagelijks werkzaam op dit expertisegebied. Hierdoor combineren ze de actuele stand van de modellen met praktijkervaring, en laten ze de voorbeelden aansluiten bij de vraagstukken uit jouw werkpraktijk. De training is praktijkgericht opgezet, met veel ruimte om zelf te programmeren. Hierdoor ben je in staat om na afloop bestaande taalmodellen zelfstandig in te zetten binnen je eigen Python-projecten.

Deze training als bedrijfstraining voor jou en je team?

Elk vraagstuk en elke situatie is anders; daarom staan tijdens een bedrijfstraining jouw organisatie en (bedrijfs)vraagstukken centraal. In goed overleg stellen we een lesprogramma samen dat volledig aansluit bij jouw (jullie!) specifieke uitdaging, wensen en dagelijkse werkpraktijk.

Doelen

Na deze training ben je in staat om:

• De opbouw van de transformer-architectuur te doorgronden en te weten waarin GPT-, BERT- en moderne open modellen verschillen
• Bestaande modellen met de Hugging Face transformers-bibliotheek te downloaden en te gebruiken in Python
• Een model te finetunen met transfer learning en parameter-efficiënte technieken als LoRA en QLoRA
• Embeddings en vector stores in te zetten en context te koppelen met Langchain
• Een model via FastAPI beschikbaar te stellen binnen je eigen toepassingen

Tijdens de training Werken met Large Language Models in Python komen onderstaande onderwerpen aan bod.

NB: Afhankelijk van snelle ontwikkelingen op dit expertisegebied, kan de werkelijke trainingsinhoud hier van afwijken. Bel ons gerust voor meer informatie over de actuele inhoud.

• Introductie in AI en de transformer-architectuur
• Kennismaken met de bouwstenen van moderne AI en natuurlijke taalverwerking
• Doorgronden hoe de transformer-architectuur is opgebouwd
• Begrijpen hoe een Large Language Model taal leert en genereert
• Weten waar bibliotheken als NLTK, spaCy en Hugging Face transformers van pas komen
• Het landschap van beschikbare taalmodellen
• De kenmerken van GPT's van OpenAI en BERT met zijn varianten doorgronden
• Kennismaken met actuele open modellen als Llama, Mistral, Qwen en Gemma
• Modellen vergelijken op toepassingen als tekstgeneratie, vertaling, samenvatting en sentimentanalyse
• Herkennen welk model bij welk type vraagstuk past
• Modellen downloaden en gebruiken met Hugging Face transformers
• De transformers-module installeren en modellen downloaden in Python
• Bestaande modellen aanroepen voor NLP-taken zoals tekstgeneratie en sentimentanalyse
• Werken met tokenizers en de uitvoer van een model interpreteren
• Modellen trainen en finetunen
• Een eigen model trainen via transfer learning
• Finetunen met PyTorch en de inzet van GPU's
• Parameter-efficiënte finetuning toepassen met LoRA, QLoRA en PEFT
• De resultaten van een finetune-run beoordelen en bijsturen
• Embeddings, vector stores en modellen ontsluiten
• Embeddings genereren en opslaan in vector stores
• Context koppelen aan je model met Langchain
• Zien hoe embeddings en vector stores de basis vormen voor Retrieval-Augmented Generation (RAG)
• Een model via FastAPI beschikbaar stellen in je eigen toepassingen
• Weten waar moderne inference-serving tools als vLLM en TGI in beeld komen
• Best practices toepassen bij het werken met taalmodellen

Aanpak

De training is praktisch en interactief van opzet, met veel ruimte voor jouw vragen en werksituatie. Je gaat aan de slag met passende praktijkvoorbeelden. Door actief te oefenen, te analyseren en te evalueren, maak je je de materie stap voor stap eigen en ervaar je hoe je bestaande taalmodellen downloadt, finetunet en via FastAPI beschikbaar stelt in je eigen Python-toepassingen.

Onze trainers zijn, naast trainer, dagelijks werkzaam op dit expertisegebied. Ze beschikken dus niet alleen over de meest actuele kennis, maar hebben ook essentiële praktijkervaring. Hierdoor zijn ze in staat om een waardevolle vertaalslag te maken van ‘kennis’ naar ‘toepassing binnen jouw organisatie en werksituatie’.

Doelgroep

Deze training is bedoeld voor iedereen die met Python bestaande taalmodellen wil leren gebruiken, finetunen en ontsluiten, of je nu net begint met natuurlijke taalverwerking of er al ervaring mee hebt.

Voorkennis

Ervaring met programmeren in Python is vereist; kennis van machine learning of PyTorch is een pré. Mocht je hier vragen over hebben, neem dan gerust contact met ons op.

Benodigdheden

Om het meeste uit jouw training te halen verzoeken we je vriendelijk een eigen laptop mee te nemen om eventueel direct aan de slag te kunnen gaan. Verdere benodigdheden worden, indien van toepassing, in voorbereiding op de training met je besproken.

Vervolgstappen

Binnen dit expertisegebied beschikken wij over ruime kennis en praktijkervaring. Zoek je meer diepgang of een (compleet) andere insteek? Neem dan gerust contact met ons op voor een vrijblijvende verkenning. We denken graag met je mee!

Er zijn verschillende vervolgtrainingen, die aansluiten op specifieke onderwerpen, toepassingen en werkcontexten.

Wil je je verdiepen in het werken met LLM's en hun toepassingen, dan sluiten deze trainingen aan:

• Langchain
• Vectordatabases
• Milvus

Wil je je vaardigheden uitbreiden naar gerelateerde gebieden, dan zijn deze trainingen interessant:

• Python microservices met FastAPI
• AI agents in Python

Kies uit 6 locatie(s) in Nederland. Ook beschikbaar in Antwerpen.

Bedrijfstraining

Met een bedrijfstraining kies je voor een training die helemaal aansluit bij de specifieke wensen, behoefte en dagelijkse praktijk van jouw bedrijf of organisatie. Je kunt in je eentje deelnemen aan deze maatwerktraining, maar ook met één of meerdere collega’s. Een bedrijfstraining vindt plaats waar je maar wilt: op locatie bij jouw bedrijf of organisatie, ergens in het land of op onze mooie trainingslocatie op de Veluwe in Apeldoorn. Bel ons gerust voor advies; we denken graag met je mee. Wil je een vrijblijvend voorstel ontvangen? Vraag er dan online een aan.

Privétraining

De essentie van een privétraining is, dat de trainer volledig tot jouw beschikking staat. Je kunt daarbij kiezen voor een algemeen programma (zie hiervoor onze trainingomschrijvingen), maar het is ook mogelijk om de training helemaal te laten aansluiten bij jouw specifieke wensen, behoefte en dagelijkse praktijk. Bij zo’n maatwerktraining wordt het programma helemaal afgestemd op jouw situatie, wensen en leerbehoefte. Hierdoor mag je rekenen op maximaal leerrendement. Bel ons gerust voor een (maatwerk)privétraining te bespreken; we denken graag met je mee. Wil je een vrijblijvend voorstel ontvangen? Vraag er dan online een aan.

Virtuele training

Wil je de door jou gewenste training liever virtueel (online) volgen? Dat kan via onze ‘remote classroom’. Het verschil met een face-to-face-training is dat de trainer de training op afstand voor je verzorgt. Je kunt daarbij kiezen voor het algemene programma (zie hiervoor onze trainingomschrijvingen), maar we kunnen de training ook aanpassen aan je specifieke wensen, behoefte en praktijksituatie. Je volgt je virtuele training in je eentje, met je collega’s of met mensen van andere bedrijven. Wil je weten wat we op dit gebied precies voor je kunnen betekenen? Bel ons gerust, we denken graag met je mee over de mogelijke oplossingen.

Klassikale training

Bij een klassikale training volg je een opleiding of training samen met een klas van medestudenten. Het voordeel van deze setting is, dat je kunt leren van andermans cases, tegen het laagst mogelijke tarief. De training vindt plaats op een externe locatie, ergens in het land of op onze mooie trainingslocatie in Apeldoorn (midden op de Veluwe). Heb je een vraag? Bel ons gerust; we helpen je graag verder. Je kunt je natuurlijk ook gelijk inschrijven.

Tarief

De kosten voor de Training Werken met Large Language Models in Python bedragen €1.699,00 (excl. €356,79 btw). Dit betreft het tarief voor deelname aan een klassikale training. Wil je liever een bedrijfstraining of privétraining? Bel ons dan of vraag online een voorstel aan.

Bij dit bedrag is alles inbegrepen, inclusief materialen en lunch (lunch inbegrepen indien de training dagvullend is).

Wil je de door jou gewenste training liever virtueel (online) volgen? Dat kan via onze ‘remote classroom’. Het verschil met een face-to-face-training is dat de trainer de training op afstand voor je verzorgt. Je kunt daarbij kiezen voor het algemene programma (zie hiervoor onze trainingomschrijvingen), maar we kunnen de training ook aanpassen aan je specifieke wensen, behoefte en praktijksituatie. Je volgt je virtuele training in je eentje, met je collega’s of met mensen van andere bedrijven. Wil je weten wat we op dit gebied precies voor je kunnen betekenen? Bel ons gerust, we denken graag met je mee over de mogelijke oplossingen.

Virtuele training: hoe werkt dat?

Bij een virtuele training kun je via een online verbinding op afstand interactief deelnemen aan de training. Dit wordt ook wel ‘remote classroom’ of ‘virtual classroom’ genoemd. Dit werkt net even anders, maar biedt je dezelfde kwaliteit en is net zo effectief als een face-to-face-training.

Dezelfde kwaliteit, net even anders

Uitgangspunt bij een virtuele training is, dat er net zoveel kennis en vaardigheden worden overgedragen als bij een face-to-face-training. Bovendien dient het elk gewenst niveau van interactiviteit te faciliteren. Daarom werken we vanuit Eduvision met diverse systemen (o.a. dat van onze opdrachtgever), die deze doelstelling breed ondersteunen (waaronder Microsoft Teams of Zoom). Als cursist kun je gratis en eenvoudig inloggen, via een app of via het web.

De verschillende systemen bieden o.a. de volgende mogelijkheden:

• De training volgen met meerdere deelnemers, die je afhankelijk van of ze een camera hebben al dan niet kunt zien.
• Als deelnemers een microfoon hebben, kunnen ze ook met de trainer praten. De trainer kan aangeven en technisch faciliteren wie er kan praten. Deelnemers kunnen virtueel aangeven dat ze wat willen zeggen; de trainer kan hen vervolgens het woord geven.
• Deelnemers kunnen meekijken met de trainer en de trainer kan switchen tussen verschillende schermen die hij wil laten zien.
• Als de deelnemer daar toestemming voor geeft, kan de trainer meekijken op het scherm van de deelnemer (of zelfs het scherm overnemen).
• Er is vaak een chatfunctie, waarmee vragen of opmerkingen voor iedereen zichtbaar worden op het scherm.
• Er is soms een opnamefunctie (de trainer bepaalt - rekening houdend met ieders privacy - of die aan- of uitgezet wordt), waardoor je later (een deel van) de training kunt terugkijken.
• Er kan gebruik gemaakt worden van een whiteboard.
• Er kunnen bestanden gedeeld worden.

NB: Het is handig als je als cursist beschikt over een microfoon of camera (het eerste meer dan het tweede), maar het is geen must; ook zonder kun je deelnemen aan de training. Wél is het zo dat met name een microfoon de interactiviteit bewerkstelligt. Mocht je geen camera of microfoon op de computer hebben, dan is het ook mogelijk om tegelijkertijd in te loggen met je telefoon, zodat je én duidelijk (lees: groot) beeld hebt én kunt beschikken over microfoon en/of camera.