Binnen onze organisatie maken we gebruik van Large Language Models (LLM’s) ter ondersteuning van interne processen en datagedreven besluitvorming. Momenteel wordt slechts een klein deel van deze modellen lokaal in ons datacenter gehost; het merendeel draait nog via externe providers.

Met het oog op dataveiligheid, performance, kostenreductie en onafhankelijkheid willen we deze lokale infrastructuur uitbreiden en productie-ready maken. Het doel is om een schaalbare, betrouwbare en snelle omgeving te ontwikkelen waarin AI-modellen lokaal kunnen draaien.

Doel van de opdracht

Ontwerp en bouw een proof-of-concept waarin één of meerdere LLM’s lokaal in het datacenter kunnen worden gehost als interne dienst. Onderzoek de technische en financiële haalbaarheid van deze aanpak.

Vereiste kennis en vaardigheden

• Ervaring met Linux, Docker.
• Kennis van CI/CD-principes en monitoringtools.
• Basiskennis van AI/ML-concepten (LLM’s, embeddings, fine-tuning, inference).
• Vaardigheid in Python.
• Interesse in systeemprestaties, schaalbare infrastructuren en databeveiliging.

Doelstellingen

• Werkend proof-of-concept van een lokaal gehost LLM-model met API-toegang.
• Technische documentatie van architectuur, hardware en softwarestack.
• Kostenvergelijking (lokale infrastructuur vs. cloud).
• Prototype van RAG-integratie en modelselectiemechanisme.
• Prestatie-analyse (responstijd, throughput, nauwkeurigheid).
• Eindrapport met aanbevelingen voor productie-uitrol

What’s in it for you?

• Professionele begeleiding gedurende de stageperiode, ook voor je schoolopdrachten
• Een uitdagende en leerzame stageplaats met ruimte voor het ontwikkelen van nieuwe skills
• Een Macbook om je opdracht goed te kunnen uitvoeren
• Gemakkelijk bereikbaar met het OV of met een xel fiets
• Basisvergoeding van 500 euro + een prestatiebonus
• Goed gevulde koelkast. Er wordt regelmatig gekookt. Ook in de middag. Ook door de directeur.
• Professionele en informele werksfeer
• Doorgroeimogelijkheden binnen het bedrijf

Lijkt dit je interessant? We vertellen je graag meer over ons en de opdracht. En horen natuurlijk ook graag over jou.