Werkstudent Local LLM Infrastructure*
- Du betreibst und evaluierst unterschiedliche Open-Weight Large Language Models und untersuchst, welche Modelle sich für konkrete PULS-Anwendungsfälle eignen.
- Für die technische Bereitstellung und Optimierung beschäftigst Du Dich mit Technologien wie vLLM, SGLang oder llama.cpp.
- Unterschiedliche Modelle und Konfigurationen vergleichst Du hinsichtlich Qualität, Performance, Latenz und Ressourcenbedarf und analysierst dabei unter anderem VRAM-Nutzung, Quantisierung, Context Length und Throughput.
- Im Bereich der Dateninfrastruktur evaluierst Du Vector-, Search- und Graph-Datenbanken, beispielsweise pgvector, Azure AI Search, Oxigraph oder GraphDB.
- Gemeinsam mit unserem AI-Team entwickelst Du wiederverwendbare technische Komponenten und Plattformlösungen, die als Grundlage für unterschiedliche AI Use Cases im Unternehmen dienen.
- In enger Zusammenarbeit mit Cybersecurity trägst Du dazu bei, dass erfolgreiche Prototypen in sichere, robuste und langfristig nutzbare Lösungen überführt werden.
- Deinen fachlichen Hintergrund bringst Du aus einem Studium der Informatik, Data Science, Elektrotechnik oder einer vergleichbaren Fachrichtung mit.
- Praktische KI-Erfahrung bringst Du bereits mit: Du hast eigenständig eine anspruchsvollere Anwendung oder ein technisches Projekt mit KI realisiert und kannst uns erläutern, welche Herausforderungen Du dabei gelöst hast.
- Erste Erfahrungen mit lokalen Large Language Models hast Du idealerweise bereits gesammelt, beispielsweise mit Ollama, llama.cpp oder vLLM.
- Python und Linux gehören bereits zu Deinem technischen Werkzeugkasten. Kenntnisse rund um Docker, APIs, Datenbanken, PyTorch oder Hugging Face sind von Vorteil.
- Komplexe technische Fragestellungen gehst Du strukturiert und lösungsorientiert an und behältst dabei auch übergreifende Zusammenhänge im Blick.
- Gemeinsam entstehen für Dich die besten Lösungen: Du arbeitest gerne im Team, bringst eigene Ideen ein und bist offen für neue Perspektiven.
- Auch im internationalen Austausch findest Du die richtigen Worte und kommunizierst sicher auf Deutsch und Englisch.
Studieren, Geld verdienen und gleichzeitig an zukunftsweisenden AI-Themen arbeiten? Das geht! Bei PULS sammelst Du wertvolle Praxiserfahrung und gestaltest innovative Lösungen rund um Künstliche Intelligenz aktiv mit.
Du gestaltest deine Arbeitszeit und deinen Arbeitsort flexibel und kannst so die Theorie im Studium optimal mit deiner praktischen Tätigkeit bei uns verbinden. Technisch wirst du natürlich bestens für deine Aufgaben aus-gestattet. Unsere Experten fördern und fordern stetig deine fachliche und persönliche Weiterentwicklung während deiner Tätigkeit bei PULS. Und wer weiß – vielleicht ergibt sich daraus noch die ein oder andere neue Perspektive für dich. Das klingt gut? Dann bist du bei uns genau richtig!
Über Deine Bewerbung freut sich Frau Sandra Mayer. Gerne beantworten wir auch persönlich unter der Telefonnummer 089 9278 327 gerne Deine Fragen.
*Alle sind bei der PULS willkommen. Dieses Stellenangebot bezieht sich daher auf Alle, die gerne Teil unseres Unternehmens werden möchten. Unabhängig von kultureller & ethnischer Herkunft, Geschlecht, Religion, Weltanschauung, körperlicher Einschränkung oder Alter.