Der Auftraggeber beabsichtigt den Abschluss eines Rahmenvertrags zur Unterstützung bei der Identifikation, Konzeption, Entwicklung und dem Betrieb von KI-gestützten IT-Anwendungen. Konkrete Leistungsinhalte werden durch den Auftraggeber über Einzelabrufe festgelegt. Es besteht für den Auftraggeber keine (Mindest-)Abnahnmepflicht.
1. Leistungsgegenstand
Die möglichen Leistungen gliedern sich insbesondere in folgende in vier fachliche Schwerpunkte:
- Chatbot-Lösungen: Konzeption und Implementierung von RAG-Systemen (Retrieval Augmented Generation), Prompt-Engineering, Finetuning von LLMs sowie Maßnahmen zur Vermeidung von Halluzinationen und Gewährleistung der KI-Security.
- Automatisierte Codierung: Analyse natürlichsprachlicher Texte (Unfallberichte, Diagnosen) und Überführung in strukturierte Daten unter Nutzung spezifischer Klassifikationen (ICD 10/11, Weller-Tabelle, DGUV-Statistikdaten).
- Anonymisierungsservice: Pflege und Weiterentwicklung eines bereits bestehenden Anonymisierungsservices (Backend: Python/FastAPI, Frontend: Django). Hier ist die Integration in andere KI-Applikationen und Authentifizierungssysteme (Keycloak) gefordert.
- KI-Infrastruktur: Konzeption und Betriebsunterstützung einer On-Premise KI-Plattform auf Basis gehärteter Kubernetes-Cluster (SUSE RKE2), inkl. GPU-Optimierung und Bereitstellung von Modellen mittels KServe/vLLM.
2. Technologischer Rahmen: Die Umsetzung erfolgt weitestgehend auf Open-Source-Basis.
- Sprachen/Frameworks: Python, Django, FastAPI.
- Containerisierung: Docker, Kubernetes/OpenShift (RKE2), Helm Charts.
- KI-Stack: Huggingface, PyTorch/TensorFlow (implizit), KServe, Triton.
3. Mengengerüst:
- Die Abrufe erfolgen bedarfsbezogen auf Basis von Personentagen.
- Prognostizierter Abruf: ca. 400 Personentage pro Vertragsjahr.
- Maximaler Gesamtabruf (inkl. aller Optionen): 2.500 Personentage.
4. Personelle Anforderungen: Es wird die Bereitstellung eines festen Kernteams mit den Rollen Projektleiter, UI/UX-Designer, AI Architect, AI Senior/Junior Specialist und System Administrator gefordert.