Wie kann die öffentliche Verwaltung KI besser nutzen und dabei die Kontrolle über sensible Daten, Infrastruktur und bestehende digitale Prozesse behalten?
Dies war eine der zentralen Fragen, mit denen sich Cognivox Labs auf der Smart Country Convention (SCCON) 2026 beschäftigte. Die Veranstaltung fand vom 13. bis 15. Oktober auf dem Messegelände Berlin statt.
In Gesprächen mit GovTech-Anbietern, Startups, Vertreterinnen und Vertretern des öffentlichen Sektors sowie Infrastrukturspezialisten haben wir uns mit den Technologien und technischen Herausforderungen beschäftigt, die mit der Modernisierung öffentlicher Dienstleistungen, der Integration von KI und dem Aufbau stärker vernetzter digitaler Umgebungen verbunden sind.
Digitalisierung der öffentlichen Verwaltung
Ein wichtiger Teil unserer Gespräche drehte sich um die weitere Digitalisierung bürgernaher Verwaltungsprozesse in Deutschland.
Gespräche mit Vertreterinnen und Vertretern des Digitalministeriums unterstrichen, wie wichtig es ist, bestehende digitale Angebote zu verbessern und sicherzustellen, dass sich neue Technologien in etablierte Verwaltungssysteme integrieren lassen.
Über die Digitalisierung einzelner Prozesse hinaus interessierte uns besonders, wie KI die Beschäftigten im öffentlichen Dienst bei ihrer täglichen Arbeit unterstützen kann.
Öffentliche Organisationen verwalten häufig erhebliche Informationsmengen, verteilt auf Vorschriften, Dokumente, interne Wissensdatenbanken und voneinander getrennte Systeme.
Retrieval-Augmented Generation (RAG) bietet einen Ansatz, diese Informationen leichter zugänglich zu machen: KI-Systeme können relevante Inhalte aus freigegebenen Informationsquellen der Organisation abrufen.
In Verbindung mit geeigneten Evaluationsverfahren, der Überprüfung von Quellen und menschlicher Kontrolle können solche Systeme helfen, unbelegte KI-generierte Antworten zu reduzieren und eine zuverlässigere Informationssuche zu unterstützen.
Smart Cities und kommunale Innovation
Die SCCON bot auch die Gelegenheit, zu erkunden, wie deutsche Städte und Kommunen die digitale Transformation angehen.
In der Ausstellung sahen wir Demonstrationen zu digitalen Verwaltungsleistungen, vernetzten kommunalen Plattformen und KI-gestütztem Informationszugang.
Ein Beispiel war der vom Smart City Projekt Jena vorgestellte KI-Assistent. Er zeigte, wie dialogbasierte Benutzeroberflächen erprobt werden, um kommunale Informationen leichter zugänglich zu machen.
Wir tauschten uns außerdem mit GovTech-Startups aus, die Lösungen für konkrete Herausforderungen öffentlicher Verwaltungen und Kommunen entwickeln.
Für Cognivox Labs verdeutlichten diese Gespräche, wie wichtig es ist, bei der Entwicklung digitaler Dienstleistungen Softwareplattformen, bestehende Datenquellen und praktische Nutzerbedürfnisse miteinander zu verbinden.
Bei der Entwicklung von Smart Cities geht es nicht allein darum, neue Technologie einzuführen. Die zugrunde liegenden Systeme müssen interoperabel und wartbar sein und sich an den tatsächlichen Prozessen orientieren, die sie unterstützen sollen.
KI-Infrastruktur und digitale Souveränität
Digitale Souveränität war ein weiteres wichtiges Thema während unseres Besuchs.
Wir trafen auf Anbieter, die unterschiedliche Ansätze für die Bereitstellung von KI präsentierten, darunter in der EU gehostete Zugänge zu kommerziellen Modellen von OpenAI und Anthropic.
Diese Ansätze eröffnen Organisationen zusätzliche Bereitstellungsoptionen. Zugleich werfen sie weitergehende Fragen zur Datenkontrolle, zum Modellbetrieb, zu Infrastrukturabhängigkeiten und zur langfristigen Flexibilität auf.
Für Organisationen, die mit sensiblen Informationen arbeiten, erfordert die Wahl einer KI-Lösung mehr als die Bewertung der Modellfähigkeiten oder des physischen Standorts der Server.
Dies knüpft unmittelbar an einen Schwerpunkt von Cognivox Labs an: den Betrieb von Open-Weight-LLMs auf deutscher Infrastruktur, mit Optionen für private Bereitstellungen, organisationsspezifisches Fine-Tuning und die Anbindung interner Wissenssysteme über RAG.
Je nach technischen und betrieblichen Anforderungen können diese Ansätze Organisationen mehr Kontrolle über die Bereitstellung ihrer Modelle und die Infrastruktur geben.
Lokales Hosting allein garantiert keine Datensicherheit. Zugriffskontrollen, Systemarchitektur, Monitoring, Infrastrukturmanagement und geeignete betriebliche Schutzmaßnahmen bleiben unverzichtbar.
Wir hatten außerdem ein hilfreiches Gespräch mit secunet über sichere Cloud- und GPU-Infrastruktur und erörterten dabei praktische Infrastrukturfragen für solche KI-Bereitstellungen.
Von KI-Modellen zu zuverlässigen digitalen Systemen
Eine zentrale Erkenntnis, die sich auf der SCCON bestätigte: Erfolgreiche KI-Einführung erfordert einen sorgfältigen Blick auf die Systeme rund um das Modell.
Organisationen müssen verstehen, wie ihre Informationen strukturiert sind, wie bestehende Anwendungen Daten austauschen, welche Prozesse von KI profitieren können und welches Maß an Infrastruktur- und Modellkontrolle ihre Anforderungen verlangen.
Diese Fragen sind nicht nur für die öffentliche Verwaltung relevant, sondern auch für Unternehmen, die prüfen, wie sie KI in ihre bestehenden Abläufe integrieren können.
Sie werden die technische Ausrichtung von Cognivox Labs weiterhin prägen, insbesondere unsere Arbeit an individueller Software, RAG-basierten Wissenssystemen, sicheren KI-Bereitstellungen und organisationsspezifischen LLM-Lösungen.
Wir danken den SCCON-Veranstaltern und allen, die sich in Berlin die Zeit für einen Austausch mit uns genommen haben.