Am 24. Juni 2025 veranstaltete das ECDF eine weitere Ausgabe des Industry Forums, diesmal unter dem Titel „Künstliche Intelligenz (KI) in der Praxis von Verwaltung und Kommunen – Chancen und Risiken für Unternehmen und den öffentlichen Sektor“ statt. Die gemeinsam mit dem Forschungsforum Öffentliche Sicherheit (FOES) initiierte Fachveranstaltung brachte Vertreter*innen aus Industrie, Wissenschaft, Verwaltung und Politik zusammen. Im Fokus stand die Frage, wie Künstliche Intelligenz künftig in kommunalen Strukturen eingesetzt werden kann und welche Rahmenbedingungen es braucht, um das Potenzial verantwortungsvoll und effektiv zu nutzen.
Nach einem Grußwort von ECDF-Sprecherin Tabea Flügge und FOES-Leiter Jochen Schiller führte Cybersecurity-Experte und Strategieberater für Wirtschaftsschutz Prof. Timo Kob die erste von zwei Keynotes mit einer eindringlichen Analyse der Sicherheitsrisiken von KI ein. Im Anschluss sprach Felix Nadolni, Senior Innovationsstratege bei der Bundesdruckerei GmbH, über Voraussetzungen für vertrauenswürdige KI in der öffentlichen Verwaltung. Beide Beiträge boten eine pointierte Grundlage für die anschließenden Diskussionen im Panel und an den Thementischen.
Timo Kob lenkte den Blick auf die technischen, ethischen und gesellschaftlichen Risiken, die mit dem Einsatz von KI-Systemen im öffentlichen Raum einhergehen. Neben konkreten Bedrohungsszenarien wie Data Poisoning und Product Injection, also der gezielten Manipulation von Trainingsdaten oder dem Einschleusen schädlicher Codes, thematisierte Kob auch die Gefahr von Desinformation durch KI-generierte Inhalte. Besonders kritisch sei dabei, dass die Prozesse, die hinter KI-Entscheidungen stehen, oft intransparent bleiben – sowohl für die Nutzer*innen als auch für die Verantwortlichen in Behörden. „Wichtig ist, nicht die Kontrolle über unsere Prozesse zu verlieren“, warnte Kob. „Wenn wir nicht verstehen, wie Systeme Entscheidungen treffen, verlieren wir nicht nur Transparenz, sondern auch Vertrauen.“ Ein weiterer zentraler Punkt: die Qualität der Trainingsdaten. Sind diese unausgewogen oder gar rassistisch oder sexistisch verzerrt, übertragen sich diese Biases direkt in die Entscheidungen und Antworten der KI. Oft akzeptieren Anwender*innen diese KI-Ergebnisse blind, ohne zu wissen, wie sie zustande gekommen sind.
In der zweiten Keynote rückte Felix Nadolni die Frage in den Mittelpunkt, wie Vertrauen in KI-Systeme aufgebaut und erhalten werden kann. Er plädierte für einen bewussten und kontrollierten Einsatz: Statt möglichst viele Aufgaben auf einmal zu automatisieren, brauche es eine klare Aufgabenabgrenzung und die Fähigkeit, Systeme kritisch zu hinterfragen. „Integrität, Fähigkeit und Wohlwollen sind die Grundpfeiler für Vertrauen“, erklärte Nadolni, auch im Kontext der KI. Vertrauen könne nur entstehen, wenn die Systeme korrekt, nachvollziehbar und souverän arbeiten und die Verwaltungen wissen, was genau sie einsetzen. Dabei spiele insbesondere die Kompetenz der öffentlichen Hand eine entscheidende Rolle: Nur wer versteht, wie KI funktioniert und welche Grenzen sie hat, kann informierte Entscheidungen treffen. Der enge Austausch zwischen Domänenexpert*innen und KI-Spezialist*innen sei daher essenziell, sowohl in Behörden als auch in Unternehmen.
Im anschließenden Panel diskutierten Karen Toppe (Bundesministerium für Digitales und Staatsmodernisierung), Prof. Timo Kob (FH Campus Wien), Felix Nadolni (Bundesdruckerei GmbH), Prof. Felix Biessmann (ECDF/Berliner Hochschule für Technik) sowie Moderatorin Samira Franzel (ECDF) über konkrete Einsatzmöglichkeiten und Herausforderungen von KI in Kommunen und Verwaltungen. Karen Toppe betonte, dass viele Verwaltungen bereits engagiert mit KI-Anwendungen arbeiten, etwa in Form von Chatbots die Bürger*innenanfragen beantworten, Wissensmanagement- oder Trainingsprogrammen. Diese seien im Marktplatz der KI-Möglichkeiten (MaKI) transparent dargestellt. Der Austausch mit der Industrie ist für sie zentral für Innovation, zugleich müsse die Datenhoheit gewahrt werden. Transparenz und Nutzen sowie ethischer KI-Einsatz für den oder die Bürger*innen sei ein entscheidender Faktor, so Toppe, nicht zuletzt für die Akzeptanz in der Bevölkerung. Felix Biessmann hob hervor, dass technische Fairness kein Selbstläufer sei: „Es gibt Dutzende Fairness-Metriken – aber keine einheitliche Lösung. Die Wahl hängt immer vom Anwendungsfeld ab." Wichtig sei daher, unterschiedliche Perspektiven einzubeziehen und Fehlentwicklungen frühzeitig zu identifizieren. Gleichzeitig warnt der Professor für Data Science vor „Over-Trust", also dem fast blinden Vertrauen gegenüber Künstlicher Intelligenz, was dazu führt, dass Ergebnisse nicht hinterfragt werden.
Im Anschluss diskutierten die Teilnehmer*innen an Thementischen konkrete Fragestellungen. Ein Thementisch widmete sich dem Einsatz von KI im Krisenmanagement öffentlicher Institutionen, ein weiterer beleuchtete Datenschutz und ethische Implikationen. Auch die Rolle von Public-Private-Partnerships bei der Entwicklung KI-basierter Lösungen stand im Fokus: Wie kann eine erfolgreiche Zusammenarbeit zwischen Startups, Unternehmen und Behörden aussehen? Wo liegen gemeinsame Interessen, wo mögliche Konflikte? Weiterhin diskutierten die Gäste wirtschaftliche Potenziale für Unternehmen: Welche KI-Produkte und -Dienstleistungen sind für Kommunen besonders relevant? Welche Voraussetzungen müssen Anbieter erfüllen, um auf dem Markt für Verwaltungs-KI bestehen zu können? Am Thementisch KI, Nachhaltigkeit und Krisenkommunikation in der Smart City stand die Frage, wie technologische Innovationen sinnvoll mit sozialen und ökologischen Zielen verknüpft werden können im Mittelpunkt.
Fazit: Fokus, Vertrauen und Kooperation als Erfolgsfaktoren
Das Industry Forum machte deutlich: Künstliche Intelligenz kann die öffentliche Verwaltung effizienter, zielgerichteter und zukunftsfähiger machen – vorausgesetzt, die Systeme werden mit Augenmaß eingesetzt, die relevanten Akteur*innen gut vernetzt und Vertrauen durch Transparenz und Kompetenz geschaffen. Die Diskussionen zeigten, dass es keine einfachen Antworten gibt aber viele gute Ansätze, wie der digitale Wandel im öffentlichen Sektor gemeinsam gestaltet werden kann.