DIGITALE VERWALTUNG

Künstliche Intelligenz (KI)

Chance oder Risiko für unseren Alltag und die Öffentliche Verwaltung?

Künstliche Intelligenz

Das Thema Künstliche Intelligenz (KI) beschäftigt die Medien zunehmend, doch was verstehen wir unter KI?

„Künstliche Intelligenz bezeichnet die Fähigkeit von Computersystemen, auf sie zugeschnittene Aufgaben selbsttätig zu lösen, die aufgrund ihrer Komplexität bislang menschliche Fähigkeiten erforderten.“ (Carl Friedrich Getmann et al.)

Maschinelles Lernen (ML) hilft einem Computer, künstliche Intelligenz zu erreichen. Es ist eine Methode, mit der ein Computer so trainiert wird, dass er aus seinen Eingaben lernt, ohne dass er für jeden Sachverhalt explizit programmiert werden muss. Tiefgehendes Lernen (Deep Learning DL) nutzt riesige neurale Netze, um komplexe Muster in großen Datenmengen zu erkennen und bei großes Sprachmodellen (LLMs) werden aus vielen Texten die Wahrscheinlichkeiten berechnet, wie ein menschlicher Satz aufgebaut ist. Generative KI-Modelle müssen also mit vielen Daten trainiert werden. GPT (Generative Pre-trained Transformer) ist dann in der Lage, aus Startwörtern, dem „Prompt“ (eine Frage), Sätze zu vervollständigen und Konversationen zu generieren (oder einfacher: zu antworten).

Die Chancen der künstlichen Intelligenz (KI) sind vielfältig und weitreichend. Hier sind einige der wichtigsten Aspekte:

  1. Automatisierung von Aufgaben: KI kann repetitive und zeitaufwändige Aufgaben automatisieren, was zu Effizienzsteigerungen und Kostenersparnissen führt. Unternehmen können ihre Arbeitsabläufe optimieren und sich auf komplexere und wertschöpfendere Tätigkeiten konzentrieren.
  2. Fortschritte in der Medizin: KI kann in der medizinischen Diagnose und Behandlung eingesetzt werden. Durch maschinelles Lernen und Datenanalyse kann KI Krankheiten schneller und genauer erkennen. Sie kann Ärzte bei der Entscheidungsfindung unterstützen und personalisierte Behandlungspläne erstellen.
  3. Verbesserungen im Verkehrswesen: KI kann dabei helfen, den Verkehr effizienter zu gestalten und Staus zu reduzieren. Intelligente Verkehrsleitsysteme können den Verkehrsfluss überwachen und optimieren. Zudem ermöglichen selbstfahrende Fahrzeuge neue Möglichkeiten für sichere und effiziente Mobilität.
  4. Erweiterte Kundenerfahrungen: Unternehmen nutzen KI, um personalisierte Kundenerlebnisse zu bieten. Durch die Analyse von Kundendaten können Unternehmen ihre Angebote maßschneidern und individuell auf die Bedürfnisse und Vorlieben ihrer Kunden eingehen.
  5. Fortschritte in der Forschung: KI unterstützt Forscher in vielen Bereichen, einschließlich der Astrophysik, Genomik und Materialwissenschaften. Durch die Verarbeitung großer Datenmengen kann KI Muster und Erkenntnisse entdecken, die für den Menschen schwer zugänglich sind. Dies kann zu neuen wissenschaftlichen Durchbrüchen führen.

Aber die Nutzung von Künstlicher Intelligenz (KI) birgt auch bestimmte Risiken, die es zu berücksichtigen gilt. Hier sind einige davon:

  1. Datenschutz und Privatsphäre: KI-Systeme erfordern häufig den Zugriff auf umfangreiche Datenmengen, um effektiv zu funktionieren. Dies kann zu Bedenken hinsichtlich des Datenschutzes und der Privatsphäre führen. Wenn sensible oder persönliche Informationen in falsche Hände geraten oder unzureichend geschützt sind, kann dies schwerwiegende Auswirkungen haben.
  2. Fehlende Transparenz und Erklärbarkeit: Einige KI-Modelle, insbesondere solche, die auf Deep Learning basieren, sind oft schwer nachvollziehbar. Das bedeutet, dass die Entscheidungsfindung von KI-Systemen für Menschen nicht immer verständlich ist. Dies kann zu Misstrauen und Unsicherheit führen, insbesondere wenn KI in sicherheitskritischen Bereichen eingesetzt wird, wie beispielsweise in der Medizin oder im Finanzwesen.
  3. Verzerrungen und Diskriminierung: KI-Systeme lernen aus vorhandenen Daten und können Vorurteile und Diskriminierung verstärken, die in diesen Daten vorhanden sind. Wenn beispielsweise ein KI-gesteuertes Bewerbungsverfahren historisch bedingte Ungleichheiten widerspiegelt, kann dies zu einer weiteren Benachteiligung bestimmter Bevölkerungsgruppen führen. Es erfordert besondere Anstrengungen, um sicherzustellen, dass KI-Systeme fair und frei von Verzerrungen sind.
  4. Arbeitsplatzverluste und soziale Auswirkungen: KI hat das Potenzial, bestimmte Aufgaben und Jobs zu automatisieren, was zu Arbeitsplatzverlusten in einigen Bereichen führen kann. Dies kann erhebliche soziale und wirtschaftliche Auswirkungen haben, insbesondere wenn nicht genügend alternative Beschäftigungsmöglichkeiten geschaffen werden.
  5. Abhängigkeit von KI-Systemen: Eine übermäßige Abhängigkeit von KI-Systemen kann zu Risiken führen, wenn diese Systeme ausfallen oder fehlerhaft funktionieren. In einigen Fällen kann dies katastrophale Folgen haben, zum Beispiel wenn autonome Fahrzeuge oder medizinische Diagnosesysteme versagen.
  6. Missbrauch von KI: KI-Technologien können auch missbraucht werden, sei es für Cyberkriminalität, Fälschungen oder die Verbreitung von Fehlinformationen. Das Potenzial für den Missbrauch von KI erfordert angemessene Sicherheitsmaßnahmen und Aufsichtsmechanismen.

Es ist wichtig zu beachten, dass viele dieser Risiken mit der Art und Weise zusammenhängen, wie sie entwickelt, eingesetzt und reguliert werden. Durch geeignete Maßnahmen und Richtlinien können viele Risiken bereits minimiert und kontrolliert werden.

Suchmaschine

KI im Alltag

Schon seit längerer Zeit bedienen wir uns der Möglichkeiten von KI in Form von Spamfiltern, wir finden über KI in Suchmaschinen immer schneller die für uns relevanten Themen, wir nutzen KI für unsere Smart Home-Technologie, die uns beispielsweise das Licht zu Hause oder die Heizung automatisch ein- und ausschaltet.

Nicht zuletzt seit der Veröffentlichung von ChatGPT hat KI in den Alltag von Millionen Bürger*innen Einzug gehalten. Wir nutzen KI für das Erstellen von Texten, Briefen und E-Mails aber auch Bildmaterial wird anhand von Stichworten (Prompts) oft täuschend echt produziert. Hier müssen wir immer genauer prüfen, was uns geboten wird, denn das Risiko der Manipulation ist groß.

Insgesamt bietet KI viele Vorteile, aber es ist wichtig, dass die Risiken berücksichtigt werden, um sicherzustellen, dass Künstliche Intelligenz nur sicher und ethisch korrekt eingesetzt wird.

Chancen und Risiken von KI in der öffentlichen Verwaltung

Künstliche Intelligenz (KI) bietet auch in der kommunalen Verwaltung viele Vorteile, aber auch hier birgt sie Risiken (z. B. Datenschutz, ethische- oder rechtliche Bedenken) die berücksichtigt werden müssen, daher ist ein sorgfältiges Vorgehen unter Berücksichtigung aller Vor- und Nachteile bei der Implementierung äußerst wichtig. Vor allem aber müssen die Mitarbeitenden von Anfang an mitgenommen werden, nur so kann Akzeptanz für den Einsatz Künstlicher Intelligenz entstehen.

Die StudieZukunftsradar Digitale Kommune 2023“ zeigt auf, dass immer mehr Kommunen den Einsatz von KI als sinnvoll erachten. So sieht man bereits heute z. B. Vorteile bei der Unterstützung von Mitarbeitenden bei Routinearbeiten im Backoffice, bei der Verbesserung und Effizienzsteigerung von Prozessen oder bei der direkten Kommunikation mit Bürger*innen z. B. durch den Einsatz von Chatbots.

50% der Menschen in Deutschland können sich laut „eGovernment Monitor 2023“ die Kommunikation mit einem Chatbot in der Verwaltung vorstellen und die Mehrheit der Bevölkerung ist mit dem Einsatz von KI in der Verwaltung einverstanden, wenn grundsätzlich die Entscheidungen weiterhin von Menschen getroffen werden.

Jedoch sieht die Realität noch ganz anders aus, nur rund 8% aller Kommunen in Deutschland haben bereits KI im Einsatz. Hier ist dringend ein Umdenken von Nöten und Strategien sind erforderlich, denn die technische Entwicklung macht nicht vor der Verwaltung halt.

Chatbot

Einsatz von KI im öffentlichen Sektor

Doch wo und wie unterstützt sogenannte schwache KI bereits heute Beschäftigte im öffentlichen Sektor sowie Bürgerinnen und Bürger ?

Viele Menschen denken beim Begriff KI erstmal an intelligente Maschinen aus Hollywood Blockbustern (starke KI, welche es heute noch nicht gibt). Allerdings kommen in einigen Verwaltungen in Deutschland bereits sprechende Serviceroboter zum Einsatz. Diese digitalen Helfer begrüßen z. B: in der Stadt Ludwigsburg die Bürger*innen des Bürgerbüros und begleitet sie zu den entsprechenden Abteilungen. Auch in öffentlichen Einrichtungen wie Bibliotheken, Hochschulen, Städten, Kommunen und Einrichtungen für Kunst und Kultur werden solche Roboter im Echtbetrieb getestet.

Und doch ist der Einsatz von KI  sehr viel mehr als das Bereitstellen eines Roboters. Der öffentliche Sektor kann bereits heute von umfangreichen KI-Möglichkeiten profitieren.

In Heilbronn kommt beispielsweise seit 2023 ein KI-Verfahren zum Einsatz, welches automatisiert die Verschlagwortung von Fotos erledigt. In der Poststelle der Stadt Bergheim wird mittels KI der physische Posteingang digitalisiert. Die KI wertet die Dokumente dann zusammen mit zentral eingehenden E-Mails aus, um sie automatisiert zu beantworten oder an die richtigen Ämter weiterzuleiten. Auch die Beantwortung von einfachen Anfragen oder Stammdatenänderungen ist vollautomatisiert möglich.

Doch besonders kleine Kommunen werden auf Grund von Fachkräftemangel und sich verändernden Aufgaben vor große Herausforderungen gestellt. Sie können den Sprung in Richtung Digitalisierung und KI oft nur schwer leisten. Digitalisierung und Automatisierung sind in der kommunalen Verwaltung nicht mehr wegzudenken. Vor allem bei der Integration von KI spielen die Größe der Kommune und die vorhandenen Kompetenzen eine besondere Rolle.

Trotz aller Widrigkeiten gibt es aber auch kleinere Kommunen, die KI bereits erfolgreich einsetzen, so können über Sprachassistenten wie Siri und Alexa oder  Chatbots und Voicebots einfache Informationen für Bürger*innen beauskunftet werden, z. B. Informationen zu Müllabfuhrtagen oder Öffnungszeiten von Ämtern. In jeder öffentlichen Verwaltung oder in öffentlichen Unternehmen gibt es sinnvolle Anwendungsfälle. Sie entlasten Mitarbeitende von Standardanfragen und schaffen damit zeitliche Freiräume für andere Aufgaben, wie z.B. individueller Beratung. Damit solche Auskunftssysteme jedoch funktionieren, muss die Datenqualität gegeben sein bzw. stetig verbessert werden.  Denn, je besser die Daten, desto besser das Ergebnis.

Assistenz-Software und Spracherkennung

Auch im Umfeld Barrierefreiheit, einfache/leichte Sprache und Sprach- bzw. Dialekterkennung gibt es mithilfe der KI bereits Tools, die sich z. B. mit der Übersetzung von Dialekten ins Hochdeutsche befassen oder komplizierte Texte in leichte oder einfache Sprache umwandeln.

Beim GPT-Einsatz nutzt Baden-Württemberg als erstes deutsches Bundesland ein KI-System, welches den Schriftverkehr in der kommunalen Verwaltung erheblich beschleunigen soll.
Dieser Prototyp (Projekt von Aleph Alpha und dem landeseigenen Innovationslabor) steht seit Mai allen Landesbediensteten in den Ministerien in Stuttgart und den ihnen nachgeordneten Behörden zur Verfügung. Hierdurch können z. B. hundertseitige Dokumente auf wenige Seiten zusammengefasst und Fragen an eine Wissensdatenbank gestellt werden.
In Frankfurt kommt eine „Assistenz“-Software zum Einsatz, die bei Verfahren zu Verkehrsordnungswidrigkeiten relevante Daten aus Akten herauslesen kann und letztendlich Entwürfe von Protokollen, Urteilen und Beschlüssen daraus erstellt. Eine weitere KI-Software, ein Richterassistenztool (FRAUKE), trägt z. B. am Amtsgericht Frankfurt zur Urteilsfindung bei. Dies sind nur einige Beispiele, wie KI schon heute sinnvoll im öffentlichen Sektor eingesetzt wird – viele weitere Beispiele hat der von Prosoz unterstützte MyGovernment Award 2023 ausgezeichnet.

Roboterhand klickt auf Lichtpunkt

Schäden per Bild-KI erkennen

Auch bei der Überprüfung von Straßenschäden, Abfallarten o.ä. kommt KI durch Bilderkennung zum Einsatz. Entsorgungsunternehmen können somit das Massenaufkommen von Haushaltsabfällen (z.B. durch das System „WasteAnt“) kontinuierlich auf Störstoffe überprüfen, und somit die Qualität einer Abfalllieferung bewerten. Je weniger Fehlstoffe sich im Abfall befinden, desto geringer das Risiko von Störungen, die zu Folgekosten führen können. Straßenschäden können ebenfalls per Bilddaten der Streckenaufzeichnung von Kommunalfahrzeugen von einem Algorithmus auf Schäden an der Straßenoberfläche hin analysiert und automatisch 15 Schadensklassen zugeordnet werden. Die Erfassung der Schäden erfolgt mittels App.

Gerade in Zeiten von Unwetterkatastrophen kann KI auch eine wichtige Aufgabe bei der Unterstützung des Katastrophenschutzes erfüllen. KI kann in Form von Frühwarnsystemen für Flut und Hochwasser zum Einsatz kommen. Dabei messen Algorithmen und Sensoren vor Ort das Niederschlagsmuster und Abflussverhalten von Flüssen und Kanälen in Echtzeit. Sobald kritische Werte erreicht werden, löst das Frühwarnsystem sofort Alarm aus und informiert Rettungskräfte und Bürger*innen über die drohenden Gefahren.

Augen-Lichtwand

Wie entwickelt sich KI in den nächsten 5 Jahren?

Es ist schwer vorherzusagen, wie sich Künstliche Intelligenz in den nächsten Jahren entwickeln wird, da die KI-Technologie schnell und stetig im Wandel ist. Die Bereiche, in denen auch in Zukunft wesentliche Entwicklungen zu erwarten sind, umfassen die automatische Bilderkennung, virtuelle Assistenten, roboterbasierte Prozessautomatisierung, fortgeschrittenes maschinelles Lernen sowie natürliche Sprache. All diese Themen werden auch in der öffentlichen Verwaltung zunehmend von Bedeutung sein.

Prosoz Herten - Bild CDO Christian Rupp

Kontakt

Christian Rupp
CDO bei PROSOZ Herten GmbH
Vorsitzender des
Innovation Mine e. V.
Tel.: (02366) 188-407
c.rupp@prosoz.de

Am 05.03.24 hält Christian Rupp auf der Jahrestagung des Arbeitskreises der deutschen Landesparlamente, in  Mainz, einen Implusvortrag zum Thema „KI im Parlamentsbereich“.