KI trifft Gemeinwohl | Civic Coding-Forum - Civic Coding – Innovationsnetz KI für das Gemeinwohl

Wie finde ich die passende KI-Lösung für meine Anforderungen? Im Civic Coding-Forum: „KI trifft Gemeinwohl“ am 17.10.2024 teilten zwei gemeinwohlorientierte Organisationen ihre Erfahrungen. Sie gaben Einblicke in ihre Herangehensweise bei der Auswahl von KI-Lösungen, beleuchteten ethische Aspekte, die beachtet werden sollten, und berichteten von den Herausforderungen und Erkenntnissen, die sie dabei gewonnen haben.

Nora Zupan von der Civic Coding-Geschäftsstelle moderierte den virtuellen Austausch mit

• Gregor Kijora, Leiter des Geschäftsbereichs Digitale Dienstleistungen (DDL) der DRK-Service GmbH und
• Lola Güldenberg, Geschäftsführerin eines Integrationsbetriebs mit behinderten Menschen und Gründerin von CARLO, einem Unternehmen im Bereich Pflege/Medizin.

• Datenschutz und ethische Aspekte priorisieren: Datenschutz und ethische Standards sind von großer Bedeutung – insbesondere bei sensiblen Daten wie psychischen Gesundheitsindikatoren oder internen Organisationsdaten. Frühzeitige rechtliche Absicherungen und transparente Standards fördern Vertrauen und Akzeptanz in der Nutzung der KI-Anwendungen.
• Engagement der Beteiligten fördern: Eine erfolgreiche Implementierung erfordert das Engagement aller Beteiligten. Durch Beta-Testphasen und Schulungen können Mitarbeitende für die KI-Nutzung gewonnen sowie der Bedarf und das Verständnis für die Tools gestärkt werden.
• Klarer Use-Case und Zielorientierung: Es ist wichtig, einen klaren Anwendungsfall zu identifizieren. Ein präziser Fokus hilft, die Entwicklung der KI-Lösung direkt auf die tatsächlichen Bedarfe auszurichten.
• Schrittweise Verbesserung und Rückmeldeschleifen: Feedback und Anpassungen sind wertvolle Elemente in der Entwicklung. Der kontinuierliche Austausch mit Beta-Nutzer*innen und Projektpartner*innen hilft, die Anwendung praxisnah zu verbessern und die Akzeptanz langfristig zu erhöhen.

Die DRK-Service ist ein Dienstleister des DRK (Deutsches Rotes Kreuz) und entwickelt unter anderem digitale Lösungen. Mit dem DRK-Assist hat die DRK-Service einen Chatbot eingeführt, der fachliche Fragen zur Arbeit des Roten Kreuzes beantwortet, Informationen bereitstellt und durch eine eigene Text-KI interne Wissensdokumente nutzbar macht. Der Chatbot liefere nicht nur dialogorientierte Informationen, sondern ermögliche es auch, auf Basis der internen Quellen Texte zu generieren, berichtete Kijora. Dies erleichtere allen Mitarbeitenden den Zugang zum umfangreichen Wissen der Organisation. Besonders schön sei, dass alle Quellen im generierten Text mit angegeben werden; sie können direkt angeklickt und aufgerufen werden. Dieses Feature ermögliche die Arbeit mit Fachmaterialien und reduziere inhaltliche Fehler bei der Textgenerierung. Der DRK-Assist erfinde keine Inhalte dazu und sei wirklich verlässlich. Er liefere nur eine Antwort, wenn die gewünschten Informationen vorliegen. Mit diesem Tool habe das DRK eine Vorreiterrolle in der deutschen Wohlfahrt übernommen, so Kijora.

Der Weg von der Idee bis zur Umsetzung habe etwa sechs Monate gedauert, berichtete Kijora. Ausgangspunkt war eine strategische Entscheidung. Ziel sei es gewesen, KI-Kompetenz zu vermitteln, indem niedrigschwellige Tools angeboten werden, die den Mitarbeitenden Berührungsängste nehmen und die KI-Nutzung innerhalb des DRK fördern. Der Vorteil bei der Entwicklung sei die bestehende Zusammenarbeit mit Microsoft. Dadurch sei das Projekt schneller und günstiger zu realisieren gewesen, so Kijora. Er erklärte, dass es sich nicht um ein klassisches Large Language Model handele, wodurch die Entwicklungskosten gesenkt werden konnten.

Der DRK-Assist nutze derzeit die Technologie von ChatGPT 4 und habe Zugriff auf über 20.000 Dokumente aus der internen Wissensdatenbank des DRK, erklärte Kijora. Aktuell seien etwa 300 Beta-Nutzer*innen aktiv; aufgrund finanzieller Einschränkungen sei das Tool noch nicht für den gesamten Verband zugänglich. Es sei geplant, den Funktionsumfang des Chatbots durch die Integration weiterer Websites sowie organisationsinterner SharePoint-Daten zu erweitern. Um den DRK-Assist kontinuierlich zu verbessern, nutze sein Team Feedback der Beta-Nutzer*innen, das über einen Fragebogen erhoben werde.

Seit 2020 ist Lola Güldenberg Geschäftsführerin eines Integrationsbetriebs, der Menschen mit psychischen Behinderungen in den Bereichen Gastronomie, Hotellerie und Veranstaltungen in Beschäftigung bringt. Sie hat ein KI-Testlabor gestartet, um zu testen, wie sie KI-Anwendungen für die psychische Stabilität ihrer Belegschaft nutzen kann. Ziel war und ist es, die Barrierefreiheit zu erhöhen und den Alltag der Mitarbeitenden zu erleichtern, berichtete Güldenberg. Es habe sie geärgert, dass die Themen KI und Inklusion bisher kaum zusammengedacht worden seien, und das habe sie ändern wollen.

„Wir versuchen, den Schutz von Mensch und Natur in den Vordergrund zu stellen“, so Güldenberg. Das Thema KI spiele in alle diese Bereiche hinein, und so habe sie als langjährige Innovationsentwicklerin in der Industrie und Beraterin von Mobilitäts- und Konsumgüterkonzernen damit begonnen, Mitarbeitende zu schulen. Ziel war, sie mit KI vertraut zu machen und ihnen die Möglichkeit zu geben, die Technologie zu verstehen und zu nutzen. Dabei ging es in erster Linie darum, was Künstliche Intelligenz eigentlich ist, wie man etwa mit Chat-GPT arbeiten kann und wie es sich dabei mit dem Datenschutz verhalte. Das sei sehr gut angenommen worden, berichtete Güldenberg. Gemeinsam mit den Mitarbeitenden habe sie verschiedene KI-Tools ausprobiert, die kostenlos zur Verfügung stehen, um herauszufinden, was die tägliche Arbeit der Inklusionsmitarbeitenden erleichtern könnte.

Das Ergebnis ihrer Testphase sei die Entwicklung eines Konzeptes für ein neues KI-Tool gewesen, das Belastungen ihrer Mitarbeitenden am Arbeitsplatz frühzeitig erkennen solle: Der „Burnout-Marker“. Ziel ist es, Muster und Anzeichen von Überlastungen frühzeitig festzustellen, um das Betreuungssystem aktivieren zu können und so präventive Maßnahmen einzuleiten, bevor es zu ernsthaften Krisen komme. Die KI-Anwendung analysiere Audio-Tagebucheinträge und erfasse verschiedene Parameter wie Stimmlage, Bildschirmzeit und andere Indikatoren, die Rückschlüsse auf die psychische Verfassung geben könnten. Dabei gehe es ausdrücklich nicht um medizinische Diagnosen, sondern um die Erkennung von Überlastungssignalen im Arbeitskontext. Die Einbeziehung der Mitarbeitenden und Betreuer*innen in den Entwicklungsprozess sei für sie entscheidend gewesen, um sicherzustellen, dass die Lösungen tatsächlich hilfreich sind, betonte Güldenberg.

Um das Projekt von Anfang an datenschutzrechtlich sicher zu gestalten, sei frühzeitig ein "Mitarbeiter-Standard-Arbeitsvertrag“ in Zusammenarbeit mit der Kanzlei des Paritätischen Wohlfahrtsverbands aufgesetzt worden, so Güldenberg. Zudem habe sie bei der Entwicklung des Prototyps besonderen Wert auf die Einhaltung der EU-Datenschutzrichtlinien gelegt, da es sich um sehr sensible Daten handele. Diese Anforderungen seien anspruchsvoll gewesen, da die Erkennung von Emotionen durch KI hohe regulatorische Hürden aufweise. Auch die Themen Datenvielfalt und -qualität stellen laut Güldenberg eine Herausforderung dar. Um wirklich mit sauberen, guten Daten arbeiten zu können, kooperiere sie mit verschiedenen Partner*innen, erklärte sie.

Eine weitere Hürde in der Testphase sei die abgelegene Lage des Betriebs auf dem Land gewesen: Regelmäßige Internetausfälle und ein schlechtes Mobilfunknetz seien dort Teil des Alltags. Zudem habe es anfänglich Widerstände bei den Betreuer*innen gegeben, die skeptisch gegenüber der Nutzung von KI im Betrieb gewesen seien. Doch trotzdem sei es gelungen, ein Konzept zu entwickeln, das die Bedürfnisse der Inklusionsmitarbeitenden berücksichtige und gleichzeitig die gesetzlichen Vorgaben einhalte. Mithilfe von Civic Coding arbeiteten Güldenberg und ihr Team das Konzept weiter aus und stellte einen Förderantrag, sodass der Burnout-Marker wirklich entwickelt werden konnte. Sie hoffe, dass sie weitere Inklusionsunternehmen von der Idee begeistern kann und sie bereit sind, den Burnout-Marker zu testen.