Code of Conduct | Civic Coding-Schlaglicht - Civic Coding – Innovationsnetz KI für das Gemeinwohl

Am 28.11.2024 befassten wir uns mit der Frage, wie die gemeinwohlorientierte KI-Nutzung neben Regulierungen zusätzlich durch selbstverpflichtende Verhaltenskodizes unterstützt werden kann. Im Fokus des Austauschs stand eine Initiative des D64 – Zentrum für Digitalen Fortschritt e. V., in deren Rahmen über 30 zivilgesellschaftliche Organisationen einen Code of Conduct für den Einsatz von KI in der Zivilgesellschaft entwickeln. Die Initiative, die vom Bundesministerium für Familie, Senioren, Frauen und Jugend (BMFSJ) gefördert wird, hat es sich zum Ziel gesetzt, ein gemeinsames Verständnis zu schaffen, was gemeinwohlorientierte KI-Nutzung im Zusammenhang mit gesellschaftlichen Grundwerten wie Freiheit, Gerechtigkeit und Solidarität bedeutet und wie diese Werte eine zivilgesellschaftliche KI-Nutzung anleiten können.

In der Online-Veranstaltung wurden spannende Einblicke in die Arbeit der Initiative ermöglicht und mit den Expert*innen über die Bereiche in der Zivilgesellschaft gesprochen, in denen ein Code of Conduct Sinn ergibt, wo er notwendig ist und wo er bereits Anwendung findet.

Dr. Julian Stubbe von der Civic Coding-Geschäftsstelle moderierte den virtuellen Austausch mit Beiträgen von:

• Anke Obendiek, Co-Leiterin für das Projekt Code of Conduct und Referentin für Netzwerk & Gremien bei D64 – Zentrum für Digitalen Fortschritt.
• Christoph Hassler, freiberuflicher Designer und Berater im Bereich Inklusion sowie Head of Product für das soziale Start-up YOUNA.
• Tim Schrock, Referent für digitale politische Bildung zu Themen wie Digitalisierung, Netzpolitik und Datenschutz beim Arbeitskreis deutscher Bildungsstätten e. V.

• Der AI Act schafft den allgemeinen, regulatorischen Rahmen für die KI-Nutzung. Als Verhaltenskodex soll der Code of Conduct höhere Standards setzen und die Zivilgesellschaft dazu befähigen, diese vorzuleben.
• Besonders in sensiblen Bereichen wie öffentlicher Verwaltung oder KI-gestütztem Recruiting können durch Kodizes ethische Maßstäbe etabliert werden, um marginalisierte Gruppen besser zu schützen.
• Der Code of Conduct soll zu einem Empowerment von zivilgesellschaftlichen Anwender*innen führen.
• Die Leitlinien bieten Hilfestellung und sollen Anwender*innen in der Nutzung und Bewertung von KI-Anwendungen stärken.

Grundsätzlich stelle der AI Act den Rahmen dar, in dem sich alle Akteur*innen bewegen müssen, erklärte Anke Obendiek. Viele Fragen bleiben dabei jedoch offen und viele Dinge seien noch nicht klar – vor allem bis das Gesetz richtig in Kraft getreten sei. Der Code of Conduct diene daher auch als eine Art Überbrückung und liefere Orientierung. Das Projekt schaffe einen offenen Raum, in dem sich alle Stakeholder*innen sammeln und über wichtige Prinzipien austauschen können.

Tim Schrock bestätigte, dass es einfacher sei, von unten heraus das Thema anzugehen, statt auf die Regulierungen des AI Acts zu warten. In seinen Augen sei es nicht richtig, den Bürger*innen die Regeln des AI Acts einfach unerklärt vorzusetzen. Die Regelungen sollten von Bürger*innen nicht nur befolgt, sondern auch verstanden werden. Sie sollten nachvollziehen können, warum sie etwas auf eine bestimmte Weise machen sollen, so Schrock.

Nicht diskriminiert zu werden, sei eine wichtige Leitlinie, gab Christoph Hassler an. Für ihn sei der AI Act eine Kompromisslösung der Mindestanforderungen. Gerade mit Blick auf Diskriminierung liefere er nur ungenau und unzureichend Regeln. Der Schutz von marginalen Gruppen sei nicht besonders hervorgehoben. Auch mit weiteren Punkten des AI Acts sei er nicht zufrieden, so etwa damit, dass beim KI-Einsatz in der Überwachung durch die Polizei viele Dinge verboten seien. Durch Sonderfälle würden sich laut Hassler aber Hintertüren ergeben, die solche Verbote aufweichen können.

Für Tim Schrock gebe es zwei Bereiche, die alle Menschen betreffen: Zum einen halte er es für problematisch, dass zunehmend Misstrauen gegenüber Quellen, wie Videos, Bild und Ton vorherrsche. Durch die KI-generierten Inhalte sei nicht mehr klar erkennbar, was real stattgefunden habe und was verfälscht sei. Zum anderen gehe auch Kreativität verloren. Das führe dazu, dass Menschen immer weniger selbst Innovationen entwickeln.

Anke Obendiek stimmte zu, dass es vor allem die vulnerablen Gruppen der Gesellschaft treffe. Ungleichheiten würden mit unbedachtem KI-Einsatz verstärkt werden. Die engagierte Zivilgesellschaft sollte aus ihrer Sicht daher eine Vorbildfunktion einnehmen, um die Risiken zu minimieren. Mit Blick auf die strukturellen Rahmenbedingungen sei es für zivilgesellschaftliche Organisationen jedoch besonders schwierig, weil es wenige, verlässliche Finanzierungsmodelle für diese Zwecke gebe.

Mit der Finalisierung des Code of Conduct hoffe Hassler auf ein Empowerment, durch das die Zivilgesellschaft Vorreiterin wird. Die meisten Anweder*innen seien keine Spezialist*innen im Bereich IT, daher könnte der Code of Conduct eine Hilfestellung bei der Prüfung von möglichen KI-Tools leisten, bevor es zum Einsatz in der Zivilgesellschaft komme. Nutzer*innen oder Organisationen würden vielleicht den Einsatz einiger KI-Tools ablehnen, wenn sie zuvor aufgeklärt wurden, da ihnen die Risiken zu hoch sind.

Abschließend berichtete Obendiek, dass im kommenden Jahr an einem White Paper zum Thema KI und Gerechtigkeit weitergearbeitet werde, welches Anfang 2025 veröffentlicht werde. Im April 2025 solle es dann bei einem Treffen zu einer konkreten Idee für den Code of Conduct kommen. Ziel sei dabei weiterhin, das Projekt und die Kompetenzen in die Breite zu tragen, sodass sich auch kleinere Organisationen empowert fühlen, so Obendiek. Alle Entwicklungen sowie den aktuellen Stand zum Projekt Code of Conduct findest du auf der Website von D64.