Niederschwellige Beteiligungsformate zur KI-Normung | Civic Coding x ZVKI - Civic Coding – Innovationsnetz KI für das Gemeinwohl

Am 16.05.2024 sind wir in der ersten Deep Dive-Session unserer Reihe Civic Coding x ZVKI tiefer in die Normung von KI-Systemen eingestiegen. Gemeinsam mit Expert*innen aus der Praxis haben wir am Beispiel der beiden Gremien European Trade Union Confederation (ETUC) und des Verbraucherrats des Deutschen Instituts für Normung e. V. (DIN) diskutiert, wie die Zivilgesellschaft sich möglichst unkompliziert in die entsprechenden Prozesse einbringen kann, welche Möglichkeiten zur Teilhabe bestehen und welchen Herausforderungen die Akteur*innen begegnen.

Ina Gamp von der Civic Coding-Geschäftsstelle moderierte den virtuellen Austausch mit den folgenden Expert*innen:

• Natalia Giorgi, Consultant für Standardisierung bei der European Trade Union Confederation (ETUC)
• Dr. Alexander Goschew, Projektmanager für den Bereich der Informations- und Kommunikationstechnologien des Deutschen Instituts für Normung e. V. (DIN)
• Matthieu Binder, wissenschaftlicher Mitarbeiter des digitalpolitischen Think Tanks iRights.Lab

• Standards für KI-Systeme sollen deren Sicherheit und Qualität gewährleisten. Um dabei die Interessen der Zivilgesellschaft möglichst breit abzubilden und eine hohe Akzeptanz für diese Technologien zu erreichen, ist es wichtig, dass sich zivilgesellschaftliche Akteur*innen aktiv in die Entwicklung von Standards einbringen. In unterschiedlichen Gremien können sie sich niederschwellig an der KI-Normung beteiligen.
• Organisationen wie ETUC bieten auf europäischer Ebene die Möglichkeit, sich für bestimmte Interessengruppen wie z. B. Arbeitnehmer*innen einzubringen. ETUC arbeitet in Arbeitsgruppen des europäischen Normungskomitees CEN/CENELEC an entsprechenden Standards mit.
• Der DIN-Verbraucherrat ist ein Gremium auf nationaler Ebene, das die Interessen von Verbraucher*innen bei der Normung vertritt. Für die Beteiligung im DIN-Verbraucherrat gibt es zwei Möglichkeiten: Wer sich engagieren möchte, kann entweder als Ehrenamtliche*r tätig sein oder die Arbeit des Gremiums seit kurzem im KI-Expert*innenkreis unterstützen.

Matthieu Binder vom ZVKI gab noch einmal einen Überblick über die einzelnen Deep Dive-Sessions der Reihe und ordnete sie in den Gesamtkontext des Standardisierungsprozesses ein.

Am Beginn einer Normung stehe ein Normungsauftrag, so auch im Fall der KI-Regulierung, der durch die Europäische Kommission an CEN/CENELEC gestellt wurde. Sowohl auf der europäischen als auch auf der nationalen Ebene wurden dafür entsprechende Arbeitsgruppen eingerichtet. Auf europäischer Ebene ist dies das Joint Technical Comittee (JTC 21) und auf nationaler Ebene das Spiegelgremium, das bei DIN/DKE angesiedelt ist und die Arbeit auf europäischer Ebene spiegelt und unterstützt. Die Spiegelgremien werden auf nationaler Ebene mit Expert*innen befüllt und auf die europäische Ebene entsandt.

Neben diesen Foren gebe es aber auch noch weitere Akteur*innen, die sogenannten Anex-III-Organisationen, die an die europäische Standardisierung angedockt sind und zivilgesellschaftliche, gemeinwohlorientierte Interessen in der Normung vertreten sollen, erklärte Matthieu Binder. Dazu gehören z.B.ANEC oder ETUC auf europäischer Ebene. Auf die Arbeit von ETUC ging Natalia Giorgi näher ein.

Natalia Giorgi, die beim Europäischen Gewerkschaftsbund (ETUC) an einem von der EU und der Europäischen Freihandelsassoziation (EFTA) finanzierten Projekt zur Stärkung der Repräsentation und Beteiligung von Arbeitnehmer*innen in der Normung arbeitet, gab den ersten Erfahrungsbericht aus der Praxis.

Die ETUC wurde von der EU-Kommission benannt, um die Interessen von Gewerkschaften in der Standardisierung zu vertreten. „Standards sind überall“ (Zitat aus dem Englischen übersetzt), betonte Giorgi. Alle Produkte, die wir im Alltag nutzen, seien anhand von Standards gestaltet und produziert. Deswegen werde es auch immer wichtiger, das Bewusstsein für die Relevanz von KI-Standards für Arbeitnehmer*innen zu stärken. Zum einen müssten Technikexpert*innen die Bedeutung erkennen, Stakeholder*innen und Nutzer*innen auf der technischen Ebene einzubeziehen. Denn für die Entwicklung von vertrauenswürdigen Technologien seien Standards notwendig, die für die Gesellschaft funktionieren und die unterschiedlichen Bedürfnisse und Bedenken berücksichtigen. Auf der anderen Seite müsse das Bewusstsein für die Relevanz, sich in der KI-Standardisierung zu engagieren, bei den Nutzer*innen selbst gestärkt werden.

Die Gewerkschaft erkenne an, dass innovative Technologien wie KI das Potenzial haben, heutige und zukünftige Herausforderungen zu lösen. Gleichzeitig können Technologien beim Einsatz in Bereichen wie Recruiting, Aufgabenverteilung oder Leistungsbeurteilung die Risiken für Arbeitnehmer*innen erhöhen. Damit stellen sie spezifische Risiken für Grundrechte dar. Der Einsatz von KI-Anwendungen am Arbeitsplatz ist daher im AI Act als Hochrisikonutzung eingeordnet. In der Praxis bedeutet das, dass alle KI-Anwendungen, die in der EU am Arbeitsplatz eingesetzt werden, mit den geltenden Standards konform sein müssen.

„Wenn wir keine breite Repräsentation von Stakeholder*innen sicherstellen, überlassen wir einen großen Teil der Verantwortung für den Schutz der Interessen und der Sicherheit der Gesellschaft privatwirtschaftlichen Akteur*innen“ (Zitat aus dem Englischen übersetzt), so Georgi. Deshalb wird im 2023 von der EU-Kommission gestellten Standardisation Request die prominente Rolle des öffentlichen Interesses besonders hervorgehoben.

Alle Standards, die zur Operationalisierung des AI Acts genutzt werden, werden im Komitee CEN/CENELEC JTC 21 AI vorbereitet. Die ETUC nimmt dabei an drei von fünf Arbeitsgruppen teil und trägt aktiv zu zwei der vorgeschriebenen Standards bei: Der Standard zu KI-Risikomanagement (Arbeitsgruppe 2) und zu Rahmenbedingungen für Vertrauenswürdigkeit (Arbeitsgruppe 4). Der Standard der Arbeitsgruppe 4 sei ein sehr wichtiger Standard, betonte Giorgi, da er die zehn zwingenden Voraussetzungen für KI umfasse. Dazu gehören z. B. menschliche Aufsicht, Transparenz, Robustheit und Akkuratesse. Dementsprechend viel Arbeit ist mit diesem Standard verbunden. Ziel ist eine Finalisierung im zweiten Quartal 2025.

Diese Arbeitsgruppe sei sehr groß und die Beteiligung gewachsen, um eine gewisse Anzahl Stakeholder*innen vom europäischen Level wie ETUC und gesamteuropäische NGOS sowie die Kommission und nationale Delegationen einzubeziehen.

Giorgi verdeutlichte, dass es sehr herausfordernd für Akteur*innen ohne Erfahrung mit Standardisierung sein kann, sich an den Prozessen zu beteiligen. Deshalb hat die ETUC die Einrichtung einer eigenen Arbeitsgruppe zur Inklusion innerhalb von JTC 21 unterstützt. Diese soll das Engagement bewerten und Möglichkeiten reflektieren, um die Beteiligung zu erhöhen. Ein Instrument ist ein alle zwei Monat erscheinender Newsletter, in dem aktuelle Informationen mit allen Interessierten geteilt werden. Die bisherigen Ausgaben des AI Standardisation Inclusiveness Newsletter sind auf der Homepage der ETUC verfügbar.

Ein weiteres Beteiligungsgremium auf nationaler Ebene ist der DIN-Verbraucherrat mit seinem KI-Expert*innenkreis, welchen Dr. Alexander Goschew vom DIN-Verbraucherrat vorstellte.

Der DIN-Verbraucherrat arbeite nach den Prinzipien der Normung – unter anderem Freiwilligkeit, Öffentlichkeit und breite Beteiligung. Das übergeordnete Prinzip sei Konsens, um die Einigung aller Beteiligten aus den unterschiedlichen Bereichen auf eine Prozessbeschreibung zu erreichen.

Seit 1974 vertritt der DIN-Verbraucherrat die Interessen der nichtgewerblichen Endverbraucher*innen und wird vom Bundesministerium für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV) gefördert. Anders als DIN, das im Normungsprozess die Rolle eines neutralen Organisators einnimmt, müsse der DIN-Verbraucherrat Stellung beziehen und sich in die Diskussion einbringen, erläuterte Goschew.

Ziel ist es, das im internationalen Vergleich teilweise höhere deutsche Verbraucherschutzniveau bei internationaler und europäischer Normung mindestens zu erhalten. Er untergliedert sich in den Verbraucherrat selbst als Entscheidungsgremium und die Geschäftsstelle als ausführendes Organ. Der Verbraucherrat tagt mehrmals im Jahr und gibt Leitlinien vor. Sowohl die entsendenden Organisationen des Verbraucherrats als auch die Geschäftsstelle decken ein breites Themenspektrum ab, das von Bauen und Wohnen über Umwelt bis hin zur Sicherheit von Kinderartikeln und Elektromobilität reicht. Diese unterschiedlichen Themen werden von aktuell ca. 60 Ehrenamtlichen des DIN-Verbraucherrats bearbeitet, die in verbrauchernahen Organisationen tätig sind. Daneben gibt es Expert*innenteams zu diversen Themenbereichen, beispielsweise digitale Sicherheit, KI oder Lebensmittelhygiene.

Die Expert*innen spiegeln die Arbeit auf nationaler Ebene im Spiegelausschuss. Aus den nationalen Normungsausschüssen werden sie in europäische Arbeitsgruppen entsandt und können dort ihre Meinung und die Interessen ihres Kreises vertreten. In den Komitees haben sie allerdings die Rolle von Delegierten, die eine gemeinsam ausgehandelte Position der nationalen Ausschüsse und nicht ihre persönliche Meinung vertreten.

Zum einen können Interessierte ehrenamtlich die Interessen des Verbraucherschutzes vertreten. Für ein solches Engagement gibt es bestimmte Kriterien: Die Personen sollten bestenfalls im Berufsleben stehen (wobei es sich aber eher um ein „weiches“ Kriterium handelt). Zudem sollten sie über Fachexpertise verfügen, glaubhaft Verbraucherinteressen vertreten sowie die nötige Zeit und Ressourcen mitbringen.

Auf europäischer Ebene gibt es fünf Arbeitsgruppen, die national in sogenannten Arbeitskreisen gespiegelt werden. Der große zeitliche Aufwand, der mit dem ehrenamtlichen Engagement einhergehe, stelle eine Herausforderung für die Arbeit dar, wie Goschew deutlich machte: „Gerade beim Thema KI entwickelt sich die Technologie rasant weiter und es besteht ein großes Interesse daran, Standards zur KI-Verordnung zu entwickeln. Hier stoßen wir sowohl bei der Gewinnung als auch der fachlichen Einarbeitung von Ehrenamtlichen an Grenzen. Ein wirklich nachhaltiger und effektiver Einstieg in das Thema ist nicht so einfach in zwei, drei Wochen möglich.“

Um eine größere Anzahl an Fachexpert*innen zu gewinnen, die zu den auf europäischer Ebene diskutierten Punkten Input geben können, wurde zum anderen 2023 der KI-Expert*innenkreis als weitere Beteiligungsmöglichkeit ins Leben gerufen. Rund 20 Expert*innen mit unterschiedlichen fachlichen Hintergründen beteiligen sich daran und kommentieren Working Drafts für eine Norm auf nationaler und europäischer Ebene. So konnten sie beispielsweise zum Thema biometrische Fernidentifikation aus dem AI Act eine Einschätzung abgeben. Aus dem Expert*innenkreis konnte außerdem ein Ehrenamtlicher gewonnen werden und auch ein ANEC-Vertreter ist Teil des Netzwerks.

Insgesamt sei das das System und die Arbeitsweise des KI-Expert*innenkreises allerdings noch nicht „eingeschwungen“, so Goschew. Die Hürden liegen unter anderem in der Arbeitsweise des JTC 21 und den erst seit kurzem etablierten Strukturen. Deshalb werde die Arbeitsweise derzeit überdacht, um dennoch einen Mehrwert generieren zu können.

Wer Interesse daran hat, Teil des KI-Expert*innenkreises zu werden, kann gern per Mail Kontakt zum DIN-Verbraucherrat aufnehmen (alexander.goschew[at]din.de oder verbraucherrat[at]din.de).