Formelle Beteiligung an der KI-Normung | Civic Coding x ZVKI - Civic Coding – Innovationsnetz KI für das Gemeinwohl

Die zweite Deep Dive-Session unserer gemeinsamen Veranstaltungsreihe mit dem ZVKI beschäftigte sich mit der Frage, wie zivilgesellschaftliche Akteur*innen sich bei den Normungsgremien CEN/CENELEC und DIN/DKE einbringen und Standards mitgestalten können. Gemeinsam mit den drei Experten sprachen wir über die Anforderungen und Chancen für eine Beteiligung an der Normung von KI-Systemen durch die Zivilgesellschaft sowie über die Erfahrungen von Akteur*innen, die sich in die Normung einbringen. Die Veranstaltung fand im Rahmen des Digitaltags 2024 am 07.06.2024 statt.

Ina Gamp von der Civic Coding-Geschäftsstelle moderierte den virtuellen Austausch mit den folgenden Experten:

• Christian Marian, Projektmanager International beim VDE (Verband der Elektrotechnik Elektronik Informationstechnik e. V.) und deutscher Vertreter im europäischen Lenkungsausschuss CENELEC
• Martin Uhlherr, Teamkoordinator im DIN-Normenausschuss Informationstechnik und Anwendungen (NIA) (in Vertretung für Katharina Sehnert, Standardisierungsmanagerin für den Gemeinschaftsausschuss von DIN/DKE zur Künstlichen Intelligenz)
• Dr. James MacLaren, Research Fellow an der University of Birmingham und Operations Lead AI für Equality (in Vertretung für Milla Vidina. Senior Policy OfficerEquinet)

• Die Normungsorganisationen bieten zahlreiche Optionen, als Expert*innen in Gremien oder Arbeitsgruppen teilzunehmen und Standards mitzugestalten. So kann man beispielsweise als Expert*in im Gemeinschaftsausschuss Künstliche Intelligenz der deutschen Normungsorganisationen DIN und DKE mitarbeiten. Besonders wichtig ist die Bereitschaft, Zeit zu investieren. Dabei kann man an vielen Punkten selbst über den Umfang des eigenen Engagements entscheiden.
• Die Mitarbeit in Normungsgremien kann allerdings zu Beginn für zivilgesellschaftliche Organisationen sehr herausfordernd sein. Insbesondere der hohe Zeit- und Ressourcenaufwand sowie die Suche nach finanzieller Förderung stellen dabei Hürden dar.

Christian Marian gab einen Überblick über die internationale, europäische und nationale Landschaft der KI-Normung. Diese drei Ebenen unterteilen sich jeweils in den allgemeinen Sektor, den Sektor für Elektrotechnik und für Telekommunikation:

• Die beiden Normungsorganisationen auf deutscher Ebene sind das Deutsche Institut für Normung (DIN) für den allgemeinen Bereich und die Deutsche Kommission Elektrotechnik Elektronik Informationstechnik (DKE) für die Elektrotechnik und Telekommunikation.
• Das Pendant zum DIN auf europäischer Ebene ist das Comité Européen de Normalisation (CEN) in Brüssel, für das Elektrotechnik Comité Européen de Normalisation Electrotechnique (CENELEC) und für Telekommunikation ist es das European Telecommunications Standards Institute (ETSI) in Valbonne in Frankreich.
• Auf internationaler Ebene ist die International Organization for Standardization (ISO) das Pendant zu DIN, die International Electrotechnical Commission (IEC) ist das internationale Pendant zu DKE und die International Telecommunication Union (ITU) die internationale Normungsorganisation für Telekommunikation.

Für das Thema Künstliche Intelligenz sind der allgemeine Sektor und der Sektor Elektrotechnik relevant. Hier gibt es auf den unterschiedlichen Ebenen drei wichtige Gremien, die sich mit KI beschäftigen:

• International: ISO/IEC Joint Technical (JTC) Committee 1 / Subcommittee (SC) 42
• Europäisch: CEN/CENELEC JTC 21
• National: Gemeinschaftsausschuss für Künstliche Intelligenz

Der Zugang zu den europäischen und internationalen Gremien erfolgt immer über die nationale Normungsorganisation. In jedem Land gibt es jeweils eine Normungsorganisation, die es in den europäischen oder internationalen Organisationen vertritt. In Deutschland spiegeln DIN und DKE die europäischen und internationalen Strukturen auf nationaler Ebene. Sie sammeln Expert*innen im Gemeinschaftsausschuss und erarbeiten mit ihnen Positionen zur Normung. Pro Land werden ausgewählte Expert*innen als Delegierte zu den regelmäßig stattfindenden Treffen der europäischen und internationalen Gremien – wie dem JTC 21, in dem u. a. die europäischen Länder Mitglied sind – entsendet. Im Sinne des Delegationsprinzips müssen sie die jeweilige nationale Meinung vertreten.

Dem JTC 21 untergeordnet sind Working Groups zu Fokusthemen, die die Normen schreiben. Hier gilt kein Delegationsprinzip, sondern die teilnehmenden Expert*innen sind unabhängig, teilen ihr Fachwissen und ihre persönliche Meinung und erstellen im Konsensprinzip die Norm.

Der Gemeinschaftsausschuss von DIN und DKE wurde im Januar 2018 gegründet, da sich die Themen nicht eindeutig einer Normungsorganisation zuordnen lassen und Künstliche Intelligenz ein Querschnittsthema ist. Bereits über 100 Expert*innen arbeiten in diesem Gremium mit.

Wie auch auf europäischer Ebene haben sich Arbeitskreise zu speziellen KI-bezogenen Themen gebildet. DIN und DKE sind einem Neutralitätsprinzip verpflichtet und diskutieren inhaltlich nicht mit – außer, wenn inhaltliche Widersprüche bei zu entwickelnden Normen oder nicht zulässigen Aspekte beispielsweise aus dem Bereich der Konformitätsbewertung auffallen. Es gibt aktuell fünf Arbeitskreise zu folgenden Themen:

• KI-Qualität und Prüfverfahren
• Grundnormen und Konformität
• Daten
• Vertrauenswürdigkeit
• Anwendungen

Daneben sind einige Ad hoc-Gruppen für übergeordnete strategische Themen zuständig – eine betrifft beispielsweise Handlungsempfehlungen aus der Roadmap für Künstliche Intelligenz, die im Vorfeld von DIN/DKE erstellt wurde.

Die Normungsorganisationen sind dazu angehalten, auf eine heterogene Zusammensetzung der Gremien mit Vertreter*innen verschiedener interessierter Kreise zu achten. Daher seien die Einstiegshürden relativ niedrig, betonte Martin Uhlherr. Wer im Gemeinschaftsausschuss mitarbeiten möchte, sollte bereit sein, Arbeitszeit einzubringen, da diese von den Normungsorganisationen nicht vergütet wird. Jedoch gibt es Möglichkeiten für eine Finanzierung, beispielsweise über das EU-Projekt StandICT.

„Als Non Profit-Organisationen dürfen wir nur dort Normung betreiben, wo sie tatsächlich notwendig ist. Daher muss es ein allgemeinwirtschaftliches Interesse geben, um eine Norm zu entwickeln. Dies äußert sich darin, dass jemand bereit ist, seine Arbeitszeit zu investieren, um diese Norm zu schreiben. Erst wenn der Mehrwert einer entstehenden Norm höher ist als die Arbeitszeiten, die investiert werden müssen, kann man davon ausgehen, dass eine Norm tatsächlich für die Allgemeinheit sinnvoll ist“, erläuterte Uhlherr.

Neben der Investition von Arbeitszeit müssen Mitglieder des Gremiums sich an den laufenden Kosten der Normungsorganisationen beteiligen. Aktuell liegt der Kostenbeitrag bei 1.200 € pro Jahr. Vertreter*innen der öffentlichen Hand und Endverbraucher*innen sind von den Kostenbeiträgen befreit.

Die Expert*innen entscheiden selbst, in welchem Umfang sie sich im Gremium engagieren. Erwartet wird eine Teilnahme an den in der Regel zwei bis dreimal jährlich stattfindenden Sitzungen, die aber je nach Agenda und eigener Interessenslage freiwillig ist. Darüber hinaus werden zahlreiche Dokumente verteilt, die entweder nur gelesen oder auf nationaler Ebene kommentiert werden können.

Auf der nächsten Stufe haben Mitglieder die Möglichkeit, die Dokumente auf europäischer und internationaler Ebene mitzuschreiben. Diese Form der Mitarbeit in einer Working Group muss vom Gremium bestätigt und der Beschluss für die Entsendung gefasst werden. Auch auf dieser Ebene kann jede*r selbst entscheiden, in welchem Maße er oder sie sich einbringen möchte.

Du möchtest dich engagieren? Um sich für die Teilnahme am Gremium zu bewerben, reicht eine formlose Interessenbekundung gegenüber den Normungsorganisationen über die Website von DIN oder DKE aus. Die weiteren formalen Hürden sind gering.

Equinet ist das europäische Netzwerk der Gleichbehandlungsstellen und fördert Gleichberechtigung und Nichtdiskriminierung bei der Entwicklung von KI-Standards. James MacLaren koordiniert die Arbeit des Standardisierungsteams und berichtete von den Erfahrungen in der Beteiligung am Standardisierungsprozess im Joint Techncial Committee 21 Artificial Intelligence (JTC21) mit den europäischen Normungsorganisationen CEN/CENELEC.

Das Projekt entstand durch eine zufällige Begegnung von Prof. Karen Yeung und Milla Vidina, Senior Policy Officer bei Equinet, während einer Konferenz zum Thema Standardisierung. Sie kamen ins Gespräch über den AI Act und die Auswirkungen auf Standardisierung. Als Milla Vidina von der Möglichkeit eines sogenannten Liaison-Status mit JTC 21 erfuhr, nahm das Projekt seinen Lauf.

„Es ist wichtig, dass die entstandenen Standards nicht nur Gesundheit, Sicherheit und Menschenrechte schützen, sondern auch für diejenigen anwendbar sind, die keine Expert*innen in dem jeweiligen Bereich sind“ (Zitat aus dem Englischen übersetzt), erläuterte MacLaren die Motivation für die Beteiligung an der Standardisierung.

Die erste Erfahrung mit der Standardisierung beschrieb MacLaren als schwierig. Die große Menge an neuem Wissen, undurchsichtige Prozesse, Strukturen und Arbeitsweisen des JTC21 sowie die Vielzahl an Abkürzungen stellte Equinet vor große Herausforderungen. Auch die Arbeit der Working Groups erschien zunächst fast schon chaotisch und sie mussten zunächst die Logik verstehen, wie sie sich engagieren und Teil des Prozesses werden können.

Das Team reagierte auf diese Umstände, indem es sorgfältig Prioritäten setzte und die Ressourcen neben ihren anderen Aufgaben plante. Sie tauschten sich außerdem mit Verbündeten aus, lernten von ihnen und versuchten so methodisch und organisiert wie möglich vorzugehen. Ein weiterer entscheidender Punkt: aktiv einen Beitrag leisten, statt nur an der Seitenlinie zu sitzen und als Expert*in eigene fachliche Kompetenzen einzubringen. Dadurch war eine konstruktivere Teilnahme möglich.

So haben sich die aktuellen Erfahrungen bei dieser Arbeit deutlich verbessert. Obwohl es noch immer ein sehr politischer und umkämpfter Bereich ist, erlebe das Equinet-Team die Zusammenarbeit mittlerweile als kooperativer und den Prozess fokussierter – auch weil die Frist für die Entwicklung von Standards immer näher rückt.

James MacLaren fasste die wichtigsten Learnings von Equinet zusammen:

• Nicht nur der Zugang zu Diskussionen über Standardisierung ist schwierig, auch der Umgang damit ist herausfordernd, wenn es vorher noch keine Berührungspunkte mit dem Thema gab.
• Gerade für kleinere zivilgesellschaftliche Organisationen ist außerdem der hohe Zeit- und Ressourcenaufwand eine Herausforderung. Equinet hat dafür eine Förderung erhalten – u. a. von Responsible AI als Hauptgeldgeber.
• Darüber hinaus handele es sich bei Standardisierung um ein kontroverses Thema und die Motivation der Beteiligten sei schwer erkennbar. Dennoch ist das Team von Equinet von der hohen Relevanz der Arbeit und der Mitgestaltung von Gleichbehandlungsthemen und Grundrechten in der Standardisierung überzeugt.