Beteiligung am Ende des Standardisierungsprozesses | Civic Coding x ZVKI - Civic Coding – Innovationsnetz KI für das Gemeinwohl

Am 30. April 2025 sollen die von der Europäischen Kommission beauftragten Standards für KI-Systeme finalisiert sein. Abgestimmte und konsensfähige Normentwürfe müssen daher spätestens im Winter 2024 vorliegen. Wie können sich zivilgesellschaftliche Akteur*innen zu diesem späten Zeitpunkt der KI-Normung noch einbringen? Darüber hat Ina Gamp von der Civic Coding-Geschäftsstelle am 04.07.2024 mit folgenden Expert*innen diskutiert:llen Austausch mit Beiträgen von:

• Prof. Dr. Martin Ebers, Präsident der „Robotics & AI Law Society“ (RAILS) und Professor für IT-Recht an der Universität Tartu (Estland)
• Don Le, Digital Programme Coordination Officer ARTICLE 19
• Rita Tedesco, Head of Energy Transition bei der “Environmental Coalition on Standards” (ECOS)

Prof. Martin Ebers erläuterte, warum harmonisierte Standards so wichtig sind. In Bezug auf den AI Act sind sie besonders relevant, wenn es um Hochrisiko-KI-Systeme geht. Wenn ein Hochrisiko-KI-System vorliegt, müssen bestimmte Anforderungen erfüllt sein, bevor das System auf den Markt gebracht werden kann: An erster Stelle muss der/die Anbieter*in das Risikomanagement-System einrichten und umsetzen. Außerdem muss zum Beispiel eine hohe Datenqualität ein angemessenes Maß an Transparenz und menschlicher Aufsicht gewährleistet sein.

Allerdings definiert der AI Act nicht konkret, was hohe Datenqualität bedeutet und wie weitere Anforderungen wie Transparenz und menschliche Aufsicht sichergestellt werden. Der Grund dafür: Die Idee der Verordnung ist eine Co-Regulierung. Das bedeutet, dass die Regulierung teilweise über den AI Act stattfindet, aber auch die Normung eine Rolle spielen. Die spezifischen Anforderungen werden durch sogenannte harmonisierte Standards konkretisiert, die von CEN/CENELEC im Auftrag der Europäischen Kommission entwickelt und im offiziellen EU-Journal veröffentlicht werden.

In Artikel 40 des AI Acts ist eine Konformitätsvermutung festgelegt. Das heißt, bei KI-Anwendungen, die in Übereinstimmung mit harmonisierten Standards sind, besteht die Annahme, dass sie die gesetzlichen Anforderungen erfüllen.

Ebers hob hervor, dass die Standards nicht für bestimmte Anwendungsfälle entwickelt wurden. Die Idee der Normung besteht in erster Linie darin, Standards für alle Arten von KI-Systemen zu entwickeln. Daher sind die Standards oft recht allgemein formuliert.

Für die Menschenrechtsorganisation ARTICLE 19 ist die Beteiligung an der Standardisierung vor allem wichtig, um Bedrohungen von Menschenrechten wie Meinungsfreiheit durch digitale Technologien zu verhindern. ARTICLE 19 engagiert sich für den Schutz und die Förderung der Meinungsfreiheit durch Politik- und Interessenvertretung, unter anderem durch die Arbeit an digitalen Verwaltungen und Räumen. Der Schwerpunkt liegt dabei auf Online-Infrastruktur und den zugrundeliegenden Technologien. Diese Technologien gehören zu den wichtigsten Kanälen für Meinungs- und Informationsfreiheit und bestimmen das Ausmaß sowie auch die Beeinträchtigung der Ausübung von Meinungsfreiheit, wie Don Le erläutert. Oftmals werden solche Technologien ohne eine Überprüfung durch die Öffentlichkeit eingeführt und wenn sie Menschenrechte verletzen, ist dies sehr schwer rückgängig zu machen. Deshalb engagiert sich ARTICLE 19 in der Standardisierung als einem wichtigen Bestandteil der Technologieentwicklung.

ARTICLE 19 engagiert sich beim Institute of Electrical and Electronics Engineers (IEEE), das technische Standards für Hard- und Software entwickelt. Die Organisation ist außerdem Mitglied der IEEE Global Initiative für die Sicherstellung, dass Menschenrechte als erstes Leitprinzip im Ethically Aligned Design Report anerkannt wurden. Dieser Report ermutigt technologische Akteur*innen, ethischen Überlegungen bei der Entwicklung von KI-Systemen Priorität einzuräumen. Im Rahmen der technischen Standardisierung hat sich das ARTICLE 19-Team direkt an den technischen Anforderungen für Gesichtserkennungstechnologien beteiligt.

Rita Tedesco von der internationalen Umwelt-NGO ECOS stimmte Don Le zu, dass die Zivilgesellschaft zur Entwicklung qualitativ hochwertiger Standards beitragen könne, wenn sie sich am Standardisierungsprozess beteiligt. Sie habe dadurch die Möglichkeit, zu definieren, wie sich regulatorische Anforderungen erfüllen lassen. Zivilgesellschaftliche Beteiligung führt außerdem zu einer demokratischen Kontrolle über den Markt und es können Standards entstehen, die einen positiven Effekt auf Umwelt und Gesellschaft haben. Darüber hinaus kann ein größeres Vertrauen in Standards und das Standardisierungssystem entstehen. Mit einem Netzwerk an Mitgliedern und Expert*innen setzt sich ECOS – die zudem eine Schwesterorganisation von ANEC und ETUC, Annex III-Organisation und damit Partner der Normungsgremien CEN/CENELEC ist – für umweltfreundliche technische Standards, Strategien und Gesetze ein.

Standards seien jedoch kein „Zaubertrank“, betonte Le. Wenn ein Entwurf zum Standard wird, müssen Unternehmen diesen nicht umsetzen, es sei denn, sie werden dazu verpflichtet. Doch es gibt Möglichkeiten für die Zivilgesellschaft, einzugreifen, bevor eine Technologie zum Einsatz kommt. So müssen Technologieunternehmen Beschaffungsprozesse durchlaufen, damit ihre Produkte sowohl im öffentlichen als auch im privaten Sektor eingesetzt werden können. Für ARTICLE 19 hat sich gezeigt, dass diese Beschaffungsprozesse eine gute Gelegenheit für zivilgesellschaftliche Organisationen sind, mit öffentlichen Verwaltungen und privaten Akteur*innen in Kontakt zu treten, um sicherzustellen, dass die Technologien die Menschenrechte respektieren.

Le machte außerdem deutlich, dass Standards nicht in einer Blase existieren, sondern in der Gesamtgesellschaft und dem größeren rechtlichen Umfeld. Als Organisation mit umfangreicher Erfahrung in der Beteiligung an politischen und rechtlichen Rahmenbedingungen kann ARTICLE 19 mit Beamt*innen und Parlamentarier*innen auf regionalem, nationalem und internationalem Level zusammenarbeiten. Gemeinsam mit ihnen kann die Organisation Rahmenbedingungen diskutieren und entwickeln, die die Anwendung „schlechter Standards“ verhindern oder die Anwendung „guter Standards“ fördern können.