Auftaktveranstaltung: Standards für KI | Civic Coding x ZVKI - Civic Coding – Innovationsnetz KI für das Gemeinwohl

In der Auftaktveranstaltung unserer neuen Civic Coding x ZVKI-Reihe diskutierten wir am 25.04.2024, weshalb es Standards für Künstliche Intelligenz braucht, obwohl Europa sich doch gerade erst auf die Regulierung von KI geeinigt hat. Zudem erklärten die Expert*innen aus Wissenschaft und Praxis, was Standards überhaupt sind und wie die Zivilgesellschaft sich an Standardisierungsprozessen auf nationaler und internationaler Ebene beteiligen kann.

Kathrin Bimesdörfer von der Civic Coding-Geschäftsstelle moderierte den virtuellen Austausch mit Beiträgen von:

• Camille Dornier, Projektmanagerin bei BEUC, dem Europäischen Verbraucherverband, und ANEC, der europäischen Verbraucherorganisation für Normung.
• Stefan Weisgerber, Leiter des Bereichs Digitale Technologien beim Deutschen Institut für Normung (DIN) und verantwortlich für die vornormativen Aktivitäten von DIN im Bereich der digitalen Transformation, einschließlich des DIN/DKE Strategiekreises FOCUS.digital.
• Matthieu Binder, Volljurist und wissenschaftlicher Mitarbeiter des digitalpolitischen Think Tanks iRights.Lab.

Eröffnet wurde die Auftaktveranstaltung durch Dr. Christiane Rohleder, Staatssekretärin im Bundesministerium für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV), und Lilian Tschan, Staatssekretärin im Bundesministerium für Arbeit und Soziales (BMAS). Sie erklärten einleitend, warum es zum aktuellen Zeitpunkt wichtig ist, über Standardisierungsprozesse zu sprechen und die Zivilgesellschaft über ihre Rolle, Bedeutung und Funktionsweise aufzuklären. Im Hinblick auf den AI Act und seine Umsetzung in die Praxis werden Standards eine zentrale Rolle spielen, so Staatssekretärin Dr Rohleder. Sie begründete: „Standardisierungsprozesse haben deshalb enorme Auswirkungen, weil sie festlegen, welche technischen Prozesse und Verfahren als Maßstab gelten für seriöses und verantwortungsvolles Handeln“.

Ziel der Veranstaltungsreihe sei es daher, „die Zivilgesellschaft zu befähigen, sich aktiv und effektiv mit der KI-Verordnung und der entstehenden Normung auseinanderzusetzen, ihr Bewusstsein für die Bedeutung und die Funktionsweise von Standardisierung zu stärken und ihr so auch zu einer Einbindung in die Prozesse zu verhelfen“, erklärte Staatssekretärin Tschan. Ein zentraler Grund für diese Zielsetzung sei laut Dr. Christiane Rohleder, dass sich Standardisierungsgremien größtenteils aus Unternehmens- und Interessensvertreter*innen zusammensetzen und zivilgesellschaftliche Akteur*innen im Normungsprozess unterrepräsentiert seien. Sie betonte, dass Standardisierungsgremien einen Spielraum bei der Auslegung rechtlicher Anforderungen haben und es insofern umso wichtiger sei, dass hier auch die Interessen der Zivilgesellschaft berücksichtigt werden. Lilian Tschan ergänzte daran anknüpfend: „Die neue KI-Verordnung ist erst der Anfang. Wir wollen eine Architektur an KI-Verordnungen setzen und uns im nächsten Schritt auch die Rolle von Standards und Normen anschauen. Hier setzen wir mit dieser Format-Reihe an“.

Zu Beginn der Expert*innen-Beiträge erläuterte Matthieu Binder, was Standards sind und warum es sie in diesem Zusammenhang braucht – vor allem jetzt, wo die weltweit erste KI-Verordnung auf den Weg gebracht wurde. Ihm zufolge sei der AI Act ein wirklich großer Regulierungsaufschlag, da dort KI insgesamt in den Blick genommen werde. Das betreffe nicht nur KI-Systeme, sondern auch KI-Modelle. Denn auch von ihnen gehen laut Europäischem Gerichtshof Risiken aus. Mit dem AI Act versuche man eine risikobasierte Regulierung. Das bedeute, „dass KI so reguliert werden soll, dass das Maß aller Risiken auf ein Erträgliches reduziert wird“, so Matthieu Binder. Nun könne der Eindruck entstehen, dass damit alle notwendigen Vorkehrungen getroffen wurden und keine zusätzlichen Maßnahmen erforderlich sind. Dies treffe jedoch nicht zu. Die Verordnung biete lediglich eine begrenzte Anleitung für spezifische Fälle und lasse detaillierte Vorschriften für Unternehmen vermissen. Mit ihren interpretationsfähigen Rechtsbegriffen übertrage er die Verantwortung für die Einhaltung des Gesetzes auf die Unternehmen selbst. „Und letztlich ist das auch für Verbraucher*innen ein Problem“, ergänzte er.

Was hat dies nun mit Standardisierung und Normen zu tun? Zunächst einmal müsse klar sein, was Standards überhaupt sind. Laut Matthieu Binders Definition handele es sich dabei um „vereinbarte Regeln zur Lösung eines Sachverhalts. […] Sie sind jedoch kein Gesetz, sondern ein freiwilliger Konsens.“ Das sei sehr praktisch, doch noch kein Grund, sich daran zu halten. Die EU habe deshalb die sogenannten Harmonisierten Standards eingeführt. Dabei handele es sich um Standards, die von der Europäischen Kommission beauftragt, abgenommen und veröffentlicht werden. Produziere ein Unternehmen also nach solch einem Standard, so kann es sicher sein, dass es auch das dahinterstehende Recht einhält.

Matthieu Binder argumentierte, dass einige Begriffe im Rechtstext des AI Acts bewusst offen formuliert wurden, da die Präzisierung im zweiten Schritt passieren solle – also durch Harmonisierte Standards. Gerade dort, wo KI nicht verboten wird, sie aber dennoch gewisse Risiken birgt, ergebe sich der Schutz für die Gesellschaft eigentlich aus den Standards. Das sei der Grund, warum man sich auch nach dem AI Act weiterhin mit KI-Regulierung und Standards auseinandersetzen sollte.

Relevant für das allgemeine Verständnis von Standardisierung sei auch der Entstehungsprozess, so Dr. Stefan Weisgerber. Dieser sei teilweise komplex und brauche, je nach Thema, viel Zeit. Auf europäischer Ebene könne es 18 bis 20 Monate dauern, bis ein Standard beziehungsweise eine Norm veröffentlicht werde. Denn letztlich müsse jede Norm eine ganze Reihe von Aspekten regeln - wie etwa Datenschutz, Barrierefreiheit und Sicherheit – und zugleich die Interessen zahlreicher Stakeholder*innen berücksichtigen, darunter beispielsweise Wirtschaftsvertreter*innen und Gewerkschaften. Die Akzeptanz einer Norm entstehe aus dem Konsens, so Dr. Stefan Weisgerber. Das bedeute, „dass alle Beteiligten sagen: Damit kann ich leben“. Dies impliziere auch, dass im Normungsprozess keine Mehrheiten entschieden, sondern es ein breites Einverständnis aller interessierten Kreise bedarf.

An der Entstehung einer Norm seien Vertreter*innen verschiedener Interessengruppen beteiligt, welche ihre Inhalte in die Arbeitskreise einbringen. In diesem Zusammenhang wies Dr. Stefan Weisgerber darauf hin, dass auch zivilgesellschaftliche Akteur*innen Zugang zum Normungsprozess haben. Es gebe zwar Herausforderungen, doch die Möglichkeit sich einzubringen bestehe. Jede*r könne sich beispielsweise an der öffentlichen Kommentierung beteiligen und das auch auf internationaler Ebene über die nationalen Organisationen. In Deutschland sei dies DIN beziehungsweise die Deutsche Kommission Elektrotechnik Elektronik Informationstechnik (DKE). Wie auch die Organisationen auf europäischer (CEN und CEN/ELEC) und internationaler (ISO und IEC) Ebene habe DIN beim Standardisierungsprozess keine inhaltlichen Interessen. Als neutrale Plattformen organisieren und moderieren sie den Diskussions- und Konsensprozess für die Beteiligten.

Der Entstehungsprozess selbst sei immer gleich organisiert, egal, ob es sich um materielle Gegenstände wie Maschinen oder immaterielle Produkte wie Prozesse handele: Zunächst müsse ein Antrag gestellt und der Bedarf von einem zuständigen Ausschuss geprüft werden, erklärte Dr. Stefan Weisgerber. Im zweiten Schritt erarbeiten die beteiligten Interessengruppen die Inhalte der Norm im Konsens. Dieser Entwurf werde anschließend von der Öffentlichkeit kommentiert und erneut bearbeitet. Letztlich könne DIN die fertige Norm veröffentlichen – nach spätestens fünf Jahren müsse sie allerdings erneut geprüft werden.

Als Vertreterin der Zivilgesellschaft in Normungsgremien auf europäischer Ebene, berichtete Camille  Dornier von den Herausforderungen für zivilgesellschaftliche Akteur*innen, sich an den Prozessen zu beteiligen. In Normungsprozessen gebe es ein starkes Ungleichgewicht in der Interessenvertretung, die große Mehrheit der Beteiligten seien Vertreter*innen von Unternehmen, während nur sehr wenige zivilgesellschaftliche Vertreter*innen involviert seien. Dies gelte auch für Harmonisierte Normen. Die Gründe für die mangelnde Beteiligung der Zivilgesellschaft erstrecken sich ihr zufolge über den gesamten Prozess – beginnend damit, dass viele Menschen nicht einmal wissen, wie sie sich überhaupt beteiligen und Zugang zur Normenarbeit erhalten können. Weitere Hürden seien etwa beschränkte Rechte für zivilgesellschaftliche Vertreter*innen, großer Zeitaufwand und Ressourcenmangel – sowohl hinsichtlich Personals als auch finanzieller Mittel.

Camille  Dornier ergänzte: „Ganz wichtig ist auch festzustellen, dass Normungsexpert*innen sich häufig auf den Durchschnittsverbraucher beziehen und die Bedürfnisse schutzbedürftiger Gruppen überhaupt nicht betrachten“. Bei Haushaltsgeräten etwa sehe man, dass die Bedürfnisse von Kindern oder Menschen mit Beeinträchtigungen überhaupt nicht berücksichtigt werden. Um dies zu ändern und der Stimme der Zivilgesellschaft Gehör zu verschaffen, benötige man oft innovative Strategien. Zudem sei die Arbeit von Camille  Dornier davon geprägt zu priorisieren: „Wir gehen dorthin, wo wir denken, dass die Auswirkungen für die Zivilgesellschaft besonders groß sind. Zum Beispiel beim Thema KI. […] Wir gehen davon aus, dass es große Auswirkungen haben wird, und deshalb engagieren wir uns dort“. Ihre Empfehlung an zivilgesellschaftliche Akteur*innen im Hinblick auf die KI-Regulierung lautete: „Jetzt ist ein guter Moment sich zu beteiligen, also versucht eure Stimme zu Gehör zu bringen, denn das hat wirklich Auswirkungen darauf, was in der Gesellschaft passiert!“