AI Act und KI-Projekte| Civic Coding-Schlaglicht

Civic Coding-Schlaglicht: AI Act - Bedeutung für gemeinwohlorientierte KI-Projekte

Mit der Zustimmung des EU-Parlaments ist der Weg frei: Die EU wird in Kürze den weltweit ersten umfassenden Rechtsrahmen für KI verabschieden. Im Civic Coding-Schlaglicht beschäftigten wir uns mit den Auswirkungen des Gesetzes auf Akteur*innen und Projekte, die KI für das Gemeinwohl einsetzen und mit der Frage, welche Chancen sich durch die veränderten Rahmenbedingungen für sie ergeben. Wir beleuchteten mit Expert*innen unterschiedliche Perspektiven und Erwartungen in Bezug auf die Folgen für Soziale Innovationen.

Der AI Act als Chance für gemeinwohlorientierte KI?

Der AI Act verändert als EU-Verordnung zu Künstlicher Intelligenz die Rahmenbedingungen, in denen Innovationen entwickelt werden. Ein Ziel des AI Acts ist es, mit einem klaren Regelwerk das notwendige Vertrauen in KI zu schaffen und die Verbreitung menschenzentrierter Innovationen in der EU zu fördern.

Auch für gemeinwohlorientierte Akteur*innen stellen sich im Zusammenhang mit dem AI Act Fragen: beispielsweise, in welche Risikoklasse ein KI-System eingeordnet wird, wie ein KI-System hinreichend transparent gestaltet wird oder wie Risikomanagement gelingt. Diese und weitere Fragen müssen in einen Entwicklungsprozess einfließen, sodass passende Maßnahmen zur Risikominimierung getroffen werden können.

Gleichzeitig bietet die Auslegung des AI Acts auch Chancen für eine gemeinwohlorientierte KI-Entwicklung, da für sie charakteristische Themen wie Grundrechtsschutz, Transparenz oder Sicherheit an Bedeutung gewinnen. Gemeinwohlorientierte Akteur*innen könnten sich somit als Innovationstreiber*innen neu im KI-Feld positionieren.

Der AI Act selbst adressiert die neuen Anforderungen an Innovationsprozesse, insbesondere durch Regelungen zu „Reallaboren“ , die auf nationaler Ebene oder in multilateraler Kooperation umgesetzt werden sollen. Diese Reallabore sollen eine kontrollierte Umgebung bieten, „um Innovation zu fördern und die Entwicklung, das Training, das Testen und die Validierung innovativer KI-Systeme für einen begrenzten Zeitraum zu erleichtern“. Die genaue Ausgestaltung der Reallabore und die Bedingungen der Teilnahme werden untergesetzlich noch weiter ausgeführt.

Im Civic Coding-Schlaglicht wurden die neuen Rahmenbedingungen des AI Acts für Innovationsprojekte genauer ausgeleuchtet, mit einem besonderen Fokus auf gemeinwohlorientierte Akteur*innen. Darüber diskutierten wir mit Franziska Weindauer, Geschäftsführerin des TÜV AI Lab, Verena Zink, Strategic Project Manager bei acatech - Deutsche Akademie der Technikwissenschaften und Prof. Dr. Christian Djeffal, Assistant Professor für Law, Science and Technology an der TU München.

Die wichtigsten Infos im Überblick

Datum: 21.03.2024
Uhrzeit: 18:00-19:00 Uhr
Ort: virtuell per Zoom

Redner*innen

Franziska Weindauer

ist Geschäftsführerin des TÜV AI.Lab, einem Gemeinschaftsunternehmen, das von einigen der größten und wichtigsten Unternehmen der Zertifizierungsbranche weltweit gegründet wurde. Das TÜV AI.Lab ebnet den Weg für vertrauenswürdige KI, indem es Konformitätskriterien und Prüfverfahren für KI-Systeme entwickelt. Zuvor war sie Senior Advisor für Digitalpolitik im Bundeskanzleramt, Leiterin des Politik-Teams beim Bitkom, Europas größtem Digitalverband, und Beraterin eines zentralen Europaabgeordneten im Europäischen Parlament. Sie hat European Studies an Universitäten in den Niederlanden, dem Vereinigten Königreich und der Türkei absolviert.

Prof. Dr. Christian Djeffal

ist Assistant Professor für Law, Science, and Technology an der Technischen Universität München. An der TUM School of Social Sciences and Technology beschäftigt er sich mit dem Verhältnis von Recht und Technologie und arbeitet schwerpunktmäßig zu neuen Technologien wie künstlicher Intelligenz und dem Internet der Dinge.

Zuvor war Christian Djeffal Leiter des Forschungsbereichs „Globaler Konstitutionalismus und das Internet“ am Alexander-von-Humboldt-Institut für Internet und Gesellschaft. Er wurde an der Humboldt-Universität im Völkerrecht zum Thema „Static and evolutive treaty interpretation: a functional reconstruction“ promoviert. Die Promotion wurde von Cambridge University Press veröffentlicht.

Rechtswissenschaften studierte Christian Djeffal an der Ludwig-Maximilians-Universität München und am University College London. Forschungsaufenthalte führten ihn u.a. ans Amsterdam Center for International Law der Universität Amsterdam, ans Lauterpacht Centre for International Law der University of Cambridge und ans Max-Planck-Institut für Ausländisches öffentliches Recht und Völkerrecht in Heidelberg. 2019 war er Gastwissenschaftler am Institute for Technology, Society, and Law der Universität Zürich.

Verena Zink

ist Projektmanagerin und stellvertretende Teamleitung KI-Qualität in der Initiative MISSION KI, dem Hebelprojekt des Bundesministeriums für Digitales und Verkehr. Sie hat Wirtschaftsinformatik und Wissenschafts- und Technikphilosophie in Stuttgart, München, Melbourne und Enschede studiert und unter anderem bei dem Münchner Start Up RECUP die Entwicklung und Erprobung eines nachhaltigen Servicemodells geleitet. Sie interessiert sich insbesondere für nachhaltige Geschäftsmodelle, verantwortungsbewusste Innovationen und agile Projektmanagement-Methoden.

Leitfragen

In welchen Innovationsphasen und für welche Elemente einer KI-Lösung ist der AI Act relevant?
Was sind die Konsequenzen des AI Acts für kleine und gemeinwohlorientierte Akteur*innen?
Wie können gemeinwohlorientierte Akteur*innen bei ihren Tätigkeiten im Innovationsfeld KI unterstützt werden?
Was sollten gemeinwohlorientierte Akteur*innen tun, damit ihre Rolle im Innovationsfeld KI durch den AI Act gestärkt wird?
Was müssen die geplanten Reallabore leisten können?

Neugierig auf unsere Community?

Registriere dich hier

Civic Coding-Update

Jetzt anmelden und keine Neuigkeiten verpassen! Mit dem Civic Coding-Update wollen wir dich über Veranstaltungen, Förderangebote und Projekte aus der Initiative und der KI-Welt auf dem Laufenden halten.