KI-generierte sexualisierte Deepfakes, Bias und Diskriminierung durch KI-Systeme: Künstliche Intelligenz stellt Europa vor neue Herausforderungen. Mit dem AI Act versucht die EU eine Antwort zu finden. Aber lassen sich Grundrechte und Wettbewerbsfähigkeit miteinander verbinden? Eine Recherche in Brüssel und Antwerpen.
Hastige Schritte eilen über die grauen Teppichböden des Europäischen Parlaments. Nach der Sommerpause kehrt im September allmählich wieder Leben ins Brüsseler EU-Viertel zurück. Verhandlungen werden wieder aufgenommen und politische Debatten fortgesetzt. Ein Thema, das Europa weiterhin beschäftigt, ist die Regulierung Künstlicher Intelligenz (KI) sowie die Frage, wie im Wettlauf um Innovation und Konkurrenzfähigkeit mitgehalten werden kann. Gleichzeitig wird die Skepsis gegenüber KI immer stärker und der Ruf nach mehr Schutz vor Diskriminierung und digitaler sexueller Gewalt lauter.
„Jemanden gegen seinen Willen auszuziehen, ist immer falsch, egal ob in der echten Welt oder im Netz“, sagt Lena Schilling in ihrem Brüsseler Büro. Hier im sechsten Stock ist von der Hektik im Haupttrakt des Parlaments nur wenig zu spüren. Die junge Grünen-Abgeordnete sitzt entspannt in ihrem Schreibtischstuhl und schenkt sich ein Glas Wasser ein. Umgeben von Postern, selbstgebastelten Plakaten und Demonstrationsschildern, die an den weißen Bürowänden hängen, erzählt sie von ihren Erfahrungen mit Hass im Netz und ihren Forderungen an die europäische KI-Politik.
Schilling setzt sich öffentlich gegen digitale Gewalt und sexualisierte Angriffe im Internet ein. Gerade Frauen, die in der Öffentlichkeit stehen, sind davon überproportional betroffen. Durch den Einsatz von künstlicher Intelligenz hat diese Form der Gewalt eine neue Dimension erreicht. Mithilfe von sogenannten Nudifier-Apps lassen sich aus gewöhnlichen Fotos täuschend echte sexualisierte Darstellungen, also Deepfakes, erzeugen, ohne dass die abgebildeten Personen davon wissen oder eingewilligt haben. Eine im Oktober veröffentlichte Studie der Berliner Denkfabrik Agora Digitale Transformation zeigt, wie groß das Ausmaß dieser Gewalt ist. Demnach wurde eine von sechs weiblichen EU-Abgeordneten Opfer von KI-generierter Deepfake-Pornografie oder sexualisiertem assoziiertem Bildmaterial. Schilling gehört zu den 46 betroffenen Politikerinnen.
Das Europäische Parlament stimmte bereits Mitte Juni für ein Verbot von Nudifier-Apps. Die neuen Vorschriften sollen demnach KI-Anwendungen untersagen, mit denen ohne Einwilligung der Betroffenen sexualisierte Bild- oder Videoaufnahmen identifizierbarer Personen erstellt oder manipuliert werden können. Betroffene Unternehmen sollen ihre Systeme bis zum 2. Dezember 2026 entsprechend anpassen. Schilling bezeichnet das Verbot als einen „Sieg der EU“. Trotzdem sehe sie weiterhin Aufholbedarf, vor allem, wenn es um die Handhabe gegenüber digitalen Plattformen geht. Viel zu selten würden diese problematische Inhalte entfernen – selbst, wenn sie gemeldet werden. „Es kann doch nicht sein, dass im digitalen Raum plötzlich keine Regeln mehr gelten und Gesetze, die bestimmen, wie wir miteinander umgehen, ausgehebelt werden“, betont die 25-Jährige. „Wenn ich dir keinen Konsens gebe, mich nackt zu sehen, dann wirst du das auch nicht. Dass KI das nun ermöglicht, ist ein riesiges Sicherheitsrisiko.“
Doch nicht alle Risiken künstlicher Intelligenz sind wie bei sexualisierten Deepfakes sichtbar. Diskriminierung kann bereits bei der Entwicklung von KI entstehen. Durch ihre Trainingsdaten können KI-Systeme gesellschaftliche Vorurteile und Machtverhältnisse reproduzieren und sogar verstärken, wie Manon Reusens, Research Managerin im Antwerp Center on Responsible AI (ACRAI), erklärt.
Künstliche Intelligenz, menschlicher Bias
Während in Brüssel über die gesetzliche Regulierung künstlicher Intelligenz verhandelt wird, beschäftigen sich Wissenschaftlerinnen und Wissenschaftler an belgischen Universitäten mit der Frage, wie KI verantwortungsvoll entwickelt werden kann. Belgien zählt zu den europäischen Vorreitern bei der Nutzung künstlicher Intelligenz. Laut Eurostat setzte im Jahr 2025 bereits mehr als jedes dritte belgische Unternehmen mit mindestens zehn Beschäftigten KI-Technologien ein und lag damit deutlich höher als der EU-Durchschnitt.
Einer der belgischen Forschungsstandorte liegt rund 45 Zugminuten von Brüssel entfernt im flämischen Antwerpen. Vom imposanten Hauptbahnhof aus führt der Weg durch das Diamantenviertel, vorbei an unzähligen „Best Diamonds“-Schildern und Schaufenstern mit funkelnden Schmuckstücken, bis ins Studierendenviertel der Stadt. Hier befindet sich die Business-Fakultät der Universität Antwerpen, wo auch das Antwerp Center on Responsible AI angesiedelt ist. Hinter der efeubewachsenen Ziegelfassade des historischen Gebäudes verbergen sich moderne Räumlichkeiten. Manon Reusens untersucht hier, wie KI-Sprachmodelle gesellschaftliche Vorurteile reproduzieren und verstärken können. Reusens verdeutlicht dies anhand eines Beispiels: Werden Sprachmodelle mit Wikipedia-Artikeln trainiert, in denen Pflegekräfte überwiegend als Frauen dargestellt werden, könnten sie lernen, diesen Beruf automatisch mit Frauen zu assoziieren. Ähnliche Verzerrungen können auch bei anderen Berufen und gesellschaftlichen Rollenbildern auftreten.
Besonders problematisch sei zudem, dass die verwendeten Trainingsdaten auch historische Ungleichheiten widerspiegeln können. „Es könnte also sein, dass KI-Systeme sogar langsamer als die Gesellschaft sind, weil sie auf alte Daten zurückgreifen“, erklärt Reusens. Dadurch kann ein Kreislauf entstehen: KI-Systeme lernen aus gesellschaftlichen Vorurteilen, reproduzieren diese in ihren Antworten und können so wiederum beeinflussen, wie Menschen bestimmte Themen wahrnehmen. Um solche Verzerrungen zu reduzieren, können Trainingsdaten gezielt ergänzt werden, um geschlechtsspezifische Stereotype auszugleichen. Eine weitere Möglichkeit besteht darin, KI-Antworten von Menschen bewerten zu lassen und das System anhand dieser Rückmeldungen zu verbessern. Vollständig beseitigen lasse sich Bias allerdings nur schwer, erklärt Reusens, da gesellschaftliche Vorurteile oft tief in den Modellen verankert sind.
Wer entwickelt unsere KI?
Eine wichtige Rolle spielt deshalb auch die Frage, wer diese Technologien entwickelt. Obwohl Belgien zu den führenden EU-Ländern bei der KI-Nutzung in Unternehmen gehört, sind Frauen in IT-Berufen nach wie vor unterrepräsentiert. Ein Ungleichgewicht, dem Dr. Setareh Tasdighian, Mathematik- und Bioinformatikwissenschaftlerin, entgegenwirken möchte. Im Jahr 2023 hat sie daher die globale Initiative „Women in Data Science (WiDS)“ nach Belgien gebracht, um Frauen in technischen Berufen miteinander zu vernetzen, ihnen Vorbilder zu bieten und junge Frauen für die Branche zu begeistern. Gerade diverse Teams, die KI-Anwendungen entwickeln, seien entscheidend für deren Ergebnisse.
„Es ist erwiesen, dass vielfältige Teams erfolgreicher arbeiten, insbesondere weil sie Vorurteile besser erkennen und verschiedene Perspektiven berücksichtigen können, was zu robusteren Produkten führt, insbesondere im Bereich der KI“, betont sie im Interview. Damit KI-Tools für die Allgemeinheit anwendbar sind, müsse sichergestellt werden, dass diese die Bevölkerung fair repräsentiert und marginalisierte Gruppen im Entwicklungsprozess sowie in den Trainingsdaten nicht ausgeschlossen werden. „Ich glaube definitiv nicht, dass ein vielfältiges Team eine faire KI garantiert. Aber ich glaube, dass Vielfalt im Raum, in dem die Entscheidungen getroffen werden, dazu beiträgt, das Ergebnis inklusiver zu gestalten.“
Europas KI-Weg zwischen Grundrechten und Wettbewerbsfähigkeit
Für Wissenschaftlerin Tasdighian reicht es jedoch nicht aus, Frauen stärker in die Entwicklung künstlicher Intelligenz einzubeziehen. Es brauche auch klare gesetzliche Rahmenbedingungen. „Ich glaube nicht, dass Regulierung zwangsläufig im Widerspruch zu Innovation steht oder stehen sollte“, sagt die Wissenschaftlerin. Entscheidend sei, dass Vorschriften auf tatsächlichen Risiken und wissenschaftlichen Erkenntnissen beruhen. Mit dem AI Act versucht die EU, einen solchen rechtlichen Rahmen zu schaffen. Das weltweit erste umfassende KI-Gesetz soll die Entwicklung und den Einsatz von KI regulieren und dabei Grundrechte einbeziehen.
Dabei verfolgt das Gesetz einen risikobasierten Ansatz, der bestimmte KI-Anwendungen verbietet und für sogenannte Hochrisiko-Systeme, etwa beim Einsatz in Bewerbungsverfahren, besonders strenge Anforderungen formuliert. Ob das Gesetz jedoch ausreicht, um Menschen vor Diskriminierung zu schützen, ist umstritten. Nele Roekens vom europäischen Netzwerk der Gleichbehandlungsstellen Equinet hat die Verhandlungen zum AI Act und dessen Umsetzung intensiv verfolgt. Sie sieht im AI Act zwar einen wichtigen Fortschritt, kritisiert aber auch dessen Grenzen. So könnten Unternehmen unter bestimmten Voraussetzungen selbst beurteilen, ob ihre KI-Systeme als Hochrisiko-Anwendungen gelten. Gerade diese Einstufung sei jedoch entscheidend, da ein Großteil der gesetzlichen Verpflichtungen daran geknüpft ist.
Während die einen einen stärkeren Schutz vor Diskriminierung fordern, befürchten Kritiker und Kritikerinnen, durch zu strenge Vorschriften im technologischen Wettlauf nicht mithalten zu können. Roekens hält diese Darstellung jedoch für problematisch. „Die Erzählung, dass Regulierung Innovation tötet, ist sehr schädlich und wissenschaftlich nicht belegt“, sagt sie. Ein wesentliches Problem sieht sie vielmehr in den Strukturen des Kapitalmarkts und den Finanzierungsmöglichkeiten junger Technologieunternehmen.
Erfolgreiche KI-Entwicklung solle nicht allein an Geschwindigkeit gemessen werden, so Roekens. Denn damit Menschen neuen Technologien vertrauen, müssten diese transparent sein und ihre Grundrechte respektieren. Reusens sieht das ähnlich: Zwar könne die europäische Regulierung die Entwicklung neuer KI-Systeme verlangsamen, doch das müsse nicht unbedingt ein Nachteil sein. „Ich denke, dass das langsamere Tempo eigentlich etwas Gutes ist“, sagt die Wissenschaftlerin. Schließlich gehe es nicht nur darum, immer leistungsfähigere Modelle auf den Markt zu bringen, sondern auch darum, Risiken und gesellschaftlichen Folgen besser zu erkennen.
Europa versucht, im globalen KI-Wettbewerb einen eigenen Weg einzuschlagen. Ob sich der Anspruch, demokratische Werte und Grundrechte zu schützen und gleichzeitig technische Innovation zu fördern langfristig verwirklichen lässt, bleibt offen. Für Schilling ist jedenfalls klar, dass der Schutz von Grundrechten nicht an den Grenzen des digitalen Raums enden darf. Gerade junge Menschen verbringen einen erheblichen Teil ihres Alltags auf sozialen Plattformen. Dort informieren sie sich, tauschen sich aus und beteiligen sich an gesellschaftlichen Debatten.
Wenn Frauen aufgrund digitaler Gewalt und Hate Speech aus diesen Räumen verdrängt werden, hat dies Auswirkungen weit über das Internet hinaus. „Wir haben als Politik die Aufgabe, den Rahmen der Gesellschaft zu setzen, dass Menschen ein freies, beschütztes Leben leben können, entlang ihrer Grundrechte“, so Schilling. „Und Grundrechte finden auch im Netz statt“
Redaktioneller Hinweise: Die Reportage entstand im Rahmen des Eurotours-Programms des Bundeskanzleramtes. Redaktionelle Verantwortung und Inhalt liegen alleine bei floo.magazin / Tabea Mausz.


