Menü
Standpunkte

Macht der Gesetze oder Gesetze der Macht?

Weshalb Europa die Governance von Technologie global vorantreiben muss.

9. Oktober 2019
Magazin > Standpunkte > Macht der Gesetze oder Gesetze der Macht?

Wie können wir dazu beitragen, dass die Europäische Union weltweite Vorreiterin bei der Regulierung von Technologie wird? Wieso werden Normen und Standards das Erfolgsrezept für die EU von morgen sein? Wie können wir die Einhaltung der Grund- und Menschenrechte im gesamten digitalen Raum gewährleisten und wie können wir sicherstellen, dass die künstliche Intelligenz zur Verbündeten der Demokratie wird?

Dies ist die Niederschrift des Vortrags von Marietje Schaake, den sie am 19. September 2019 im Museum für angewandte Kunst in Wien als dritten von insgesamt vier Tipping Point Talks 2019 der ERSTE Stiftung zum Jubiläum 200 Jahre Sparkassenidee in Österreich gehalten hat.

Transkript

Vor einigen Jahren besuchte ich das rumänische Parlament in Bukarest. Seine beklemmende Massivität ist auf der Welt einzigartig: erbaut auf den Ruinen der historischen Altstadt, in der seinerzeit 40.000 Menschen lebten, gemeinsam beteten und zur Schule gingen, und von einer derart pompös autoritären Architektur, dass die Vorstellung, das Gebäude beherberge eine demokratisch gewählte Regierung, schwerfällt.

Im Inneren befand sich aber eine kleine Ausstellung über die Geschichte von Hunger und Unterdrückung. Als in den 1980ern extreme Nahrungsmittelknappheit herrschte und die Menschen in langen Schlangen auf der Straße um Brot anstanden, zeigte das Staatsfernsehen wöchentlich eine Sendung mit Ceaușescu, die das rumänische Volk vom Wohlstand und Erfolg des kommunistischen Modells überzeugen sollte. Aber da das Land sämtliche Lebensmittel zur Unterstützung des Staatshaushalts exportierte und echtes Obst unmöglich aufzutreiben war, wurden hölzerne Äpfel bemalt und als Requisiten verwendet. Damals gab es noch keine Handys, mit denen man die Geschichten hinter dem Fernsehschirm aufzeichnen hätte können. Die Staatssicherheit war so unerbittlich, dass sämtliche Typen von Schreibmaschinen im Archiv vermerkt waren, um die Absender anonym verfasster Briefe zurückverfolgen zu können.

Aber lassen Sie uns vorspulen in das Jahr 2016, als der russische Geheimdienst die Präsidentschaftswahlen in den USA durch gehackte und bewusst falsche Informationen zu beeinflussen versuchte. Vielen BeobachterInnen fiel auf, dass das Zurückgreifen auf Propaganda und Falschinformationen keine neue Methode war, um das Vertrauen der Wählerinnen und Wähler auszuhöhlen und sie in die Arme eines „starken Führers“ zu treiben. Bis vor relativ kurzer Zeit wurden die Menschen in Mittel- und Osteuropa von den staatlichen Medien mit offiziellen Narrativen geradezu bombardiert. In Ungarn wiederholt sich die Geschichte gerade in der Gestalt von Viktor Orbán, der flankiert von der größten politischen Gruppierung der EU seine „illiberale Demokratie“ propagiert und gleichzeitig Hunderte von Medien unter staatliche Kuratel stellt.

Ohne die Freiheit, ihre Meinung äußern zu können, entwickeln Menschen Skepsis gegenüber allem, was sie hören. Sie sagen Dinge wie: „Ich schaue gar keine Nachrichten mehr“, und sind überzeugt davon, nichts und niemandem trauen zu können. Wenn sich Gleichgültigkeit breit macht und die Bevölkerung nicht länger partizipiert, wurde die Demokratie bereits geschwächt.

Eröffnung
Künstlerische Intervention von Rupert Huber

Begrüßung
Christoph Thun-Hohenstein, MAK – Museum für angewandte Kunst
Boris Marte, ERSTE Stiftung

Vortrag
Marietje Schaake: Macht der Gesetze oder Gesetze der Macht? Weshalb Europa die Governance von Technologie global vorantreiben muss

Bühnengespräch
Lucy Bernholz, Stanford University
Joanna Goodey, Agentur der Europäischen Union für Grundrechte
Krzysztof Izdebski, ePaństwo-Stiftung
Thomas Lohninger, epicenter.works
Marietje Schaake, Stanford University
Moderation: Verena Ringler, Kuratorin der Tipping Point Talks 2019

Die Frage, wer Informationsflüsse kontrolliert, war immer eine politische. In repressiven Regimen werden Medien und Informationen als Werkzeuge verwendet, um Machthaber zu Lasten der Bevölkerung zu stärken. In Demokratien wird die Wahrheit im Radio, Fernsehen oder Internet durch einen pluralistischen Diskurs und kritischen Journalismus verbreitet, um die Bevölkerung zu stärken und emanzipieren. Entscheidend ist nicht das Medium, sondern Governance und Werte. Es ist die Achtung der Rechtsstaatlichkeit, die freie Gesellschaften von Diktaturen unterscheidet. Macht der Gesetze oder Gesetze der Macht – darin liegt der große Unterschied.

Trügerisches Laisser-faire

Vor dem Hintergrund der zumeist negativen Erfahrungen mit konzentrierter Macht wird die Begeisterung, mit der die technologische Revolution begrüßt wurde, nachvollziehbar. Das Internet brachte das Versprechen mit sich, Macht- und Informationsmonopole aufzubrechen. Die Auswirkungen wurden bald sichtbar. Wikileaks veröffentlichte geheime Militäraufnahmen und vertrauliche diplomatische Depeschen, Snowden enthüllte geheimdienstliche Informationen des Staates in davor unbekanntem Ausmaß. Einzelpersonen war es nun möglich, Einblick in militärische, diplomatische und sicherheitsdienstliche Protokolle zu erlangen und damit selbst die mächtigsten Staaten bloßzustellen. Ab 2009 konnte die ganze Welt der Polizei in Echtzeit dabei zusehen, wie sie auf DemonstrantInnen im Iran, in Tunesien, Ägypten und Syrien einprügelte. 1982 hatte es noch mehrere Monate gedauert, bis die Nachricht vom Massaker an Tausenden Menschen im syrischen Hama die restliche Welt erreichte. Heute machen uns unsere Mobiltelefone zu Augenzeugen von friedlichen Protesten und Polizeigewalt von Hongkong bis nach Venezuela.

Information ist Macht. Technologien verändern Informationsflüsse und damit Machtverhältnisse. Doch die Ermächtigung des Einzelnen und das Aufbrechen von Monopolen ist nur die eine Seite der Medaille. Autoritäre Staaten haben die Kontrolle über ihre Bürger und Bürgerinnen unter anderem auch durch Überwachungstechnologien verstärkt, während private Unternehmen mittlerweile Milliarden von Menschen zu ihren KundInnen zählen und in ihrer Datensammelwut jede Regierung übertreffen. Wir müssen uns die Frage stellen, wer hier wen regiert.

Technologie kann als Erweiterung der Handlungsfähigkeit betrachtet werden. Governance von Technologien ist für die Demokratie genauso wichtig wie Governance durch Technologien. Und auch hier machen Werte den entscheidenden Unterschied. Auf Profit ausgerichtete Technologien werden nur eingeschränkt der Demokratie dienen; automatisierte Waffentechnologie oder Gesichtserkennungssysteme werden sich unweigerlich auf Frieden und Freiheit auswirken.

Das Versprechen der neuen Technologien von Ermächtigung und Demokratisierung – ganz, als ob Handys und Social-Media-Plattformen zur viralen Verbreitung von Demokratie führen würden – erklärt vielleicht zum Teil, warum demokratische Regierungen so zögerten, als es darum ging, Regeln für das digitale Zeitalter zu entwerfen. Angesichts dessen, was wir über die Auswirkungen von Informationsflüssen auf die Freiheit wissen, ist dies bemerkenswert.

Foto: © Bram Belloni

MARIETJE SCHAAKE

Marietje Schaake ist International Policy Director am Stanford Cyber Policy Center und International Policy Fellow am Stanford ­Institute for Human-Centered Artificial Intelligence (seit 1. November 2019) sowie Präsidentin des CyberPeace Institute.

Von 2009 bis 2019 war sie als Mitglied der Demo­craten 66, einer niederländischen libera­len ­Partei, ­Abgeordnete zum Europäischen Parlament, wo sie vorwiegend in den Bereichen Handel, auswärtige Angelegenheiten und Technologiepo­litik arbeitete. Sie ist für eine Vielzahl von NPOs tätig, unter anderem für den European Council on Foreign Relations und die Observer Research Foundation in Indien. Zudem ist sie Autorin einer Kolumne, die alle zwei Wochen in der niederländischen Zeitung NRC ­erscheint.

Foto: © Bram Belloni

Seit dem Zweiten Weltkrieg arbeiten die westlichen Demokratien erfolgreich an einem Rahmen aus internationalen Abkommen über Handel, Rechte, Krieg und Frieden sowie Entwicklung. Diese Regeln und die sie umsetzenden Institutionen haben ganzen Völkern hohe Lebensqualität ermöglicht, indem sie sicherstellten, dass Standards eingehalten werden und Rechenschaftspflicht herrscht. Heute befindet sich diese regelbasierte Ordnung in Gefahr. In Verbindung mit dem zunehmenden Nationalismus stellt diese Entwicklung die internationale Zusammenarbeit – ob im Bereich Klimawandel, Immigration oder Digitalisierung – vor eine gewaltige Herausforderung.

Das allein ist schlimm genug. Aber diese regelbasierte Ordnung erstreckt sich bis dato noch nicht in ausreichendem Maße auf digitale Belange, ungeachtet des Vorsprungs der westlichen Länder. Bis vor Kurzem gaben die USA in der Entwicklung von Technologieprodukten und digitalen Dienstleistungen den Ton an. Geleitet von eigennützigen Zielen, dem Festhalten am ersten Verfassungszusatz und einer libertären Tradition gelang es den IT-Unternehmen und ihrer Armada an Lobbyisten, die Vertreter der Legislative davon zu überzeugen, dass jegliche Regulierung „des Internets“ Innovation im Keim ersticken würde und dass regulatorische Maßnahmen autoritären Regimen als Inspiration dienen würden. Wenn sich doch autoritäre Regime nur von Demokratien inspirieren ließen!

Die Regulierung des Internets trifft immer noch auf starken Gegenwind, darunter auch durch zivilgesellschaftliche Gruppierungen, von denen ich persönlich sehr viel halte.

Aber geht es wirklich darum, „das Internet“ zu regulieren, oder geht es nicht vielmehr darum, auch für algorithmenbasierte Entscheidungen Verantwortlichkeit einzufordern – auf dieselbe Art, auf die wir fairen Wettbewerb und freie Meinungsäußerung in anderen Bereichen regulieren? Es ist nicht nur hilfreicher, sondern auch legitim, sich auf die Prinzipien zu konzentrieren, die geschützt werden müssen, und zwar unabhängig von den technologischen Umwälzungen oder Disruptionen, die wir erleben. Demokratisch gewählte und mit einem Mandat der Bevölkerung ausgestattete Regierungen sind dazu legitimiert, derartige Entscheidungen zu treffen.

Wertvolle Zeit wurde damit verschwendet, ein regelbasiertes System zu erfinden, das die Vorzüge des offenen Internets und anderer Technologien bewahrt. Tag für Tag nützen wir die spannenden Möglichkeiten, die uns dies eröffnet hat – und dies sollte mehr Menschen auf der ganzen Welt zugutekommen. Wir müssen sicherstellen, dass überall dort, wo Menschen das Internet nutzen, ihre Rechte gewährleistet sind.

Die chinesische „Alternative“

Eine Alternative zu der globalen, regelbasierten Ordnung ist derzeit im Vormarsch, und der digitale Bereich verwandelt sich immer mehr in ihren Grenzraum. Die chinesische Regierung vertritt die Ansicht, dass jeder Staat sein eigenes „nationales Internet“ betreiben sollte, was im Prinzip der Anwendung des Westfälischen Systems auf die digitale Welt entspricht. Das in den chinesischen Gesetzen zur Cyber-Security festgeschriebene Konzept der „Cybersouveränität“ verpflichtet ausländische Firmen, die Geschäfte in China machen (wovon es viele gibt), ihre Daten auf chinesischem Staatsgebiet zu speichern, was Kontrollen wesentlich vereinfacht. Andere Teile des Gesetzes stehen im Widerspruch zu dem Recht der chinesischen BürgerInnen auf Privatsphäre und Meinungsfreiheit. Mit dem sogenannten chinesischen „Sozialkredit-System“ wird das Verhalten der Menschen bewertet, während gleichzeitig die uigurischen Gemeinschaften in Xinjiang in High-Tech-Überwachungslagern gefangen gehalten werden. Minderheiten auf der ganzen Welt sind oft unter den Ersten, die am eigenen Leib erfahren müssen, wie Technologie der Unterdrückung und Diskriminierung Vorschub leistet.

Wir wissen auch, mit wie viel Ehrgeiz die chinesische Regierung am Ausbau künstlicher Intelligenz arbeitet. Die Frage nach Governance und den Werten, die Systeme prägen, werden im Lichte dessen umso dringlicher. Wenn künstliche Intelligenz vom Aufbau einer zentralisierten Daten-Governance nicht nur profitiert, sondern diese auch vorantreibt, sollten wir ihre Idealisierung vielleicht noch einmal überdenken. Wenn wir im Gegenzug davon überzeugt sind, dass Technologie der Menschheit und Demokratie dienen soll, dann müssen wir auch den Nachweis dafür erbringen.

Chinas Ambitionen sind nicht auf das eigene Staatsgebiet beschränkt. Dank der „neuen Seidenstraße“ können chinesische Firmen beinahe unbegrenzt Daten sammeln, unter anderem auch durch die Verbreitung von Apps in Indien und Ländern in Afrika – Staaten, in denen die Rechte und Daten der Menschen oft durch keinerlei Gesetze geschützt werden. All das wirft auch grundlegende Fragen nach der Trennung zwischen der Kommunistischen Partei Chinas, dem Staat und privaten Unternehmen auf. Überwachungstechnologien der Firma Huawei sind mittlerweile in 50 verschiedenen Ländern im Einsatz – kein anderes Unternehmen kommt auch nur ansatzweise auf diesen Marktanteil. Die Frage nach der Governance von Technologie wird auch in der Außenpolitik immer dringlicher und entwickelt sich zu der wichtigsten strategischen Frage unserer Zeit. Durch unsere Straßen rollen keine Panzer, aber wir wissen, dass die Menschen in China online keinerlei Aufzeichnungen von jenem Tag im Jahr 1989 finden können, als die Menschen am Tian‘anmen-Platz von Panzern überrollt wurden. Auch in seinen diplomatischen Bestrebungen bemüht sich China darum, die globalen Normen danach zu gestalten, was es für verantwortungsvolles Online-Verhalten eines Staates hält. In diesem Modell der Souveränität stehen weder die Rechtsstaatlichkeit noch die Rechte und Freiheiten der User an erster Stelle, und obendrein ist es zutiefst protektionistisch.

Foto: © ERSTE Foundation / APA-Fotoservice / Richard Tanzer
Foto: © ERSTE Foundation / APA-Fotoservice / Richard Tanzer

Big Tech und die neuen Schiedsrichter über die Wahrheit

Am anderen Ende des Spektrums beobachten wir den Aufstieg eines marktorientierten Modells. Mark Zuckerbergs berüchtigter Ausspruch „move fast and break things“ war lange Zeit das heimliche Motto des Silicon Valley: Geschwindigkeit und Disruption. Und die Disruption war bis jetzt ein ziemlicher Erfolg. Viele Branchen, vom Transport zu den Medien, wurden komplett auf den Kopf gestellt, und wo dies noch nicht passiert ist, ist es nur mehr eine Frage der Zeit: Denken wir etwa an den Finanz- und den Gesundheitssektor. Und was vielleicht am entscheidendsten ist: Dieselbe Entwicklung lässt sich in der Demokratie beobachten.

Die Ironie dabei ist, dass viele Menschen an der Spitze der größten Technologiekonzerne im Endeffekt selbst zu Regulatoren wurden – ungeachtet ihrer intensiven Bemühungen, Gesetze zu umgehen oder ihnen zumindest einen Schritt voraus zu sein. Indem sie Technologien auf maximale Effizienz, Kundenaufmerksamkeit oder das Teilen persönlicher Daten trimmen, nehmen Tech-Giganten immer mehr die Rolle von Regierenden ein, ohne dies zu würdigen. Sie verfügen weder über ein demokratisches Mandat, noch gibt es Checks und Balances, die für ausgewogene Machtverhältnisse sorgen. In den vergangenen zwei Jahrzehnten haben sich Unternehmen wie Facebook, Google, Twitter oder Amazon zu den Herrschern über die Informationsflüsse gewandelt. Andere – weniger bekannte, doch deswegen nicht minder mächtige Firmen wie zum Beispiel Palantir – analysieren Daten für kommerzielle Nachrichtenzwecke. Und dann gibt es noch unzählige andere, kleinere Unternehmen, die kommerzielle Überwachungsdienste und Hacker-Instrumente quasi rezeptfrei für jeden anbieten, der das nötige Kleingeld mitbringt.

In postkommunistischen Ländern sorgt die Aussicht auf ein Informationsministerium oder einen Minister für Wahrheit für Alpträume bei den Menschen. Und auch in Ländern, die niemals kommunistisch regiert waren, reagieren die Menschen ähnlich auf diese Vorstellung. Aber CEOs wie Zuckerberg verfügen frei darüber, was Wahrheit ist. Diese Verantwortung wird ihnen zunehmend zur Last, was auch der Grund dafür ist, warum Facebook und Apple mittlerweile die Regulierung von Content und Privatsphäre fordern. Aber die profitorientierten Algorithmen und Geschäftsmodelle ihrer Unternehmen entscheiden immer noch darüber, ob Eltern, die sich um die Gesundheit ihrer Kinder sorgen, medizinischen Rat finden oder ein YouTube-Video, das sie von den Gefahren einer Impfung überzeugt.

Die fehlende Kontrolle von Unternehmen hat es Cambridge Analytica erst ermöglicht, im großen Stil private Daten zu sammeln und mit diesen den Ausgang von Wahlen, von Großbritannien bis Kenia, zu beeinflussen. Profitmaximierung führt dazu, dass in den Suchresultaten Verschwörungstheorien vor Nachrichtenmeldungen aufscheinen. Bis vor Kurzem noch – und das erwähne ich nicht nur beiläufig – war es möglich, auf Facebook Werbung in Kategorien wie „Judenhasser“ oder „Hitler hat nichts falsch gemacht“ zu schalten oder gezielt User anzusprechen, die sich für „Joseph Goebbels“ und „Heinrich Himmler“ interessierten.

Entscheidet am Marktplatz der Ideen mittlerweile die Zahlungsbereitschaft und nicht mehr die Überzeugungskraft? Verbergen sich hinter den Tausenden von Likes, Daumen hoch, Klicks und Herzchen, die ein Posting in einem Social-Media-Netzwerk erzielt, Bots oder echte Menschen? Anekdotenhaft, Skandal um Skandal erkennen wir die Antwort. Uns ist klar, dass es Konsequenzen für die Verantwortlichen geben hätte sollen. Aber in diesem System herrscht weder Transparenz noch Rechenschaftspflicht.

Foto: © ERSTE Foundation / APA-Fotoservice / Richard Tanzer
Foto: © ERSTE Foundation / APA-Fotoservice / Richard Tanzer

Plattformbetreiber geben den Ton an

Die Unternehmen, die Plattformen betreiben, entscheiden, was Internetuser zu sehen bekommen. Aber die Formeln, die hinter Datenabgleich und Werbungen stehen, bleiben zum Großteil im Verborgenen. Die Algorithmen, die das Online-Leben von Milliarden von Menschen bestimmen, werden als Branchengeheimnis gehütet. Indem sie diese Algorithmen einer Kontrolle durch die Öffentlichkeit entziehen, um ihren Wettbewerbsvorteil nicht zu gefährden, umgehen Unternehmen ihre Verantwortung.

Wir wissen, dass Algorithmen mit Hilfe neuer Einstellungen und maschinellem Lernen fortlaufend geändert werden. Plattformbetreiber sammeln Daten, um maßgeschneiderte Werbung verkaufen zu können. Dabei gibt es keine systematische Kontrolle, die überprüft, ob Gleichheit, Meinungsfreiheit und fairer Wettbewerb – allesamt gesetzlich verankerte Freiheiten – im Computercode und seinen Produkten Niederschlag finden. Selbst das US-Ministerium für Wohnbau strengte einen Prozess gegen Facebook an, da das Unternehmen es EigentümerInnen ermöglicht hatte, ihre Werbung auf bestimmte Zielgruppen einzuschränken und andere somit zu diskriminieren.

Kurz gesagt setzen die Technologien, die sich Demokratisierung auf ihre Fahnen geheftet haben, die Demokratie unter Druck. Anstatt Monopole aufzubrechen, haben sie ihre eigenen Monopole geschaffen. Diese neuen Weichensteller – man könnte sie Tech-Oligarchen nennen – verarbeiten immense Mengen an Information ohne jegliche Regulierung. Sobald in den USA kartellrechtliche Untersuchungen angekündigt wurden, verstärkten die Technologiefirmen ihre Lobbyistenarmada, die für sie im Kongress Stimmung machen sollte, und gaben dafür jedes Jahr hohe achtstellige Beträge aus. Drei Viertel dieser Lobbyisten hatten zuvor in den Büros von Kongressabgeordneten an Themen gearbeitet, die für genau die Fälle relevant waren, gegen die sie nun lobbyierten. Und wenn wir schon über den Drehtüreffekt reden: Der ehemalige Vorsitzende der Federal Trade Commission in den USA arbeitet mittlerweile bei Amazon. Plattformbetreiber finanzieren nicht nur zahlreiche Thinktanks zum Thema Technologiepolitik, sondern auch viele Studiengänge.

Das Zaudern der demokratischen Regierungen, eine regelbasierte Ordnung für den digitalen Sektor umzusetzen, ermöglicht es autoritären Regimen und Privatunternehmen, die Standards festzulegen. Die Frage lautet daher nicht, ob es eine Regulierung geben wird, sondern wer dafür verantwortlich sein und auf welchen Prinzipien sie basieren wird. In seinem hellsichtigen Buch Code und andere Gesetze des Cyberspace aus dem Jahr 1999 sah Lawrence Lessig voraus, wie sich Technologie zu einer neuen Form der Governance entwickeln würde. In einem Interview mit dem Harvard-Magazin im Jahr 2000 sagte er:

„Wir leben im Zeitalter des Cyberspace. Auch dieser wird von einer Instanz reguliert. Diese regulierende Instanz ist genauso eine Bedrohung für die Freiheit. Aber wir sind so besessen von der Vorstellung, dass Freiheit gleichzusetzen ist mit ‚Freiheit von der Regierung‘, dass wir die Regulierung in diesem neuen Raum gar nicht sehen. Wir erkennen nicht, wie diese Regulierung die Freiheit bedroht. Diese regulierende Instanz ist der Code – die Software und Hardware, die den Cyberspace zu dem machen, was er ist.“

Zwanzig Jahre später gibt es immer mehr Unternehmen, große wie kleine, die entweder Entscheidungen treffen, die eigentlich der Regierung eines Staates vorenthalten wären, oder überhaupt in die Rolle von Regierungen schlüpfen. Die Rolle des Staates wird dadurch völlig verändert. So werden kritische Infrastrukturen und Dienstleistungen wie Steuereintreibung, Volkszählungen, Gesundheitsleistungen und Energieversorgung digitalisiert. Diese Infrastrukturen und Leistungen werden nicht nur von privaten Unternehmen geschaffen, sondern auch geschützt. Ein weiteres Beispiel ist die Online-Identität. Diese wird üblicherweise von einem Kreditkarten- oder Social-Media-Unternehmen verifiziert, aber kaum jemals durch einen öffentlich ausgestellten Personalausweis für die Online-Welt. Wieder ein anderes Beispiel sind Kryptowährungen wie Libra, das von Facebook entwickelt wurde. Nachdem Überwachungsunternehmen heute auch ihr Angriffspotenzial ausbauen, entgleitet den Regierungen langsam das Gewaltmonopol. Regulatorische Rahmen setzen sich bisher noch kaum mit dem wachsenden Einfluss des privaten Sektors auseinander.

Die Auswirkungen neuer Technologien auf die Demokratie und das öffentliche Interesse werden durch die künstliche Intelligenz noch verschärft. KI ist nicht unsere Zukunft, sondern bereits die Gegenwart. In Kürze wird eine KI-Anwendung weithin erhältlich sein, die Konversation betreiben kann, die von menschlicher Sprache nicht mehr zu unterscheiden ist. Sogenannte „Deepfakes“ – das Video-Pendant zu dieser Technologie – machen es möglich, jedem alles in den Mund zu legen. Desinformation hat uns in der Vergangenheit schon Kopfzerbrechen bereitet, aber mit diesen neuen Technologien müssen wir uns auch auf eine ganz neue Dimension des Problems einstellen.

Europa als Vorreiterin in Sachen Regulierung

Wir sehen oft nur die missbräuchliche Verwendung von Technologie, aber wir sollten auch die intendierte Verwendung betrachten. Im Gespräch mit ComputerexpertInnen erlebe ich oft, dass die Möglichkeit, dass künstliche Intelligenz unerwartete Ergebnisse hervorbringt, sie am meisten begeistert. Deshalb muss es einen öffentlichen Diskurs darüber geben, wie viel Risiko uns annehmbar erscheint, anstatt uns lediglich auf das „Rennen“ um die KI-Dominanz zu konzentrieren. Denken Sie zum Beispiel an die genmanipulierte Kuh in den Vereinigten Staaten. Vor einigen Jahren wurde sie als überwältigender Erfolg der neuen Technologien präsentiert. Nun stellt sich heraus, dass ihre DNA Bakterien enthielt, die antibiotikaresistent sind. Vielleicht führt das in Amerika und auch anderswo zu mehr Wertschätzung für das, was wir in Europa in der Debatte um Gentechnik das „Vorsichtsprinzip“ nennen. Vor allem in den USA wurde dieses Prinzip immer wieder belächelt und als unwissenschaftlich abgetan, doch in diesem Fall lagen die Beweise zwei Jahre später vor.

Es ist in Mode gekommen, sämtliche Probleme im Zusammenhang mit künstlicher Intelligenz mit einem Verweis auf „Ethik“ zu beantworten. In Europa gibt es heute mehr als 120 Ethikkodizes, die den Umgang mit KI regeln. Viele Technologiefirmen schufen den Posten eines „Chief Ethics Officer“. Aber was meinen wir eigentlich, wenn wir von Ethik sprechen? Können wir uns auf Normen einigen bzw. – was noch viel wichtiger wäre – auf Konsequenzen, wenn gegen diese verstoßen wird? Statt philosophische Diskussionen zu führen, sollten wir uns darauf konzentrieren, die schlimmsten vorstellbaren Entwicklungen zu vermeiden und uns auf Prinzipien zu einigen, die gesetzlich verankert werden müssen. In dieser Diskussion wird es auch um sinnvollen Zugang zu Information, Kontrolle und Forschung im öffentlichen Interesse gehen müssen. In dieser Hinsicht hat die Europäische Union bereits Schritte in die richtige Richtung gemacht. Wir verfügen nicht nur über die Datenschutzgrundverordnung, sondern auch über Netzneutralität, Wettbewerbspolitik und ein Cyberschutzgesetz, das das öffentliche Interesse, das offene Internet, in den Mittelpunkt der Werte stellt, die es zu schützen gilt. Die Grundrechtecharta der Europäischen Union ist auf alle Verordnungen anwendbar, einschließlich der Verordnungen zu Technologie, und schützt zum Beispiel auch das Recht auf Privatsphäre.

Die EU ist dabei aufzuzeigen, dass Technologien, sogar wenn diese in Rechtssystemen auf der anderen Seite der Erde entwickelt wurden, die Achtung von Regeln zum Schutze von Menschen und ihrer Rechte auferlegt werden kann. Dass Microsoft die DSGVO als globalen Standard akzeptiert hat, zeigt, dass Unternehmen durchaus kompromissbereit sind, wenn ein einflussreiches Rechtssystem – in diesem Fall die EU – sie dazu zwingt, seine Standards einzuhalten. Möglicherweise ist es auch einfacher für ein Unternehmen, einen weltweit gültigen Standard anzuwenden, als sich in jedem seiner Märkte auf unterschiedliche Normen einzustellen.

Auch wenn Europa bereits am richtigen Weg ist, sind die regulatorischen Initiativen zum Teil immer noch Stückwerk und deutlich fragmentiert. Es gibt kaum logischen Konnex zwischen einzelnen Richtlinien, die etwa das Urheberrecht, den Datenschutz oder KI zum Gegenstand haben. Das zeigen auch die Vorschläge zur Regulierung von Online-Content. Die großen Online-Plattformen sind derzeit nicht haftbar für die Inhalte, die auf ihnen geteilt werden. Doch der Druck, das zu ändern, steigt rapide. In Deutschland sind Online-Plattformen unter Androhung von Geldbußen dazu verpflichtet, Falschinformation und Content, der bestehende Gesetze verletzt, zu entfernen. In Großbritannien gibt es einen neuen Gesetzesvorschlag, demzufolge Unternehmen Inhalte vom Netz nehmen müssen, die sogenannte „Gefahren im Internet“ (online harms) darstellen, worunter sowohl Kindesmissbrauch als auch Falschinformationen fallen. In Frankreich liegen Pläne für eine Kontrolle von Algorithmen vor, die den Medienregulierungsbehörden größere Befugnisse einräumen würden.

In Ländern, in denen der Regierung wenig Vertrauen entgegengebracht wird, würden derartige Vorschläge jedoch als Zensurversuch gewertet werden. Manche hegen die Befürchtung, dass die deutschen, britischen und französischen Vorschläge wenig Raum für unabhängige Kontrollen bieten und zu viel Verantwortung zur Selbstregulierung an die betroffenen Unternehmen auslagern. Hohe Geldstrafen und andere Sanktionen könnten diese dazu bewegen, allzu eifrig zu zensurieren, ohne dass dagegen Beschwerde vorgebracht werden kann.

All diese Initiativen konzentrieren sich auf die dringende Frage, wie die bestehenden Gesetze auf den Cyberspace angewandt werden können. Die Vereinten Nationen haben bekräftigt, dass Gesetze online genauso eingehalten werden müssen wie offline, und das gilt für jedes nur vorstellbare Gesetz. Für die europäischen Bestrebungen ist das ein guter Ausgangspunkt. Aber das Prinzip wird sich nicht mit 28 unterschiedlichen Auslegungen umsetzen lassen. Stattdessen sollten wir an einer Übereinkunft über weiter gefasste Prinzipien arbeiten und es Regulierungsbehörden ermöglichen, die Verletzung dieser Prinzipien zu überprüfen. Ein solcher Ansatz würde zudem nachhaltigere Gesetze hervorbringen, da sich die Technologien so rasant verändern. Es ist unmöglich, jede Technologie einzeln zu regulieren, aber wir können uns auf Prinzipien und deren Einhaltung konzentrieren.

All das sollte in Europa schneller und mit mehr politischem Ehrgeiz verfolgt werden. Der Beginn einer neuen Legislaturperiode ist eine echte Chance, eine umfassendere Vision einer wertebasierten Technologie-Governance zu entwickeln, verschiedene politische Bereiche miteinander zu verknüpfen und vor allem endlich als ernstzunehmender Akteur auf der Weltbühne aufzutreten. Wir müssen sicherstellen, dass sich die Entwicklungs- und Menschenrechtspolitik auf die Auswirkungen von Technologie konzentriert und dass es Programme gibt, die die Rechtsstaatlichkeit im Online-Raum stärken. Dafür müssen wir Normen einführen, die eine Eskalation von Cyber-Konflikten verhindern, und Handelsregeln für Datenflüsse entwickeln. Das bedeutet eine ambitionierte, integrierte KI-Strategie, die Spielraum lässt für Forschung im öffentlichen Interesse, Talenteförderung und ein unternehmensfreundliches Ökosystem.

Doch die Welt steht nicht still, während wir mit dieser Herausforderung kämpfen. Der chinesische IT-Riese Alibaba hat einen E-Commerce- oder e-WTO-Mechanismus vorgeschlagen, um den digitalen Handel zu vereinfachen. Die Handelskriege zwischen China und den USA beeinträchtigen alles, von der Software bis hin zu technologischen Supply-Chains. Obgleich herausfordernd, ist dieser Impuls auch eine große Chance für die EU, mit einem wertebasierten Modell für umfassende Technologie-Governance voranzugehen. Seit Jahrzehnten zeigt die EU, wie wertebasierte, grenzüberschreitende Gesetzgebung möglich ist. Sie verfügt nicht nur über die praktische Erfahrung und die notwendigen Institutionen dafür, sondern genießt auch das Vertrauen von Ländern außerhalb ihrer Grenzen.

Über den digitalen Binnenmarkt hinaus

Abgesehen von Regierungsinitiativen gibt es auch eine lebendige Gemeinschaft von zivilgesellschaftlichen AkteurInnen, TechnologieexpertInnen und Privatunternehmen, die sich rege an Diskussionen und freiwilligen Lösungen für mehr Tech-Governance beteiligen. Diese „Multi-Stakeholder-Initiativen“ zielen darauf ab, die verschiedensten von diesen Technologien betroffenen Menschen in das Gesetzgebungsverfahren miteinzubeziehen. So wichtig diese Bemühungen auch sind, befürchte ich doch, dass sie fragmentiert und strategisch nicht durchdacht sind. Prinzipien sind unzweifelhaft wichtig, aber was passiert in dem Moment, in dem sie missachtet werden? Da werden sie üblicherweise auf die Probe gestellt. Um die verschiedenen Initiativen und AkteurInnen zu bündeln, müssen wir uns auf die Prinzipien der Rechtsstaatlichkeit konzentrieren, die Regierungen, Unternehmen und die Zivilgesellschaft zu einer Art horizontalen Governance für das digitale Zeitalter verpflichten. Die Anwendung rechtsstaatlicher Prinzipien sollte der Lackmustest für alle Stakeholder sein.

Die Rechtsstaatlichkeit ist Ausdruck einer politischen Situation, die nicht an länderspezifische Gesetze gebunden ist. Aus diesem Grund eignet sie sich für einen globalen Kontext wie die digitale Welt, da sie sich neben dem materiellen Recht auch auf Methoden konzentriert. Rechtsstaatliche Prinzipien beinhalten Gleichheit vor dem Gesetz, transparente Regeln, Kodizes und Prozesse sowie Einspruchs- und Rechtsmittelmechanismen. Jahrhundertelang markierten diese Prinzipien den Scheideweg zwischen freien und unfreien, offenen und geschlossenen Systemen. Wenn große IT-Unternehmen diese Prinzipien auch nur auf Algorithmen anwenden würden, wäre Verantwortlichkeit bereits möglich. Der zunehmende Druck auf die Unternehmen sollte ihnen als Anreiz dienen. Die Antwort auf den Vorwurf, dass Inhalte ohne Rechenschaftspflicht entfernt werden, sollte ein klarer, prinzipientreuer Zugang sein.

Unternehmen könnten dringend benötigtes Vertrauen aufbauen, indem sie sich klar zur Rechtsstaatlichkeit bekennen und rechtsstaatliche Prinzipien in ihre AGB aufnehmen. Und in Ländern, in denen keine Rechtsstaatlichkeit herrscht, könnten Unternehmen dadurch ihren Einsatz für ihre KundInnen und ihre Werte jenseits von Profitmaximierung unter Beweis stellen. Obwohl ich eine starke Befürworterin davon bin, dass die allgemeinen Menschenrechte in unserer Agenda immer ganz oben stehen müssen, zeigt sich in der Praxis die unterschiedliche Auslegung in verschiedenen Ländern. Die Rechtsstaatlichkeit würde die Unternehmen jedoch zum Beispiel dazu zwingen, die Regeln offenzulegen, nach denen sie Content aktiv bewerben oder im Hintergrund verschwinden lassen, und die angestrebten Ziele der künstlichen Intelligenz transparent machen.

Wenn Europa rechtsstaatliche Prinzipien zum ausdrücklichen Fundament von Verordnungen über digitalen Handel, Entwicklung, staatliche Eingriffe und Kartellrecht macht, kann es damit zeigen, dass es nicht nur einen Binnenmarkt, sondern einen Binnen-Cyberspace aufbauen will, in welchem dem öffentlichen Interesse Rechnung getragen wird. Die Schaffung eines Modells für die Anwendung von Regeln ist eine bedeutende Chance für Europa und sollte als demokratisches Modell für die Governance von Technologie dienen. In diesem Bereich herrscht weltweit ein völliges Machtvakuum, das Europa füllen könnte, indem es gemeinsam mit demokratischen Partnern auf der ganzen Welt ein gesetzliches Rahmenwerk schafft – zum Beispiel mit Japan und Indien, die für die Zukunft der Demokratie eine immens wichtige Rolle spielen.

Gegen technologischen Determinismus

Regeln und Governance werden nicht nur die Auswirkungen der Technologie auf unser Leben und das unserer Kinder bestimmen, sondern auch das der Menschen, die auf der anderen Seite der Welt leben. Fragen der Sicherheit, Wirtschaft und Menschenrechte sind in der Technologie eng verflochten. Es geht also um systemische Fragen und Herausforderungen. Private Unternehmen ebenso wie autoritäre Staaten konnten in der Governance von Technologie vor allem deshalb so einen Vorsprung einnehmen, weil wir es durch unsere Untätigkeit zuließen. So wie in Rumänien verändert Governance alles – Architektur, sobald sie sich als Bauwerk manifestiert, hat Werte in sich eingeschrieben. Dasselbe gilt auch für die Technologie. Werte nehmen oft unbemerkt bereits im Augenblick eines Entwurfs Gestalt an. Das macht Governance und Transparenz ebenso wie Rechenschaftspflicht so wichtig. Ohne rechtsstaatliche Prinzipien bestimmen die Entscheidungen profitgesteuerter Unternehmen und machtbewusster Staaten das Wesen und die Architektur unserer digitalen Welt.

Die unglaublichen Verheißungen der künstlichen Intelligenz sind ein Widerhall der Hoffnungen, dass das offene Internet die Welt demokratisieren könnte. Wir wissen mittlerweile, dass sich die Demokratie nicht viral verbreitet hat. Vielleicht ist sogar das Gegenteil passiert. Aus genau diesem Grund bin ich der Meinung, dass wir keine deterministische Sicht auf KI haben sollten. Wie wir Technologie regulieren, wird tief greifende Auswirkungen auf das Leben der Menschen haben. Die Zukunft liegt in unserer Hand.

Dieser Text ist das Transkript eines Vortrages, der anlässlich der Tipping Point Talks 2019 der ERSTE Stiftung am 19. September 2019 in Wien gehalten wurde. Aus dem Englischen Communicate for you.

Dieser Text ist urheberrechtlich geschützt: © Marietje Schaake. Bei Interesse an Wiederveröffentlichung bitten wir um Kontaktaufnahme mit der Redaktion. Urheberrechtliche Angaben zu Bildern, Grafiken und Videos sind direkt bei den Abbildungen vermerkt. Titelbild: Marietje Schaake bei den ERSTE Foundation Tipping Point Talks 2019. Foto: © ERSTE Foundation / APA-Fotoservice / Richard Tanzer