Politik des Sockenordnens

Wer mit Analysen großer Datenmengen die Funktionsweise von Wirtschaft und Gesellschaft beeinflusst, soll sich in seine Algorithmen schauen lassen, fordert der amerikanische Rechtswissenschaftler Frank Pasquale in Black Box Society. EU-Kommissaren, die sich mit Google über europäisches Konkurrenzrecht streiten, ist die Lektüre dieses Buches zu empfehlen — dem einfachen Internetnutzer ebenso.

Was ein Algorithmus ist, erklärt der Computer-Geek Danny Hillis in The Pattern on the Stone: The Simple Ideas that Make Computers Work folgendermaßen: Um in einem Haufen Socken ein passendes Paar zu finden, kann man erst eine Socke nehmen und dann eine weitere Socke aus dem Chaos ziehen. Wenn sie nicht passt, schmeißt man sie wieder in den Haufen und sucht (eventuell ewig) weiter. Oder man geht algorithmisch vor und legt die zweite, nicht passende Socke neben den Haufen. Passt die dritte Socke weder zur ersten noch zur zweiten Socke, legt man sie daneben, usw. Das mag zwar dauern, führt aber
sicher zum Ziel.

Werden solche Rezepte zur schrittweisen Problemlösung in Programmiersprache übersetzt, können Computer so mit sturer Geduld wesentlich komplexere Aufgaben erfüllen als Kleiderschränke aufräumen. Zum Beispiel Finanzmärkte steuern — mit mehr oder weniger Erfolg. Dass es nach 2007 zu einer globalen Finanzkrise kommen würde, hatten die Computer nicht vorausgesagt, sondern mit verursacht. Der Jura-Professor an der Universität von Maryland Frank Pasquale spricht angesichts der zentralen Rolle digitaler Technologien für die Finanzmarktsteuerung von „cyborg finance“: „one where dubious data can enter the manipulable models of opportunistic traders answering to clueless CEOs“. Als die US-Regierung 2008 wegen der Subprime-Krise 700 Milliarden Dollar zur Rettung des Finanzsektors bereit stellen wollte, fragte ein Senator den damaligen Finanzminister Henry Paulson, weshalb der Kongress nur eine Woche Zeit habe für die Beschlussfassung. Die Antwort des ehemaligen Chefs der Investmentbank Goldman Sachs lautete: „Well, sir, the computers have demanded it.“1

Wir leben in einer „Black Box Society“, meint Pasquale. Mit dieser Terminologie bezieht er sich auf den französischen Soziologen Bruno Latour, der den sozialen Prozess des „Blackboxings“ folgendermaßen definiert hat: „When a machine runs efficiently, when a matter of fact is settled, one need focus only on its inputs and outputs and not on its internal complexity. Thus, paradoxically, the more science and technology succeed, the more opaque and obscure they become.“2 Pasquale kritisiert, dass der Öffentlichkeit der Blick in den Maschinenraum der digitalen Wirtschaft verwehrt bleibe. Stattdessen ergebe man sich dem Diktat algorithmischer Sachzwänge: „Code is law“, schrieb vor 15 Jahren der amerikanische Verfassungsrechtler Lawrence Lessig im Harvard Magazine. Algorithmen sind Geheimgesetze, lautet heute Pasquales Zuspitzung. Und für eine Gesellschaft, die das Recht auf einen Internetzugang als Grundversorgung erachtet, sei dieser Zustand „dangerously unstable, unfair, and unproductive“.

Pasquale ist von der allgemeinen technologischen Disruptionseuphorie unbeeindruckt. Das digitale Zeitalter schafft in seinen Augen zwar neue gesellschaftliche Tatsachen, aber die sozialen, wirtschaftlichen oder politischen Konfliktpotentiale bleiben für ihn im Grunde die Gleichen. Mit seiner Sympathie für den ehemaligen Richter am Obersten US-Gerichtshof Louis Brandeis und den links-liberalen Progressivismus der USA des frühen 20. Jahrhunderts unterscheidet Pasquale sich vom Mainstream in der digitalen Debatte. Anders als Jaron Lanier oder Jeremy Rifkin (siehe forum-Ausgaben 346 und 350) hält er den demokratischen Rechtsstaat nicht für einen ineffizienten Anachronismus, sondern für genau das richtige Instrument, um dem technologischen Fortschritt gesellschaftlichen Sinn zu verleihen.

Roosevelt lässt grüßen

Pasquale hält einen „digitalen New Deal“ in drei Bereichen für notwendig: im Finanzsektor, im Suchmaschinengeschäft und bei dem was er „Reputation“ nennt, also dem Geschäft mit Datenprofilen (z.B. für Marketingzwecke oder Versicherungen). Ohne Transparenz, also einen Einblick in die Algorithmen, könnten diese Geschäftszweige kaum zur Rechenschaft gezogen werden. Aber Transparenz allein „may simply provoke complexity that is as effective at defeating understanding as real or legal secrecy.“ Gegebenenfalls muss der Staat unsinnige Komplexität durch Regeln abbauen, so Pasquale. Ein Beispiel: Die Logik von „Blitzaufträgen“ im automatisierten Hochfrequenzhandel offenzulegen bringt möglicherweise wenig. Stattdessen sollte man den wirtschaft-lichen Mehrwert dieses Geschäftszweigs prüfen und die riskantesten Praktiken eventuell verbieten.

In der aufstrebenden digitalen Wirtschaft sieht Pasquale Regulierungsbedarf, insbesondere weil dieser Sektor zur Monopolisierung tendiert. In der Volkswirtschaftslehre spricht man von „natürlichen Monopolen“, wenn sich „aufgrund hoher Fixkosten und niedriger Grenzkosten [Kosten für die Produktion einer zusätzlichen Einheit einer Ware] besonders ausgeprägte steigende Skalenerträge [Grenzkosten sinken, je mehr produziert wird] ergeben“.3 Betroffen sind insbesondere Güter, die auf eine aufwendige Infrastruktur angewiesen sind (Verkehr, Strom, Gas, Wasser, Post, Telekommunikation). Die heutigen Internetgiganten profitieren zudem von positiven Netzwerkeffekten: Je mehr Internetnutzer Google nutzen, desto besser wird die Suchmaschine, was wiederum neue Nutzer anzieht. Je mehr Leute ein Facebook-Profil haben, desto attraktiver wird das soziale Netzwerk für weitere Nutzer (und für Werbekunden).

Als im 20. Jahrhundert Quasi-Monopolisten im Bereich der Grundversorgung aufkamen, reagierte der Staat mit Auflagen, die den Missbrauch einer dominanten Position verhindern sollten. Das Rechtsverständnis sei davon stark geprägt worden, so Pasquale: „What if one of the big electric companies bought out Whirlpool and thereafter doubled its electricity rates for anyone using a different brand of refrigerator or washing machine? I imagine there would be mass protest and a slew of lawsuits.“ Im digitalen Zeitalter hingegen „flirte“ das Konkurrenzrecht mit der eigenen Irrelevanz: „firms like Google and Amazon are in prime position to make money off both sides of the market: monetizing our data and purchases, while promoting to us their own products and services, or those of ‚partners‘ who let the larger platform share in their profits.“

Google hat einen Marktanteil von über 90 Prozent am europäischen Online-Suchmaschinengeschäft und spielt somit eine zentrale gesellschaftliche Rolle als „Gatekeeper“: Für die meisten Internetnutzer ist Google das Fenster zu den Inhalten des World Wide Web. Google ordnet diese Inhalte nach ihrer „Relevanz“. Dass dabei allein das öffentliche Allgemeininteresse eine Rolle spielt, ist unwahrscheinlich.
90 Prozent der Einnahmen kommen schließlich (genau wie bei Twitter und Facebook) aus der Werbung. Ironischerweise haben die Google-Gründer und damaligen Stanford-Doktoranden Larry Page und Sergey Brin 1998 bei einer Vorstellung ihres Projekts kommerzielle Suchmaschinen kritisiert: „Up until now most search engine development has gone on at companies with little publication of technical details. This causes search engine technology to remain largely a black art and to be advertising oriented […]. With Google, we have a strong goal to push more development and understanding into the academic realm.”4
Brüssel vs. Google

Pasquale interessiert sich in erster Linie für die Situation in den USA, trifft mit seinen Argumenten aber besonders in Europa den Nerv der Zeit. Die EU-Kommission ist nämlich der Meinung, dass Google seinen Preisvergleichsdienst seit 2008 auf der Suchergebnisseite „systematisch an besonders sichtbarer Stelle, unabhängig von der Relevanz“ platziert.5 Fünf Jahre nach der ersten Ermittlungsprozedur gegen Google hat die EU-Kommission am
15. April eine formelle Wettbewerbsbeschwerde erhoben. Die genaue Funktionsweise des Google-
Algorithmus kennt die Kommission nicht, sondern hält das Geschäftsgeheimnis für schützenswertes geis-
tiges Eigentum (genau wie beispielsweise das Rezept des portugiesischen Puddingtörtchens „Pasteis de Belém“6). Ihre Beweislage entnimmt die Kommission im aktuellen Kartellverfahren lediglich dem, was die Black Box ausspuckt, also den jeweiligen Suchergebnissen. Als Google vor einem Jahr einen Kompromissvorschlag vorlegte, ging es demnach nicht um die Suchkriterien, sondern um eine andere Darstellung der Suchresultate.7 Die eigenen Angebote sollten als „gesponserter Inhalt“ gekennzeichnet werden, während einige alternative Preisvergleichsplattformen unter den Suchresultaten prominent positioniert wären.

Eine konsequentere Lösung zur Vermeidung von Interessenskonflikten könnte die Trennung von Suchplattform und anderen Onlinediensten sein. Das Europaparlament hat die EU-Kommission im November 2014 aufgefordert, „to consider proposals aimed at unbundling search engines from other commercial services“. Das entspräche dem, was Brüssel seit Jahren (mit mehr oder weniger überzeugenden Argumenten) im Bereich des Bahnverkehrs oder des Energiemarkts predigt. Im Rahmen ihres Maßnahmenpakets zur Schaffung eines digitalen Binnenmarktes, will die Kommission bis Ende des Jahres eine umfassende Analyse über die Rolle der großen Internetplattformen inklusive Lösungsan-sätzen vorlegen.8

Die Monopolstellung großer Internetkonzerne könnte schließlich durch eine Maßnahme nachhaltig in Frage gestellt werden: Pasquale fordert, dass die wichtigsten Plattformen den Konkurrenten Zugang zu einem Teil ihrer Daten verschaffen. Schließlich sei das Suchverhalten der Nutzer kein Mehrwert den Google selber „produziere“, so eines der Argumente. Wer im Online-Geschäft einmal genügend Vorsprung beim Datensammeln habe, könne in seiner Analysekapazität (und daher in gewissem Maß auch in seiner Innovationsfähigkeit) nur schwer eingeholt werden: „What Thomas Piketty said of unlimited capital accumulation applies as well to untrammeled tech giants: ‚the past devours the future‘.“ Die Vorstellung, jeder könne der nächste Mark Zuckerberg werden, hält Pasquale daher für eine Chimäre. Erfolgreiche Start-Ups werden von den GAFA (den vier Internetriesen Google, Amazon, Facebook, Apple) aufgekauft, ehe sie ernsthafte Konkurrenten werden.

Aber all diese Maßnahmen würden das grundsätz-liche Black-Box-Problem, wie Pasquale es formuliert, nicht lösen. Dass Suchmaschinen ihre Algorithmen nicht offenlegen wollen, hat teils nachvollziehbare Ursachen. Wären die Ranking-Kriterien bekannt, könnte das System ausgetrickst werden, warnt Google. Nicht nur für einfache „Suchmaschinen-
optimierung“, sondern auch für Spam oder andere
unerwünschte Zwecke. Das stimmt. So ist es etwa politischen Aktivisten gelungen, durch massive Verlinkung verschiedener Seiten 2003 eine sogenannte „Google-Bombe“ zu provozieren: Beim Suchen nach „miserable failure“ wurde an erster Stelle ein Link zu George W. Bushs Biographie auf der Homepage des Weißen Hauses angezeigt.

Auf Googles Geheimhaltungsargument hat Pasquale jedoch eine einfache Antwort parat: Ein unabhängiges Gremium könnte die Aufsicht übernehmen und so Geschäftsgeheimnisse schützen. Der französische Senat hat kürzlich einen Schritt in diese Richtung gemacht und vorgeschlagen, dass die „Autorité de régulation des communications électroniques et des postes“ (ARCEP) mit der Aufsicht und Regulierung von Suchmaschinen beauftragt werden soll.9 Obwohl es so nicht explizit im Text steht, hat der britische Guardian den „mutigen“ Vorstoß so verstanden, dass Google seine Algorithmen bald der ARCEP gegenüber offenlegen müsse. Und das sei richtig so, meint die englische Tageszeitung: „Algorithms are human creations, and they need to serve human needs.“10 Man muss jedoch davon ausgehen, dass ein europäischer Vorstoß für mehr Transparenz auf enormen Widerstand stoßen wird. Als der deutsche Justiz-minister Heiko Maas eine Offenlegung des Google-
Algorithmus forderte, hat der US-Botschafter in Berlin die Forderung als unangebracht bezeichnet.11 Dass man in den USA weit von solchen staatlichen Interventionen entfernt ist, zeigen nicht nur die schnippischen Reaktionen der amerikanischen Presse auf die europäischen Entwicklungen, sondern auch das Verhalten der eigenen Aufsichtsbehörde, die sich anscheinend während eines anlaufenden Kartellverfahrens hat einschüchtern lassen.12 Pasquale geht ausführlich auf die Lobbymacht der Internetkonzerne ein sowie deren enge Verflechtung mit Sicherheitsbehörden wie der NSA. Den Snowden-Dokumenten nach zu urteilen, hat der US-Geheimdienst übrigens den ehemaligen EU-Kommissar Joaquín Almunia ausspioniert. Also jenen Politiker, der den aktuellen Kartellstreit mit Google in die Wege leitete.

Nachträglicher Datenschutz?

Viele Aufgaben können Computer (noch) nicht übernehmen. Ihre Algorithmen sind zwar präzise und logisch, aber auf der anderen Seite rigide und unkreativ. Eine Software kann offensichtliche Schreibfehler einfach finden (wenn man z.B. Sanne anstelle von Sonne schreibt), aber Sinnfehler sind für viele Korrekturprogramme kaum zu erkennen (wenn die Sahne anstelle der Sonne aufgeht). Algorithmen können solche Spitzfindigkeiten jedoch lernen, vorausgesetzt es stehen ausreichend große Datenmengen zur Verfügung (aus denen bspw. hervorginge, dass in einem Satz mit dem Verb „aufgehen“ eher Sonne als Sahne steht).13

Damit Algorithmen „intelligenter“ werden können, werden Dinge und Menschen digital „aufgerüstet“, vermutete der vor einem Jahr verstorbene FAZ-Mitherausgeber Frank Schirrmacher: „Vernetzt mit Google Earth, Twitter, Handy tritt das Leben ins Stadium seiner technischen Verwertbarkeit“.14 Frank Pasquale interessiert sich leider gar nicht für die Frage, wie juristisch mit dem Datensammelwahn umzugehen ist: „It may be that we cannot stop the collection of information, but we can regulate how it is used.“ Besonders im Bereich vom „Profiling“ und „Scoring“ stößt dieser „end-of-the-pipe“-Ansatz jedoch an seine Grenzen, da er sich auf eine Bekämpfung der Symptome unzureichender Datenschutzbestimmungen berschränkt.

Firmen wie Axciom, Intelius, Deltavista oder Arvato Infoscore sammeln weltweit im großen Stil personenbezogene Daten und verkaufen diese Informationen an Dritte (z.B. Firmen, die gezielte Werbung machen, oder etwas über die Kreditwürdigkeit ihrer Kunden erfahren wollen). Meist stammen die Daten aus öffentlich zugänglichen Quellen (vom Telefonbuch bis zum Facebook-Profil), jedoch landen (u.a. wegen Sicherheitslücken bei den Servern von Verwaltungen, Kliniken, Supermärkten oder Kreditkartenanbietern) auch geklaute Informationen in den Händen der Data-Broker. Die gesammelten Daten werden auf Muster untersucht: „Pattern recognition is the name of the game — connecting dots of past behavior to predict the future.“ Die Resultate sind meist recht prosaisch: Beim Surfen im Web taucht Werbung für bestimmte Produkte auf, die den Browserverlauf widerspiegeln. Gespenstischer wird es, wenn Eltern über die Schwangerschaft ihrer Tochter erfahren, weil die Teenagerin Supermarktwerbung für Babyartikel geschickt bekommt.15

Spätestens wenn Arbeitgeber, Versicherungen, Banken oder Sicherheitsbehörden mit (häufig unzuverlässigen) Daten über die Zuverlässigkeit einer Person befinden, kann die digitale Alchemie analoge Diskriminierungen provozieren, befürchtet Pasquale: „Once a piece of software has inferred that a person is a bad credit risk, a shirking worker, or a marginal consumer, that attribute may appear in decision-making clout in other systems all over the economy.“ Pasquale spricht von „cascading disadvantages“, wenn ein Besuch bei der Eheberatung die Zinsen für einen Kredit rauftreibt, womit die Zahlungsschwierigkeit wächst und die Ehe umso stärker belas-
tet wird. Wenn es dann zu Scheidung und Bankrott kommt, kann man von einer selbsterfüllenden Prophezeiung sprechen.

Pasquale plädiert für ein Recht auf Eigenauskunft und Richtigstellung falscher Daten, damit Betroffene sich gegen etwaige Missstände wehren können. In mehreren EU-Ländern können die Bürger bereits Auskunft über ihre Datenprofile beantragen. Die Journalistin Barbara Junge hat getestet, was Datenhändler und große Internetplattformen über sie wissen: Von Amazon kam ein 44-seitiger Bericht über ihr Kaufverhalten, Arvato Infoscore hat auf Anfrage der Galeria Kaufhof einen Bonitätswert von über 94 Prozent ausgerechnet (und dafür Wohngegend, amtliche Statistiken, Geschlecht, Alter und Wohnform „anhand von Gebäudedaten“ herangezogen), und bei der „Consumer Targetbase“-Datenbank der Schober Information Group haben sich u.a. die Targobank, Reader’s Digest, Kabel Deutschland, Vattenfall, Neckermann und Coxulto Marketing für Junges Profil interessiert.16

Aber was bringt eine solche Auskunft? Nicht viel, meint das Europaparlament. Im Rahmen der geplanten Datenschutzgrundverordnung sollen EU-Bürger das Recht bekommen, ihre Profile einzusehen,
aber auch zu ändern oder zu löschen. Darüber hinaus schlägt das Parlament vor, besondere Kategorien personenbezogener Daten von einer Weiterverarbeitung auszuschließen, wenn es dafür keine spezifische Rechtsgrundlage gibt. Diese Vorgabe „disrupts the balance of interests“, kritisiert die Association of consumer credit information suppliers. Den verwässerten Text, der momentan im Ministerrat diskutiert wird, begrüßt die Lobbygruppe hingegen ausdrücklich.17 u

Dooling, Richard: The Rise of the Machines, in: New York Times, 11. Oktober 2008, http://www.nytimes.com/2008/10/12/opinion/12dooling.html
Latour, Bruno (1999): Pandora’s hope: essays on the reality of science studies, S. 304.
http://de.wikipedia.org/wiki/Nat%C3%BCrliches_Monopol
Brin, Sergey; Page, Lawrence: The Anatomy of a Large-Scale Hypertextual Web Search Engine, in: Seventh International World-Wide Web Conference April 14-18 1998, Brisbane, Australia. http://ilpubs.stanford.edu:8090/361.
Factsheet der Europäischen Kommission: Kartellrecht. Kommission übermittelt Google Mitteilung der Beschwerde-
punkte, 15. April 2015, http://europa.eu/rapid/press-release_
MEMO-15-4781_de.htm
Pressemitteilung der Europäischen Kommission: Kommission
schlägt Vorschriften gegen Diebstahl von Geschäftsgeheimnissen
vor, 28. November 2013, http://europa.eu/rapid/press-release_
IP-13-1176_de.htm
European Commission MEMO: Antitrust. Commission obtains from Google comparable display of specialised search rivals. Frequently asked questions, 5. Februar 2014, http://europa.eu/rapid/press-release_MEMO-14-87_en.htm
Communication from the European Commission: A Digital Single Market Strategy for Europe, 5. Mai 2015, http://ec.europa.eu/priorities/digital-single-market/docs/dsm-communication_en.pdf
Vignal, François: Loi Macron. Le Sénat s’attaque à l’hégémonie de Google, in: Public Sénat, 9. April 2015, http://www.publicsenat.fr/lcp/politique/loi-macron-senat-s-attaque-l-hegemonie-google-875617
Powles, Julia: Europe is targeting Google under antitrust laws but missing the bigger picture, in: Guardian, 15. April 2015, http://www.theguardian.com/technology/2015/apr/15/europes-targeting-google-under-antitrust-laws-missing-bigger-picture
Schulz, Stefan: Sorge vor Kartell. Maas hätte gerne, dass Google geheime Suchformel offenlegt, in: Spiegel Online, 16. September 2014, http://www.spiegel.de/wirtschaft/unternehmen/google-heiko-maas-fordert-offenlegung-von-algorithmus-a-991799.html
Ruiz, Rebecca; Dougherty, Doug: Take Google to Court, Staff Report Urged F.T.C., in: New York Times, 19. März 2015, http://www.nytimes.com/2015/03/20/technology/take-google-to-court-staff-report-urged-ftc.html
Schirrmacher, Frank (2011): Payback. Warum wir im Informationszeitalter gezwungen sind zu tun, was wir nicht tun wollen, und wie wir die Kontrolle über unser Denken zurückgewinnen, S.81.
Ebd. S. 89.
Duhigg, Charles: How Companies Learn Your Secrets, in: New York Times, 16.02.2012,
http://www.nytimes.com/2012/02/19/magazine/shopping-habits.html
Junge, Barbara (2013): Wer hat meine Daten?, in: Big Data. Das neue Versprechen der Allwissenheit, S. 23-34.
ACCIS: Response to the proposal for a General Data Protection
Regulation — Perspective of Credit Bureaus, April 2015, http://www.accis.eu/fileadmin/filestore/position_papers/ACCIS_Position_Paper_on_DP_April_2015.pdf

Als partizipative Debattenzeitschrift und Diskussionsplattform, treten wir für den freien Zugang zu unseren Veröffentlichungen ein, sind jedoch als Verein ohne Gewinnzweck (ASBL) auf Unterstützung angewiesen.

Sie können uns auf direktem Wege eine kleine Spende über folgenden Code zukommen lassen, für größere Unterstützung, schauen Sie doch gerne in der passenden Rubrik vorbei. Wir freuen uns über Ihre Spende!

Unterstützen

Über Uns