Seit 17:07 Uhr Studio 9
 
  • facebook
  •  
  • twitter
  •  
  • instagram
  •  
  • spotify
 
Seit 17:07 Uhr Studio 9
 
 

Tacheles / Archiv | Beitrag vom 02.11.2013

"Nicht in eine Diktatur der Daten verfallen"

Gigantische Datensammlungen über Individuen: Big-Data-Experte warnt vor Gefahren für den Rechtsstaat

Viktor Mayer-Schönberger im Gespräch mit Christian Rabhansl

Viktor Mayer-Schönberger, Professor für Internetrecht in Oxford (Redline Verlag)
Viktor Mayer-Schönberger, Professor für Internetrecht in Oxford (Redline Verlag)

Die Abermillionen Suchanfragen im Internet lassen die nächste Grippewelle erkennen noch bevor wir husten. Doch schon heute nutzen 30 US-Bundesstaaten personenbezogene Daten, um die Wahrscheinlichkeit einer erneuten Straftat von Inhaftierten zu berechnen, warnt Viktor Mayer-Schönberger, Professor für Internetrecht in Oxford.

Viktor Mayer-Schönberger, 1966 geboren im österreichischen Zell am See, ist Professor für Internet Governance and Regulation am Internet Institute der Universität Oxford. Mayer-Schönberger postulierte in seinem Buch "Delete. Die Tugend des Vergessens in digitalen Zeiten" (Berlin University Press) das Recht darauf, vergessen zu werden. In seinem soeben auf Deutsch erschienen Buch " Big Data. Die Revolution, die unser Leben verändern wird" (gemeinsam mit Kenneth Cukier, Redline Verlag) beschreibt er die Chancen und Gefahren von Big Data.

Deutschlandradio Kultur: Warum kann der Internetkonzern Google die nächste Grippewelle voraussagen, noch bevor die zuständigen Gesundheitsbehörden es ahnen? Darf eine Software darüber entscheiden, ob ein Straftäter im Gefängnis bleiben muss oder doch auf Bewährung frei kommt? Und was haben Facebook und der amerikanische Geheimdienst NSA gemein?

Das sind ein paar der Fragen, über die wir jetzt in der Sendung Tacheles sprechen. Zu Gast ist heute Viktor Mayer-Schönberger, Professor für Internetrecht an der Universität Oxford und weltweit einer der Experten für Big Data, also jene Analysemethode, bei der riesige Datenmengen miteinander verknüpft und ausgewertet werden. Herzlich willkommen, Herr Mayer-Schönberger.

Viktor Mayer-Schönberger: Vielen Dank.

Deutschlandradio Kultur: Es wird Winter. Also fangen wir mit der Grippefrage an. Was kann denn Google, was so manche Gesundheitsbehörde nicht kann?

Viktor Mayer-Schönberger: Google hat 2009 begonnen sich zu überlegen, ob sie nicht die Verbreitung der Grippe vorhersagen könnten, indem sie analysieren, was welche Leute von wo über Google im Internet suchen. Dazu haben sie historische Grippedaten verwendet und diese abgeglichen mit 45 Millionen der meist verwendeten Suchbegriffe, die an Google gesandt werden.

Deutschlandradio Kultur: Also, Google hat nicht gezielt gesagt, wir suchen nach Grippe oder Husten oder Halsschmerzen?

Viktor Mayer-Schönberger: Nein, sondern sie haben gesagt, irgendwelche dieser Begriffe werden vermutlich eine gute Vorhersage ergeben. Und sie haben alle 50 Millionen Begriffe durchgeprüft und sogar Kombinationen davon verwendet. Insgesamt haben sie fast eine halbe Milliarde an möglichen Kombinationen oder Modellen durchgeprüft und haben dann eines gefunden, das die Grippe sehr gut, sehr genau vorhersagen kann.

Deutschlandradio Kultur: Ich finde das insofern erstaunlich, denn Google hat zwar eine Menge an Daten, aber die Gesundheitsbehörden können ja auch auf die Daten von Ärzten zurückgreifen. Und die sind ja viel genauer und akkurater. Da geht es ja um wirkliche echte Fallzahlen.

Viktor Mayer-Schönberger: Ja, da geht es um echte Fallzahlen, aber Google hat sich gedacht, dass Leute, die selber von der Grippe betroffen sind oder in deren engem Familienkreis oder Freundeskreis jemand Grippe hat, dann doch sich vielleicht im Internet über die Grippe informieren. Und diese Verbindung, diese Korrelation haben sie ausgenutzt, um die Grippe vorhersagen zu können.

Das Positive daran ist, dass im Gegensatz zu den Gesundheitsbehörden, die immer zwei Wochen im Nachhinein vorhersagen können – "vorhersagen" unter Anführungszeichen –, wo die Grippe sich gerade befindet, Google den Blick auf die Verbreitung der Grippe nahezu in Echtzeit machen kann.

Deutschlandradio Kultur: Zwei Wochen im Rückblick, weil das so lange dauert bis die Ärzte die Zahlen melden?

Viktor Mayer-Schönberger: Weil es so lange dauert bis die Ärzte die Zahlen melden, die Zahlen zusammengefasst und analysiert worden sind.

Deutschlandradio Kultur: Jetzt ist es so, dass Google das scheinbar genauer voraussagen kann, obwohl sie selber gar keine Ahnung davon haben, was denn eigentlich die Grippe ist, wie die Ansteckungsgefahren sind et cetera. Das heißt, die wirklichen ursächlichen Zusammenhänge, die Kausalitäten sind völlig egal bei Big Data?

Viktor Mayer-Schönberger: Nein, sie sind nicht völlig egal, aber Big Data hat gewisse Beschränkungen in sich. Und eine dieser Beschränkungen ist, dass es uns nicht erklären kann, warum Dinge passieren. Es kann uns nicht die Kausalität und die Ursachen vor Augen führen, sondern es kann uns in der Regel nur die Korrelationen, nur Verbindungen, Verknüpfungen, Ähnlichkeiten vor Augen führen. Das heißt: Auf den Punkt gebracht kann Big Data uns das Was sagen, aber nicht das Warum.

"Big Data empfiehlt: Rechts abbiegen!"

Deutschlandradio Kultur: Sie haben jetzt gerade mit Ihrem Kollegen Kenneth Cukier das Buch geschrieben "Big Data: Die Revolution, die unser Leben verändern wird". Das ist gerade auf Deutsch erschienen. Versuchen wir noch ein bisschen anschaulicher zu machen, was Big Data alles bedeutet.

In dem Buch gibt es Beispiele, die wirken auf den ersten Blick ziemlich skurril, zum Beispiel der amerikanische Paketdienst, der seinen Fahrern empfiehlt, nach Möglichkeit lieber dreimal rechts abzubiegen als einmal links. – Warum denn so was?

Viktor Mayer-Schönberger: UPS verwendet Big Data, um die Zielführung in seinen Lieferwegen zu optimieren. Und da hat sich unter anderem herausgestellt, dass es manchmal besser ist, öfter rechts abzubiegen, denn ein Linksabbiegen erfordert, eine Gegenfahrbahn zu kreuzen. Das erhöht die Unfallgefahr. Das bedeutet in der Regel auch Wartezeit. Wartezeit bedeutet, dass vielleicht Motoren laufen müssen, die sonst abgestellt wären. Oder das verbraucht eben unnötig Energie. – So gibt es eben eine Softwareverbesserung, die dann manchmal einen kleinen Umweg vorsieht, aber das bedeutet, dass das Paket dann doch effizienter zum Zielpunkt kommt.

Deutschlandradio Kultur: Das ist nun ein Gedankengang, den wir nachvollziehen können, weil da eben doch eine Kausalität zu erkennen ist. Aber es gibt auch andere Beispiele, wie etwa die orangefarben lackierten Autos, die nur halb so viele Defekte aufweisen wie der Durchschnitt. Wenn ich jetzt mein Auto zum TÜV bringe und ich male es vorher orange an, habe ich nichts davon. Was bringt mir denn so eine Erkenntnis?

Viktor Mayer-Schönberger: Nichts. So eine Erkenntnis bringt Ihnen nichts, ist bestenfalls für die Unterhaltung geeignet. Viele andere Big-Data-Analysen geben uns aber einen Erkenntnisgewinn. Wenn die Lufthansa beispielsweise die Wetterdaten, die Sensoren ihrer Flugzeuge sammeln, nicht nach der Verwendung wegwirft, sondern aufzeichnet und nach der Landung an den Deutschen Wetterdienst weitermeldet und das dann dazu führt, dass die Wettervorhersage in Deutschland sich um sieben Prozent verbessert, dann ist das ein ganz praktischer Nutzen von Big Data.

Deutschlandradio Kultur: Das ist ja eine ganz typische Sache für Big Data, dass Daten nicht einmal benutzt werden für den Zweck, für den sie erhoben worden sind, sondern alles wird gespeichert, wird langfristig aufgehoben, ein drittes, viertes, fünftes Mal weiter verwendet. Steigt damit nicht auch die Gefahr der ungenauen Daten? Wenn ich riesige Datenmengen habe, das erhöht doch auch die Fehlerquoten.

Viktor Mayer-Schönberger: Ja und Nein. Wenn ich sehr wenige Datenpunkte habe, dann muss ich sehr genau darauf achten, dass jeder dieser einzelnen Datenpunkte mit hoher Genauigkeit aufgezeichnet und festgehalten worden ist. Habe ich hingegen zehn Milliarden Datenpunkte und tausend davon sind falsch, ist das von geringerer Bedeutung. Hier kann also die Masse an Daten schon die eine oder andere Ungenauigkeit ausgleichen. Und bei Big Data geht’s ja auch nicht immer um die exakte Vorhersage, sondern um die Möglichkeit, in Echtzeit die Richtung ein wenig vorherzusagen, in welche eine Entwicklung geht. Das hilft pragmatisch gesehen oftmals die richtigen Entscheidungen zu treffen mehr als wenn man zu spät ganz exakt was vorhersagen kann.

"Handel und Werbeindustrie interessieren sich besonders"

Deutschlandradio Kultur: Also, im Schnitt stimmt das, nicht unbedingt in jedem Einzelfall. Und damit sind wir auch schon bei den Problemfällen. Branchen, die sich besonders für diese Methode interessieren, sind die Werbeindustrie, auch der Handel. Ich habe das vor ein paar Jahren mal erlebt, da konnte ich plötzlich über Nacht bei keinem mir bekannten Versandhandel mehr irgendwas bestellen. Alle haben mir die Bestellung verweigert. Ich habe die dann angemailt. Da wurde mir gesagt: Ja, ihnen sei mitgeteilt worden, ich würde mit hoher Wahrscheinlichkeit die Rechnung nicht bezahlen – obwohl ich da seit Jahren Kunde war. Da fühlte ich mich ein bisschen ausgeliefert.

Viktor Mayer-Schönberger: Ja, das ist in der Tat ein großes Problem. Und dieses Problem wird im Zeitalter von Big Data nur noch schlimmer. In der Vergangenheit war es so, dass die Unternehmen eine relativ überschaubare Zahl von Datenpunkten verwendet haben, um vorherzusagen, ob Sie Ihre Rechnung zahlen werden oder nicht. Aber im Big-Data-Zeitalter werden für diese Vorhersagen tausende, ja vielleicht zehntausende Datenpunkte eines einzelnen Menschen verwendet. Da kann man dann gar nicht mehr sagen, weil du das, das und das getan hast in der Vergangenheit, schätzen wir dich so ein, sondern es ist eine Zusammenführung so vieler unterschiedlicher Datenquellen, dass nicht einmal diese Finanzdienstleistungsunternehmen beispielsweise selber wissen, wie es zu dem Ergebnis kommt.

Der Algorithmus ist also nicht mehr durchschaubar. Er ist intransparent. Und das bedeutet für die Konsumentin oder für den Konsumenten, dass sie hier diesem Algorithmus und dem Ergebnis eigentlich ausgeliefert sind. Dagegen müssen wir uns wehren.

Deutschlandradio Kultur: Wie können wir das machen?

Viktor Mayer-Schönberger: Im Buch schlagen wir vor, dass wir unter anderem die Hilfe von einer neuen Kaste von Experten brauchen, die wir Algorithmiker nennen, die entsprechend ausgebildet sind, sich auch mit Big-Data-Analysen auskennen und die dann in diese Algorithmen von Unternehmen Einblick haben können, auch Einblick bekommen, um dann zu ermitteln, ob diese Big-Data-Analyse tatsächlich stimmig ist, ob die korrekt ist oder ob hier etwas ganz falsch angewendet worden ist.

Denn ohne diese Experten werden wir als Individuen, als Betroffene nicht mehr die Möglichkeit haben, die Entscheidungen, die Unternehmen oder auch die Behörden über uns fällen, überprüfen zu können.

Deutschlandradio Kultur: Das hab' ich natürlich vor damals ein paar Jahren auch probiert, denn ich fühlte mich ja einigermaßen zu Unrecht beschuldigt. Ich habe dann also diese Unternehmen angeschrieben und sie gefragt: Wie um Himmels Willen kommt ihr darauf zu behaupten, ich würde meine Rechnungen nicht bezahlen? – Da wurde immer gesagt: Das ist unser Betriebsgeheimnis.

Viktor Mayer-Schönberger: Ganz genau. Und deswegen müssen die Algorithmiker eben die Möglichkeit haben, auch in Betriebsgeheimnisse Einblick zu bekommen. Sie sind selbst dann aber wieder der Verschwiegenheit verpflichtet. Das heißt also, da ist sichergestellt danach, dass dieses Betriebsgeheimnis nicht weitergegeben wird über den Algorithmiker hinaus. Aber wir brauchen eben solche sachverständigen Experten. Vertrauen ist gut, Kontrolle ist auch hier besser.

Deutschlandradio Kultur: Das betrifft nun Daten, die einzelne Menschen betreffen. Es gibt ja aber auch gigantische Datenbanken wie beispielsweise Sensormessungen aus Fabriken, aus irgendwelchen Rohrleitungen, zum Wetter oder auch intelligente Stromzähler. Sie warnen aber auch da und sagen, das lässt sich doch mit Methoden wieder auf einzelne Menschen zurückführen. – Wie denn das?

"Wir sind dem Algorithmus ausgeliefert"

Viktor Mayer-Schönberger: Ja, da muss man vorsichtig sein und, glaube ich, differenzieren. Es gibt in der Tat sehr viele Datenpunkte, die überhaupt nichts Personenbezogenes in sich drin haben. Die Temperaturfühler eines Flugzeuges, das durch die Gegend fliegt, haben keine personenbezogenen Daten, die dadurch gemessen oder erzeugt werden. Problematisch wird es, wenn scheinbar nicht personenbezogene Daten dann in der Zusammenschau doch wieder sich auf eine Person rückführen lassen.

Nehmen wir ein Beispiel: Wir haben Ortsdaten, Längen- und Breitengrad von einer Position. Wir haben dann Daten über Surfprofile, das Internetsurfprofil einer Person.

Deutschlandradio Kultur: Das liefere ich ja beides permanent mit meinem Smartphone.

Viktor Mayer-Schönberger: Mit dem Smartphone wird beides aufgezeichnet. Und ich habe beispielsweise ein Transaktionsprofil der Kreditkartenfirma und ich würde das alles zusammenführen. Dann muss ich den Namen der Person gar nicht wissen. Ich muss auch das Geburtsdatum oder die Sozialversicherungsnummer nicht wissen. Zusammengeführt ergibt es doch ein sehr genaues Bild der Person. Das ist wie, wenn man die einzelnen Puzzlestücke zusammenführt und sich dann plötzlich ein relativ genaues Bild einer Person ergibt.

Deutschlandradio Kultur: Sie schildern in Ihrem Buch auch ein Beispiel, das ist aus dem Jahr 2006. Da hat die Onlinefilmvideothek Netflix Daten online gestellt. Die waren anonymisiert. Die sollten zu Forschungszwecken dienen. Und in der Tat, es hat nur ein paar Tage gedauert, da haben dann Forscher schon einzelne Profile zugeordnet und konnten dann unter anderem auf eine Frau zugehen, die im Mittleren Westen in den USA lebte, eine konservative Gegend, eine Mutter, die im Geheimen lesbisch war und die natürlich ziemlich sauer war und dann Netflix verklagt hat.

Haben Sie den Eindruck, dass Firmen aus diesem Fall gelernt haben?

Viktor Mayer-Schönberger: Nur teilweise. Im Fall von Netflix war es so, dass diese Frau deswegen identifiziert werden konnte, weil sie die gleiche Filmkritik bei Netfix abgegeben hat und bei einem anderen Provider, sich dort aber angemeldet hatte. Dann konnte über die Übereinstimmung der inhaltlichen Kritik auf ihre Identität rückgeschlossen werden. Das war eben Netflix, das war diesem Provider nicht klar. Viele der Datensammler und Datenanalysten glauben immer noch, dass durch eine teilweise Anonymisierung das Datenschutzproblem kontrolliert werden kann. Da ist Aufklärung notwendig. Auch sieben Jahre später sind viele Unternehmen noch nicht so schlau, als dass sie wüssten, dass die Anonymisierung Grenzen hat.

Deutschlandradio Kultur: Netflix ist zumindest in Europa ein relativ kleines Unternehmen. Nehmen wir Unternehmen wie Amazon, die unsere Produktvorlieben genau kennen. Google kennt unser Surfverhalten, Twitter, was wir so denken und fühlen, Facebook eigentlich alles zusammen plus noch, mit wem wir eigentlich befreundet sind und unsere Beziehungen haben.

Graust es Ihnen da manchmal oder sehen Sie das Ganze eigentlich schon eher positiv, weil Sie sagen, na ja, wir können ja auch eine Menge daran an Positivem gewinnen?

Viktor Mayer-Schönberger: Nein, ich sehe Big Data durchaus positiv als mächtiges Werkzeug, das auch sehr viel Gutes bewirken kann. Aber ich sehe gleichzeitig, dass es heute noch nicht sinnvoll eingesetzt wird. Es wird für Zwecke verwendet, die nur teilweise Wert schaffen und Wert schöpfen. Die Aufgabe von Big Data ist ja viel größer als nur, die beste Werbebotschaft zu einer Zielperson hinzusenden, wie man manchmal den Eindruck hat, wie Big Data heute ausschließlich Verwendung findet.

Ich denke mir, hier müssen wir auch unsere Vorstellungswelt, auch die Unternehmen müssen ihre Vorstellungswelt öffnen, was mit Big Data alles gemacht werden kann.

Deutschlandradio Kultur: Zum Beispiel?

"Big Data wird unsere Leben verlängern"

Viktor Mayer-Schönberger: Zum Beispiel können wir mit Big Data ermitteln, wann ein Teil in unserem Auto bricht, noch bevor das Teil bricht. Wir können also vorhersagen, wenn ein Teil kaputt geht, und können dieses Teil dann reparieren lassen, noch bevor es kaputt gegangen ist, was dazu führt, dass wir eben keine Autopannen mehr auf der Straße haben. Wir können das Gleiche vielleicht auch auf den menschlichen Organismus umlegen. Wir können vielleicht vorhersagen, wann wir ein gesundheitliches Problem bekommen werden, und bevor wir dieses gesundheitliche Problem noch bekommen werden schon gegensteuern. Hier kann uns Big Data helfen, unser Leben zu verlängern und auch qualitativ besser zu machen. Ich bin davon überzeugt, dass die Generation meines Kindes eine sicher um fünf bis zehn Jahre verlängerte Lebenserwartung haben wird.

Deutschlandradio Kultur: Wegen Big Data?

Viktor Mayer-Schönberger: … wegen Big Data.

Deutschlandradio Kultur: Sie sprachen es gerade schon an. Auch das menschliche Verhalten wird vielleicht vorhersehbar, vorhersagbar. Dazu kommen wir gleich. Bleiben wir noch in einem kleinen Schritt davor bei dem Problemfeld, das wir den ganzen Sommer schon diskutieren, nämlich NSA und andere Geheimdienste, die uns sehr umfassend überwachen. Wenn wir das alles noch verbinden mit Big-Data-Methoden, hat dann diese neue Technologie überhaupt erst ermöglicht, dass eine solche Überwachung stattfinden kann?

Viktor Mayer-Schönberger: Nein, die Überwachung war früher auch schon möglich und ist natürlich über die digitalen Werkzeuge einfacher und kostengünstiger geworden. Aber es ist eine Sache, ein ganzes Volk, eine ganze Gesellschaft zu überwachen und sich dann die Festplatten oder Bänder irgendwo ins Archiv zu stellen. Und es ist eine ganz andere Dimension, diese Daten ganz konkret anzuwenden - anzuwenden, um konkretes menschliches Verhalten von Einzelpersonen vorherzusagen. Und genau dann wird’s problematisch. Das ist es, was wir bei NSA und PRISM derzeit sehen, nämlich dass hier versucht wird, über die Analyse dieser riesigen Datenmengen vorhersagen zu können, was wer wann machen wird und dann auf die Person zuzugreifen und die Person zur Verantwortung zu ziehen – nicht für das, was die Person schon getan hat, sondern für das, was der Algorithmus vorhersagt, was die Person in Zukunft tun wird.

Und wenn Sie jetzt an den Hollywoodfilm Minority Report denken, genau in diese Richtung bewegen wir uns. Und das ist die Gefahr.

Deutschlandradio Kultur: Ein Film, in dem eine Spezialeinheit der Polizei Menschen verhaftet, noch bevor die eine Straftat begehen.

Bleiben wir noch kurz bei der Geheimdienstüberwachung. Wenn Sie sagen, das Problem ist dann, wenn ich versuche das Verhalten vorherzusagen, dann habe ich den Verdacht, dass wir eigentlich den gesamten Sommer über das kleinere Problem diskutiert haben, nämlich dass meine ganze Kommunikation gespeichert wird, aber gar nicht über die Vorhersage.

Viktor Mayer-Schönberger: Das haben wir: über ein relativ überschaubares Problem, das auch problematisch ist, keine Frage. Aber es gibt noch ein Problem, das viel problematischer ist. Das ist eben diese prädiktive Vorhersage menschlichen Verhaltens, die dann dazu verwendet wird, Menschen zur Verantwortung zu ziehen für etwas nur Vorhergesagtes. Und das sehe ich viel problematischer und auch als etwas an, das gleichzeitig nahezu unvermeidlich ist, wenn wir keine entsprechenden Rahmenbedingungen schaffen, die das verbieten. Denn wir Menschen wollen immer Ursachen erkennen und stehen deshalb in der Gefahr, die Big-Data-Analyse ständig zu missbrauchen für Ursachenforschungszwecke, für Ursachenfindungszwecke, obwohl uns die Big-Data-Analyse mit ihren Korrelationen eben genau über die Ursache, über das Warum keinen Bescheid geben kann.

Deutschlandradio Kultur: Wenn wir jetzt aber den ganzen Sommer schon diskutieren, und es schon nicht hinbekommen, die Speicherung unserer Kommunikation zu verhindern, wie wollen Sie denn dann den zweiten Schritt verhindern, nämlich diese Vorhersage?

"Plötzlich verantwortlich für das, was der Computer sagt"

Viktor Mayer-Schönberger: Nun, ich denke, wir müssen hier ganz klar uns vor Augen führen, was auf dem Spiel steht. Wenn wir nicht verhindern, dass Big Date dazu missbraucht wird, Menschen zur Verantwortung ziehen für nur vorhergesagtes Verhalten, dann bewegen wir uns mit großen Schritten auf eine Welt zu, in der die menschliche Willensfreiheit und die menschliche Handlungsfreiheit nicht mehr erlaubt ist, in der Menschen für etwas verantwortlich gemacht werden, was lediglich der Computer vorhergesagt hat, und nicht für das, was sie tatsächlich getan haben. Das negiert unsere Fähigkeit selbst zu entscheiden, ob wir eine ganz bestimmte Handlung dann tatsächlich setzen oder nicht.

Hier ist also ein ganz zentraler Grundwert unserer Menschlichkeit in Gefahr.

Deutschlandradio Kultur: Gibt es das schon im Alltag, dass beispielsweise Polizei solche Methoden einsetzt?

Viktor Mayer-Schönberger: Also, in vielen Städten in den Vereinigten Staaten setzt die Polizei Big-Data-Methoden ein, um festzulegen, wann sie wo welche Streifendienste durchführt, mehr noch im Bereich der Entscheidung, ob jemand auf Bewährung freikommt oder nicht. Da setzen 30 von 50 Bundesstaaten in den Vereinigten Staaten Big-Data-Analyse ein. Die Big-Data-Analyse sagt die Wahrscheinlichkeit vorher, dass jemand, der auf Bewährung freigelassen wird, in einen Mordfall in den nächsten zwölf Monaten verwickelt ist.

Deutschlandradio Kultur: Wie funktioniert so etwas?

Viktor Mayer-Schönberger: Das ist ein Algorithmus und eine riesige Datenmenge, die hier entsprechend analysiert wurde, abgeglichen wurde mit historischen Daten und dann daraus entsprechende Vorhersagen entwickelt wurden. Und die Experten behaupten nun, diese Vorhersagen wären zu 70 oder 80 Prozent zutreffend.

Ich glaube nicht, dass das stimmt, aber selbst wenn es der Fall wäre, dann bedeutet es, dass in drei von zehn Fällen beispielsweise dieser Algorithmus fälschlich vorhersagen würde, dass jemand, der auf Bewährung freikommt, wieder ein Verbrechen begehen würde. Also, dann würde im Ergebnis jemand im Gefängnis zu bleiben haben, weil der Algorithmus falsch gerechnet hat.

Deutschlandradio Kultur: Aber die Entscheidung muss ja gefällt werden, ob jemand auf Bewährung herauskommt oder nicht. Ist dann nicht eine Software mit objektiven Maßstäben und Daten besser als ein willkürlich entscheidender Mensch?

Viktor Mayer-Schönberger: Jein. Es kommt darauf an, was ich erzielen will. Will ich eine effiziente Entscheidung erzielen, dann mag in manchen Fällen oder auch in diesem Fall der Algorithmus Vorteile bieten. Will ich aber auch dem Menschen zeigen, dass ihm Menschen zuhören und ihn als Menschen bewerten, dann reicht der Algorithmus nicht aus. Dann brauche ich auch ein menschliches Urteilsvermögen, das nicht nur die Datenlage aus der Vergangenheit in Betracht zieht, sondern auch dem Menschen in die Augen blickt und ein bisschen versucht zu erkennen, was dieser Mensch in der Zukunft leisten kann, was dieser Mensch in der Zukunft an Veränderungen durchmachen kann, um aus sich heraus zu wachsen und vielleicht anders zu handeln wie in der Vergangenheit.

Mit anderen Worten: Glaube ich nur dem Algorithmus, dann glaube ich der Vergangenheit. Glaube ich dem Menschen, dann eröffne ich – jedenfalls theoretisch – die Tür, an die Zukunft zu denken.

Deutschlandradio Kultur: Und vielleicht auch Besserungen zuzulassen.

Das war nun ein Beispiel, wo ein Algorithmus über einen konkreten Menschen entscheidet. Sie sagten aber gerade, dass die Polizei in den USA auf Streife geschickt wird und dann eine Software berechnet: Um die und die Tageszeit bist du mal besser auf der und der Straße. – Das ist doch in Ordnung, oder? Das geht ja nicht gegen Menschen.

Viktor Mayer-Schönberger: Das ist dann in Ordnung, wenn es nicht nur zur self fulfilling prophecy wird, also zur sich selbst bestätigenden Hypothese.

Deutschlandradio Kultur: Sie meinen, wenn ich nur da auf Verbrecherjagd gehe, fange ich auch nur da welche?

Viktor Mayer-Schönberger: Ganz genau. Wenn ich nur den Schlüssel dort suche, wo es hell ist, und nicht dort, wo ich ihn verloren habe, dann werde ich ihn auch nicht finden. Also, da müssen wir wirklich vorsichtig sein, dass uns die Daten auch nicht in die Irre führen, dass wir hier nicht in die Diktatur der Daten verfallen und den Daten mehr Bedeutung zumessen, als ihnen eigentlich zukommt. Hier bedarf es einer gewissen Sensibilität für die Grenzen der Datenanalyse.

Deutschlandradio Kultur: Das heißt, Viktor Mayer-Schönberger, der Kenner von Big Data ist ein großer Daten- und Zahlen-Misstrauer?

"Empirische Auswertungen bedürfen einer menschlichen Kontrolle"

Viktor Mayer-Schönberger: Nein, das bin ich nicht. Ich wünsche mir, dass wir in Zukunft sehr viele der Entscheidungen, die wir im täglichen Leben zu treffen haben, auf besserer empirischer und sachlicher Grundlage treffen können, weil bessere Entscheidungen bedeuten, dass wir aller Voraussicht nach besser leben. Viele Millionen von Menschen sind gestorben aufgrund von Vorurteilen, aufgrund von Ideologien und aufgrund von Glaubenssätzen. Also, hier wünsche ich mir eine sachlichere Grundlage. Aber gleichzeitig müssen wir verstehen, dass diese sachliche Grundlage nicht die gesamte Wirklichkeit abbilden kann und immer Grenzen hat und deswegen immer einer menschlichen Kontrolle bedarf. Und diese menschliche Kontrolle ist von zentraler Bedeutung, gerade wenn und weil wir der Empirik mehr Raum zumessen.

Deutschlandradio Kultur: Zu der menschlichen Kontrolle möchte ich auch zum Ende unseres Gespräches kommen. Sie haben vorhin schon gesagt, wir brauchen künftig den Beruf des Algorithmikers, der quasi kontrollierend eingreift, wenn ein Unternehmen vielleicht etwas Schindluder betreibt oder auch einfach nur pfuscht.

Was für Möglichkeiten gibt es noch? Zum Beispiel, wenn ich dann feststelle, der Algorithmus hat mich da also zu Unrecht irgendeiner Sache beschuldigt, wer haftet denn dann? Derjenige, der das programmiert hat, derjenige, der es anwendet, derjenige, der die Daten erhoben hat – wer haftet?

Viktor Mayer-Schönberger: Da zeigen Sie uns auf, wie wenig weit unsere Gesellschaft und unsere gesellschaftlichen Mechanismen noch entwickelt sind für dieses Big-Data-Zeitalter. Hier brauchen wir also neue Mechanismen. Wir brauchen neue entsprechende Schutzvorschriften. Vielleicht müssen wir auch neue Grundrechte schützen oder alte Grundrechte besonders bewehren, wie zum Beispiel die menschliche Handlungsfreiheit.

Und dann bedeutet es auch, dass wir als Bürgerinnen und Bürger, aber auch als Konsumentinnen und Konsumenten die eine oder andere Entscheidung für oder gegen ein bestimmtes digitales Werkzeug überdenken sollten.

Vor fünf Jahren hatten wir vielleicht nur Facebook zur Verfügung als soziale Netzwerkplattform. Heute gibt es viele andere Möglichkeiten miteinander zu kommunizieren. Und das wenden gerade die jungen Leute ganz bewusst an, viel bewusster als zuvor. Ich habe gelesen, dass gerade gestern 350 Millionen Fotos von jungen Leuten nicht über Facebook ausgetauscht wurden, sondern über eine neue Plattform, die heißt Snapchat. Und über Snapchat verschwinden die Fotos nach einer gewissen Zeit auch wieder. Diese Informationen sind also flüchtiger. Und das verwenden die Digital Natives ganz bewusst, um sich in dem Big-Data-Zeitalter vielleicht auch ein wenig individuell schützen zu können.

Deutschlandradio Kultur: Wenn Sie sagen, bewusst auf etwas verzichten, auf was, Herr Mayer-Schönberger, verzichten Sie?

Viktor Mayer-Schönberger: Ich verzichte darauf, auf Facebook alles preiszugeben, was meine berufliche Seite betrifft. Ich verwende Facebook also eher als Instrument der privaten Kommunikation. Und ich verwende andere Applikationen, sei es LinkedIn oder Twitter für die berufliche Kommunikation. Ich trenne hier diese Informationsströme. Das hilft mir nicht gegen die NSA, aber das hilft mir gegen die eine oder andere kommerzielle Auswertung.

Deutschlandradio Kultur: Herr Mayer-Schönberger, haben Sie vielen Dank für das Gespräch.


Viktor Mayer-Schönberger, Kenneth Cukier: Big Data - Die Revolution, die unser Leben verändern wird
Redline Verlag, München 2013
300 Seiten, 24,99 Euro - als Ebook 21,99 Euro

Tacheles

weitere Beiträge

Das könnte sie auch interessieren

Entdecken Sie Deutschlandradio Kultur