Autonome Maschinen

Der Preis der Bequemlichkeit

Defekte Leiterplatte
Der Maschine ausgeliefert? Je autonomer Computer handeln, desto mehr droht digitale Unmündigkeit, meint der Informatiker Stefan Ullrich © imago/blickwinkel
Von Stefan Ullrich · 10.03.2015
Flugzeuge landen vollautomatisch, die Polizei lässt sich vom Computer berechnen, wo der nächste Einbruch stattfindet, und bald werden unsere Autos von selbst fahren. Diese Bequemlichkeit bezahlen wir mit digitaler Unmündigkeit, warnt der Informatiker Stefan Ullrich.
Eine Stunde lang war der Luftraum über London im Dezember fast vollständig gesperrt. Die Software im System der britischen Flugsicherheit enthielt einen kleinen, aber tückischen Programmier-Fehler. Der für Süd-England zuständige System-Flight-Server schaltete sich ab, so dass die Flug-Lotsen keine aktuellen Daten über Starts und Landungen mehr erhielten. Dies ist nicht der erste Vorfall dieser Art – und es wird auch nicht der letzte sein. Die Macht des vernetzten Universalcomputers und vor allem: seine Fehlbarkeit erschrecken Techniker wie Laien jedes Mal aufs Neue.
Das letzte Wort hat das System
Vor zwanzig Jahren verunglückte ein Flugzeug bei der Landung auf dem Warschauer Flughafen, zwei Menschen starben. Auf der nassen Fahrbahn rutschte der Airbus A320 über den Schutzwall hinaus und zerbrach. Auch wenn es mehrere Ursachen gab, wog ein Punkt besonders schwer: Die Piloten wollten zwar ganz richtig die Schubumkehr als Bremshilfe einsetzen – aber die Software des so genannten Fly-By-Wire-Systems überstimmte ihre Entscheidung. Und weil in jedem modernen Flugzeug die Befehle an Höhen- oder Seitenruder durch elektrische Impulse weitergegeben werden, wird das Flugzeug letztendlich vom Bordcomputer und dem einprogrammierten Software-System gesteuert.
Die Unfallstatistik spricht ja durchaus für den Einsatz von Computern. Selbstfahrende Automobile zum Beispiel würden bei korrekter Programmierung mit Sicherheit viel weniger Unfälle verursachen als ein Mensch – reizüberflutet, womöglich müde oder gestresst. Doch wer übernimmt dann die Verantwortung für Unfälle? Ohne darüber nachzudenken übergeben wir die Kontrolle über einen tonnenschweren Gegenstand auch an denjenigen, der Kontrolle über die eingebetteten Prozessoren und die Software besitzt.
Ständige Angriffe auf den PC aus dem Internet
Der digital Naive mag glauben, dass solch komplexe Systeme fehlerfrei und unangreifbar programmiert werden. Doch in Wahrheit steht zu befürchten, dass sich im Mobilitätsbereich ähnliche Ungeheuerlichkeiten ereignen werden, wie wir sie tagtäglich bei unseren Heimcomputern beobachten können. Unsere E-Mail-Kommunikation ist völlig ungeschützt, Festplatten manipulieren ohne unser Wissen unsere Daten – es ist einfach geworden, den ständig vernetzten Personal Computer über das Internet anzugreifen. Selbst (und gerade!) große Firmen nehmen Sicherheitslücken sehenden Auges in Kauf, weil ihnen im Unglücksfall kein echter, eigener Schaden droht. Datenschutz und Datensicherheit für die Kunden? Egal, sie haben schließlich den allgemeinen Nutzungsbedingungen zugestimmt.
Hinzu kommt, dass auch Sicherheitsbehörden oder Geheimdienste nicht an grundrechtskonformen, also einbruchssicheren Computersystemen interessiert sind: Sie wollen ihren Cyber-Polizisten und Cyber-Agenten stets Zugriff auf die Systeme aller Menschen ermöglichen. Automobile sind mit ihren über einhundert Prozessoren längst rollende Computersysteme und damit ideale Überwachungsinstrumente. Und wer weiß, vielleicht rollen eines Tages die umprogrammierten Autos der tatsächlichen oder mutmaßlichen Verbrecher schnurstracks zum nächsten Gefängnis und parken dort ordentlich in drei Zügen ein.
Die digitale Ahnungslosigkeit der Politik ist "grob fahrlässig"
Die von uns so begehrte Bequemlichkeit ist eine Droge, erkauft durch digitale Unmündigkeit. Erkauft von uns Bürgern, erkauft von Konzernen, erkauft durch die Politik. Die bekommt endlich ihre berechenbaren, kontrollierbaren Bürger, die Wirtschaft kann nun Geistiges als Eigentum verkaufen und der moderne Mensch pflegt seine Sozialkontakte bequem vom Sofa aus. Alle machen mit – doch es gibt einen Unterschied, ob sich der müde Privatmensch der Gedankenlosigkeit hingibt oder der gewählte Volksvertreter. Die von führenden Politikern zur Schau getragene Ahnungslosigkeit in digitalen Angelegenheiten mag vor einigen Jahren noch amüsant gewesen sein, im Informationszeitalter ist sie grob fahrlässig.
Wir als Gesellschaft sollten bei aller Mobilität kurz innehalten, um uns bewusst für oder gegen den Einsatz bestimmter Technologien zu entscheiden. Wir müssen uns beeilen, denn noch können wir die meisten Geräte einfach vom Netz trennen oder gar ausschalten. Wer weiß, wie lange noch.
Stefan Ullrich versteht sich als kritischer Diplom-Informatiker. Er ist Sprecher der Fachgruppe „Informatik und Ethik" der Gesellschaft für Informatik und forscht derzeit an der Humboldt-Universität zu Berlin.





Der Informatiker Stefan Ullrich
Der Informatiker Stefan Ullrich© Copyright: Frl. v. Phön
Mehr zum Thema