Vom autonomen Handeln – Computer als historische Akteure?

Unsere Autos lügen uns an,1 Google will E-Mails automatisch bewerten und beantworten2 und autonome Waffensysteme erschrecken namhafte KI-Forscher.3 Übernehmen die Maschinen also mehr und mehr die Kontrolle über unser Tun, wie es in unzähligen Science-Fiction-Werken bereits ausgiebig prophezeit wurde? Und wandeln sich Computer demnach in der kulturellen Wahrnehmung erneut, werden sie also, nachdem sie schon als Maschine, Werkzeug und Medium metaphorisiert werden konnten,4 zudem noch zu unabhängigen Akteuren?

3069259560_88100ac360_z

Expocomic20081129_049 by Alonso Javier Torres under Creative Commons License 2.0

Solche Vorstellungen sind natürlich auch jenseits der schriftstellerischen Deutung nicht neu und wurden recht unterschiedlich konnotiert. So wurde die Möglichkeit einer menschliches Handeln imitierenden und quasi „denkenden“ Maschine von Alan Turing im Jahr 1950 vorgedacht und damit die theoretische Basis für die Entwicklung Künstlicher Intelligenz (KI) gelegt. Bereits fünf Jahre vorher beschrieb auch Vannevar Bush mit seinem „Memex“ ein Gerät, dass zwar vordergründig lediglich als Werkzeug des menschlichen Geistes fungieren sollte, jedoch zur Unterstützung des Nutzers auch autonome „Assoziationen“ von Informationen vornehmen können sollte, was letztlich eben auch „intelligente“ Fähigkeiten voraussetzt.5

Sieht man sich die eingangs erwähnten Beispiele noch einmal etwas genauer an, wird zwar schnell klar, dass hier noch keine tatsächlich autonom denkenden Maschinen zugange sind, die Grenze zwischen rein unterstützender und doch schon entscheidender Teilhabe von Computern im Alltag jedoch fließend wird. Hieraus ergeben sich zunehmend auch Fragen nach der juristischen und/oder moralischen Verantwortung für menschliche Handlungen, die von Entscheidungen digitaler Technik beeinflusst sind. Diese Fragen sollten diskutiert werden, bevor auf Künstlicher Intelligenz beruhende Technik überhaupt die Entwicklungslabore verlassen darf, wie am Beispiel der selbstfahrenden Automobile deutlich sichtbar wird.6 Solche Projekte klingen zwar nach wie vor wie Zukunftsmusik, erweisen sich aber doch mehr und mehr als mit enormen finanziellen Mitteln ausgetragene Kämpfe um die Macht im KI-Sektor, die nicht mehr auf staatlich finanzierter (und damit kontrollierter) Forschung, sondern auf dem Wettstreit der Big Player der digitalen Privatwirtschaft, Amazon, Google und Facebook, beruhen.7 Noch gibt es (zumindest offiziell) noch keine unabhängig handelnden Roboter, die als singuläre Einheiten wahrnehmbar sind. Ansätze künstlicher Intelligenz können sich aber eben auch viel subtiler in den großen Dimensionen der vernetzten Datenverarbeitung bemerkbar machen und koppeln so auf das menschliche Handeln zurück.

Die (angeblich) immer schlauer werdenden Algorithmen jedenfalls beeinflussen und steuern uns bereits jetzt in einem kaum mehr hinterfragten Ausmaße, sei es, indem uns das Mobiltelefon auf kürzestem Wege durch die Straßen lenkt (und nebenbei zur Verbesserung der Nutzerfreundlichkeit natürlich unser Bewegungsprofil aufzeichnet), beim Online-Einkauf unsere Interessen auf das Genaueste analysiert und mit entsprechenden Angeboten unterfüttert und verstärkt werden sollen oder Kreditentscheidungen von Banken fast nur noch aufgrund der Empfehlung der Analysesoftware erfolgen.

Über das dabei auftretende Unbehagen angesichts solch subtiler Fremdbestimmung hinaus stellen sich nun auch Fragen nach einer möglichen historischen Relevanz dieser Verquickung menschlichen und computerinduzierten Handelns. Analog dem Problem der juristischen Verantwortlichkeit entsteht hierbei eine Grauzone, in der vor allem bei automatisierter Kommunikation oftmals nicht mehr nachvollziehbar sein wird, ob nun beispielsweise Mensch oder Maschine für einen bestimmten Text verantwortlich war. Wenn schon seit längerem Sportberichte automatisiert erstellt werden können,8 warum nicht auch Arbeitszeugnisse, Krankenakten oder gar Liebesbriefe? Ist der Verfasser solcher Texte dann der User, der die Software per Tastendruck gestartet hat, derjenige (falls überhaupt vorhanden), der den fertigen Text in irgendeiner Weise nachträglich sanktioniert, die Programmiererin des zugrunde liegenden Algorithmus oder doch schon die Rechenmaschine selbst? Wie können künftige Historiker dann mit solchen Quellen umgehen? Einfach ignorieren, weil irgendwie nicht menschengemacht, oder – übertrieben formuliert – durch eine Übertragung klassischer biographischer Bewertungsmuster auf die Maschine? Wird aus Geburtsort und –datum dann Herstellungsort und das Jahr der Inbetriebnahme des Systems, gekoppelt mit Informationen über Updates oder Programmversionen? Und wird dann der soziale oder psychische Kontext eines Menschen in der Konnektivität und den Logfiles des Rechners wiedergespiegelt?

Diese Fragen lassen sich nicht ohne weiteres beantworten, solange keine tatsächlich autonom handelnden (und lernfähigen) Maschinen in unsere Wahrnehmung treten. Womöglich sind solche Systeme dann auch letztlich so konzipiert, dass sich die eben gestellten Fragen weitgehend erübrigen. Oder wird im schlimmsten Falle die Geschichtsschreibung dann einfach ebenfalls automatisiert vorgenommen? Diese Frage ist gar nicht so weit hergeholt, wie sie auf den ersten Blick scheinen mag. Die Analyse und Bewertung digitaler Daten kann eben grundsätzlich nur mit Hilfe von Computern erfolgen. Dadurch wird der Rechner zu Werkzeug und Untersuchungsobjekt in einem und steht immer als Vermittlungs-und Bewertungsinstanz zwischen den eigentlichen Daten und dem Benutzer, sei es durch die reine Dekodierung und Darstellung oder häufiger sogar durch eine automatische Vorstrukturierung der gewünschten Informationen. Insofern beeinflussen die Computer auch jetzt schon direkt die historische Arbeit und man sollte sich dessen zumindest bewusst sein.

  1. http://www.spiegel.de/netzwelt/netzpolitik/software-betrug-wie-vw-autos-das-luegen-beibrachte-a-1054604.html []
  2. http://gmailblog.blogspot.de/2015/11/computer-respond-to-this-email.html []
  3. http://futureoflife.org/open-letter-autonomous-weapons/ []
  4. Vgl. ausführlich Dennis Mocigemba: Ideengeschichte der Computernutzung : Metaphern der Computernutzung und Qualitätssicherungsstrategien (Dissertationsschrift 2003), https://opus4.kobv.de/opus4-tuberlin/frontdoor/index/index/docId/706 []
  5. http://www.theatlantic.com/magazine/archive/1945/07/as-we-may-think/303881/ []
  6. Vgl. zum Beispiel http://www.technologyreview.com/view/542626/why-self-driving-cars-must-be-programmed-to-kill/ oder auch https://www.dmv.ca.gov/portal/dmv/detail/vr/autonomous/disengagement_report []
  7. Dazu unter anderem Andrew Keen: Das Digitale Debakel, München 2015, S. 103-107. []
  8. http://www.giga.de/extra/software-themen/tipps/stats-monkey-erstellt-journalistische-texte/ []

2 Gedanken zu „Vom autonomen Handeln – Computer als historische Akteure?

  1. Pingback: Einige interessante Beiträge der letzten Zeit aus Philosophie und Wissenschaft #22 | Denkstil

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.