Die Verwandlung der Utopie in Waffentechnologie
China strebt nach der Weltherrschaft im Bereich künstliche Intelligenz. Damit beginnt ein technologischer und moralischer Rüstungswettlauf.
Illustration: Peter Gut
Eigentlich war es eine gute Nachricht für Amerika, global besehen befand die «New York Times» allerdings: «Es sieht nicht gut aus für die Menschheit.» Ende Mai hatte eine künstliche Intelligenz (KI) namens Alpha Go in dem malerischen chinesischen Städtchen Wuzhen den 19-jährigen Go-Spieler Ke Jie besiegt – die Nummer eins der Weltrangliste. Entwickelt wurde die spielmächtige Software von der Firma Deep Mind, die Googles Dachgesellschaft Alphabet im Januar 2014 für rund 500 Millionen Dollar Facebook vor der Nase weggekauft hatte.
An dem Brettspiel Go beissen sich herkömmliche KI-Programme, die mit roher Rechenpower Millionen von Spielzügen durchprobieren, die Zähne aus, darunter der von dem taiwanischen Informatiker Feng-hsiung Hsu entwickelte IBM-Schachcomputer Deep Blue, der 1997 den damaligen Schachweltmeister Garri Kasparow pulverisierte. Im Vergleich zu Go ist Schach simpel, die Zahl der möglichen Go-Spielzüge ist grösser als die Anzahl der Atome im Universum. Der chinesische Profi-Go-Verband verlieh Alpha Go respektvoll den höchsten Meistergrad, den 9. Dan.
Militarisierung der Technologie
Aber der Sieg der Maschine hatte weit mehr als nur sportliche Folgen. Er löste in China eine Art Sputnik-Schock aus. Als die Sowjetunion 1957 überraschend den ersten Satelliten in eine Erdumlaufbahn schoss, befiel die Amerikaner Panik, technologisch ins Hintertreffen zu geraten. Es folgte eine nationale Euphorie, in der gewaltige Budgets für Bildung, Forschung und Raketenwissenschaft verfügbar gemacht wurden, der erste Mensch den Mond betrat und aus einem unscheinbaren Nebenprojekt später das Internet hervorging.
Privatunternehmen betreiben militärische Forschung, ob sie wollen oder nicht.
Am 18. Juli 2017, keine zwei Monate nach der Go-Niederlage, verabschiedete der Staatsrat der Volksrepublik China einen 12-Jahres-Plan mit dem erklärten Ziel, das Land bis 2030 zum «führenden und globalen Innovationszentrum für künstliche Intelligenz» zu machen. Auch die im Hintergrund stattfindende Militarisierung der Technologie erinnert an das Wettrennen um die Vorherrschaft im Weltraum. KI-Urgestein Ray Kurzweil, heute Leiter der technischen Entwicklung bei Google, sieht zwar keine Probleme mit hyperintelligenten, böswilligen Maschinen, die über die Menschheit herfallen könnten. Da niemand so sehr an Kontrolle und Gehorsam interessiert ist wie Militärs, wäre deren KI-Gerätschaft, zumindest was rebellische Selbstbemächtigung angeht, mit Sicherheit diejenige, vor der man sich am wenigsten fürchten müsste.
Stattdessen hat Kurzweil ein realistischeres Risiko im Visier: die rapide Wandlung der KI in eine Waffentechnologie. Im Juli 2015 hatte eine Gruppe amerikanischer Robotiker und KI-Forscher in einem offenen Brief ein Verbot für autonome Waffen gefordert. «Wir haben es geschafft, chemische und biologische Waffen zu verbieten, warum sollte das nicht auch mit autonomen KI-Waffen möglich sein?» Aber anders als Anthrax-Sporen können etwa Drohnen sowohl für friedliche als auch für destruktive Zwecke eingesetzt werden. Die gleiche Technologie, die Facebook so gut darin macht, Fotos mit Tags zu versehen, kann Sicherheitsbehörden dabei helfen, Spione zu enttarnen. Privatunternehmen betreiben nun militärische Forschung, ob sie wollen oder nicht.
Die nationale Macht der Zukunft
Mit seinem Streben nach KI-Weltherrschaft startet China nicht nur einen technologischen, sondern auch einen moralischen Rüstungswettlauf. Die zweitgrösste Volkswirtschaft der Welt will massiv investieren, um heimische Unternehmen, Behörden und Kampfkräfte an die vorderste Front einer Technologie zu befördern, die wahrscheinlich in absehbarer Zeit Grundlage allen Computerns sein wird. Man ist sich transnational darüber einig, dass KI die Schlüsseltechnologie ist, von der nationale Macht in Zukunft getragen werden wird. Über das Wie herrschen unterschiedliche Auffassungen.
Währenddessen wird in den USA die Wissenschaftsförderung zurückgefahren. In Haushaltsentwürfen der Trump-Regierung stehen einer Reihe von Forschungseinrichtungen, die traditionell KI-Forschung betreiben, deutliche Kürzungen ins Haus. Michael Rosbash, einer der diesjährigen Medizinnobelpreisträger, warnte in seiner Dankesrede vor den schädlichen Folgen der Einwanderungs- und Wissenschaftspolitik von Präsident Trump. Anlässlich einer Konferenz über KI und globale Sicherheit im November in Washington zeigte sich auch der Alphabet-Vorstand und vormalige Google-Geschäftsführer Eric Schmidt alarmiert. China könne den Vereinigten Staaten schon in wenigen Jahren davoneilen: «Sie sind gerade dabei, KI-Technologie auf kommerzielle und militärische Ziele auszurichten, und zwar mit allem, was dazugehört.»
«Sorgen bereiten mir Menschen, die denken wie Maschinen.» (Tim Cook)
Indem er die Vorteile intelligenter Systeme für die amerikanischen Streitkräfte hervorhob («Warum sollte man die Einsatzbereitschaft trainierter Soldaten mit Wacheschieben vergeuden, wenn ein Computer Ausschau halten kann, der nie müde wird?»), verwies Schmidt zugleich auf das grundlegende Menschenbild der künstlichen Intelligenz. Für Marvin Minsky, einen der Begründer des Begriffs, war Gott kein besonders fähiger Ingenieur gewesen – der Mensch sei eine Fehlentwicklung mit überflüssigen Schwächen: Er braucht Schlaf, lernt nur mühsam und ist sterblich. Das Hirn sei eine «meat machine», eine Fleischmaschine – wobei es im Englischen zwei Wörter für Fleisch gibt, meat und flesh; letzteres meint lebendiges Fleisch, mit meat dagegen kann man machen, was man will.
Die KI-Gemeinde verbreitet seit den fünfziger Jahren die Auffassung, sie könne etwas Besseres und Perfekteres erschaffen als den Menschen, der nur ein evolutionärer Übergang zwischen dem Affen und einer zwar von Menschen geschaffenen, zugleich aber den Menschen übertrumpfenden neuen Existenzform sei. KI macht die Maschine zum Mass für den Menschen. «Das zentrale Dogma dieses Menschenbilds», gab der 2008 verstorbene Informatiker Joseph Weizenbaum zu bedenken, «ist die Idee, dass jeder Aspekt des Lebens computable sei.»
Apple-Chef Tim Cook aktualisierte den kritischen Ansatz während der World Internet Conference, die Anfang Dezember wiederum im chinesischen Wuzhen stattfand: «Viel ist gesagt worden über die möglichen Risiken von künstlicher Intelligenz, aber mir bereiten nicht Maschinen Sorgen, die denken wie Menschen. Sorgen bereiten mir Menschen, die denken wie Maschinen.» In einem Grusswort zu der Veranstaltung verteidigte Chinas Staats- und Parteichef Xi Jinping die massive Internetkontrolle seines Landes. China wolle seine Tür zum weltweiten Netz offen halten, aber «Cybersouveränität» sei wichtig für die Entwicklung der digitalen Welt. Jede Nation habe das Recht, ihren Anteil am Internet selbst zu verwalten, zu kontrollieren und zu zensieren.
Am Ende der Subversion
Um das demokratische Herrschaftsmodell voranzubringen, muss eine westliche Regierung bei der offensiven Nutzung von KI in einigen wichtigen Punkten bremsen, während autoritäre Regime jede Möglichkeit nutzen werden, Subversion im eigenen Land zu erkennen und auszuschalten, ohne Rücksicht auf Privatsphäre und Bürgerrechte.
Gegenwärtig soll die digitale Infrastruktur Chinas mithilfe künstlicher Intelligenz zu einer gigantischen Menschenverbesserungsmaschine aufgerüstet werden. Im Aufbau befindet sich ein umfassendes soziales Punktesystem mitsamt zugehörigem Sensorium, durch das jeder einzelne Bürger zu gesellschaftskonformem und tugendhaftem Verhalten angeleitet werden soll. Kritik, Unbescheidenheit oder etwa mangelnde Umweltschutzfreude werden mit Punkteabzug geahndet. Bei allzu negativer Bilanz wird dem Delinquenten verboten, eine Wohnung zu kaufen, oder ein Arbeitsplatz verweigert. Die massenhaft anfallenden Kontrolldaten lassen sich nur noch maschinell bewältigen.
Auch digitale Grossunternehmen wie Facebook, Google und Amazon investieren Hunderte Millionen in KI, um die immer riesigeren Datenmengen, die Nutzer und Kunden hinterlassen, nach monetarisierbaren Mustern zu durchsuchen und Beziehungsgeflechte zwischen Individuen zu erkennen. Wenn Menschen und Waren künftig von selbstfahrenden Autos transportiert werden, wird dieser Datenstrom massiv weiteranschwellen. Schon heute erfassen etwa 100 Sensoren die Steuerdaten eines modernen Autos und lassen etwa Aussagen über die Risikobereitschaft des Fahrers zu, die von Versicherungen genutzt werden könnten, um defensiven Fahrern günstigere Tarife anzubieten – ein Punktesystem à la Kapitalismus.
Das alte Prinzip Abschreckung?
Der KI-Fahrplan Pekings sorgte auf der ganzen Welt für Reaktionen. In einer live gestreamten Rede zum Schulbeginn erhob der russische Staatspräsident Wladimir Putin künstliche Intelligenz in den Rang einer zentralen Leitströmung: «Wer auch immer in diesem Bereich führend sein wird, wird die Welt beherrschen.» KI sei die Zukunft, nicht nur für Russland, sondern für die gesamte Menschheit. In Deutschland forderte der deutsche CDU-Politiker Thomas Jarzombek «sofort einen Masterplan, in dem Forschung und Wirtschaft zusammenarbeiten». Diese Technologie sei «so entscheidend, dass wir sie nicht China überlassen dürfen, wo es ein ganz anderes Menschenbild gibt».
Putin hat erkannt, dass ein Gleichstand der KI-Fähigkeiten die Welt sicherer machen würde. Es ist das alte Prinzip der Abschreckung: Wenn die gegenseitige Vernichtung droht, nehmen die Grossmächte davon Abstand. Wobei sich Macht in Zukunft nicht mehr in geografischen Dimensionen ausdrücken muss – kleinere Länder, die sich einen algorithmischen Vorsprung erarbeiten, könnten ohne weiteres mit den Grossen mithalten. Vielleicht aber sehen unsere künstlichen Intelligenzen dann, wenn wir sie ethisch trainieren, auch internationale Zusammenarbeit und die gemeinsame Nutzung von Ressourcen von selbst als optimale Strategie an.
Der Schriftsteller und Internetexperte Peter Glaser ist 1957 in Graz geboren. Er lebt als Publizist in Berlin.
