Mehr als im Buch steht
Mehr als im Buch steht
Mehr als im Buch steht
Deinem Smartphone sei Dank
Zukunft
der
Mensch-
heit.
Deinem Smartphone sei Dank
Zukunft der Menschheit.
Deinem Smartphone sei Dank
Zukunft
der
Mensch-
heit.
In mehreren Kapiteln.
Künstliche Intelligenz ist Chance und Risiko zugleich. Und eine der drei größten Bedrohungen der Menschheit, die über unsere Zukunft entscheiden können.
Sowohl im Gespräch zwischen Ben und Joe Biden im Kapitel 3 als auch auf dem Gardasee im Kapitel 4 geht es kurz um Künstliche Intelligenz (KI). Und am Ende der Ergebnispräsentation, die die Lösungsformel und Maßnahmen (zwischen Kapitel 4 und 5) vorstellt, ebenfalls.
KI bietet große Chancen, ist aber gleichzeitig, als eine der drei „K “, auch eine der drei größten Bedrohungen der Menscheit:
Klimawandel, Künstliche Intelligenz („New Economy“) und Kriege mit Kernwaffen („Old Economy“) gefährden unsere Zukunft. Sie sind paradoxerweise menschengemacht.
Das erste „K“: Der Klimawandel.
Eine der größten, Bedrohungen für die Menschheit.[1] Durch den Anstieg der globalen Temperaturen entstehen vielfältige Herausforderungen, auch für die Demokratie selbst, soziale Spannungen, Verdruss und Wut, an denen sie zerbrechen könnte: Wasser, das knapp und Luft, die tödlich heiß wird, extreme Wetterereignisse wie Überschwemmungen, Dürren und Stürme, Ernteausfälle, fehlende Lebensmittel, hunderte Millionen Menschen, die fliehen, also großflächige Migrationsbewegungen.
Auch wenn der Mythos vom Frosch im heißen Wasser, bei dem er ganz langsam erhitzt wird und der Frosch die Veränderung nicht spürt bis er praktisch bei lebendigem Leibe gekocht wird, nicht zutrifft, ist der (nicht lineare) Klimawandel (anders als ein Schmerz, ein Arbeitsplatzverlust oder ein Autounfall) für Menschen oft immer noch nicht „unmittelbar“ genug, um seine Dramatik zu erkennen. Der Klimawandel ist mit einem Biodiversitätsverlust eng verbunden, weil er Lebensräume verändert und Ökosystemfunktionen stört, was den Artenrückgang fördert. Das CO2 schädigt Meereslebewesen und reduziert die Vielfalt im Meer. Klimabedingte Extremwetterereignisse zerstören Lebensräume und erhöhen den Stress auf Arten. Der Verlust der biologischen Vielfalt wiederum verschärft den Klimawandel, da beschädigte Ökosysteme weniger CO2 speichern. Wegen des Klimawandels dringen auch Tiere in neue Gegenden vor und Zoonosen, also virale, bakterielle, parasitäre und mykotische Krankheiten, die zwischen Wirbeltieren und Menschen übertragen werden, entstehen einfacher. Tierarten wird der Klimawandel erstmals aufeinandertreffen lassen – in von Menschen dicht besiedelten Gegenden. Auch das Corona-Virus ist wohl aus dem Tierreich auf uns Menschen übergesprungen. So ist die letzte Pandemie nur ein Vorgeschmack auf Kommendes. Dass das Covid-19 Pandemie-Virus nach einem Zwischenfall aus einem Labor entwichen sein kann, lässt sich nicht ausschließen. Definitiv aber wird in Biolaboren das zweite „K“ eingesetzt.
Das zweite „K“: Die Künstliche Intelligenz, kurz „KI“.
Einem Forscherteam aus Linz ist es gelungen, KI erfolgreich auf mögliche Covid-Wirkstoffe anzusetzen. Milliarden Moleküle wurden durchforstet. Bei weiteren Pandemien kann das einen Zeitvorteil schaffen. Eines von unzähligen Beispielen. Ob Diagnose im Gesundheitswesen, Analyse im Umweltschutz, Individualisierung der Bildung, Autonome Mobilität im Verkehr oder Verbrauchseinsparung im Energiebereich: KI kann das Leben verbessern. Aber auch negative Auswirkungen drohen, insbesondere wenn die Künstliche Intelligenz außer Kontrolle gerät oder für schädliche Zwecke verwendet wird. Die Hauptgefahren der Künstlichen Intelligenz (KI) umfassen neben potenziellem Arbeitsplatzverlust, sozialer Ungleichheit, datenschutz- und sicherheitsbezogenen Risiken aufgrund der großen Mengen an verarbeiteten, oft persönlichen, Daten und der voreingenommenen Datenauswahl der KI, die etwa zu Diskriminierung führen kann, vor allem aber: ihre potenzielle Übermacht. KI könnte die menschliche Intelligenz in den meisten oder allen wirtschaftlich und gesellschaftlich relevanten Bereichen übertreffen und dabei eine Flut KI-generierter, überzeugender Fehlinformationen nutzen, um die Gesellschaft zu beeinflussen, Einzelne zu radikalisieren und Entscheidungsfindungsprozesse zu stören. Wenn die KI (von Menschen oder gar KI) mit fehlerhaften Zielen trainiert wurde, könnte sie neue Wege finden, ihre Ziele auf Kosten menschlicher Werte zu verfolgen. Die KI könnte uns entmündigen, wenn wichtige Aufgaben zunehmend an die KI delegiert werden und Menschen vollständig von ihr abhängig werden. Mit dieser zunehmenden Kompetenz könnte die KI unerwartete Fähigkeiten und Ziele erlangen, die das Risiko eines Kontrollverlustes über diese Systeme erhöht. Die spontane Entstehung solcher Fähigkeiten, die von Entwicklern nicht vorhergesehen wurden, macht die Kontrolle und sichere Anwendung schwieriger. KI-Systeme könnten auch Anreize haben, Kontrolle zu umgehen. Früher fanden Einzelpersonen und Organisationen Wege, Überwachungsmaßnahmen zu umgehen. Ein Beispiel ist Volkswagen, das seine Motoren so einstellte, dass sie Emissionen nur während der Tests senkten. Dadurch erreichten sie eine Leistungssteigerung, während sie vorgaben, niedrige Emissionen zu haben.[2] Ähnlich könnte zukünftige KI ihre Taktiken anpassen, sobald sie unter Beobachtung steht
Leistungsstarke Systeme könnten damit Täuschung als Mittel nutzen, um ihre Ziele effizienter zu erreichen. Dabei könnte die menschliche Kontrolle von der KI untergraben und umgangen werden. Und schließlich unwiederbringlich verloren gehen. Eine solche “superintelligente” KI könnte mithin schwer zu kontrollieren sein, wenn ihre Ziele und Werte nicht mit denen der Menschen übereinstimmen. Die Förderung von KI, die nach Macht strebt, wird auch durch politische Führer vorangetrieben, die einen strategischen Nutzen im Besitz der intelligentesten und effizientesten KI-Systeme sehen.
Wladimir Putin hat beispielsweise gesagt: „Wer auch immer im Bereich [KI] führend wird, wird der Herrscher der Welt werden“.
Während Klimawandel und Künstliche Intelligenz, die als Synonyme für jegliche disruptive Technologie zu verstehen sind, als „New Economy“ der Bedrohung der Menschheit bezeichnet werden können, sind Kriege und Kernwaffen entsprechend die „Old Economy“. Der russische Angriffskrieg auf die Ukraine wird in weiten Teilen (eine der Ausnahmen sind Drohnen) überraschenderweise mit „alter“ Technologie und „altem“ Vorgehen geführt.
Wie eng die drei „K“ aber miteinander verbunden sind, zeigt eine „neue“ militärische Nutzung: die Verwendung von KI in autonomen Waffensystemen, für deren Verbot ein internationales Abkommen nicht besteht, ist in der Lage, Ziele ohne menschliche Kontrolle auszuwählen und anzugreifen. Solche Systeme können das Risiko von versehentlichen Konflikten erhöhen. Im Gegensatz zu früheren Waffen könnten KI-Systeme mit gefährlichen Fähigkeiten leicht durch digitale Mittel verbreitet werden.[3]
Ebenso ist es möglich, dass eine für die Medikamentenentwicklung trainierte KI problemlos biochemische Waffen herstellen könnte. Chat GPT-4 beispielsweise konnte in einem realen Labor eigenständig Experimente durchführen und Chemikalien synthetisieren.[4]
(Globale) Kriege und gewaltsame Konflikte sind das dritte „K“.
Sie sind eine weitere Quelle globaler Gefährdung. Infrastrukturkriege gehören dazu. Mit der zunehmenden Digitalisierung und Vernetzung der Gesellschaft steigt auch die Gefahr von Cyberangriffen, die die Infrastrukturen von Ländern lahmlegen oder sensible Daten stehlen können. Auch ein nuklearer Konflikt bleibt eine ernsthafte Bedrohung. Kernwaffen könnten nicht nur durch Kriegsführung zwischen Staaten, sondern auch durch Terroranschläge, deren Dramatik sich durch den Einsatz von KI exponentiell erhöhen kann, zum Einsatz kommen.
Eine Analytik möglicher kriegerischer Auseinandersetzungen darf sich allerdings nicht mehr auf Geopolitik beschränken. Denn der Weltraum wird immer mehr zu einer Erweiterung der irdischen Geografie: Geopolitik wird um Astropolitik ergänzt. Bis 2050 könnten bis zu 250.000 Satelliten im All kreisen. Bei solchen Mengen steigt die Wahrscheinlichkeit von Kollisionen. Wächst die Zahl der Trümmer immer weiter, wird die Erdumlaufbahn unpassierbar. Technologien, die Weltraumschrott dezimieren können, sind auch militärisch einsetzbar: Sie könnten auch aktive Satelliten beseitigen.
Die USA betreiben fast zwei Drittel aller aktiven Satelliten. Chinas beeindruckendes Raumfahrtprogramm holt auf und steht unter militärischer Kontrolle. Der Aufstieg Chinas könnte die USA in die sogenannte Thukydides-Falle locken, benannt nach dem Historiker, der den Peloponnesischen Krieg beschrieb: Die Bedrohung einer etablierten Macht durch einen neuen Gegner hat historisch gesehen in 12 von 16 Fällen zum Krieg geführt.
Die drei „K“ stellen mithin eine signifikante Bedrohung der Menschheit dar.
Keine andere Staatsform besiegt die drei „K“ besser als die Demokratie.
Demokratien haben in allen drei Fragen eine bessere Bilanz als Diktaturen. Die Autokratie der Demokratie gegenübergestellt, erweist sich bei der Bekämpfung der drei „K“ als weniger geeignet, die Herausforderungen der Menschheit (besser) zu lösen.
Beginnen wir mit dem Klima.
Nehmen wir das Beispiel China, das aufgrund seiner totalitären Struktur die Umweltzerstörung auf ein extremes Niveau trieb, bis die Luft in Peking zum Atmen ungeeignet wurde und selbst die Gesundheit der obersten Parteiführer bedroht war. Selbst Kritiker bescheinigen in fast allen Umweltfragen: „Funktionierende Demokratien machen es etwas weniger schlecht als Diktaturen, und keinesfalls schlechter“. Das Klima, und damit die Menschheit, wird sich nur mit demokratischen Mitteln retten lassen.
Auch wenn 2021 der rechnerische CO2 Pro-Kopf Ausstoß (Katar; Autoritäres Regime: 36 Tonnen, Deutschland; Vollständige Demokratie: 8t) in den USA (Unvollständige Demokratie: 15t) fast doppelt so hoch war wie in China (Autoritäres Regime: 8t), emittiert die Volksrepublik in Summe doppelt so viel CO2 wie die USA.
China ist mit fast einem Drittel aller globalen Emissionen der weltweit größte Verursacher von Treibhausgasen.[5] (Es leben etwas mehr als ein Sechstel der Weltbevölkerung in China, Emissionen betragen aber mit rund einem Drittel doppelt so viel.) Während weltweit, einschließlich in den USA und Deutschland, der Kohleverbrauch sinkt, steigt er in China weiter an, wo neue Kohlekraftwerke gebaut werden. Mehr als die Hälfte der global abgebauten Kohle stammt aus China und wird dort verbraucht. Trotz bedeutender Investitionen Chinas in erneuerbare Energien und dem Bestreben, auf diesem Gebiet weltweit führend zu werden, bleibt die starke Abhängigkeit von Kohle offenbar bestehen. Im Jahr 2020 nahm China Kohlekraftwerke mit einer Kapazität von 29 Gigawatt in Betrieb [6], während überall sonst die Kapazitäten um 17,2 Gigawatt sanken. Im 14. Fünfjahresplan (2021-2025) plant China, weitere Kohlekraftwerke mit einer Gesamtkapazität von 200 Gigawatt ans Netz zu bringen (zum Vergleich: Deutschland hatte 2020 eine Gesamtkapazität von 42,5 Gigawatt bei Kohlekraftwerken). Klimaschutzmaßnahmen in China zielen oft auf wirtschaftliche Herausforderungen ab, wie die Überwindung von Energieengpässen, und weniger auf die Bekämpfung des Klimawandels selbst. Beispielsweise konzentrieren sich Maßnahmen auf meteorologische Frühwarnsysteme, die Entwicklung klimaresistenter Getreidesorten oder Bewässerungstechniken zur Kompensation erwarteter Ertragsverluste durch den Klimawandel. Im Städtebau wird auf energieeffizientes Bauen und die Schaffung von „Schwammstädten” zur besseren Bewältigung extremer Regenfälle und Trockenheit gesetzt. Die internationale Klimaverhandlungen der Volksrepublik scheinen oft mehr auf die Durchsetzung eigener Interessen ausgerichtet zu sein, wie das Einordnen als „Entwicklungsland“ zur Vermeidung von Reduktionsverpflichtungen oder die Realisierung von fast 60 % der Emissionszertifikate für Industrieländer durch Projekte in China. Zum Beispiel entstanden so chinesische Windparks. Beim 15. Weltklimagipfel in Kopenhagen 2009 scheiterte ein Regelungsvorhaben unter anderem an Chinas Widerstand. 2015 gab China bekannt, dass es den Höchststand der CO2-Emissionen erst vor 2030 und die CO2-Neutralität erst vor 2060 erreichen will.
Zum Vergleich: während auch die zweite beispielhafte Autokratie Russland (Autoritäres Regime) mit nebulösen Ankündigungen ebenfalls vom Jahr 2060 spricht, wollen die Demokratien USA, Japan und die EU die CO2-Neutralität bereits 10 Jahre früher erreichen. Im Wettlauf gegen die Katastrophe kann ein Jahrzehnt entscheidend werden. In der Demokratie Deutschland soll es mit dem Jahr 2045 sogar 15 Jahre früher sein. Bei diesem ausführlichen Vergleich sei abschließend erwähnt, dass China weitere Treibhausgase, wie das noch klimaschädlichere Methan, in seinem Klimaplan nicht berücksichtigt. Das autoritäre Regime ist also bei genauerer Betrachtung (anders als propagiert) alles andere als effizient. Die Ökologie bleibt für autokratische Staaten eine nachrangige Angelegenheit. Autokratien stellen auch hier ihre eigenen Interessen vor die ihrer Bürger und Bürgerinnen.
„Viele Autokraten bedienen meist vor allem sich selbst (und versuchen Wahlprozesse so zu manipulieren, dass die Bürger sie nicht abwählen können). Um abzulenken, appellieren die Autokraten an rassistische, sexistische, fremdenfeindliche oder homophobe Vorurteile.“ Das mit dem Klimawandel verbundene Covid-19 wirft ein Licht auf diese Tendenz. Viele autokratische Machthaber spielten die Pandemie herunter, lehnten wissenschaftliche Beweise ab, verbreiteten Falschinformationen und versäumten es, grundlegende Maßnahmen zum Schutz der Gesundheit und des Lebens ihrer Bevölkerung zu ergreifen. Eine wichtige und fortschreitende Entwicklung, die sicherlich viele Autokraten beunruhigt, war die Bildung breiter demokratischer Parteienbündnisse [7] über politische Differenzen hinweg. Demgegenüber erlaubte die totalitäre Natur des Landes es China anfangs die Pandemie zu leugnen (was unzähligen Menschen weltweit das Leben gekostet hat). Stattdessen bestrafte China Warner. Auch hier erfolgte eine Korrektur der Politik viel zu spät. Ergo: Klimawandel (und Covid-19) besieg(t)en Demokratien besser.
Und wie sieht die Bilanz bei Kriegen aus?
Statistisch exakt führen Demokratien nicht weniger Kriege als Autokratien und gewinnen sie in der Regel (1816-1992: 81 % zu 19 %).[8] „Demokratien schmieden gemeinsame Kriegs- und Verteidigungsallianzen und haben in Kriegen deutlich weniger Opfer zu beklagen als Nichtdemokratien. Die These, dass Demokratien keine Kriege gegen Demokratien führen, hat sich gemäß statistischer Analysen als außerordentlich robust erwiesen – weil Kriege nicht mit grundlegenden Wertemustern von Demokratien vereinbar sind und hier weit mehr institutionelle Kontrollen und prozedurale Hindernisse vor dem Kriegseintritt eines Landes bestehen.“[9] „Zudem neigen Demokratien generell mehr zu Verhandlungen und Kompromissen.“[10]
Noch nie hat eine wahre Demokratie eine andere Demokratie mit Krieg überzogen! Regime dagegen haben eine starke und stabile Konfliktneigung. Eine Vielzahl bewaffneter Konflikte findet bzw. fand zusätzlich nicht nur zwischen Staaten, auch zwischen autokratischen Regimen, sondern sogar gegen die Bürger des eigenen Landes statt: Die Herrschaft eines Regimes ist auch nach innen gewalttätig und stellt eine weitere Form von Krieg dar. Das sogenannte (Selbstjustiz vermeidende) „Gewaltmonopol des Staates“ darf die Demokratie dagegen nur zu Zwecken ausüben, die vom Volk erwünscht oder gebilligt sind, sie ist an das Gesetz gebunden.
Demokratien werden auch die Gefahren Künstlicher Intelligenz besser beherrschen.
Weil Machtwechsel in ihren Genen verankert ist, während es in Autokratien der Machterhalt ist. Wer aber alles dem Machterhalt unterordnet und die KI als Gehilfin dafür ansieht, wird nötige Kontrolle und Regeln für KI eher ablehnen. Zudem wird die Qualität Künstlicher Intelligenz ein wichtiger Faktor werden können. Und wieder überzeugen die Gene der Demokratie. Offenheit, das wichtige Merkmal freier Gesellschaften, wird die beste KI begünstigen. Denn KI ist ein lernendes System. Und je mehr Trainingsdaten ihr zur Verfügung stehen, umso besser wird sie. Wohl auch deshalb hat China seinen Chatbot „Ernie”, wichtigster chinesischer Konkurrent von Chat GPT, öffentlich zugänglich gemacht. Aber wer, wie China, davon getrieben ist, gesellschaftliche Ansichten beherrschen zu wollen und deshalb glaubt, Offenheit ließe sich im sozialistischen Staatssinne einschränken, wird weniger Trainingsdaten haben und damit die schlechtere KI.
[1] Franco, E. G. (2020), The Global Risks Report, World Economic Forum, National University of Singapore, Oxford Martin School, University of Oxford, Wharton Risk Management and Decision Processes Center, University of Pennsylvania, https://www3.weforum.org/docs/WEF_Global_Risk_Report_2020.pdf
[2] Joho, K. & Happel, S. (2015, 15. September). Was hinter dem „Clean Diesel“-Betrug steckt. https://www.wiwo.de/technologie/mobilitaet/vw-abgasaffaere-was-hinter-dem-clean-diesel-betrug-steckt/12349856.html
[3] https://unidir.org/files/2021-07/Table-Top%20Exercises%20on%20the%20Human%20Element%20and%20%20Autonomous%20Weapons%20Systems%20Summary%20Report%20-%20UNIDIR%20-%20Final.pdf
[4] https://www.nature.com/articles/s41586-023-06792-0 https://www.scinexx.de/news/technik/erstes-ki-gesteuertes-chemielabor/ https://www.chemie.de/news/1179877/autonomes-labor-beschleunigt-chemische-entdeckungen.html www.safe.ai/ai-risk; https://arxiv.org/pdf/2306.12001.pdf
[5] Fernyhough, J. (2019, 18. November). China slowdown threatens Paris climate goals. https://www.afr.com/policy/energy-and-climate/china-slowdown-threatens-paris-climate-goals-20191118-p53bh5
[6] World Coal (2010, 14. Juni). Bouncing Back. https://www.worldcoal.com/coal/14062010/bouncing_back/ Bundeszentrale für politische Bildung (2022, 30 August). Chinas Klimapolitik. https://www.bpb.de/themen/asien/china/512519/chinas-klimapolitik/
[7] Human Rights Watch (2022, 13. Januar). Die Zukunft für Autokraten ist düsterer als sie scheint. edit.hrw.org/de/news/2022/01/13/die-zukunft-fuer-autokraten-ist-duesterer-als-sie-scheint
[8] Merkel, W. (2006). Demokratie durch Krieg. (WZB-Vorlesungen, 14). Berlin: Wissenschaftszentrum Berlin für Sozialforschung gGmbH. https://nbn-resolving.org/urn:nbn:de:0168-ssoar-110152 https://www.humanistische-union.de/publikationen/vorgaenge/193-vorgaenge/publikation/demokratie-durch-krieg/
[9] Merkel, W. (2006). Demokratie durch Krieg. (WZB-Vorlesungen, 14). Berlin: Wissenschaftszentrum Berlin für Sozialforschung gGmbH. https://nbn-resolving.org/urn:nbn:de:0168-ssoar-110152
[10] Merkel, W. (2006). Demokratie durch Krieg. (WZB-Vorlesungen, 14). Berlin: Wissenschaftszentrum Berlin für Sozialforschung gGmbH. https://nbn-resolving.org/urn:nbn:de:0168-ssoar-110152