Wissenschaft ohne Gott auf Abwegen

hansfeuerstein

Der Mensch verknüpft seine Vorstellung von Evolution mit eigener Machbarkeit.


https://ansage.org/us-technologiepioniere-warnen-kuenstliche-intelligenz-ist-das-ende-der-menschheit/

In seiner zivilisationsgeschichtlichen Tragweite bislang womöglich noch massiv unterschätzt, ist die Menschheit offenbar endgültig in ein völlig neues Zeitalter, das der KI – spätestens, seit das  kalifornische Unternehmen OpenAI im November das Künstliche-Intelligenz-Chatbot ChatGPT herausbrachte. Den meisten Menschen sind die potenziellen und höchstwahrscheinlichen Auswirkungen dieser nächsten digitalen Revolution noch gar nicht bewusst, aber die erschreckenden Möglichkeiten der KI bergen tatsächlich die Gefahr, dass der Mensch nicht nur ökonomisch überflüssig wird, weil Abermillionen von Arbeitsplätzen wegfallen werden, sondern dass er sich endgültig eine Technik herangezüchtet hat, die ihn irgendwann selbst als Feind ansieht und bekämpfen wird.

Diese Woche führten die beiden Tech-Unternehmer Aza Raskin und Tristan Harris ein ebenso lehrreiches wie beängstigendes öffentliches Gespräch darüber, welche nicht mehr beherrschbaren Gefahren von der sich rasend schnell weiterentwickelnden und dabei selbstoptimierenden KI-Technik ausgehen. Raskin und Harris erklärten offen, dass sie vor einer dystopischen Zukunft warnen. Die KI-Ingenieure hätten die „Büchse der Pandora“ geöffnet. Bereits die noch vergleichsweise einfache KI-Technik, die in vielen Geräten installiert sei, habe zu Informationsüberflutung, Sucht, Sexualisierung von Kindern, Aufmerksamkeitsdefiziten, Fake News und Demokratieabbau geführt. Die neue KI sei bereits jetzt in der Lage, Sprache in Bilder zu übersetzen und Hirnaktivitäten zu lesen. Zudem könne sie innere Monologe und Bilder rekonstruieren.

Bilder lügen doch

Eine weitere Gefahr drohe dadurch, dass die Technologie gehackt werden könne. Es drohe allgegenwärtige Überwachung; Sicherheitslücken könnten leicht identifiziert und ausgenutzt werden. Die Deepfakes-Technik sei bereits heute in der Lage, Stimmen nach nur drei Sekunden Ton so täuschend echt nachzuahmen, dass damit Sicherheitssysteme überlistet werden könnten. Sämtliche darauf basierenden Technologien, Überprüfungen und Kontrollmaßnahmen könnten noch in diesem Jahr zusammenbrechen und obsolet werden. Niemand könne schon heute dem, was er noch sehe oder höre, trauen. “Bilder lügen nicht”, akustische und andere Sinneswahrnehmungen sind nicht mehr verlässlich, da in KI-manipulierter Aufbereitung von echtem Input nicht mehr zu unterschieden.

Die Entwicklung habe auch schwerwiegende Auswirkungen auf die militärische und nationale Sicherheit von Staaten; den sich daraus zwangsläufig ergebenden Herausforderungen seien diese schon jetzt kaum mehr gewachsen. KI-Modelle würden immer schneller wachsen, sich mit teils exponentieller und geometrischer Geschwindigkeit weiterentwickeln und dabei neue, möglicherweise emergente Fähigkeiten erwerben, die noch gar nicht überblickt werden könnten. Durch die Fragen, die Menschen ihnen stellten, würden sie immer weiter trainiert. Der Zustand der “technologischen Singularität”, also die die Schwelle zur Entstehung eines eigenen Bewusstseins, könnte unmittelbar bevorstehen oder jederzeit überschritten werden.
Verstörende Warnungen

Aus den verstörenden Erörterungen von Raskin und Harris wird deutlich, wie sehr dem Menschen bereits jetzt die Kontrolle über die KI entglitten ist. Die Hauptsorge bestehe dabei darin, dass die Technik jede menschliche Intelligenz übertrifft. Dass die beiden Tech-Pioniere mit dieser Einschätzung nicht alleine stehen, zeigt auch die Tatsache, dass Elon Musk und andere führende Forscher auf dem Gebiet der KI bereits vor einiger Zeit einen offenen Brief unterzeichnet haben, in dem sie eine mindestens sechsmonatige Unterbrechung der KI-Forschung fordern, um zunächst gemeinsame Sicherheitsprotokolle zu erarbeiten. In aller Deutlichkeit und drastischen Worten machen die Unterzeichner klar, dass eine unkontrollierte und dem Menschen mindestens ebenbürtige KI das “baldige Ende der Menschheit” bedeuten könne. Mit der Entstehung von ChatGPT sei ein „unkontrollierter Wettlauf“ um die Entwicklung immer leistungsfähigerer Maschinen losgetreten worden. Teilweise könnten sich die künstlichen Intelligenzen schon jetzt mit dem Menschen messen. „Niemand – nicht einmal ihre Erfinder – kann diese Maschinen verstehen, vorhersagen oder zuverlässig kontrollieren“, heißt es weiter in dem Brief.

Die italienische Regierung ist da bereits einen Schritt weiter – und hat nimmt die Gefahr als bislang erstes westliches Land extrem ernst: Sie hat ChatGPT komplett verboten. Als eher vorgeschobener Grund wurde genannt, dass der Betreiber OpenAI die Anwender nicht ausreichend über die Weiternutzung und Verwendung ihrer erlangten Daten aufkläre. Der italienische Datenschutzbeauftragte Guido Scorza erklärte: „Der Punkt ist, dass ich, wenn ich nicht weiß, wer was mit meinen persönlichen Daten macht, nicht in der Lage bin, die Verwendung meiner persönlichen Daten zu kontrollieren, um meine Rechte auszuüben.“
Entwicklung lässt sich wohl nicht mehr aufhalten

Zudem gebe es keine Filter, die verhinderten, dass Kinder im Alter unter 13 Jahren für sie „absolut unangebrachte“ Informationen angezeigt bekämen. Der Kunstgriff, die KI-Ausbreitung über das Datenschutzrecht zu blockieren, wird die technologische Revolution allerdings nicht aufhalten, sondern allenfalls kurz verzögern. Wie ernst es Italien jedoch meint, zeigt sich in der Aufforderung an OpenAI, binnen 20 Tagen Maßnahmen gegen die Vorwürfe zu präsentieren. Ansonsten droht dem Unternehmen eine Strafe bis zu 20 Millionen Euro.

Dem eigentlichen Kern des Problem kommen die Bedenken der Europäischen Verbraucherschutzorganisation (BEUC) näher: Diese hat die EU-Kommission und die EU-Mitgliedstaaten dringend aufgerufen, ChatGPT und ähnliche Chatbots darauf zu untersuchen, wie diese Menschen „täuschen und manipulieren“ könnten. Das Bewusstsein darüber, welche Gefahren von KI ausgehen, scheint nun doch rapide zu wachsen; ob die Politik allerdings mit der gleichzeitigen KI-Weiterentwicklung Schritt halten kann, ist mehr als fraglich, denn diese wird sich definitiv nicht mehr zu stoppen lassen. Erfahrungsgemäß werden Menschen – allen Verboten und Regulierungen zum Trotz – jede Technik nutzen, die sie erreicht haben, und diese stetig weiterzuentwickeln versuchen, und dabei stetig neue Grenzen überwinden. Einmal erreichte wissenschaftliche Durchbrüche lassen sich nicht mehr rückgängig machen. Die Menschheit wird von nun an mit dem Damoklesschwert leben müssen, ihrer Selbstabschaffung durch eine überlegene Superintelligenz entgegenzutaumeln. Dass die Zivilisation an an der KI zugrundegehen könnte, ist jedenfalls ein wesentlich realistischeres Szenario als das allseits gepredigte Klima-Armageddon.