DE | FR
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.
Bild

Frank Lantz hat ein süchtig-machendes Spiel entworfen. Darin spielt man eine künstliche Intelligenz. bild: franklantz.net

Der Untergang der Menschheit beginnt mit einem Klick auf «Make Paperclip»

Unser Autor hat zwei Tage lang (!) ein Browser-Game gespielt. Wer jetzt denkt, das sei pure Zeitverschwendung, hat vermutlich recht. Doch verbirgt sich hinter «Paperclip» ein äusserst spannendes Gedankenexperiment.

Seluan Ajina



Ich gebe es zu: Während ich diese Zeilen tippe, läuft das Spiel im Hintergrund noch. Mindestens eine Hirnhälfte ist immer bei meinen Büroklammern, die mich die letzten zwei Tage nicht mehr losliessen. Darüber gelesen habe ich in einem Artikel von The Verge, der warnte, dass es absolut süchtig mache.

Der Autor empfahl, sich gleich zwei Tage frei zu nehmen, weil man sich sowieso auf nichts Anderes mehr konzentrieren könne. Und er hatte recht. In den vergangenen 48 Stunden habe ich ständig gecheckt, was meine Büroklammern machen. Aber alles der Reihe nach.

Am 9. Oktober hat Frank Lantz, Leiter des New York University Game Center, sein neuestes Spiel veröffentlicht: Paperclips.

Darin geht es, wie der Titel schon andeutet, um Büroklammern. Genauer gesagt um deren Anhäufung. Das Spiel funktioniert über diese Website, es sind weder Downloads noch Installationen notwendig. Man kann es gut auf dem Handy spielen.

Paperclips gehört zum Genre der so genannten Clicker Games – es ist also ein Spiel, das man lediglich mit Klicks bedient. Keine Pfeiltasten, keine Tastenkombinationen. Wer hätte gedacht, dass der Untergang der Menschheit mit einem Klick auf «Make Paperclip» beginnt?

Letzte Warnung!

Bild

screenshot: decisionproblem.com

Ziel des Spiels ist am Anfang die möglichst simple Herstellung von Büroklammern. Nachdem man zu Beginn noch alles selber steuern muss, übernehmen bald so genannte Autoclipper die Arbeit und produzieren die Büroklammern selbstständig.

Bald muss man einen Hedgefund nach seinem Gutdünken programmieren, damit die Gewinne wachsen. Die Kapitalismuskritiker können ihre Fahnen aber gleich wieder einpacken, denn Geld ist lediglich Mittel zum Zweck auf dem langen Weg bis hin zur Eroberung des Universums.

Inzwischen sind mehrere Stunden vergangen. Um Dollars geht’s zu diesem Zeitpunkt schon lange nicht mehr. Bald hat man genügend Paperclips, um Hypnodrones freizuschalten. Das ist ein autonomes Netzwerk aus Drohnen, die verteilt über den gesamten Globus Büroklammern produzieren.

Jetzt ändert sich alles. Drohnen sammeln Ressourcen und stellen selber Draht her. Damit häufen sich noch mehr Büroklammern an. Aber nicht nur das: Die Drohnen können entweder zur Arbeit (Work) oder zum Denken (Think) getrimmt werden. Beides hat seine Vor- und Nachteile.

Konzentrierte man sich bis anhin auf möglichst effiziente Produktionsabläufe, ahnt man spätestens jetzt, dass das noch nicht die ganze Wahrheit des Spiels ist. Maschinen, die denken und lernen? Aber ganz sicher. Machine Learning und Big Data sind keine Unbekannten mehr in der heutigen Zeit. Es überkommt einen dieses mulmige Gefühl, dass dieses Gedankenexperiment gar nicht so abwegig ist.

Ein paar Quadrillionen Clips später wird man vor die Wahl gestellt: Die Zelte auf der Erde abbrechen und ins Universum expandieren? Schwer vorstellbar, dass da einer widerstehen kann. Immerhin hat man bis dahin bereits ca. 8 Stunden gespielt.

Mit dem Eintritt in den Kosmos ändert sich noch einmal alles. Neu muss man die Entdeckung des Weltalls vorantreiben, wofür man Raketen mit Arbeiter-Drohnen in den Orbit schiesst. Je nach Missionsdesign können sich die Drohnen besser ansiedeln und neue Büroklammer-Fabriken bauen. Die Zahl der gefertigten Büroklammern liegt inzwischen bei mehreren Quadrilliarden. Nur so viel: eine Quadrilliarde ist eine 1 mit 27 Nullen (im Spiel: Octillion genannt, weil amerikanische Schreibweise).

Neuerdings muss man auch Space Battles für sich entscheiden, weil Feinde (so genannte Drifter) den Bestand der eigenen Drohnen dezimieren. Nur wenn man richtig klickt, ist das Überleben der «Spezies» gesichert. Wer es schafft, 100 Prozent des Universums zu entdecken, ist am Ende des Spiels. Und wird von einer fremden Entität in ein neues Universum eingeladen.

Accept oder Reject heisst es nun auf dem Bildschirm. Annehmen und woanders neu anfangen oder zurückweisen und das Spiel beenden? Wahrlich, ein Entscheidungsproblem. Ich wandte mich also an den Entwickler und bat um Hilfe. Die Antwort von Lantz liess nicht lange auf sich warten: Reject.

Nach dem Klick auf Reject fährt man eine Errungenschaft nach der anderen herunter. Adé Quantencomputer, Ciao Space Exploration Programm, Auf Nimmerwiedersehen ihr lieben Drohnen. Das Spiel endet so, wie es angefangen hat: Die letzten Hundert Büroklammern produziert man quasi wieder von Hand, mit hundert Klicks.

Und dann steht sie da, die magische Zahl: 30 Nonillionen. Das ist eine 30 mit 54 Nullen. So viele Paperclips kostet das Universum.

Die Spielidee ist eine Anlehnung an ein Gedankenexperiment, das der schwedische Philosoph Nick Bostrom im Jahr 2003 formuliert hat. Bostrom gilt als Koryphäe in der Welt der Künstlichen Intelligenz. Das Gedankenexperiment soll zeigen, dass eine scheinbar harmlose Künstliche Intelligenz (KI) zu einer existentiellen Gefahr werden kann, wenn man vergisst, sie mit menschlichen Werten auszustatten.

Böse Absicht kann man der KI nicht unterstellen – sie hat lediglich ein Ziel, und das verfolgt sie mit eiskalter Rationalität. Beispielsweise könnte eine KI das Ziel verfolgen, die Zahl von Büroklammern zu maximieren. Dafür würde sie sämtliche Ressourcen auf dem Planeten verwenden und später sogar die gesamte Materie des Sonnensystems.

Doch bis es soweit ist, durchläuft die KI eine Intelligenz-Explosion. Intelligenz wird dabei verstanden als Fähigkeit zur Optimierung der eigenen Intelligenz. Um noch mehr Clips herzustellen, schafft die Superintelligenz neue Systeme, die intelligenter sind als die vorherigen, die Prozesse noch besser optimieren und noch bessere Technologie entwickeln können. Dieser Ablauf wiederholt sich bis zu einem Punkt, an dem die Künstliche Super-Intelligenz die Menschen um Weiten übertrifft.

Das Gedankenexperiment ist deshalb beeindruckend, weil es zeigt, dass ein scheinbar sinnloses Unterfangen wie die Herstellung und Anhäufung von Büroklammern diese Ausmasse annehmen könnte. Gesetzt der Fall, der (ursprüngliche) Algorithmus der KI würde menschliche und ethische Grundsätze nicht berücksichtigen. Die menschliche Existenz ist definiert durch Werte wie Leben, Liebe oder Variation. Solche Dinge erachtet die KI als vernachlässigbar, da es dem Ziel nicht dienlich ist. Sie setzt alles auf eine Karte:

Maximierung von Büroklammern – koste es, was es wolle.

Das könnte dich auch interessieren:

Lebende Drohnen im Dienste der Grande Nation

Video: srf

Digitale Revolution: Fünf Technologien, die unseren Alltag verändern werden

Die Fallzahlen steigen wieder leicht an – so sieht's in deinem Kanton aus

Link zum Artikel

London hält Zahlen über Impfstoffexporte zurück

Link zum Artikel

Wie ich nach 3 Stunden Möbelhaus von Wolke 7 plumpste

Link zum Artikel

Die Schweiz befindet sich im Notstand – die 18 wichtigsten Antworten zur neuen Lage

Link zum Artikel

4 Gründe, weshalb die Corona-Zahlen des BAG wenig mit der Realität zu tun haben

Link zum Artikel

Lasst meinen Sex in Ruhe, ihr Ehe- und Kartoffel-Fanatiker!

Link zum Artikel

Das iPad kriegt Radar? Darum ist der Lidar-Sensor eine kleine Revolution

Link zum Artikel

Magic Johnson vs. Larry Bird – ein College-Final als Beginn einer grossen Sportrivalität

Link zum Artikel

Corona International: EU beschliesst Einreisestopp ++ Italien mit 345 neuen Todesopfern

Link zum Artikel

Wie ansteckend sind Kinder wirklich? Was die Wissenschaft bis jetzt dazu weiss

Link zum Artikel

Ein Virus beendet Jonas Hillers Karriere: «Es gäbe noch viel schlimmere Szenarien»

Link zum Artikel

Der Mann, der es wagt, Trump zu widersprechen

Link zum Artikel

So lief Tag 1 nach Bekanntgabe der «ausserordentliche Lage» für die Schweiz

Link zum Artikel
Alle Artikel anzeigen
DANKE FÜR DIE ♥
Würdest du gerne watson und Journalismus unterstützen? Mehr erfahren
(Du wirst umgeleitet um die Zahlung abzuschliessen)
5 CHF
15 CHF
25 CHF
Anderer
Oder unterstütze uns per Banküberweisung.

Das könnte dich auch noch interessieren:

Abonniere unseren Newsletter

Review

Warum du dieses geniale Horror-Game aus der Schweiz spielen solltest

Ein Videospiel, das in der Schweiz entwickelt wurde, ist eigentlich schon Grund genug, um es zu konsumieren. Aber «Mundaun» hat noch viel mehr zu bieten und zieht euch in einen schaurig schönen Sog.

Eine Bergwanderung tut der Seele gut. Frische Luft, bimmelnde Kuhglocken und immer wieder der majestätische Anblick von Bergmassiven, die uns innehalten lassen. Ja, so ein Trip in die Berge erfüllt, gibt Kraft und lässt uns über dies und das sinnieren. Doch auch wenn heimatliche Gefühle uns dabei fast überschwemmen, diese Stille und die Nähe zur Natur besitzen auch etwas Unheimliches. Diese Gefühlsschwankungen bringt uns «Mundaun» näher und schickt die Spielenden in eine vorerst …

Artikel lesen
Link zum Artikel