KI und keine Ende ...

... oder unser Ende?

Es begann vor dreieinhalb Milliarden Jahren in einem Schlammpool, als ein Molekül eine Kopie von sich selbst machte und so zum ultimativen Vorfahren allen irdischen Lebens wurde. Es begann vor vier Millionen Jahren, als das Gehirnvolumen in der Hominidenlinie rapide zu steigen begann.

Vor fünfzigtausend Jahren mit dem Aufstieg des Homo sapiens sapiens.

Vor zehntausend Jahren mit der Erfindung der Zivilisation.

Vor fünfhundert Jahren mit der Erfindung der Druckmaschine.

Vor fünfzig Jahren mit der Erfindung des Computers.

In weniger als dreißig Jahren wird es enden.

Das Thema "KI" ist in aller Munde. Hier in The Guardian. Viele suchen „methods that might give humanity a way out: so-called friendly AI.“ Und sie erklären: „'Friendly' means [...]: that the machines of tomorrow will not wipe us out in their quest to attain their goals.“ Dazu gehört MIRI, das Machine Intelligence Research Institute in Berkeley.

Und das Centre for the Study of Existential Risk (CSER) in Cambridge.  Diese Institution sagt von sich: „We are dedicated to the study and mitigation of risks that could lead to human extinction or civilisational collapse.“ Oder das Future of Humanity Institute an der Universität in Oxford, angeblich “the most interesting place in the universe.” Solche Gruppen gibt es viele – wirken sie auch, arbeiten sie zusammen?  

Foto von CSER (hier)

Zumindest reihen sie sich in die Schar der Warner vor eine „starken KI“ ein, vor einer „super-intelligent AI“. Also nicht vor der „schwachen KI“, die eine Aufgabe besser kann als Menschen (Schach spielen, Tumore diagnostizieren, Schaltkreise entwerfen, Sprache und Gesichter erkennen) und bei anderen Aufgaben scheitert. Sondern die alles können – und zwar besser als wir. Wie können wir das verhindern? Mit noch mehr Technik, noch mehr KI? Oder mit einem tragfähigen alternativen Modell für die Organisation der Gesellschaft („a viable alternative model for the organisation of society“), wie es in dem Film „The Lego Movie“  vorgeschlagen wird? Um „das Ende der Welt, wie wir sie kennen“, zu verhindern? In dem die superintelligente KI uns wie Affen im Zoo hält? Der Film zeigt uns „how society could be structured differently. It invites us to imagine other worlds.“ Das meint zumindest The Guardian: „The Lego Movie – a toy story every adult needs to see“. Sie machen sich wirklich Gedanken, die Experten, nicht nur Nick Bostrom in seinem Buch „Superintelligenz: Szenarien einer kommenden Revolution“. Oder ich in meinem.