Heike Henzmann— Künstliche Intelligenz als Ermög­lichungstechnologie für Technik-Thriller kann schiefgehen, wenn der Autor keine fundierten Kenntnisse der Thematik hat. Karl-Ludwig Max Hans Freiherr von Wendt hingegen kennt sich auf diesem Gebiet bestens aus. Nach dem Studium promovierte er über Anwendungen der künstlichen Intelligenz, arbeitete als Unternehmensberater und gründete mehrere Start-ups. Mit seinem Thriller «Das System» schaffte er es 2007 als Karl Olsberg erstmals in die «Spiegel»-Bestseller-Liste.

Herr von Wendt, technikbegeisterte Leser kennen Sie unter dem Namen Karl Olsberg und als Verfasser von spannenden Thrillern rund um das Thema künstliche Intelligenz sowie als Jugendbuchautor. Im Oktober erschien Ihr neustes Buch, «Boy in a White Room». Worauf dürfen sich Ihre Fans freuen?
«Boy in a White Room» kombiniert beides, tech­nischen Thriller und Jugendbuch. Es ist ein «All Age»-Buch, wie man heute so schön sagt.

In dem Buch beschäftige ich mich mit der Thematik, inwieweit Technik unsere Wahrnehmung der Welt verändert und was das mit uns macht. Ich selber versinke mitunter beim Computer-Spiel tief in der Spielwelt. Es ist durchaus realistisch, dass sich Menschen in der virtuellen Welt verlieren, süchtig werden und als Folge ihre realen Sozialkontakte verlieren. Heute sind die Spiele noch relativ schlecht und lahm im Vergleich zu dem, was in zwanzig Jahren möglich sein wird. Wir werden mit Augmented-Rea­lity-Brillen dasitzen und gar nicht mehr unterscheiden können, was echt ist und was nur eine Projektion. Mit derartigen Fragestellungen haben sich bereits Platon und Descartes beschäftigt: Ich denke, also bin ich. Das ist das Einzige, was ich sicher weiss. Alles andere kann Illusion sein.

Wir sind ja heute bereits oft in der Situation, nicht mehr zweifelsfrei entscheiden zu können, was echt ist und was nicht. Ein Beispiel hierfür sind die Fake News. Wenn man etwas liest, muss man genau überlegen, ob das jetzt wahr ist oder nicht. Trump ist an die Regierung gekommen, weil die Menschen nicht mehr zwischen Wahrheit und Fiktion unterschei­den können. Wenn ich «Breitbart», «AFD News» oder auch «compact» lese, bekomme ich ein ganz anderes Bild von der Realität, als wenn ich durch die Strassen laufe. Das ist das Thema von «Boy in a White Room».

Wie entziehen Sie dem Protagonisten die Realität?
Ich sperre den Jungen in einen Raum, in dem es nur Bildschirme gibt und er keine Möglichkeit mehr hat herauszufinden, was in der Realität draussen los ist. Er muss sich durch logische Schlussfol­gerungen und durch Gespräche mit Menschen die Wahrheit erschliessen. Im Zwiebelschalenprinzip streift er eine Schale nach der anderen ab, um der Wahrheit auf den Grund zu gehen. Aber es ist immer wieder anders, als er denkt.

Wie sehen Sie den Bezug Ihrer Bücher zu den aktuellen Entwicklungen der Automatisierung?
Durch das Thema Industrie 4.0 bewegen wir uns mit Hochgeschwindigkeit in Richtung intelligenter vernetzter Systeme, bei denen niemand mehr genau weiss, was diese tun und wie sie es tun. Deshalb ist es eine gute Idee zu hinterfragen, was passiert, wenn diese Systeme noch vernetzter, noch intelligenter werden, und wie man damit umgehen will. Als Thriller-Autor ist es mein Job, eine Grusel­geschichte aus diesem Szenarium zu machen. Ich bin kein grosser Pessimist, was diese Entwicklung angeht. Dennoch bin ich der Meinung, dass es hinsichtlich dieser Technologie einige grosse ungelöste Probleme gibt. Das kann gut gehen, aber auch zu einem bedrohlichen Fass werden, das uns irgendwann um die Ohren fliegt. Ich lese derzeit ein sehr spannendes Buch von Max Tegmark, einem MIT-Professor, der sich mit dem Thema künstliche Intelligenz und deren Folgen für die Menschheit beschäftigt. Seine Kernaussage ist, dass wir eigentlich nicht wissen, was auf uns zukommt und wie wir damit umgehen müssen, aber dass wir uns jetzt darüber Gedanken machen sollten.

Ist es nicht schon zu spät, wenn wir jetzt erst darüber nachdenken, wie wir mit den Risiken der künstlichen Intelligenz umgehen sollen?
Natürlich haben schon vor zwanzig Jahren Menschen darüber nachgedacht. Aber jetzt ist der Zeitpunkt, wo dieses Nachdenken in die Breite gehen muss. Jeder, der sich mit Automatisierung und selbst lernenden Systemen auseinandersetzt, muss darüber nachdenken, wie man sicherstellen kann, dass diese Systeme wirklich das machen, was sie machen sollen.

Es gibt ein klassisches Science-Fiction-Szenarium: Eine Maschine entwickelt ihren eigenen Willen und erobert die Welt. So einen Roman habe ich mit «Das System» geschrieben, wohlwissend, dass dies eine naive Sichtweise ist, aber aus dramatur­gischer Sicht eine spannende. Die Realität sieht natürlich anders aus. Max Tegmark stellt die These auf, dass nicht böse Maschinen das Problem sein werden, sondern kompetente Maschinen. Durch ungewollte Effekte kann dies bis zur völligen Zerstörung der Menschheit führen. Ungewollte Effekte und ihre Auswirkungen kennen wir auch von anderen Ent­wicklungen. Die Industrialisierung beispielsweise war ein gigantischer Automatisierungs­prozess, der grundsätzlich positiv war, aber auch zu unerwünschten Nebenwirkungen führte wie Umweltverschmutzung, Klima-Erwärmung und so weiter. Heute erst realisieren wir, dass die Folgen nicht nur in den Köpfen von Wissenschaftern existieren, sondern sehr real sind.

Beim Thema künstliche Intelligenz geht es um Systeme, die sehr effektiv sind in dem, was sie tun, die selbst lernend sind und die sich eigenständig weiterentwickeln. Systeme, die enge Ziele haben, beispielsweise um etwas herzustellen oder zu opti­mieren, und deshalb den Gesamtzusammenhang nicht berücksichtigen können, weil sie diesen gar nicht kennen. Systeme, die konsequent ihr Ziel verfolgen. Wenn dieses Ziel falsch definiert ist und die KI nicht robust ist, kann das ziemlich schnell gefährlich werden.

Ihren Roman «Mirror» bevölkern Menschen mit unterschiedlichsten Problemen. Hoch sensible Menschen, Menschen mit Sehbehinderung, kog­ni­tiven Einschränkungen und Drogenproblemen, Menschen, die sich nicht um ihre Gesundheit kümmern. Diese Menschen werden von einer künstlichen Intelligenz, dem Mirror, im Sinne der Kybernetik wie ein Regelkreis beeinflusst und optimiert. Ist das realistisch, und welche Risiken birgt das aus der Sicht des Thriller-Autors?
Der Mirror und das Mirror-Net, das die Mirrors ver­bindet, ist für mich eine Optimierungsmaschine. Der Mirror ist nicht böse. Er verfolgt nur sein Ziel: Das Leben seiner Träger optimieren. Das System stellt irgendwann fest, dass es seine Menschen besser optimieren kann, je mehr Einfluss es auf sie hat. Das heisst hier konkret, je weniger dieser Mensch mit «Nicht-Mirror-Trägern» zu tun hat. Das Mirror-Net versucht nun, seine Träger von schlechtem Einfluss fernzuhalten, so wie gute Eltern das bei ihren Kindern tun. Diese simple Regelschleife verselbstständigt sich und führt am Ende in eine Beinahe-Katastrophe. Das ist ein Szenario, das ich für realistisch halte. Wenn wir Entscheidungen an Maschinen übertragen, die die Konsequenzen noch weniger abschätzen können als wir Menschen, dann entstehen Probleme.

Wann ist eine Maschine eine künstliche Intelligenz?
Der Begriff künstliche Intelligenz ist irreführend. Man stellt sich unter diesem Begriff eine Maschine vor, die wie ein Mensch denkt. Das gipfelt in dem sogenannten Turing-Test, benannt nach dem Com­puter-Pionier Alan Turing, der ihn als Erster beschrieb. Der Test definiert, dass eine Maschine dann intelligent ist, wenn ein Mensch in einem Dialog mit dieser Maschine nicht mehr feststellen kann, ob diese eine Maschine oder ein Mensch ist. Meiner Ansicht nach ist das eine falsche Sichtweise. Der Turing-Test misst nicht, wie intelligent die Maschine ist, sondern höchstens, wie gut sie es schafft, so zu tun, als sei sie ein Mensch. Genau genommen testet der Turing-Test die Fähigkeit der Maschine, das Denken vorzutäuschen. Das kann auch ein nicht intelligenter Chatbot sehr gut.

Die wesentliche Frage ist: Schaffen wir es, eine kompetente Maschine zu bauen, die universal ist, die ganz unterschiedliche Dinge lernen und Kompetenzen erwerben kann? Die Antwort lautet: natürlich. Das machen wir bereits. Dass sich die Bandbreite der Maschinenkompetenzen ausweitet ist offensichtlich. Programme können immer mehr, Maschinen können immer mehr, vernetzte Fabriken können immer mehr. Wir brauchen nicht darauf warten, dass irgendwann eine Maschine gebaut wird, die den Menschen an allgemeiner Kompetenz übertrifft. Das, was wir heute an künstlicher Intelligenz schaffen, hat relativ wenig damit zu tun, wie unser Gehirn funktioniert. Wozu auch? Ein Auto hat ja auch keine längeren Beine, sondern ist auf eine andere Weise schnell. Ich glaube, künstliche Intelligenzen der Zukunft werden Probleme auf eine andere Art lösen als wir. Aber kompetenter als wir. Es wird auch irgendwann bücherschreibende Algorithmen geben. Ich hoffe, das dauert noch etwas länger, sonst wäre ich arbeitslos.

Leben Sie ausschliesslich vom Schreiben?
Ich könnte es inzwischen, jedoch mehr schlecht als recht. Das hängt immer davon ab, wie das nächste Buch ankommt. Ich betätige mich noch auf anderen Gebieten. Mit einem Team habe ich ein Start-up gegründet, mein Start-up Nummer vier, und eine App entwickelt: Papego. Mit Papego ist es möglich, Papierbücher auf dem Smartphone weiterzulesen. Sie kaufen sich ein gedrucktes Buch, das Papego-fähig ist, das erkennt man an einem ent­sprechenden Aufkleber. Sie lesen bis zu einer Textstelle und wollen nun ab dieser Stelle auf dem Arbeitsweg weiterlesen. Dann starten Sie die Papego-­App und fotografieren den letzten gelesenen Abschnitt. Dieser wird an einen Server geschickt, der nun herausfindet, um welches Buch es sich handelt und auf welcher Seite der Textabschnitt zu finden ist.

Wenn ich ein Foto von der ersten Seite eines Buches mache, kann ich es lesen, ohne es zu kaufen?
Sie können nur ein Viertel des Buches lesen, müssen also mindestens dreimal zum Buch zurückkehren, um es komplett digital zu lesen. Das ist zwar kein hundert­prozentiger Schutz, aber es macht das Klauen hinreichend unbequem. Es gibt einfachere Möglichkeiten, Missbrauch zu treiben.

Generell gehe ich davon aus, dass gedruckte Bücher als Lifestyle-Produkte erhalten bleiben. Gedruckte Bücher fühlen sich gut an, sie machen was her, sie lassen sich in Bücherregale stellen, sie sind ein Stück Lebensqualität. Wenn wir es schaffen, dass für Menschen, die ein gedrucktes Buch kaufen, das digitale Lesen mit drin ist, dann erhalten wir eine Struktur, die für uns Autoren sehr wichtig ist.

Beraten Sie Unternehmen zum Thema künstliche Intelligenz?
Ich bin weiterhin als Unternehmensberater tätig, jedoch berate ich nicht im Bereich künstliche Intelligenz. Ich habe zwar in KI promoviert, das ist aber lange her, und die Technik hat sich sehr stark weiterentwickelt. Meine Beratung geht vielmehr dahin, wie ich mich als Unternehmen auf die Digitalisierung einstelle. Das hat interessanterweise gar nicht so viel mit Technik zu tun, sondern viel mehr mit Dingen wie Change Management und Führung. Technik löst keine Probleme. Um in der digitalen Welt erfolgreich zu sein, muss man experimentieren, neue Wege gehen, Dinge ausprobieren. Man muss die Technik nicht entwickeln, sondern nutzen.

briends.net
karlolsberg.de