Denkende Menschen. Wie programmiert man eine superintelligente Maschine? Neben IT-Know-how kommt es darauf an, ihr zu vermitteln, was sie tun soll – und was auf keinen Fall. Dabei geht es auch um Werte und ethische Fragen, um Kreativität und Improvisation. Gesucht werden daher Menschen, die der Maschine wirklich nahekommen, sie formen und die Basis ihres Tuns legen. Alleine schon, um böse Überraschungen zu verhindern. Von André Boße
Die Maschinen werden immer klüger, die Fortschritte im Bereich der künstlichen Intelligenz sind rasant. Ist das nun eine gute Gelegenheit für den Menschen, sich zurückzulehnen und künstliche Intelligenz mal machen zu lassen, wenn sie doch sowieso scheinbar alles besser kann? Schließlich ist sie um ein Vielfaches schneller, weniger anfällig für Fehler, ja beinahe: perfekt. Aber eben nur beinahe. Denn so smart eine Technologie auch immer sein mag, sie ist und bleibt nur eine Maschine – und damit von sich aus dumm. Sie braucht schon den Menschen. Sonst entsteht entweder nichts. Oder totales Chaos.
Büroklammer-Apokalypse
Es gibt unter den IT-Spezialisten im Silicon Valley eine Anekdote, die immer wieder erzählt wird. Der schwedische Philosoph und digitale Denker Nick Bostrom hat folgendes Szenario entworfen: Angenommen, man gibt einer künstlichen Intelligenz den Auftrag, die perfekte Büroklammer zu produzieren, so wird sie sich „brav“ an die Arbeit machen und immer bessere Büroklammern herstellen. Und sie wird nicht damit aufhören, weil sie ja nicht weiß, wann eine Büroklammer perfekt ist. Also nutzt sie jede Ressource der Erde für die Herstellung von immer perfekteren Büroklammern. Und wehe, jemand kommt auf die Idee, die Maschine abzustellen – dieser Mensch handelt dann entgegen des Auftrags. Und das wird der Maschine nicht gefallen. Am Ende des Szenarios gibt es dann auf der Erde keine Menschen mehr, sondern nur noch Büroklammern.
Wie viel ist KI Wert?
Die Wirtschaft setzt auf den Nutzen der künstlichen Intelligenz, doch wie viel sind diese Anwendungen heute schon wert? Das amerikanische Beratungsunternehmen Gartner hat nach einer Studie nun eine Summe beziffert: 1,2 Billionen Dollar. Schon im Jahr 2022 soll der Wert auf 3,2 Billionen Dollar steigen, so die Prognose. Das größte Wachstumsversprechen geben laut Gartner KI-Lösungen, die bei der Entscheidungsfindung helfen, also das Management tastsächlich strategisch unterstützen: Heute liegt der Anteil bei 36 Prozent, 2022 soll er auf 44 Prozent steigen, so die Studie. Quelle: www.gartner.com
Die Seele im digitalen Zeitalter
In Ausgabe 41 befasst sich das Journal für Philosophie „der blaue reiter“ unter anderem mit den Fragen: Ist die Seele eine Fiktion? Sind Maschinen das Andere unserer Existenz? Oder: Gibt es eine Kultur der Maschinen? der blaue reiter Ausgabe 41, Verlag für Philosophie, 16,90 Euro
Ein guter Gag. Aber in der Story liegt eine tiefe Wahrheit: Eine künstliche Intelligenz benötigt den Menschen, damit dieser ihr sagt, was zu tun ist. Und der Mensch wiederum darf nicht den Fehler machen, falsche Aufträge zu erteilen, denn eine Maschine weiß nun einmal von sich aus nicht, was eine perfekte Büroklammer ist. Und damit weiß sie eben auch nicht, wann die Büroklammer, die sie herstellt, perfekt genug ist.
Der Beststeller-Autor Frank Schätzing hat sich zu diesem Thema sehr viele Gedanken gemacht. Sein neuester Thriller „Die Tyrannei des Schmetterlings“ erzählt von einer Maschine, deren Tun eine für große Teile der Menschheit katastrophale Eigendynamik entwickelt. Spricht man mit dem Kölner Schriftsteller über die Chancen und Herausforderungen von künstlicher Intelligenz, wird die Diskussion schnell philosophisch. Die Kernfrage lautet in seinen Augen: „Mit welchen Zielvorgaben statten wir Maschinen aus?“ Die Erschaffung einer perfekten Welt wäre eben keine gute Vorgabe. „Nicht einmal, weil die dazu nicht in der Lage wäre, sondern weil sie erkennen wird, dass die einzige Größe, die sich partout der Perfektionierung verweigert, wir sind: die Menschen.“
Aber kann man einer künstlichen Intelligenz das Verständnis für die Widersprüchlichkeit des menschlichen Lebens beibringen? Einen Algorithmus für diese Ambivalenz gibt es nicht. Also müsse es darum gehen, der künstlichen Intelligenz eine Basisprogrammierung vorzugeben. Schätzing: „Wir müssen jetzt die Weichen stellen, damit der künstliche Geist unser aller Freund wird. Noch geht das.“
Der Supercomputer gleicht einem Kleinkind
Nur: Wie geht das? Frank Schätzing verweist darauf, dass eine ganz ähnliche Arbeit von den Menschen seit jeher verrichtet wird. Man nennt sie Erziehung. „Als Eltern leben wir unseren Kindern Verhaltensmuster vor und geben ihnen damit Werte und Zielvorstellungen mit auf den Weg. In der Frühphase haben wir noch Einfluss, schicken das Kind zur Schule, füttern es mit Informationen und versuchen es zu einem empathisch empfindenden Wesen zu erziehen. Es folgt die Pubertät – das Kind wird zur Blackbox, die Synapsen spielen verrückt. Der junge Mensch beginnt durch eigene Erfahrung zu lernen, was gut und böse ist. Schließlich erwachsen, entzieht er sich unserer Kontrolle.“
Analog stellt sich die Frage, wie man der Maschine Werte beibringt. „Nicht durch Programmierung“, sagt der Bestseller- Autor. „Selbst der komplexeste Algorithmus ist nichts weiter als eine mathematische Handlungsanweisung: wenn dies – tue das. Ich muss der Maschine also klare Ziele geben – und zwar so, dass sie im Rahmen meiner Vorgaben von selbst rausfindet, was Werte und Gefühle sind und was sie für uns bedeuten. Sie muss auf unbewusste Weise verstehen, dass sie weder unethisch handeln noch sich in übersteigerter Befolgung ethischer Grundsätze gegen uns wenden darf.“
Folgt man diesem Gedanken, wird schnell klar, welche Rolle der Mensch in einer digitalen und von künstlichen Intelligenzen bestimmten Welt spielen wird. Er ist immer weniger Arbeiter im klassischen Sinn, denn in dieser Arbeit ist die Maschine einfach besser. Die neue Rolle des Menschen ist die des Konfigurators: Es geht darum, der künstlichen Intelligenz eine Basis ihrer Arbeit zu geben, damit sie versteht, worauf wir Menschen hinauswollen. Jemand, der das begriffen hat, ist der US-Amerikaner Ross Goodwin. Früher hätte man ihn als Poeten bezeichnet, denn am Ende seines kreativen Tages steht im besten Fall ein neues Gedicht.
Gesellschaft 5.0
Gemeinsam mit dem Wirtschaftsforschungsinstitut Prognos hat das Beratungsunternehmen Capgemini die Auswirkungen der Digitalisierung auf die fünf Kernbereiche Arbeit, Mobilität, Migration und Integration, Gesundheit und Alter sowie die Anforderungen an das Ökosystem Gesellschaft 5.0 untersucht. Weitere Infos unter: https://www.capgemini.com/de-de/resources/studie-gesellschaft-5-0/
Embedded Brain Reading
Wie lassen sich unsere Gedanken für die Interaktion mit Robotern nutzen? Mit dieser Frage beschäftigen sich Wissenschaftler des Robotics Innovation Center am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) und der Arbeitsgruppe Robotik der Universität Bremen. Gemeinsam entwickeln sie Schlüsseltechnologien, die echtzeitfähiges und adaptives embedded Brain Reading ermöglichen. Dadurch sind Roboter auf Basis der Gehirnaktivitäten des Menschen nicht nur intuitiv und effektiv steuerbar. Die Systeme können zugleich menschliche Gedanken interpretieren und daraus lernen. Weitere Infos unter:
https://robotik.dfki-bremen.de
Nur: Goodwin schreibt diese Werke nicht mehr selbst, wie er auf seinem Blog erklärt. Er sorgt dafür, dass eine künstliche Intelligenz sie erschafft. Soll er sich und seinen Job selbst beschreiben, sagt er daher erst einmal, dass er eines nicht ist, nämlich ein Dichter. Sondern: Künstler und kreativer Technologe. Angefangen, eine Maschine zum Schreiben zu nutzen, hat er in einer Phase, als er auf der Suche nach neuen Kunden war. Bei der Akquisition kam es darauf an, immer ähnliche Anschreiben zu formulieren, jeweils individuell auf den Adressaten zugespitzt. Nach und nach entwickelte er eine effiziente Methode für diese Arbeit – und so kam Goodwin auf die Idee, den Ansatz einer superintelligenten Schreibmaschine weiterzuentwickeln.
Er fütterte einen Computer mit Dialogszenen einer TV-Serie und ließ den Rechner daraufhin eigene Dialoge weiterführen; je bessere Vorlagen er der KI gab und je genauer er ihr auf den Weg gab, was sie daraus erschaffen soll, desto besser wurden die Ergebnisse. Irgendwann erhielt er einen Absatz, der „mir hochgradig poetisch erschien, zumindest im Vergleich zu anderen Computertexten, die ich zuvor gelesen hatte. Vor allem aber war der Text eines: ein Original“, schreibt Goodwin in seinem Blog, in dem er seine Methode vorstellt.
Später fütterte er dem Computer mit einem Lexikon, ließ die KI eigene Worte erfinden – mit fiktiven Definitionen, was diese bedeuten könnten. Auch verlangte er vom Computer neue Definitionen vorhandener Vokabeln – und war baff, als der Rechner „Liebe“ beschrieb als „das Ergebnis einer Reaktion eines Menschen auf ein Problem oder eine Schwierigkeit.“ Sein neuestes Projekt: KI-Filme, aufgenommen von Überwachungskameras, geschnitten und erzählt von einer Maschine.
Maschinen werden zu Sterneköchen
Bei einem Auftritt auf der Doclab Interacitve Conference, einem kreativen Forum für digitale Innovationen, erklärte Goodwin, wo der Unterschied zwischen der Digitalisierung, wie wir sie heute schon anwenden, und der KI der Zukunft liegt: Bislang arbeiten Computer Rezepte ab, wir sagen ihnen, welche Zutaten gebraucht werden und was sie damit tun müssen. Die Rechner befolgen unsere Anweisungen. Die künstliche Intelligenz der nahen Zukunft hingegen werde wie ein Sternekoch tätig sein: Sie wird improvisieren, immer neue Kombinationen finden – und am Ende ein Resultat servieren, dass wir uns in seiner Qualität gar nicht ausmalen konnten. Aber auch hier gilt: die Maschine wird nicht von selbst zum Chefkoch, sie benötigt „kreative Technologen“ wie Goodwin, die ihr die Fülle der kulinarischen Möglichkeiten beibringen – aber auch die Gefahren bestimmter Gifte oder von zu viel Zucker.
Übrigens, dieser Ross Goodwin ist kein Nerd, der auf dem Arbeitsmarkt schwer zu vermitteln wäre. Im Gegenteil. Bevor Goodwin damit begann, Maschinen das Gedichte schreiben oder das Filmemachen beizubringen, war er als Ghostwriter für US-Präsident Obama tätig.
Auch Menschen lernen „deep“
Fest steht: Der Mensch, der sich damit beschäftigt, die künstliche Intelligenz so zu trimmen, dass sie uns gute Dienste erweist, muss in der Lage sein, zu verstehen, wie Maschinen lernen. Das ist natürlich ein technischer Prozess. Jedoch gibt es heute viele Stimmen, die dazu raten, sich auch einer KI zu nähern, als handele es sich um ein organisch denkendes Wesen.
KI-Durchbruch schafft neue Schadensszenarien
Auch in der Versicherungsbranche ergeben sich durch die künstliche Intelligenz neue Tätigkeitsfelder. Unternehmen sehen sich mit neuartigen Haftungsfragen konfrontiert, da sich die Verantwortung für Handlungen vom Menschen auf die Maschine verlagert, heißt es in einer Studie der Allianz Global Corparate & Speciality (AGCS). „Egal ob für Wirtschaft, Politik, Mobilität, Gesundheit, Verteidigung oder Umwelt: KI bringt vielfältige Vorteile, aber auch potenzielle Risiken mit sich. Wir brauchen dringend vorbeugende Maßnahmen zur Risikominderung, um den Nettonutzen bei der breiten Einführung von KI-Anwendungen zu maximieren und unbeabsichtigte Nebenwirkungen zu reduzieren“, erklärt Michael Bruch, Head of Emerging Trends bei der AGCS. Quelle: www.agcs.allianz.com
KI Sophia
Die künstliche Intelligenz Sophia soll das Lieben lernen: „But I’m more than just technology. I’m a real, live electronic girl.“
http://sophiabot.com
Gestützt werden diese Gedanken von einer Studie des digitalen Analyseunternehmens Lightspeed Research im Auftrag des Technikkonzerns Huawei: 10.000 Europäer wurden gefragt, was sie glauben, wie viele Entscheidungen sie pro Tag fällen. Die durchschnittliche Antwort: 92. Die 1000 deutschen Teilnehmer waren noch bescheidener, sie glauben an 82 Entscheidungen pro Tag. „Doch diese unbewusste Wahrnehmung trügt, denn das menschliche Gehirn trifft nach aktuellen Erkenntnissen täglich etwa 35.000 Entscheidungen“, heißt es. Die Studie verdeutliche damit, dass die befragten Deutschen 99,76 Prozent ihrer täglichen Entscheidungen nicht bewusst treffen – die allermeisten Vorgänge laufen in der Tiefe ab, dem „Deep Learning“ der künstlichen Intelligenz nicht unähnlich.
„Die Studie zeigt, dass menschliche Intelligenz genauso funktioniert wie künstliche Intelligenz, nämlich meist im Hintergrund, um unser Leben dadurch zu vereinfachen“, sagt Walter Ji, Präsident der Huawei Western Europe Consumer Business Group. „Unsere Ergebnisse belegen nicht nur einen signifikanten Unterschied zwischen der Menge der Entscheidungen, die wir unserer Meinung nach täglich treffen, und der tatsächlichen Anzahl. Sie verdeutlichen auch eine Diskrepanz bezüglich unserer Wahrnehmung, wie wir unsere Zeit verbringen und der Art und Weise, wie wir es tatsächlich tun.“
Für diese Annahme findet die Studie folgenden Beleg: „Laut Befragung glaubt der Durchschnittseuropäer, dass er pro Tag 22 Mal auf sein Smartphone schaut – der Durchschnittsdeutsche geht hier sogar nur von neun Mal aus. Tatsächlich checken Konsumenten ihr Gerät täglich jedoch um die 76 Mal, bei technisch affinen Menschen sollte diese Zahl durchaus höher liegen“, schreiben die Autoren der Studie.
Emotionale Intelligenz ist gefragt
Im Alltag und im Beruf haben wir Menschen also längst gelernt, unsere eigene Denkleistung immer wieder mit einer digitalen Hilfe zu koppeln. Der nächste Schritt wäre nun, dies nicht nur mehr als User zu tun, sondern – im Austausch mit einer künstlichen Intelligenz – als Mensch, der einer Maschine sagt, wofür sie ihre Superintelligenz einsetzen soll und welche Zielvorgaben sie dabei nicht außer Acht lassen darf. Diese Ziele zu formulieren und sie der künstlichen Intelligenz so zu vermitteln, dass sie weder Unmengen an Büroklammern produziert noch wohlschmeckende aber giftige Pilze serviert, zählt zu den Kernaufgaben der digitalen Arbeitswelt. Sie hat sehr viel mit emotionaler Intelligenz und auch mit dem gesunden Menschenverstand zu tun – und zeigt, dass die Entwicklung der künstlichen Intelligenz den Menschen zu neuen Höchstleistungen antreiben wird.
„Die Tyrannei des Schmetterlings“
In seinem neuen Roman entwickelt Schätzing ein bedrohliches Szenario um einen Supercomputer, dessen künstliche Intelligenz aus dem Ruder läuft und die Menschheit bedroht. Mit gut 700 Seiten ist der Thriller weniger dick als die Vorgängerbücher wie zum Beispiel „Der Schwarm“, dennoch findet der Leser alle Bestandteile, die Schätzing-Fans lieben: einen komplexen Plot an vielen Orten, der sich in einem actionreichen Finale verdichtet. Wie auch seine Thriller zuvor, setzte sich das neue Buch direkt nach der Veröffentlichung auf dem ersten Platz der Spiegel-Bestsellerliste fest. Frank Schätzing: Die Tyrannei des Schmetterlings. Kiepenheuer & Witsch 2018, 26 Euro.
