Essay

Von Josef G. Böck for The Human Side of Business GmbH

Viele Entwickler von digitaler Intelligenz orientieren sich mit ihren Softwarearchitekturen an den Fähigkeiten des Menschen. Deshalb fällt vielen auch die sprachliche Gleichsetzung von Intelligenz bei Computern und Menschen so leicht. Allmählich taucht dieser Gedanke auch beim Phänomen des Bewusstseins auf. Je fähiger die Systeme werden und je näher sie an die Leistungen von Menschen herankommen oder sie gar übertreffen, desto mehr stellt sich die Frage, ob mit der Maschinenintelligenz auch Maschinenbewusstsein entsteht.

In diesem Essay gehe ich der Frage nach, wie wir an die Ausstattung von Computern mit Bewusstsein herangehen können und was daraus folgt, wenn Experten Bewusstsein für die von uns genutzten digitalen Werkzeuge entwickeln. Meine konkrete Frage lautet, ob und – wenn ja – welches Wissen aus den Naturwissenschaften beim Design von intelligenten und bewussten Computern genutzt werden sollte.

Ich wähle die Form des Essays. Dieses Genre trägt die Zuschreibung „Versuch“ im Namen und darf subjektiv sein. Das passt zu unserem Thema, weil wir auch nach vielen Jahrzehnten der Forschung eine Menge über menschliche Gehirne, über Intelligenz und Bewusstsein zusammengetragen haben, aber immer noch nicht wissen, wie Bewusstsein wirklich zustande kommt. Alle arbeiten an diesem Thema deshalb mit Hypothesen, Behauptungen und Meinungen, die manche aber als Wissen verkaufen.

Mir war vor der Arbeit an diesem Essay nicht klar, wie ich die Frage beantworten würde, ob wir Maschinenbewusstsein als Entwicklungsziel überhaupt verfolgen sollten. Aus beruflichem und privatem Interesse an Digitalisierung und digitaler Intelligenz brauche ich aber eine Meinung zu diesem Problem. In diesem Text trage ich alles zusammen, was mir geholfen hat, eine Haltung zu formulieren.

Was ist Bewusstsein?

Menschliche Intelligenz und menschliches Bewusstsein sind seit jeher die Vorbilder der Entwickler von Computern und da vor allem für die Arbeit an digitaler Intelligenz (mein Begriff für Künstliche Intelligenz). Ich suche hier nicht nach einer universell verwendbaren Definitionen für Intelligenz und Bewusstsein, sondern ich konzentriere mich auf Aspekte, die praktische Relevanz für meine Fragen haben.

Bewusstsein ist eine Fähigkeit von Gehirnen, die sich im Laufe der Evolution entwickelt hat. In bewussten Lebewesen verschalten sich biologische Grundbausteine der Gehirne in einer Weise, die neue, den einzelnen Grundbausteinen nicht mögliche Eigenschaften und Fähigkeiten schafft. Durch Bewusstsein können Lebewesen auf unterschiedliche Weise lernen und eine subjektive Idee von sich selbst und ihrer Umwelt entwickeln. Sie können sowohl ihre inneren Zustände als auch Reize aus der Umwelt wahrnehmen, bewerten und in willentliche Handlungen umsetzen.

Beim Nachdenken und Forschen über Bewusstsein stand lange der Mensch im Zentrum des Interesses und ist bis heute die wichtigste Referenz. Inzwischen sind sich viele Experten einig, dass in abgestuften Ausprägungen auch anderen Lebewesen Bewusstsein zugesprochen werden sollte. Damit ist prinzipiell die Tür zur Anerkennung von Bewusstsein in anderen komplexen Systemen aufgestoßen und die Frage liegt auf dem Tisch, was konstitutiv für Bewusstsein ist und ob etwa auch unbelebte Materie – zu der aktuell alle Computer gehören – Bewusstsein ausbilden kann. Sie wird von Experten durchaus unterschiedlich beantwortet: Wer findet, Bewusstsein könne nur in Lebewesen auftreten, kann dafür gute Gründe anführen. Wer meint, Bewusstsein müsse man allen Systemen zugestehen, die die oben angeführten Kriterien erfüllen, kann dafür ebenfalls überzeugend argumentieren.

Für die Nachbildung und Feststellung von Bewusstsein in nicht-lebendigen Systemen fehlen uns noch eine Menge Informationen. Bisher ist es nicht gelungen, Bewusstsein zu messen. Man weiß nicht, wo und wie die Informationen, die das Bewusstsein bearbeitet und die Phänomene, die das Bewusstsein erzeugt, gespeichert werden. Weil dem so ist, reicht manchen Denkern die reine “Hardware” der Systeme als Erklärung nicht aus. Sie führen immaterielle und metaphysische Strukturen ein, die jenseits der chemischen, physikalischen und biologischen Komponenten von Lebewesen Bewusstsein möglich machen.

Mich überzeugen bis zum Beweis des Gegenteils Experten, die Bewusstsein als ein rein materiell begründbares Phänomen betrachten und die keine zusätzlichen metaphysikalischen Systeme benötigen, nur weil bisher niemand die Fähigkeiten der „Hardware“ versteht. Ich meine, dass wir Bewusstsein eines Tages messen und verstehen können werden.

Prinzipiell ist nach meinem Verständnis Bewusstsein in nicht-trivialen Maschinen wie beispielsweise Computern denkbar. Wenn wir Maschinen über Algorithmen Bewusstsein beibringen wollen, müssen wir sie entwickeln. Uns helfen dabei keine natürliche Selektion oder die Eigenschaft biologischer Grundbausteine. Da wir die Natur an dieser Stelle nicht genug verstehen, können wir nicht behaupten, wir würden sie als Vorlage nutzen. Das kann sich natürlich ändern. Noch wissen wir nicht, wann und wie. Solange dies der Fall ist, sollten wir unsere Definition von Bewusstsein so anpassen, dass Maschinenbewusstsein als Zuschreibung einen Nutzen hat. Oder wir sollten wegen der damit verbundenen Schwierigkeiten zunächst auf die Verwendung des Begriffs für Computer verzichten. Auf jeden Fall werden Experten weiter daran arbeiten, die beobachtbaren Phänomene von Bewusstsein in Lebewesen mit Computern zu simulieren. Vielleicht kommt ja etwas Brauchbares dabei heraus. In der Vergangenheit haben wir viel über die Gegenstände gelernt, die wir zu simulieren versucht haben, auch wenn wir letztendlich gescheitert sind.

Wir sollten Bewusstsein vom Un- und Unterbewussten beim Menschen abgrenzen. Ich setze beide gleich, weil der Unterschied für unseren Zusammenhang hier von untergeordneter Bedeutung ist. Das Unterbewusste ist die Welt des Stoffwechsels, der Homöostase und der Bedürfnisse. Das Unterbewusstsein arbeitet teilweise parallel und ergänzend zum Bewusstsein, kommt ihm aber auch immer wieder in die Quere. Das Unterbewusstsein hat wie das Bewusstsein in jedem Individuum eine eigene Agenda. Viele von uns verwenden eine Menge Energie darauf, bei uns und bei anderen das Unterbewusste in den Bereich des Bewussten zu holen, um nicht zu sehr vom Unterbewussten determiniert zu werden.

Mit diesen Aussagen ist das Bewusstsein von Lebewesen aber noch nicht ausreichend definiert.

Ich beginne mit der Feststellung, dass Gehirn und Bewusstsein nicht das Ergebnis von Rechenvorgängen sind und auch beim Herbeiführen von Entscheidungen nicht rechnen. Wie genau sie zu ihren Ergebnissen kommen, wissen wir nicht. Bei Computern haben wir es dagegen ausschließlich mit Rechenvorgängen zu tun. Wenn sich die Computertechnik hier nicht ändert, wird darin immer ein wichtiger Unterschied zwischen den beiden Arten von Bewusstsein liegen.

Dann wäre da der Befund, dass bei praktisch identischen Genen in Lebewesen der gleichen Art das Bewusstsein die Individualität der Systeme ausmacht. Im Detail ist kein Lebewesen wie irgendein anderes. Das ist die Grundlage für die in der Natur zu beobachtende Vielfalt an Problemlösungsstrategien für Überleben und Fortpflanzung.

Es wird immer wieder festgestellt, dass das Bewusstsein und das Unterbewusstsein an das Lebewesen gebunden sind, in dem sie entstanden sind. Sie sind immer aktiv und hören erst mit dem Tod auf zu arbeiten. Das Bewusstsein mag mit manchen körperlichen Zuständen zeitweise heruntergefahren werden können (Koma, Bewusstlosigkeit, tiefer Schlaf), aber zumindest das Unterbewusstsein scheint im Hintergrund immer zu wirken. Den Unterschied zwischen bewusstem und unbewusstem Zustand kann man in Lebewesen anhand von Hirnströmen messen.

Und schließlich sind Bewusstsein und Unterbewusstsein schwer von außen veränderbar. Beides sind Subsysteme, die Veränderungen nur mit eigenen Ressourcen herbeiführen können. Natürlich sind dafür Impulse von zentraler Bedeutung, aber Bewusstsein und Unterbewusstsein in Lebewesen sind resiliente Phänomene und tragen dazu bei, dass ein Individuum ein anderes einschätzen kann. Damit wird Bewusstsein zu einem Faktor in der sozialen Interaktion.

Eine notwendige Abgrenzung ist die zwischen Bewusstsein und Intelligenz. Für unseren Zusammenhang überzeugen mich Definitionen von Intelligenz als Fähigkeit von Systemen, komplexe und immer wieder neue Probleme innerhalb einer bestimmten Zeit zu lösen. Je schneller die Lösung, desto höher die Intelligenz. Zwischen Bewusstsein und Intelligenz bestehen zwar Korrelationen, sie scheinen aber weitgehend unabhängig voneinander zu entstehen und zu existieren. Höchst intelligente Lebewesen können einen niedrigen Bewusstseinsgrad aufweisen. Systeme mit hohem Bewusstsein sind dagegen oft auch überdurchschnittlich intelligent, weil sie sich eine komplexe Welt schaffen, in der sie auf komplexe Probleme treffen. Wie beim Bewusstsein ist auch für Intelligenz in Lebewesen festzustellen, dass Ergebnisse nicht durch Rechenvorgänge zustande kommen.

Bewusstsein und Intelligenz sind also zwei unterschiedliche Fähigkeiten des Gehirns in lebenden Systemen, die zusammen und aufeinander wirken. Ihr Zusammenspiel bildet selbst wieder ein komplexes System, das in jedem Individuum unterschiedlich wirkt. Wie das genau funktioniert, wissen wir nicht. Wir können aber die Phänomene im Alltagsleben sehr wohl beobachten.

Im Sinne der hier genutzten Definition von Intelligenz stellt sich die Frage, was das für Computer heißt. Computer sind bisher nur in einem sehr engen Sinn intelligent. Die Kompetenz von Computern ist aktuell auf spezifische mathematische Berechnungen beschränkt, etwas anderes können sie nicht. Die mathematischen Verfahren können in der Regel nicht ohne Veränderung auf immer neue Probleme angesetzt werden und schon gar nicht kann ein Computer ein mathematisches Vorgehen selbstständig auf ein anderes Problem anwenden. Das ist ein Grund, warum sich Experten mit dem Begriff der Intelligenz von Computern schwertun. Sie ergänzen deshalb den Begriff der Intelligenz durch Wörter wie „digital“, „künstlich“ oder „Maschinen“, weil Intelligenz in Computern gerade in den Medien verfängt.

Einig sind sich Experten darüber, dass digitale Intelligenz und Maschinenbewusstsein zu den sogenannten „General Purpose Technologies (GPT)“ gehören. Das bedeutet, dass sie über viele Plattformen hinweg in vielen digitalen Systemen eingesetzt werden können, wenn diese die dafür notwendigen Voraussetzungen erfüllen. Das erinnert natürlich daran, dass Bewusstsein und Intelligenz von Lebewesen bei unendlich vielen Problemen nützlich sind.

Bewusstsein und Evolution

Die Definitionen von Bewusstsein und Intelligenz machen klar, wie groß die Bandbreite von Herangehensweisen ist, so lange uns so wenig harte Fakten zur Verfügung stehen. Im Grunde schreiben wir alle beiden Begriffen das zu, was wir aus unserer subjektiven Brille in ihnen sehen wollen. Zur Beurteilung unserer Frage, ob wir Maschinenbewusstsein entwickeln sollten, ist eine klärende Definition hilfreich, aber nicht hinreichend. Wir kommen eher zu einer Beurteilung, wenn wir auf die Folgen schauen, die Bewusstsein für Systeme hat.

Mit der Geburt beginnt für Lebewesen die Konkurrenz um die Ressourcen, die sie zum Überleben, zum Wachsen und Gedeihen brauchen. Je bewusster ein Lebewesen diesen Wettbewerb gestalten kann, desto fitter ist es fürs Leben. Am Beispiel des Menschen sehen wir, welche ungefährdete und dominante Stellung in der Welt dabei herauskommt, wenn das Bewusstsein in Wesen mit mobilen und komplexen Körpern wirksam wird.

Lebewesen mit Bewusstsein können ihre körpereigenen Ressourcen dosieren und sie aktivieren, wenn es notwendig scheint. Sie können das, weil sie über ihre Sinne ständig die Außenwelt wahrnehmen und deren Veränderungen für sich bewerten. Sie lernen aus eigenen und fremden Erfahrungen. Dieses Lernen führt dazu, dass sie die in der Zukunft liegenden Folgen von Entscheidungen und Handlungen korrelieren lernen. Das Bewusstsein konstruiert dafür oft sogar Ursache- Wirkungszusammenhänge. Je höher das Bewusstsein ausgeprägt ist und durch Intelligenz unterstützt wird, desto individueller wird in den Individuen die Problemlösungskompetenz. Bei sozialen Wesen wie den Menschen scheinen Unterbewusstsein und Bewusstsein auch zu reziprokem Verhalten zu führen, also einem Verständnis dafür, dass Individuen in sozialen Verbänden für andere etwas tun sollten, damit andere etwas für sie selbst tun. Bewusstsein ist also ein wichtiger Erfolgsfaktor beim Entwickeln und Umsetzen von Überlebensstrategien in sozialen Verbänden.

Es klang schon an, dass Intelligenz das Bewusstsein im Wettbewerb um Ressourcen und beim Lösen von Problemen erfolgreicher macht. Das belegt noch einmal, dass Intelligenz und Bewusstsein durchaus unterschiedliche Qualitäten haben. Es sieht so aus, dass sich die Fähigkeiten addieren, wenn nicht sogar multiplizieren.

Was davon lässt sich auf Computer übertragen und wie könnten wir einer Antwort auf die Eingangsfrage näherkommen,, ob wir Bewusstsein in digitalen Rechnern entwickeln sollten?

Lebewesen sind evolutionär entstanden und die Frage nach deren Sinn ist Forschungsgegenstand für Philosophen. Computer sind Werkzeuge, die Menschen entwickelt haben. Deren Sinn ist klar: Menschen bei der Bewältigung ihrer Aufgaben und Probleme zu helfen. Bewusstsein und Intelligenz sind für Lebewesen Ressourcen, für Werkzeuge sind es Eigenschaften.

Mit digitaler Intelligenz und vor allem in der Form von Robotern können Computer zu autonomen Agenten werden und Menschen an vielen Stellen ersetzen. Computer lösen Ressourcenprobleme von Menschen und anderen Lebewesen. Wenn Bewusstsein und Intelligenz Lebewesen im Wettbewerb um Ressourcen helfen, sollte Bewusstsein Computern dabei helfen, wertvollere Werkzeuge für uns Menschen zu sein. Intelligenz und Bewusstsein in Computern haben den Charakter von „features“ von Hard- und Software. Wir entwickeln sie in Computer hinein und können sie ändern, löschen, auf andere Systeme übertragen und damit multiplizieren. Wir können sie sogar als zentrale Dienste für eine Vielzahl von Systemen gleichzeitig zur Verfügung stellen.

Digitale Intelligenz wird heute als die Fähigkeit zum maschinellen Lernen definiert. Lernfähigkeit ist in Lebewesen einer der Vorteile von Bewusstsein. Das Lernen von Computern mittels neuronaler Netze ist dem menschlichen Gehirn nachempfunden. Es funktioniert aber momentan gänzlich ohne Bewusstsein. Wahrscheinlich könnten Computer mit Bewusstsein effektiver und schneller lernen. Sie bräuchten viel weniger Daten als aktuelle digital intelligente Systeme und könnten viel mehr Ableitungen aus den von ihnen errechenbaren Korrelationen entwickeln.

Computer würden auch davon profitieren, wenn sie über viele Kanäle gleichzeitig unmittelbar mit der Umwelt verbunden wären und in einer Instanz wie dem Bewusstsein die Informationen bearbeiten könnten. Heute müssen wir digitale Abbilder der Umwelt in Computern erzeugen und mit der Umwelt zum Beispiel über Kameras, Sensoren oder Mikrophone abgleichen. Mit vielen anderen Sinnen von Lebewesen können Computer noch nicht arbeiten. Computerbewusstsein würde diese Interaktion mit der Umwelt enorm erleichtern. Deshalb wird an diesem Aspekt, der eine Voraussetzung für viele weitere technische Fortschritte in der Computerentwicklung ist, aktuell mit Hochdruck gearbeitet.

Was für den Input gilt, gilt auch für den Output. Computergenerierte Texte oder Sprache und computergesteuerte Handlungen nach Eintreten bestimmter, durch Computer messbarer Zustände, sind heute sehr weit fortgeschritten. Was noch fehlt, ist, dass Computer ihren Output nicht nur aufgrund von Statistik ermitteln oder nach „if … then“ ihre Handlungen auslösen, sondern, dass sie Kontexte mit berücksichtigen können. Das würde die Qualität von Outputs um ein Vielfaches erhöhen und Ressourcen sparen – an Daten, die notwendig sind und an Energie, die die Rechner verbrauchen.

Wir können die Bemühungen der Experten um das Heben des Potentials von digitalen Werkzeugen als Evolution von Maschinen betrachten. Von einer Evolution im Sinne der Natur kann man aber erst sprechen, wenn technische und biologische Systeme zusammenarbeiten. Auch daran wird aktuell geforscht.

Mit Computerbewusstsein würden Computer sich schnell individuell unterschiedlich entwickeln, weil ihre unterschiedlichen Inputs zu unterschiedlichen Informationen und Daten führen, die wiederum unterschiedliche Bewusstseinsinhalte ausprägen. Mit Bewusstsein würden Computer nur im Moment der Auslieferung exakte Kopien voneinander sein, sich dann aber schnell auseinanderentwickeln und unterschiedliche Problemlösungskompetenz entwickeln. Auch hier gilt, was ich vorhin über die Problemlösungskompetenz in der Natur gesagt habe – je größer die Diversität der Lösungsansätze, desto wahrscheinlicher ist es, dass Lösungen gefunden werden. Noch wissen wir nicht, wie das gehen könnte. Klar ist aber, dass man Computern im Gegensatz zu Menschen mit dem Ausschaltknopf oder bei Energieausfall jede Problemlösungskompetenz nehmen kann.

Bewusstsein und Subjektivität

Das Bewusstsein von Lebewesen hat aber nicht nur Vorteile. Wenn wir jemals schaffen sollten, es 1:1 technisch nachzubilden, werden unsere Werkzeuge auch ein paar Nachteile ausprägen.

Ein großer Nachteil dürfte sein, dass unser Bewusstsein keine rationalen Entscheidungen liefert. Je nach Prägung und Erfahrung kommen Entscheidungen durch das subjektive Bewusstsein zustande, das nur zum Teil rational arbeitet. Die Entscheidungsfindung von Gehirn und Bewusstsein ist komplex. Wenn wir also tatsächlich das menschliche Bewusstsein in Computern nachbauen, verlieren sie die Hauptstärke mathematisch hergeleiteter Entscheidungen – ihre verlässlich auf mathematischen Regeln begründete Rationalität.

Damit verbunden ist die Intransparenz des Entscheidungswegs und der herangezogenen Kriterien. Das verweist auf die aktuelle Kritik an der digitalen Intelligenz und an der Wirkung von neuronalen Netzen, der viele vorwerfen, dass ihre Entscheidungen oft nicht nachvollziehbar sind. Damit steht und fällt aber das Vertrauen in digitale Entscheidungen. Das liefert einen Vorgeschmack darauf, wie es wäre, wenn bewusste technische Systeme konsequent nach menschlichem Vorbild gebaut würden.

Die Unfähigkeit, im Wettbewerb um Ressourcen das richtige Maß zu finden, ist eine weitere Schwäche des menschlichen Bewusstseins. Wir sind denkbar schlecht dafür ausgestattet, das richtige Maß für unseren externen Ressourcenverbrauch zu finden. Dies führt dazu, dass wir unsere Umwelt mehr als notwendig belasten oder gar zerstören. Auf die Auswirkung unserer Handlungen auf andere Lebewesen und unsere Umwelt nehmen zu viele Menschen zu wenig Rücksicht. Zu Zeiten, als es weniger Menschen gab, war das kein Problem. Aber jetzt ist es eins. Leider hat sich unser Bewusstsein nicht an die neue Situation angepasst.

Diese Maßlosigkeit sehen wir auch im Bau von Werkzeugen wie der digitalen Intelligenz. Die Unmenge von benötigten Daten und der Aufwand, den wir zu deren technischer Verarbeitung und der Simulation der realen Welt treiben müssen, erhöht den Ressourcenbedarf so stark, dass aktuell Umweltschäden allein aus der Anwendung dieser Technik befürchtet werden, wenn wir daran nichts ändern. Da unser Bewusstsein im Wettbewerb ums Überleben per se keine wirksame Abschaltung besitzt, schaden wir uns immer wieder selbst.

Unser Bewusstsein braucht die ständige Herausforderung durch die Umwelt, um beim Lösen von Problemen kompetent und auf der Höhe der Zeit zu bleiben. Ob es die Nutzung von Navigationssystemen, das Erarbeiten von Faktenwissen oder die Nutzung von Technik im Allgemeinen geht – digitale Technik vermindert insgesamt unsere Kompetenzen im Umgang mit der Umwelt. Unser Bewusstsein schlägt uns da durch seinen Energiesparwillen ein Schnippchen.

Was bekommen wir also, wenn wir Computer mit Bewusstsein ausstatten, das dem menschlichen nachgebildet ist?

Wir gewinnen eine Menge neuer Akteure, die uns Menschen bei der Abarbeitung von Aufgaben ersetzen, für die nicht genug Menschen zur Verfügung stehen oder die Menschen nicht gerne machen.

Maschinen mit Bewusstsein werden ihre Stärke, rationale Entscheidungen zu treffen und für uns ein rational arbeitendes Werkzeug zu sein, einbüßen. Die Konsequenzen daraus sind sicher noch nicht ansatzweise durchdacht.

Unser Leben wird durch bewusste Maschinen erheblich komplexer. Wir alle haben schon jetzt viele Mitmenschen und andere Lebewesen als Umwelt, die für uns nur eingeschränkt berechenbar sind. Wir hätten auch noch unberechenbare Maschinen um uns. Das kann selbst Optimisten Angst machen.

Die Kombination aus digitaler Intelligenz und Maschinenbewusstsein kann natürlich aktiv gefährlich werden, wenn Entwickler und Nutzer Ziele damit verfolgen, die nicht im Interesse der Mehrheit der Menschen sind. Das sehen wir heute schon in der Welt der Cyberattacken auf unsere Systeme und damit auf unser alltägliches Leben. Wenn wir nicht die Absicherungen gegen solche Entwicklungen im gleichen Maße entwickeln wie die Möglichkeiten der Technik, werden wir uns sicher einmal fragen, ob die Nachteile nicht die Vorteile auf lange Sicht überwiegen.

Formulierung meiner Haltung

Zu welchen Schlussfolgerungen und zu welcher Antwort auf die eingangs gestellte Frage führen mich diese Betrachtungen?

Für eine Beurteilung des Nutzens, den wir aus intelligenten oder gar bewussten Maschinen ziehen können, ist es egal, ob das Bewusstsein wirklich so vorhanden ist wie beim Menschen oder ob es eine Simulation ist. Wichtig ist, ob es nützlich für unsere technischen Werkzeuge und damit für uns ist.

Intelligente technische Systeme mit Maschinenbewusstsein sollten wir nicht als etwas anderes betrachten denn als Werkzeuge. Sie bleiben technische Geräte, auch wenn wir ihnen Simulationen von Intelligenz und Bewusstsein einprogrammieren. Die Frage, ob Computer Rechte bekommen sollten, halte ich deshalb für absurd. Ich sehe keinen Grund, dieses Verständnis von Computern auf absehbare Zeit zu ändern. Die Konkurrenz um Ressourcen würde für uns Menschen um ein Vielfaches anspruchsvoller.

Wir müssen uns bei jedem weiteren Entwicklungsschritt von Computern fragen, zu wessen Nutzen er erfolgt und in welchen Anwendungen die Technologie zum Einsatz kommen soll. Wir brauchen dafür Experten, die die Folgen von Technologie abschätzen können und das als Dienstleistung für uns alle betrachten. Das erlaubt uns dann eine ethisch ausgerichtete Nutzung von Technik mit dem Potential digitaler Intelligenz und Maschinenbewusstsein.

Als „general purpose technology“ sollten wir sowohl an digitaler Intelligenz als auch an Maschinenbewusstsein weiter forschen, weil sie enormen Nutzen haben können. Ideal wäre es, wenn wir in Maschinen Bewusstsein aus- und anschalten könnten. Dann hätten wir unter Kontrolle, wann wir eher die Rationalität von Computern brauchen und wann ihre Menschenähnlichkeit.

Wir werden als Menschen davon profitieren, wenn die Masse unserer Werkzeuge intelligent ist. Unsere Lebensqualität wird in vielen Bereichen dadurch steigen. Maschinenbewusstsein wird aber für die Masse der computerisierten Werkzeuge nicht den Mehrwert bringen, der den Aufwand der Entwicklung und Implementierung rechtfertigt. Vor allem aber muss die unendliche Masse von vorhandenen, nicht intelligenten Werkzeugen entsorgt oder umgerüstet werden, damit wir voll von digitalen und vernetzen Werkzeugen profitieren können. Selbst wenn wir die Technik haben, wird das viele Jahrzehnte dauern und in den unterschiedlichen Regionen der Welt sehr unterschiedlich verlaufen.

Wir werden auf dem Weg eine Menge über uns und andere intelligente und bewusste Systeme lernen, wenn wir sie weiter als Werkzeuge betrachten. Die Zusammenarbeit zwischen Natur- und Ingenieurwissenschaften wird dafür deutlich intensiver werden. So, wie im Moment viele Maschinenbauer Softwarefirmen werden, werden in der nächsten Stufe Ingenieurorganisationen durch Natur- und Geisteswissenschaftler inspiriert.

Vor-Denker / Quellen für diesen Essay

Bostrom, Nick; Chalmers, David; Damasio, Antonio; Darwin, Charles; Dennet, Daniel; Gabriel, Markus; Hinton, Geoffrey; Hoffman, Donald; Langhammer, Falk; Nagel, Thomas; Otte, Ralf; Searle, John; Sheldrake, Rupert; Tegmark, Max

Um die PDF Version dieses Essays zu öffnen, klicken Sie hier.