Melden Sie sich hier an, um auf Kommentare und die Whitepaper-Datenbank zugreifen zu können.

Kein Log-In? Dann jetzt kostenlos registrieren.

Falls Sie Ihr Passwort vergessen haben, können Sie es hier per E-Mail anfordern.

Der Zugang zur Reseller Only!-Community ist registrierten Fachhändlern, Systemhäusern und Dienstleistern vorbehalten.

Registrieren Sie sich hier, um Zugang zu diesem Bereich zu beantragen. Die Freigabe Ihres Zugangs erfolgt nach Prüfung Ihrer Anmeldung durch die Redaktion.

22.03.1991

"Der Computer hilft uns, die Probleme schärfer zu sehen"

Joseph Weizenbaum, von 1963 bis zu seiner Emeritierung 1988 Informatik-Professor am renommierten Massachusetts Institute of Technology (MIT), ist einer der wenigen Computerspezialisten, die sich kritisch mit ihrer Zunft auseinandersetzen. Der Computer ist für ihn eine Metapher für die grundlegenden Probleme unserer Kultur: den Glauben an Experten und technische Lösungen, die Unwilligkeit, Verantwortung für sich selbst und das eigene Handeln zu übernehmen, die Jagd nach Ersatzbefriedigungen. Daraus entspringt eine Weltsicht, die im Computer eine Art elektronischen Messias sieht: "Das ist unsere Krankheit, daß wir glauben, das Expertensystem sei das Allheilmittel für unsere Schwierigkeiten. " Mit Joseph Weizenbaum sprechen Karin Quack und Gerhard Schmid.

CW: Fragt man die Anwender nach ihren Erfahrungen mit der Informationstechnik, so sind sie nur bereit, zu berichten, wenn es gut läuft. Woran liegt es, daß niemand über seine Mißerfolge sprechen will?

Weizenbaum: Ja, das ist wirklich seltsam. Wenn der Kaffee im Flugzeug nicht warm genug ist, sind die Kunden sehr wohl bereit, sich bei der Fluggesellschaft zu beschweren. Daß es bei der Informationstechnik genau umgekehrt ist, ist ein Phänomen. Möglicherweise schämen sich die Leute; sie denken vielleicht, daß sie hereingefallen sind, und das wollen sie nicht zugeben.

CW: Welche Rolle spielen dabei die von Ihnen oft kritisierten Wundererwartungen, die mit dieser Technik verbunden werden?

Weizenbaum: Der Computer wurde fast von Anfang an als "problem solver", als Problemlöser, betrachtet. Und das Wesen der Computerei ist in unser gesamtes Leben eingedrungen, versteckt in Uhren und Fotoapparaten, hinter den Kulissen in den großen Firmen und Banken etc. Das hat sich auch in unserer Sprache niedergeschlagen. Heute sagt man beispielsweise nicht "Mein Bauch tut mir weh", sondern "Ich habe ein Problem mit meinem Magen", oder man sagt nicht "Meine Frau ist unglücklich", man sagt "Ich habe ein Problem in meiner Ehe". Heute haben wir eine ganze Reihe von Problemen, Eheprobleme, Zahnprobleme, Verkehrsprobleme etc. Die Vorstellung, daß wir ein Problem "haben", birgt in sich die Vorstellung, daß dieses Problem gelöst werden kann. Aber darin stellt sich heraus, daß menschliche Probleme nie gelöst, sondern in andere Probleme umgewandelt werden.

CW: Welcher Zusammenhang besteht zwischen der Illusion der Problemlösung und dem Glauben an die Unfehlbarkeit von Experten?

Weizenbaum: Nun, für Probleme sind Experten zuständig. Und so haben wir in der ganzen industrialisierten Welt einen Expertenkult oder besser einen Kult des Expertenglaubens geschaffen. Wir haben für alles einen Experten. Und durch den Computer haben wir jetzt auch Expertensysteme. Diese Systeme finden einen sehr gut bereiteten Boden vor; die Idee des Expertenwissens ist schon tief in uns eingeprägt. Wenn dann dieses geballte Expertenwissen in Form des Expertensystems nicht zu den erhofften Ergebnissen führt, dann sind die Anwender schnell bereit, sich selbst die Schuld zu geben. Denn Experten können doch keine Fehler machen!

CW: Seltsam daran ist, daß dem Expertensystem ein größeres Vertrauen entgegengebracht wird als dem menschlichen Experten.

Weizenbaum: Ja, das ist wirklich seltsam. Der Mensch vertraut dem Computer! Der Unterschied zwischen einem menschlichen und einem maschinellen Experten ist der, daß der Mensch immer noch flexibel beziehungsweise unvorhersehbar ist. Wenn man zu einem menschlichen Experten geht, dann hat der vielleicht seinen Kaffee noch nicht getrunken oder seine Frau hat sich von ihm getrennt, also ist er indisponiert und kann sich deshalb irren. Aber ein Computer, so sieht es jedenfalls für den Laien aus, funktioniert nach festen Regeln. Das ist alles getestet, also ist es sicher. Es gibt keine Abweichung; alles ist determiniert, und deshalb, so glaubt man, sind die Ergebnisse auch richtig.

CW: Woher kommt diese Sehnsucht nach Sicherheit?

Weizenbaum: Die Menschen glauben heute an eine Welt, die völlig berechenbar ist, so wie sich Leibniz das gedacht hat, an eine deterministische Welt ohne Zufälle. Und in dieser Welt suchen sie nach Rezepten und Lösungen. Mit den Expertensystemen haben wir jetzt Instrumente, von denen wir annehmen, daß sie genau diesen Charakter eines festen Rezeptes haben und deshalb nicht versagen können.

CW: Wie deckt sich das mit der landläufigen Behauptung, es sei gerade die Technik, die unsere Welt verändert?

Weizenbaum: Ja, es wird oft gesagt, der Computer verändere zum Beispiel die Situation der Arbeiter, den Alltag etc. Aber in Wirklichkeit sind es die Menschen, die diese Veränderung vollziehen. Diese Redensart, daß die Technik die Weit verändere, hat sich gerade wieder ad absurdum geführt, ich meine im Krieg am Golf. Nicht die Elektronik hat den Krieg verändert, wir haben den Krieg verändert. Die Elektronik hat uns neue Möglichkeiten gegeben, aber indem wir diese Möglichkeiten ausnutzen, grenzen wir andere Möglichkeiten aus.

CW: Wie wirkt sich diese Technikgläubigkeit auf die Lösung unserer zweifellos vorhandenen Probleme aus?

Weizenbaum: Wenn wir glauben, eine Lösung gefunden zu haben, dann denken wir zunächst einmal nicht weiter über die Ursachen nach. Betrachten wir ein Beispiel: Speziell in den USA, aber auch in anderen Industrienationen lernen die Kinder kaum noch lesen. Aber dafür gibt es dann ein Computerprogramm, das ihnen beim Lesen hilft. Also brauchen wir uns nicht mehr zu fragen, warum die Kinder nicht lesen können. Wir haben das Rezept, wir wenden es an, und dann brauchen wir nicht weiter zu suchen.

CW: Wie ist es zu dieser Einstellung gekommen und wie können wir sie ändern?

Weizenbaum: Das ist sicher nicht einfach so passiert. Die Ursache sind die Menschen, aber es ist schwierig, hier Schuldige auszumachen. Und genauso schwierig ist es, einen Ausweg zu finden. Es gibt dafür keine Patentlösung, und gerade deshalb ist es so schwierig. Unabdingbar ist jedoch, daß wir lernen, kritisch zu denken. Doch genau diese Fähigkeit verlernen wir, wenn wir uns einfach an die Medien oder an den Computer wenden, uns dort belehren lassen und nicht mehr selbst nachdenken.

CW: Aber die Menschen merken doch relativ schnell, daß ihre Hoffnung auf den Computer als Allheilmittel für ihre Probleme sie trügt.

Weizenbaum: Was Sie da sagen, bedeutet: Jemand, der ins Wasser hineingefallen ist, merkt ziemlich bald, daß er untergeht und daß es da unten keine Luft gibt. Aber was soll daraus folgen? Höchstens, daß er seine Lage erkennt und einsieht, daß er schwimmen lernen muß.

CW: Es ist also zu spät?

Weizenbaum: Nicht ganz! Wir sind zwar ins Wasser gefallen, doch noch nicht ganz untergegangen. Es gibt immer noch etwas Luft, aber die Zeit wird knapp. Wenn wir einfach so weitermachen wie bisher, dann werden wir ersticken - vielleicht erst in fünfzig Jahren oder in hundert, aber sicher nicht tausend.

CW: Sie raten uns kritisches Denken zu üben. Aber wie kann ein Mensch lernen, kritisch zu denken?

Weizenbaum: Einfach ist das sicher nicht. Es wäre jedoch schon eine riesige Hilfe, wenn wir den allgegenwärtigen Fernsehapparat loswerden könnten, das heißt, wenn wir ihn nur gelegentlich benutzen würden wie beispielsweise das Telefon. Der durchschnittliche Amerikaner sieht fünf Stunden am Tag fern; das lähmt das kritische Denken und macht außerdem unglücklich. Um kritisch denken zu lernen, brauchen wir Vorbilder, nicht nur Politiker uns Bürgerrechtler, sondern Leute, die wir jeden Tag sehen, Eltern und Lehrer beispielsweise. Unsere Schulen in den USA sind total kaputt; jeder dritte Jugendliche ist de facto ein Analphabet. Er kann vielleicht Comics lesen, aber er ist nicht fähig, eine Stellenanzeige in der Zeitung zu finden, die ihn betrifft. Ich habe an einer der Spitzenuniversitäten der Welt gelehrt; aber viele unserer handverlesenen Studenten können keine zwei Absätze in der englischen Sprache schreiben, ohne grammatikalische Fehler zu machen. Und wenn man ihnen sagt, in diesem Absatz sind zwei Fehler, dann können sie sie nicht finden. Bei meinen Kollegen ist das übrigens nicht viel besser.

CW: Welche Rolle spielen hier die Computerspezialisten? Können sie diese Entwicklung irgendwie beeinflussen?

Weizenbaum: Es wäre sicher Unsinn, diesen Leuten zu sagen, sie sollen sofort aufhören, das zu tun. Ich glaube, sie haben völlig recht, das, was sie gelernt haben, zu nutzen anstatt es einfach wegzuwerfen.

Ich möchte Ihnen eine Geschichte erzählen. Stellen Sie sich ein Konzentrationslager vor, in dem alle Entscheidungen - also zum Beispiel, wieviel die Gefangenen zu essen bekommen, wer morgen sterben muß und all diese Sachen - vom Computer getroffen werden. Da kann einer sagen: "Es muß doch vernünftige und humane Anwendungen für den Computer geben. " Und ein anderer antwortet: "Ja sicher, aber nicht in einem KZ. " So glaube ich, ist es auch in unserem Beruf. Ich will nicht sagen, daß wir in einem KZ leben, aber einem Irrenhaus ist es schon ähnlich.

Als Computerspezialist sollte man zumindest versuchen, den Wahnsinn nicht weiter zu treiben. Man sollte sich wenigstens eine Frage stellen: Was mache ich eigentlich in meinem Beruf - vermehrt das die Vernunft in der Welt oder den Wahnsinn? Wenn Sie sehen, daß alles, was Sie als Wissenschaftler machen, sofort vom Militär benutzt wird, um beispielsweise Raketen besser zu steuern, dann sollten Sie mit dieser Arbeit eigentlich nicht weitermachen. Das bedeutet nicht, daß Sie ihre Computer wegwerfen sollen, aber Sie sollten versuchen, sich selbst klar zu machen, ob Ihre Arbeit die Vernunft vermehrt oder nicht. Ich glaube, es gibt in dieser verrückten Welt ein großes Meer von Unsinn und Wahnsinn, und darin gibt es Inseln der Vernunft. Unser Bestreben sollte sein, diese Inseln der Vernunft zu vergrößern und schließlich miteinander zuverbinden, so daß wir vielleicht einmal einen ganzen Kontinent der Vernunft haben.

CW: Könnten Computer dabei nicht helfen?

Weizenbaum: Oh, natürlich. Es kommt immer auf den Kontext an, in dem sie benutzt werden. Aber man kann nicht mit dem Computer anfangen, indem man sagt, wir haben hier dieses schöne Instrument, und sich dann fragt, wie kann es benutzt werden, um die Welt zu heilen. Zuerst muß man sich vornehmen, die Welt zu heilen, und dann verwendet man alles darauf jedes Talent das man hat.

Das Problem ist weniger, daß die Wissenschaftler sich keine Gedanken um die Folgen machten, sondern daß sie sich nicht um die Prioritäten kümmern. Wenn man zum Beispiel daran arbeitet, einen Flug zum Mars zu organisieren, dann kann man das nur, wenn man sich die heutige Welt nicht ansieht und man die Armut und die Not in der Welt ignoriert. Denn wenn man das sieht, muß man sagen, der Marsflug ist eine wunderschöne Idee, aber wir können uns das jetzt nicht leisten.

Wenn die Wissenschaftler die wichtigen Entscheidungen, besonders die, woran sie arbeiten, nicht selbst treffen, sondern andere für sie treffen lassen, sind sie einfach nur Marionetten. Es gibt unendlich viele Fragen, die wir der Natur stellen könnten. Die Versuche, sie zu beantworten, nennen wir Naturwissenschaft. Aber da es unendlich viele Fragen gibt und wir nur endlich viel Zeit haben, besonders der einzelne, müssen wir uns die Fragen, die wir tatsächlich stellen, sorgfältig auswählen. So sind es nicht die Konsequenzen einer Sache, es ist die Auswahl selbst, die den Wert der Sache ausmacht. Wenn ein Wissenschaftler sagt, ich mache das, wofür ich Geld bekomme, dann hat er über seine Verantwortung als Wissenschaftler nicht nachgedacht, dann hat er diese Verantwortung nicht übernommen. Da ist er dann selbst ein Roboter, der einfach macht, was der Forschungsminister vorschlägt.

CW: Aber ohne Geld kann er überhaupt keine Forschung machen. Wenn ihn niemand bezahlt, muß er aufhören.

Weizenbaum: Gut, ich akzeptiere dieses Argument vielleicht bei einer Prostituierten, die auf der Straße steht. Die hat nur die Wahl - oder wenigstens glaubt sie das - entweder sich zu verkaufen oder nichts zu essen. Aber ich würde ihr lieber zeigen, daß man auch anders sein Essen verdienen kann. Genauso ist es mit der Ausrede: Wenn wir es nicht machen, macht es jemand anders. Damit kann man alles rechtfertigen.

Letzten Endes hat es nur damit zu tun, wie man die Prioritäten setzt, seine ganz eigenen Prioritäten. In dieser Welt, die so voll von unerfüllten Bedürfnissen ist, erzeugen wir immer neue künstliche Bedürfnisse, wie jetzt etwa dieses High-Definition-Fernsehen. Konsumieren und wegwerfen, ob man das nun braucht oder nicht. Es ist tatsächlich schon "unamerican", wie wir in Amerika sagen, es ist unpatriotisch, dagegen zu plädieren und zu sagen, daß man so ein Gerät vielleicht doch nicht braucht.

CW: Würden wir nichts kaufen, wurde es das Problem auch nicht lösen.

Weizenbaum: Das stimmt. Aber zweifellos ist das Einkaufen bei uns, in diesen riesigen Shopping-Centers, die wir in Amerika haben, eine Art Droge. Wenn man zu Hause Krach hat, dann ist das Einkaufen ein Trost. Unsere ganze Wirtschaft ist darauf aufgebaut. Noch einmal: Man muß zu sich selbst kommen, man muß die echten Bedürfnisse, die man hat, erkennen. Man muß versuchen, keine Ersatzlösungen dafür anzunehmen. Für die meisten Menschen ist das unglaublich schwer.

CW: Angenommen, von heute auf morgen würde jeder Mensch Konsumverzicht leisten. Da würde doch ein absolutes Chaos ausbrechen. Ist der Prozeß überhaupt noch zurückzudrehen?

Weizenbaum: Ich hoffe es. Es kommt darauf an, ob dieser Prozeß von oben eingesetzt wird, so wie jetzt in der Sowjetunion die freie Marktwirtschaft von oben auferlegt wird, oder ob es von unten kommt. Aber es kommt nicht nur darauf an. Es geht nicht nur um einen Konsumverzicht, sondern wir müssen uns auch mehr umeinander kümmern.

CW: Für Sie ist der Computer so etwas wie eine Metapher für die Grundprobleme unserer Kultur. Könnten Sie genausogut eine andere, Metapher nehmen?

Weizenbaum: Ich glaube schon, aber ich weiß nicht, ob genausogut. Der Computer verleiht einem diese einzigartige Fähigkeit, die Sachen schärfer zu sehen, mit besserem Fokus. Wenn jemand ein Problem hat und sich dafür ein Programm schreibt, dann muß er, um das zu tun, sein Problem verstehen. Und beim Schreiben selbst wird das Problem neu beleuchtet. Er sieht, daß etwas nicht geht, und er erkennt daran, daß er etwas an dem Problem nicht tief genug verstanden hat. Daß man zum Verständnis seiner ganz realen Alltagsprobleme kommt, indem man den Computer benutzt, das ist eine sehr schöne Rolle des Computers.

Ich glaube, der Computer als Metapher verschärft die Sicht. Das bedeutet nicht, daß der Computer die beste Methapher ist, oder gar die einzige. Aber der Computer ist ja selbst auch eine Verkörperung dieser wahnsinnigen Rationalität, die uns gegenwärtig plagt. Das logische Denken allein kann uns die wichtigen Fragen nicht beantworten. Das ist ja unsere Krankheit, daß wir glauben, das Expertensystem sei das Allheilmittel für unsere Schwierigkeiten, so wie wir glauben, daß wir dem Experten viel mehr vertrauen dürfen, als dem, der sich nicht als Experte bezeichnet.

CW: Einige Ihrer ehemaligen Kollegen am MIT träumen davon, künstliche Menschen zu schaffen. Wie weit, glauben Sie, wird diese Entwicklung rein technisch gehen können?

Weizenbaum: Nicht sehr viel weiter. Es ist eine Illusion zu denken, daß diese Vision schon weit gediehen ist. Die Maschinen, die wir tatsächlich haben, unsere technischen Systeme, sind recht primitiv verglichen zum Beispiel mit dem Gehirn einer Katze. Das ist das eine. Das andere ist: Wenn wir weiter unser Talent an solche Sachen verschwenden, dann werden wir untergehen, bevor wir irgendeines dieser Programm vollenden können. Wir haben nicht genug Zeit. Das sehen auch die Leute, die sich damit beschäftigen. Sie sagen, daß diese Aufgaben sehr dringend sind, um die Menschheit oder wenigstens einen Teil von ihr zu retten.

CW: Warum ist eigentlich das Militär so interessiert an diesen Forschungen?

Weizenbaum: Das ist viel komplizierter als es im ersten Moment zu sein scheint. Die Institutionen im Pentagon, die das Geld ausgeben, sind Bürokratien, und das Ziel einer Bürokratie, ihr allererstes Ziel, ist es zu überleben. Das zweite Ziel ist, sich, das heißt ihre Macht, zu vergrößern. Wenn sie in einem Jahr weniger Geld ausgeben als im Jahr davor, werden sie kleiner. Das aber wollen sie leicht. Da spielt es überhaupt keine Rolle, was gekauft wird. Wenn jemand beweisen könnte, daß es Quatsch ist, was sie machen, dann würden sie an Boden verlieren und schrumpfen. Das aber dürfen sie nicht. Also müssen sie immer Leute haben, die beweisen können, daß das alles sehr wichtig ist. Und ganz besonders wichtig ist es, wenn die Russen es auch machen.

CW: Herr Weizenbaum, wir danken Ihnen für dieses Gespräch.