KI und Ich. Mein Interview vor 35 Jahren: „Technologie ist nie gefährlich. Die Gesellschaft ist es.“ (Joseph Weizenbaum)

Als das neue Philosophie Magazin in meinem Postfach liegt – Thema „KI und ich“ – sehr empfehlenswert übrigens! – mit einem Immanuel Kant-Bot zum Experimentieren und vielen spannenden Geschichten – fällt mir eines der vielen Interviews ein, die ich geführt habe – mit dem großen amerikanischen Informatiker, MIT-Professor und KI-Experten Joseph Weizenbaum. Das war 1991, also vor 35 Jahren. Ich gebe meinen und Weizenbaums Namen ins Web ein und lese:

Übersicht mit KI:

Das vielbeachtete Interview zwischen der österreichischen Journalistin und Publizistin Marion Fugléwicz-Bren und dem KI-Pionier sowie Computerkritiker Joseph Weizenbaum fand im Jahr 1991 statt. Es erschien ursprünglich in Publikationen wie Der Standard und der Computerwelt und wurde später in das Buch Zurück in die Zukunft: Interviews, Essays, Kolumnen aufgenommen. [1]

Kernaussagen des Interviews

• Kritik an der KI: Weizenbaum, der 1966 den wegweisenden Chatbot ELIZA entwickelte, reflektiert in dem Gespräch über seine Wandlung zu einem der schärfsten Kritiker der Künstlichen Intelligenz. [1, 2]
• Menschliche Vernunft: Er bezog sich dabei stark auf seine Thesen aus dem bahnbrechenden Buch Die Macht des Computers und die Ohnmacht der Vernunft und warnte davor, menschliches Urteilsvermögen und Verantwortung durch Maschinen ersetzen zu wollen. [1, 2, 4]
• Wahrheitsanspruch: Weizenbaum betonte oft, dass die Gesellschaft dazu neigt, Computeraussagen unreflektiert zu glauben, was er im Kern auf die Frage reduzierte: “Mein Vater sagte früher, es steht in den heiligen Büchern. Heute sagt man, der Computer hat gesagt.” [1]

Und hier geht´s zum Interview. Erstaunlich, wie viel Gültigkeit die Aussagen dieses Textes in der nächsten Generation noch haben…

„Amerika ist bald kaputt…” und … “Technologie ist nie gefährlich. Die Gesellschaft ist es.”

Mit dem Computerwissenschafter und -kritiker Joseph Weizenbaum sprach Marion Fugléwicz im Rahmen des Europäischen Technologieforums in Klagenfurt.

Was heute für die großen Forschungslabors bereits Gedankengut von gestern ist, davon hat der Endverbraucher zum Großteil noch nicht einmal gehört. Beim Europäischen Technologieforum in Klagenfurt sprachen Forschungschefs großer Konzerne und anerkannte Wissenschafter über technologische Entwicklungen.

Sie haben im Laufe Ihrer kritischen Auseinandersetzung mit den Naturwissenschaften – also zum Beispiel 1976 in ihrem Buch “Die Macht des Computers und die Ohnmacht der Vernunft” einige Prognosen gemacht, die bislang nicht verwirklicht wurden. Welche davon würden Sie heute revidieren, was hat sich seit damals verändert und wie geht es weiter?

Also, wenn Sie mich fragen, mit welcher Sicherheit wir überhaupt irgendetwas prognostizieren können, so sage ich Ihnen – mit gar keiner. Mir fällt da vor allem eine Stelle ein, an der ich von sprachverstehenden Computersystemen gesprochen habe. Damals sagte ich, daß solche Computer in Zukunft nur von Regierungen und Großkonzernen eingesetzt werden würden. Erstens würde sich niemand sonst diese Systeme leisten können, zweitens würden diese Computer eine große Gefahr für die Menschheit darstellen. Heute muß ich zugeben, daß ich mich diesbezüglich geirrt habe.

Heute sehe ich ein, daß auch kleinere Computer – bis zu einem gewissen Grad – Sprache verstehen können. Bald werden wir Computer haben, mit denen wir so sprechen können, daß sie uns verstehen, ja, uns vielleicht sogar politisch korrigieren können. Das bringt die Frage nahe, was es überhaupt bedeutet, Sprache zu verstehen. Diesbezüglich habe ich den Fortschritt nicht richtig vorausgesehen.

Welche Anliegen würden Sie in diesem Zusammenhang als besonders dringlich bezeichnen und welche Ratschläge können Sie jedem einzelnen geben?

Es ist zum Beispiel dringend notwendig, sich kritischer mit dem Computer im Zusammenhang mit Kindern auseinanderzusetzen – ob nun in der Schule oder zu Hause. Da spielt dann auch der Faktor Gewalt mit hinein. Mit dem Begriff Gewalt kommt zwangsläufig das Militär in die Diskussion. Man kann gar nicht oft genug darauf hinweisen. Ich habe es – etwa in dem von Ihnen erwähnten Buch – zu wenig getan, bin aber heute dabei, es nachzuholen.

Eine sehr zentrale Frage, die sich zum Beispiel im Zusammenhang mit der Einführung des Computers in den Unterricht stellt, hängt mit unserer Gesellschaft zusammen…

Richtig. In der Zeit, die unsere Kinder mit dem Computer verbringen, können sie andere Dinge nicht tun oder lernen, die vielleicht genauso wichtig – oder wichtiger wären.

(Nach amerikanischem Schulsystem kann etwa irgendein Lehrfach wie Geschichte oder Englisch durch das Fach EDV ersetzt werden, Anm. d. Red.)

Was verstehen Sie unter der Kultivierung der Bedürfnisse?

Nehmen Sie als Beispiel das hochauflösende Fernsehen (HDTV). Kein Mensch braucht es. Und doch werden wir es in zehn Jahren alle haben. Es ist einfach eine Frage des Bewußtseins. Sie müssen wissen, daß ein Drittel unserer Jugend in den Vereinigten Staaten Analphabeten sind. Dort müssen wir ansetzen, beim sozialen Bewußtsein anstatt beim weiteren Technologiewachstum. Denn wenn wir es nicht tun, ist die USA bald kaputt. Sehen Sie einmal nach Japan, oder auch nach Europa. Nicht, daß wir in Amerika keine wirtschaftlichen Fortschritte machten – gerade am Elektronikmarkt – aber die Weltkonkurrenz kann ohne uns rechnen. (Fortschritt und Fortschritt ist zweierlei, Anm. d. Red.) Auf der anderen Seite explodiert der Hardwarefortschritt, in zehn Jahren werden PCs dieselbe Rechenarbeit leisten, zu denen heute riesige Großrechner notwendig sind. Diese Entwicklung läuft – in Relation – zu schnell. Wir sollten uns mit mehr Bedacht fortbewegen.

Liegt also im technologischen Fortschritt eine Gefahr für den Menschen?

Technologie ist nie gefährlich. Gefährlich ist die Gesellschaft. Man muß auch den Computer in einem sozialen Kontext sehen. Denken Sie nur an die zahllosen Computerspiele für Kinder. Es gibt auch Messer und anderes Kriegsspielzeug. Wenn etwas daran gefährlich ist, dann sind es nicht die Messer und die Computer, sondern die Eltern, die ihren Kindern alle diese Dinge in die Hand geben.

Sie haben einen sehr kritischen Ansatz zum Thema “Künstliche Intelligenz”: Einmal haben Sie das Bestreben, einen künstlichen Menschen herzustellen, als eine Art Gebärmutterneid der Männer bezeichnet, die sich damit beschäftigen.

Also das ist ein sehr vielschichtiger Fragenkomplex – den kann man nicht so schnell beantworten. Das Problem ist, daß jeder etwas anderes unter “künstlicher Intelligenz” versteht – es ist tatsächlich in erster Linie eine Frage der Definition, wo man den Beginn der künstlichen Intelligenz ansetzt. Einer ihrer Väter – er ist übrigens auch derjenige, der ihr den (problematischen, erg. Red.) Namen gegeben hat – John Mc Carthy, behauptet, daß auch schon ein Thermostat, der die Raumtemperatur reguliert, eine “künstliche Intelligenz” darstellt. Andere wieder glauben, daß sie dort beginnt, wo wir uns in unserer Sprache mit dem Computer unterhalten können (was heute bereits bedingt möglich ist, Anm. d. Red.)

Eines ist jedenfalls klar: Wir werden einen Computer niemals so programmieren können, daß er wie ein Mensch denkt, weil er von seiner Struktur her komplett anders ist, als wir.

Welcher wissenschaftlichen Fakultät, politischen Gruppierung oder sonstigen meinungsbildenden Zielgruppe obliegt es, letztlich die Verantwortung zu übernehmen, damit uns die Gefahren nicht über den Kopf wachsen?

Abgesehen vom Erziehungswesen und den gesamtgesellschaftlichen Strukturen – die sehr komplex sind – sind wir in gewisser Weise alle angesprochen. Jeder einzelne von uns kann und muß in seinem persönlichen und beruflichen Wirkungsbereich nach seiner Einsicht und nach seinen Möglichkeiten Zeichen setzen.