KI und Ich. Mein Interview vor 35 Jahren: „Technologie ist nie gefährlich. Die Gesellschaft ist es.“ (Joseph Weizenbaum)

Als das neue Philosophie Magazin in meinem Postfach liegt – Thema „KI und ich“ – sehr empfehlenswert übrigens! – mit einem Immanuel Kant-Bot zum Experimentieren und vielen spannenden Geschichten – fällt mir eines der vielen Interviews ein, die ich geführt habe – mit dem großen amerikanischen Informatiker, MIT-Professor und KI-Experten Joseph Weizenbaum. Das war 1991, also vor 35 Jahren. Ich gebe meinen und Weizenbaums Namen ins Web ein und lese:

Übersicht mit KI:

Das vielbeachtete Interview zwischen der österreichischen Journalistin und Publizistin Marion Fugléwicz-Bren und dem KI-Pionier sowie Computerkritiker Joseph Weizenbaum fand im Jahr 1991 statt. Es erschien ursprünglich in Publikationen wie Der Standard und der Computerwelt und wurde später in das Buch Zurück in die Zukunft: Interviews, Essays, Kolumnen aufgenommen. [1]

Kernaussagen des Interviews

• Kritik an der KI: Weizenbaum, der 1966 den wegweisenden Chatbot ELIZA entwickelte, reflektiert in dem Gespräch über seine Wandlung zu einem der schärfsten Kritiker der Künstlichen Intelligenz. [1, 2]
• Menschliche Vernunft: Er bezog sich dabei stark auf seine Thesen aus dem bahnbrechenden Buch Die Macht des Computers und die Ohnmacht der Vernunft und warnte davor, menschliches Urteilsvermögen und Verantwortung durch Maschinen ersetzen zu wollen. [1, 2, 4]
• Wahrheitsanspruch: Weizenbaum betonte oft, dass die Gesellschaft dazu neigt, Computeraussagen unreflektiert zu glauben, was er im Kern auf die Frage reduzierte: “Mein Vater sagte früher, es steht in den heiligen Büchern. Heute sagt man, der Computer hat gesagt.” [1]

Und hier geht´s zum Interview. Erstaunlich, wie viel Gültigkeit die Aussagen dieses Textes in der nächsten Generation noch haben…

„Amerika ist bald kaputt…” und … “Technologie ist nie gefährlich. Die Gesellschaft ist es.”

Mit dem Computerwissenschafter und -kritiker Joseph Weizenbaum sprach Marion Fugléwicz im Rahmen des Europäischen Technologieforums in Klagenfurt.

Was heute für die großen Forschungslabors bereits Gedankengut von gestern ist, davon hat der Endverbraucher zum Großteil noch nicht einmal gehört. Beim Europäischen Technologieforum in Klagenfurt sprachen Forschungschefs großer Konzerne und anerkannte Wissenschafter über technologische Entwicklungen.

Sie haben im Laufe Ihrer kritischen Auseinandersetzung mit den Naturwissenschaften – also zum Beispiel 1976 in ihrem Buch “Die Macht des Computers und die Ohnmacht der Vernunft” einige Prognosen gemacht, die bislang nicht verwirklicht wurden. Welche davon würden Sie heute revidieren, was hat sich seit damals verändert und wie geht es weiter?

Also, wenn Sie mich fragen, mit welcher Sicherheit wir überhaupt irgendetwas prognostizieren können, so sage ich Ihnen – mit gar keiner. Mir fällt da vor allem eine Stelle ein, an der ich von sprachverstehenden Computersystemen gesprochen habe. Damals sagte ich, daß solche Computer in Zukunft nur von Regierungen und Großkonzernen eingesetzt werden würden. Erstens würde sich niemand sonst diese Systeme leisten können, zweitens würden diese Computer eine große Gefahr für die Menschheit darstellen. Heute muß ich zugeben, daß ich mich diesbezüglich geirrt habe.

Heute sehe ich ein, daß auch kleinere Computer – bis zu einem gewissen Grad – Sprache verstehen können. Bald werden wir Computer haben, mit denen wir so sprechen können, daß sie uns verstehen, ja, uns vielleicht sogar politisch korrigieren können. Das bringt die Frage nahe, was es überhaupt bedeutet, Sprache zu verstehen. Diesbezüglich habe ich den Fortschritt nicht richtig vorausgesehen.

Welche Anliegen würden Sie in diesem Zusammenhang als besonders dringlich bezeichnen und welche Ratschläge können Sie jedem einzelnen geben?

Es ist zum Beispiel dringend notwendig, sich kritischer mit dem Computer im Zusammenhang mit Kindern auseinanderzusetzen – ob nun in der Schule oder zu Hause. Da spielt dann auch der Faktor Gewalt mit hinein. Mit dem Begriff Gewalt kommt zwangsläufig das Militär in die Diskussion. Man kann gar nicht oft genug darauf hinweisen. Ich habe es – etwa in dem von Ihnen erwähnten Buch – zu wenig getan, bin aber heute dabei, es nachzuholen.

Eine sehr zentrale Frage, die sich zum Beispiel im Zusammenhang mit der Einführung des Computers in den Unterricht stellt, hängt mit unserer Gesellschaft zusammen…

Richtig. In der Zeit, die unsere Kinder mit dem Computer verbringen, können sie andere Dinge nicht tun oder lernen, die vielleicht genauso wichtig – oder wichtiger wären.

(Nach amerikanischem Schulsystem kann etwa irgendein Lehrfach wie Geschichte oder Englisch durch das Fach EDV ersetzt werden, Anm. d. Red.)

Was verstehen Sie unter der Kultivierung der Bedürfnisse?

Nehmen Sie als Beispiel das hochauflösende Fernsehen (HDTV). Kein Mensch braucht es. Und doch werden wir es in zehn Jahren alle haben. Es ist einfach eine Frage des Bewußtseins. Sie müssen wissen, daß ein Drittel unserer Jugend in den Vereinigten Staaten Analphabeten sind. Dort müssen wir ansetzen, beim sozialen Bewußtsein anstatt beim weiteren Technologiewachstum. Denn wenn wir es nicht tun, ist die USA bald kaputt. Sehen Sie einmal nach Japan, oder auch nach Europa. Nicht, daß wir in Amerika keine wirtschaftlichen Fortschritte machten – gerade am Elektronikmarkt – aber die Weltkonkurrenz kann ohne uns rechnen. (Fortschritt und Fortschritt ist zweierlei, Anm. d. Red.) Auf der anderen Seite explodiert der Hardwarefortschritt, in zehn Jahren werden PCs dieselbe Rechenarbeit leisten, zu denen heute riesige Großrechner notwendig sind. Diese Entwicklung läuft – in Relation – zu schnell. Wir sollten uns mit mehr Bedacht fortbewegen.

Liegt also im technologischen Fortschritt eine Gefahr für den Menschen?

Technologie ist nie gefährlich. Gefährlich ist die Gesellschaft. Man muß auch den Computer in einem sozialen Kontext sehen. Denken Sie nur an die zahllosen Computerspiele für Kinder. Es gibt auch Messer und anderes Kriegsspielzeug. Wenn etwas daran gefährlich ist, dann sind es nicht die Messer und die Computer, sondern die Eltern, die ihren Kindern alle diese Dinge in die Hand geben.

Sie haben einen sehr kritischen Ansatz zum Thema “Künstliche Intelligenz”: Einmal haben Sie das Bestreben, einen künstlichen Menschen herzustellen, als eine Art Gebärmutterneid der Männer bezeichnet, die sich damit beschäftigen.

Also das ist ein sehr vielschichtiger Fragenkomplex – den kann man nicht so schnell beantworten. Das Problem ist, daß jeder etwas anderes unter “künstlicher Intelligenz” versteht – es ist tatsächlich in erster Linie eine Frage der Definition, wo man den Beginn der künstlichen Intelligenz ansetzt. Einer ihrer Väter – er ist übrigens auch derjenige, der ihr den (problematischen, erg. Red.) Namen gegeben hat – John Mc Carthy, behauptet, daß auch schon ein Thermostat, der die Raumtemperatur reguliert, eine “künstliche Intelligenz” darstellt. Andere wieder glauben, daß sie dort beginnt, wo wir uns in unserer Sprache mit dem Computer unterhalten können (was heute bereits bedingt möglich ist, Anm. d. Red.)

Eines ist jedenfalls klar: Wir werden einen Computer niemals so programmieren können, daß er wie ein Mensch denkt, weil er von seiner Struktur her komplett anders ist, als wir.

Welcher wissenschaftlichen Fakultät, politischen Gruppierung oder sonstigen meinungsbildenden Zielgruppe obliegt es, letztlich die Verantwortung zu übernehmen, damit uns die Gefahren nicht über den Kopf wachsen?

Abgesehen vom Erziehungswesen und den gesamtgesellschaftlichen Strukturen – die sehr komplex sind – sind wir in gewisser Weise alle angesprochen. Jeder einzelne von uns kann und muß in seinem persönlichen und beruflichen Wirkungsbereich nach seiner Einsicht und nach seinen Möglichkeiten Zeichen setzen.

Wie Gefühle die Politik bestimmen

Richard David Precht im hochinteressanten Gespräch mit der israelisch-französischen Soziologin Eva Illouz. Ein TV-Tipp für alle, die sich schon länger fragen, warum Politik scheinbar plötzlich dermaßen emotional aufgeladen ist.

In liberalen Gesellschaften vermehren sich nach und nach die Rechte und Freiheiten für die Menschen, so Precht. Damit steigen auch ihre Ansprüche an sich und die Institutionen. Werden diese nicht erfüllt, kommt es erst zur Enttäuschung, dann zu Neid, Zorn und Wut.

Noch nie habe der Mensch so hohe Erwartungen an sein Leben gestellt wie heute, sagt Eva Illouz, die sich in ihren Büchern immer wieder mit Gefühlen beschäftigt hat. Überall – in Filmen oder TV-Shows – werde suggeriert, dass wir im Leben alles erreichen können, wenn wir es nur entschieden genug wollen. Bleiben diese Ansprüche jedoch unerfüllt, halte man sich oft selbst für nicht gut genug und kämpfe mit der eigenen Scham. Eine explosive Stimmung, so Illouz. Die Wahrnehmung widersprüchlicher Kräfte, die am modernen Menschen zerren, schlage in der gegenwärtigen Gesellschaft immer schneller um in Wut und Zorn. Zugleich flüchten sich Menschen immer häufiger in eine Opferrolle.

Die Spannung zwischen diesen beiden Polen – zwischen Wut und Opferempfindung – bestimmen die modernen Gesellschaften. Die Folge ist laut Eva Illouz die Eskalation der Empfindlichkeiten. Die kleinste Kränkung oder Ungerechtigkeit wird auf eine höhere Ebene transferiert und gewinnt eine Bedeutung, die sich von der ursprünglichen Intention weit entfernt hat.

Einer solchen Gesellschaft, folgert Precht, fehle dann auch die Fähigkeit zur Resilienz. Und wenn sich jeder, der sich kritisch äußert, dafür schämen soll, komme es zur Gegenreaktion. Ist man nicht bereit, sich abkanzeln zu lassen, reagiert man mit trotzigem Stolz. 

Sind das Zeichen einer dysfunktionalen Kommunikation, die die Gesellschaft unnachgiebiger, aggressiver und auch gewaltbereiter macht?

Gut und Böse

Eine Frage, die in letzter Zeit vermehrt aufpoppt – an den verschiedensten Stellen: Gibt es die Guten und die Bösen? Schwerpunktthema und Titelstory des aktuellen Philosophie Magazins versuchen sich an Antworten – durchaus lesenswert! Etwa auch die Frage, wie das Böse in die Welt kommt, hat Philosophen seit jeher beschäftigt. Steckt Absicht dahinter oder Arglosigkeit? Können wir es überhaupt restlos verstehen? Über das Böse als ethische Kategorie denkt Slavoj Žižek nach.

Kunst und Poesie für die Wissenschaft

Wie kommuniziert man wissenschaftliche Inhalte am besten? Eine Frage, die – nicht zuletzt aufgrund der gesellschaftlichen Verantwortung – auch philosophische Relevanz hat.

Wissenschaft darf nicht abgetrennt von der Öffentlichkeit passieren, ist Prof. Dr. Antje Boetius überzeugt. Sie ist Mitglied der Hector Fellow Academy. Diese junge Wissenschaftsakademie ermöglicht interdisziplinäre Projekte zwischen renommierten ProfessorInnen aus verschiedenen MINT-Fächern sowie Medizin und Psychologie. Deshalb beschäftigt sie sich viel mit der Frage, wie man wissenschaftliche Ergebnisse in die Öffentlichkeit tragen kann, um einen Dialog zu ermöglichen. Boetius probiert dafür auch neue Formate aus, die etwa Kunst und Wissenschaft verbinden und abstrakte Datensätze visuell erfahrbar machen. Sie ist Direktorin des Alfred-Wegener-Instituts, Helmholtz-Zentrum für Polar- und Meeresforschung und Professorin für Geomikrobiologie an der Universität Bremen. Mehr dazu hier.

… doch Brutus ist ein ehrenwerter Mann

Freunde! Römer! Mitbürger!
Gestern wurden zwei Reden gehalten. Heute gibt es bereits einige Antworten von beiden Seiten und jede Menge Analysen.
Was macht eine Rede zu einer großartigen Rede? Nicht nur jeder Schüler sollte verpflichtet werden, die berühmte Grabrede des Marc Anton zu lesen und zu analysieren. Der Grund dafür liegt nahe.
Shakespeare nimmt uns in seinem historischen Drama “Julius Cäsar” (geschrieben im 16. Jahrhundert) mit in die spannende Welt der Antike, das Reich des großen Imperators Cäsar.
Wie ist der Einstieg, die Dramaturgie, die Kernbotschaft, die Begründungen und der Schluss, die nachklingende Wirkung? Was macht diese Rede zu einer großartigen Rede? Und was lernen wir daraus?
Antonius hat mit der Macht seiner Worte die Meinung der Menschen und den Lauf der Geschichte gewendet. “Am Lauf des Unheils gibt es für die nächste Wegstrecke keine Zweifel. Brutus und Cassius, so meldet ein Diener, seien wie toll zum Tor hinausgeritten. Die Menschenmenge reißt als erstes den Dichter Cinna in Stücke: egal, ob er denselben Namen trägt wie einer der Verschwörer oder ob er schlechte Verse macht – die rasende Menge nimmt ihre Opfer, wo sie sie findet.”

Wer´s nicht mehr präsent hat:
Hier eine Analyse auf rhetorik-online.de.

Foto: gemeinfrei