A well known room in the land of counterexample

Mit diesem Seidel-Zitat als Motto beginnt Martin Dresler sein Buch über "das Gedankenexperiment des 'Chinesischen Zimmers'" (Untertitel): Künstliche Intelligenz, Bewusstsein und Sprache (Würzburg, Königshausen & Neumann, 2009). Dresler kommt zu dem Schluss, dass "das Argument als bankrott zu betrachten ist" (S. 128), was dem "weitgehenden Konsens" von Kognitionswissenschaftlern und KI-Forschern entspreche. Ob man von einem kognitiven System sagen könne, es "verstehe" etwas, sei weniger eine faktische Frage als eine der Entscheidung. Entsprechend taugt das Gedankenexperiment auch nicht als Beweis dafür, dass KI prinzipiell kein Bewusstsein haben könne.

Nachdem ich neulich wieder mal Neal Stephensons Baroque Cycle gelesen habe, erinnert mich das Chinesische Zimmer an eine Episode im 3. Band, The system of the world. Hier gerät der Schwarze Dappa in ein Gespräch mit einem englischen Adligen, der der festen Überzeugung ist, Schwarze seien Tiere, hätten daher keine Seele, kein Bewusstsein etc, seien stattdessen Descartsche Reiz-Reaktions-Maschinen. Stephenson macht aus dem Dialog ein komisches Kabinettstück über die Erkennbarkeit von Bewusstsein, das sich hier allen Beteiligten in der Verständlichkeit der Äußerungen Dappas zeigt -- außer dem Adligen. Wiederholt wundert sich dieser über die "Ähnlichkeit", welche Dappas Äußerungen zu denen eines bewussten Wesens haben. Diese Ähnlichkeit ist für ihn umso wunderbarer, als Schwarze ja eben kein Bewusstsein haben können. Für Dappa ist das Gespräch ausweglos, da nichts, was er sagt, den anderen von dieser Überzeugung abbringt.