Das Gedankenexperiment „Chinesisches Zimmer“ wurde 1980 von John Searle ins Leben gerufen. In seinem Beitrag erörtert er die Definition von Verstehen und Denken und behauptet, dass Computer dazu niemals in der Lage wären.Dieser Auszug aus seinem Artikel auf der Website von Stanford fasst seine Argumentation gut zusammen:
„Die Berechnung eines Computers ist rein formal oder syntaktisch definiert, während der Verstand tatsächliche mentale oder semantische Inhalte hat. Wir können nicht allein durch syntaktische Vorgänge vom Syntaktischen zum Semantischen gelangen... Ein System, ich zum Beispiel, würde kein Verständnis der chinesischen Sprache erwerben, indem es einfach die Schritte eines Computerprogramms durchläuft, das das Verhalten eines chinesischen Sprechers simuliert (S.17).“
Das Chinesische Zimmer definiert das folgende Szenario:
Stellen Sie sich eine Person vor, die kein Chinesisch spricht und in einem geschlossenen Zimmer sitzt. Im Zimmer befindet sich ein Buch mit Regeln, Redewendungen und Anweisungen der chinesischen Sprache. Eine andere Person, die fließend Chinesisch spricht, reicht auf Chinesisch geschriebene Notizen in den Raum. Mit Hilfe des Sprachführers kann die Person im Zimmer die passende Antwort auswählen und sie an den chinesischen Sprecher weitergeben.
Die Person im Zimmer war zwar in der Lage, mithilfe eines Sprachführers die richtige Antwort zu finden, aber sie spricht oder versteht immer noch kein Chinesisch. Es war nur eine Simulation des Verstehens, indem Fragen oder Aussagen den entsprechenden Antworten zugeordnet wurden. Searle argumentiert, dass eine starke KI echten Verstand voraussetzen würde, um Bewusstsein oder Verständnis zu erlangen. Das Chinesische Zimmer veranschaulicht die Fehler des Turing-Tests und zeigt Unterschiede in den Definitionen von künstlicher Intelligenz.