Сам мысленный эксперимент выглядит следующим образом: представим себе комнату, в которой находится Джон Сёрл. В комнате проделаны два отверстия для карточек: «вход» для получения информации (в данном случае, утверждений или вопросов на китайском языке) извне и «выход» для предоставления информации (то есть, карточек с ответами, опять же, на китайском) наружу. Также в комнате имеется инструкция на понятном Сёрлу языке по работе с иероглифами и набор иероглифов, из которых предлагается формировать ответы. С помощью инструкции Сёрл, который абсолютно не знает китайский язык, может, видя карточки с вопросами, «скомпоновать» из имеющихся у него иероглифических символов ответ, который вполне устроит задающего вопрос носителя китайского языка. Таким образом, у человека снаружи складывается ощущение, что сидящий внутри знает китайский язык на достаточном уровне, в то время как сам человек внутри не знает китайский совсем (то есть не понимает ни получаемые вопросы, ни выдаваемые ответы.