La naturaleza social del lenguaje suele ser subrayada por Wittgenstein comparando el lenguaje con juegos.
Especialmente célebre es su comparación con el juego de ajedrez. Nuestro filósofo nos asegura lo siguiente: «Hablamos sobre los fenómenos espaciales y temporales del lenguaje y no sobre algunos fantasmas no especiales y no temporales… Pero hablamos sobre éste al igual que sobre las piezas de ajedrez cuando enunciamos las reglas del juego, no cuando describimos sus propiedades físicas. La pregunta ‘¿Qué es realmente una palabra?’, es análoga a ‘¿Qué es una pieza de ajedrez?’» (Ludwig Wittgenstein, Investigaciones filosóficas, §108). Así pues, para comprender que es una pieza de ajedrez, por ejemplo el rey, no sirve nada que señalemos la pieza y digamos «este es el rey», tampoco que describamos sus propiedades físicas sino que es preciso comprender el juego en su conjunto, las reglas que lo definen y el papel de la pieza en dicho juego. De igual modo el significado de una palabra es su lugar en el marco de un juego de lenguaje, esto es, el significado viene constituido, definido, fijado por las reglas gramaticales que definen el juego de lenguaje en que dicha palabra es usada. Wittgenstein lleva toda esta analogía a las oraciones y al lenguaje mismo. Usar una oración será análogo a optar por una u otra jugada siguiendo las reglas del juego y, finalmente, uno u otro lenguaje no es más que un conjunto de actividades (prácticas) definido por ciertas reglas.
En este marco con vistas a enfatizar más si cabe la naturaleza social del lenguaje Wittgenstein nos invita a que nos preguntemos: ¿Qué quiere decir seguir una regla? Tras descartar que «seguir un regla» pueda ser algo que un único hombre pudiera seguir una única vez considera que precisamente una regla es una costumbre, una práctica institucionalizada, lo que, obviamente, supone formas de vida. Asimismo, con vistas a ilustrar, Wittgenstein nos propone imaginar cómo al quitar el trasfondo de la costumbre las reglas en ellas embebidas también desaparecerían (Ludwig Wittgenstein, Investigaciones filosóficas, §198). Así nuestras conductas al encontrarnos en determinadas situaciones, al hallarnos frente postes indicadores, al escuchar el sonido de un timbre, al ver una flecha, etc. sólo se explican por el uso regular que hacemos de dichos signos, por las prácticas regulares asociadas a los encuentros con dichos signos. Wittgenstein se pregunta: «¿Cómo es que esta flecha "-->;" señala?» (Ludwig Wittgenstein, Investigaciones filosóficas, §498). Frente a esta pregunta uno se encuentra tentado de responder afirmando que junto al significante ‘-->’ se haya un significado mental asociado. Ya sabemos que esta respuesta sería propia de una concepción agustiniana del lenguaje que, además, sería mentalista. Wittgenstein rechaza esta posición y nos dirá que el significante ‘-->’ señala porque en nuestras prácticas cotidianas hacemos un uso de dicho significante para señalar.
La noción de «seguir una regla» es también inseparable de la noción «cometer un error», es decir, una regla supone conductas adecuadas a la regla, a la costumbre, etc. y conductas no adecuadas a la regla. Este aspecto es clave para Wittgenstein porque está estrechamente vinculado con el carácter normativo del lenguaje. Así pues, en definitiva, aprender un lenguaje tiene que ver con un adiestramiento, con el aprendizaje del uso correcto de ciertas palabras, esto es, con un saber seguir ciertas reglas, costumbres, técnicas, etc. socialmente instituidas. No debe escapársenos, aunque no podamos entrar en ello con profundidad, que tras lo explicado subyace en Wittgenstein una crítica contra la posibilidad de reglas privadas y por ende contra la posibilidad de lenguajes privados.