Si vous apprenez à un perroquet à dire 'J'ai faim', le perroquet ressent-il vraiment un ventre qui gargouille, ou fait-il simplement les bruits qu'il a entendus auparavant ?
Cette question simple est au cœur de l'une des énigmes les plus célèbres de la philosophie. En 1980, un philosophe nommé John Searle a créé une expérience de pensée appelée la Chambre Chinoise pour explorer la différence entre une machine qui semble intelligente et une personne qui possède réellement une conscience.
Imaginez que vous êtes assis dans une petite pièce silencieuse. Il n'y a pas de fenêtres, juste une lourde porte en bois avec deux fentes étroites : une pour que le courrier entre, et une pour que le courrier sorte.
Vous êtes seul dans cette pièce, et vous ne parlez ni ne lisez un seul mot de chinois. Pour vous, les caractères chinois ressemblent à de beaux motifs d'encre compliqués, mais ils n'ont pas plus de sens que les volutes sur un comptoir en marbre.
Imaginez que la pièce soit remplie de milliers de tiroirs. Chaque tiroir contient un seul caractère chinois sur une carte. Vous devez courir de tiroir en tiroir, ramasser des cartes et les disposer dans l'ordre que le livre de règles vous indique. C'est beaucoup de travail, mais vous ne savez toujours pas ce que vous êtes en train d''écrire' !
Dans la pièce avec vous se trouve un livre immense et poussiéreux. Ce livre est rempli d'instructions écrites en anglais, que vous comprenez parfaitement.
Les instructions sont très précises : "Si vous voyez un morceau de papier avec le symbole en forme de maison, trouvez le papier avec le symbole en forme de ligne ondulée et faites-le passer par la fente de sortie."
Le Messager Secret
Dehors, une personne qui parle vraiment chinois écrit une question sur un petit papier. Elle le fait glisser par la fente d'entrée.
Vous prenez le papier, regardez les symboles et parcourez votre gigantesque livre de règles. Vous trouvez les motifs correspondants et suivez les instructions exactement comme elles sont écrites.
L'ordinateur a une syntaxe, mais pas de sémantique.
Vous choisissez une réponse dans une pile de papiers et la faites glisser par la porte. Dehors, la personne lit votre réponse et sourit.
Pour elle, vous semblez être un partenaire de conversation brillant qui comprend parfaitement le chinois. Mais à l'intérieur de la pièce, vous ne faites que faire correspondre des formes sans avoir la moindre idée de ce qui est dit.
Les Symboles contre le Sens
John Searle a utilisé cette histoire pour parler de l'Intelligence Artificielle, ou IA. Il voulait montrer que les ordinateurs sont comme la personne dans cette pièce.
Un ordinateur utilise un ensemble de règles appelé algorithme pour traiter l'information. Il reçoit de la syntaxe, c'est-à-dire la disposition des symboles ou du code, mais il n'a pas de sémantique, qui est le sens réel derrière ces symboles.
Finn says:
"Attends, donc si je suis une recette pour faire un gâteau, mais que je ne sais pas ce que sont la 'farine' ou le 'sucre', suis-je comme la personne dans la chambre ? Le gâteau est toujours bon, mais je ne fais que suivre des instructions !"
Pensez à lorsque vous jouez à un jeu vidéo. L'ordinateur sait que si vous appuyez sur le bouton 'sauter', le personnage à l'écran doit monter.
Mais est-ce que l'ordinateur sait ce que l'on ressent de 'sauter' ? Sait-il pourquoi le personnage doit atteindre la plateforme, ou suit-il simplement la règle 'Si-Alors' que vous avez programmée ?
Demandez à un parent ou à un ami d'être votre 'Ordinateur'. Donnez-lui un morceau de papier avec un code : A=Dessine un cercle, B=Dessine un carré, C=Dessine une ligne. Ensuite, donnez-lui un 'programme' comme : 'A, C, B.' Il doit le suivre sans savoir ce qu'il dessine. A-t-il 'compris' qu'il dessinait un visage simplifié ?
Le Fantôme dans la Machine
Avant que John Searle n'imagine sa chambre, un autre penseur célèbre nommé Alan Turing avait une idée différente. Il a créé quelque chose appelé le Test de Turing en 1950.
Turing pensait que si une machine pouvait avoir une conversation si bien que vous ne pouviez pas savoir si c'était un humain ou un ordinateur, alors nous devrions dire que la machine est en train de 'penser'.
Un ordinateur mériterait d'être qualifié d'intelligent s'il pouvait tromper un humain en lui faisant croire qu'il est humain.
Searle n'était pas d'accord avec le test de Turing. Il pensait que 'faire semblant' n'était pas la même chose que 'être'.
Il a soutenu que même si un ordinateur pouvait parfaitement imiter un cerveau humain, ce ne serait toujours qu'un ensemble de fils et d'interrupteurs. Il n'aurait pas de vie intérieure, ni de sens de l'expérience subjective, qui est le sentiment d'être 'moi'.
Le Grand Débat : La Réponse du Système
Lorsque Searle a publié son idée, d'autres philosophes ont rapidement rétorqué. L'un des contre-arguments les plus célèbres est appelé la Réponse du Système.
Ces penseurs étaient d'accord sur le fait que la personne dans la pièce ne comprend pas le chinois. Cependant, ils ont soutenu que l'ensemble du système – la personne, la pièce, le livre de règles et les papiers – ensemble, comprenait le chinois.
La compréhension est quelque chose que seuls les esprits vivants et conscients peuvent faire. Les machines font juste semblant.
La compréhension n'est qu'une manière complexe de traiter l'information. Si un système est assez complexe, il comprend.
Imaginez votre propre cerveau un instant. Une seule cellule cérébrale, ou neurone, ne sait pas qui vous êtes.
Elle ne se souvient pas de votre anniversaire ni ne connaît votre couleur préférée. Elle envoie juste de minuscules signaux électriques. Mais lorsque des milliards de ces cellules travaillent ensemble, 'vous' apparaissez.
Mira says:
"Je pense que la 'Réponse du Système' a du sens. Ma main ne sait pas écrire une histoire, mais tout mon corps le sait. Peut-être que la chambre est plus intelligente que la personne à l'intérieur."
À travers les Âges
La question de savoir si les machines peuvent penser est bien plus ancienne que les ordinateurs modernes. Même il y a des centaines d'années, les gens se demandaient si les jouets mécaniques pouvaient avoir une âme.
La Quête des Machines Pensantes
Au 19e siècle, une mathématicienne nommée Ada Lovelace a travaillé sur les toutes premières conceptions d'un ordinateur universel. Elle était une visionnaire qui a vu que les machines pouvaient faire plus que de simples calculs.
La Machine Analytique n'a aucune prétention à créer quoi que ce soit. Elle ne peut faire que ce que nous savons lui ordonner de faire.
L'idée de Lovelace était très similaire à celle de Searle. Elle croyait que les machines ne pouvaient faire que ce que nous leur ordonnons de faire. Elles pourraient composer de la musique ou résoudre des énigmes, mais elles n'auraient pas leurs propres pensées ou sentiments originaux.
Chatbots et l'Avenir
Aujourd'hui, nous utilisons l'IA tous les jours. Vous parlez peut-être à une enceinte intelligente dans votre cuisine ou utilisez un chatbot pour vous aider avec vos devoirs.
Ces programmes modernes sont beaucoup plus compliqués que le livre de règles dans la chambre de Searle. Ils utilisent des réseaux neuronaux pour apprendre à partir de millions d'exemples, ce qui les fait paraître plus humains que jamais.
Le mot 'Ordinateur' (Computer en anglais) était autrefois un titre de poste pour des gens ! Avant d'avoir des machines électroniques, les 'ordinateurs' étaient des personnes (souvent des femmes) qui s'asseyaient dans des pièces et faisaient de longs calculs à la main, en suivant des règles strictes, tout comme l'homme dans la Chambre Chinoise.
Lorsqu'un chatbot vous raconte une blague, rit-il à l'intérieur ? Ou calcule-t-il simplement quels mots se suivent habituellement pour faire rire un humain ?
Searle dirait que peu importe la rapidité de l'ordinateur, il est toujours juste l'homme dans la pièce. Il ne fait que faire correspondre des symboles et suivre une liste d'instructions très longue et très rapide.
Finn says:
"Si un robot dit qu'il est mon ami, est-ce que ça change quelque chose s'il ne le 'ressent' pas ? S'il agit comme un ami, n'est-ce pas suffisant ? Ça devient vraiment bizarre."
Le Mystère de Vous
Cette expérience de pensée nous pousse aussi à nous regarder. Si nous ne sommes qu'un « système » de cellules suivant des règles biologiques, pourquoi est-ce que cela fait-il une sensation si différente d'être nous que d'être une calculatrice ?
Les philosophes appellent cela le Problème Difficile de la Conscience. Nous savons comment le cerveau fonctionne physiquement, mais nous ne savons pas pourquoi nous avons des sentiments, des rêves et un sens de l'émerveillement.
L'expérience de pensée de Searle est un défi à l'IA 'Forte'. L'IA Forte est l'idée qu'un ordinateur pourrait un jour avoir un esprit exactement comme le nôtre. L'IA 'Faible' est ce que nous avons maintenant : des ordinateurs excellents dans des tâches spécifiques, comme jouer aux échecs ou suggérer des films.
Peut-être qu'un jour nous construirons une machine qui comprendra vraiment. Ou peut-être y a-t-il quelque chose de spécial dans les êtres vivants que le code ne pourra jamais copier.
À méditer
Si un robot pouvait ressentir de la douleur, mais seulement parce que son code disait 'si touché fort, dis aïe', est-ce la même chose que vous lorsque vous vous cognez l'orteil ?
C'est une grande question sans réponse 'correcte'. Les philosophes s'affrontent encore à ce sujet aujourd'hui ! Qu'est-ce qui, selon vous, rend un sentiment 'réel' ?
Questions sur Philosophie
La Chambre Chinoise signifie-t-elle que l'IA est mauvaise ?
Existe-t-il un moyen de prouver que quelque chose est conscient ?
Les ordinateurs finiront-ils par 'comprendre' vraiment ?
La Chambre à la Porte Ouverte
La Chambre Chinoise ne nous donne pas de réponse finale, mais elle nous donne une meilleure façon de poser la question. Alors que la technologie devient plus rapide et plus intelligente, nous devons continuer à nous demander ce qui fait de nous des êtres humains. Est-ce notre capacité à suivre des règles, ou l'étincelle de sens que nous trouvons en elles ? Continuez à chercher le sens derrière les symboles dans votre propre vie !