[Table des matières] [Antérieur] [Suivant]

Préface

(suivie d'une petite mise à jour sur "Les machines peuvent-elles penser?")


L'écoulement de l'information dans l'anneau du monde matériel

Yves Kodratoff



J'ai interagi assez fortement avec la rédaction française de cet ouvrage. Je suis parti d'une traduction "française" de l'original roumain, et j'ai du remanier presque chaque phrase afin d'obtenir une version réellement lisible pour un lecteur français. Mais ceci n'a pas été malgré tout mon principal travail. L'oeuvre originale, même présentéeen bon français, aurait été encore difficileà lire pour un simple "honnête homme". Elle est écrite dans un style savant, chargé de néologismes, avec quelques fois plusieurs néologismes pour un seul concept. Mon but a donc été de faire de l'oeuvre de Draganescu un ouvrage destiné au "grand public", au moins à celui qui s'intéresse à la philosophie des sciences. J'ai donc éliminé les néologismes les plus rébarbatifs pour la langue française, et je n'ai conservé que ceux qui m'ont paru absolument fondamentaux à l'expression de la pensée de Draganescu. J'ai ainsi gardé: "informatière", "orthomatière", "orthoscience", "chronos", et l'important concept de "structural-phénoménologique", indispensable malgré sa lourdeur. Avant d'expliquer un peu ces mots, il ne sera pas inutile que j'explique mes motivations à faire ce travail. Après tout, ce n'est pas exactement le rôle d'un directeur de recherche au CNRS, spécialiste d'intelligence artificielle, de mettre au propre un ouvrage sur la philosophie des sciences.

Il se trouve que Draganescu présente une proposition d'unification des sciences tout à fait unique, et s'appuyant sur une vue originale de la science. Comme il le dit lui même, il représente une tentative de "passage d'un matérialisme atomiste à un matérialisme informationnel". Jusqu'à présent, en effet, c'est une vue "einsteinienne" de la science qui prévaut très largement: le problème principal est celui de l'énergie. Même la vie politique (au sens le plus noble du terme) est imprégnée des problèmes énergétiques dont les centrales nucléaires, ou le mouvement écologique ne sont qu'aspects particuliers. De la même façon, ce sont des "énergéticiens", par exemple des astrophysiciens, qui sont le plus souvent chargés d'expliquer les mystères de notre univers. Draganescu est le premier scientifique que je rencontre à proposer une alternative constructive à cette vue de la science: pour lui le rôle le plus important revient à l'information, avant l'énergie, et il construit un modèle de l'univers en accord avec cette vision. En somme, au lieu de spéculer sur les trous noirs et autres problèmes énergétiques, il spécule essentiellement sur l'ADN et l'intelligence artificielle, sans oublier les trous noirs, bien sûr. Voilà naïvement pourquoi j'ai entrepris ce travail d'aider à propager la pensée de Draganescu: il donne une importance unique à mon domaine préféré de recherche. D'ailleurs, on peut toujours se demander en lisant un ouvrage comme celui-ci:" Mais qu'en pense réellement le spécialiste du domaine?", et bien j'ai voulu rajouter le point de vue du spécialiste d'intelligence artificielle au sein des idées plus philosophiques de Draganescu. De nombreuses notes en bas de page présentent ce point de vue dont je peux annoncer déjà qu'il raffine souvent la pensée de Draganescu, mais qu'il ne la contredit jamais. En parallèle, il donne la même importance à la biologie moléculaire dont je connais fort peu de chose, mais que lui connaît bien, si bien qu'à nous deux nous nous complétons pour présenter une opinion scientifique, hélas non incontournable, mais au moins assez fortement fondée.

Une deuxième motivation tient en ce que, dans son unification de la pensée scientifique, Draganescu souligne constamment le rôle capital, et proprement humain, de la pensée non formelle et créative, opposée à la pensée formelle et non créative. De fait, je vis ce dilemme au jour le jour dans ma vie de scientifique, c'est pourquoi Draganescu pose ici un problème qui est certes classique, mais qui mérite plus d'attention. Il est pourtant frappant de constater que, dans mon domaine au moins, la question de la formalisation est absolument capitale, parce que, justement, l'intelligence artificielle ne formalise pas suffisamment ses résultats, du moins au goût des autres scientifiques, et se trouve de ce fait en but aux attaques permanentes des chers collègues. En France, l'intelligence artificielle est le plus souvent en position de faiblesse, étant jugée par des spécialistes de disciplines concurrentes, et donc on ne peut tirer de lois générales de faits qui peuvent toujours être interprétés comme des choix de politique scientifique opposée. Par contre, aux États-Unis, où l'intelligence artificielle est souvent en position de force, on constate tout à fait la tendance que je signale: dès qu'un spécialiste d'intelligence artificielle est capable d'exprimer ses découvertes dans un langage au moins proche de celui utilisé par les autres scientifiques (mathématiciens, informaticiens théoriques, statisticiens, automaticiens, etc.), il devient brusquement un étoile du domaine, alors que ceux qui en sont incapables sont regardés avec suspicion. C'est à lui à qui on fera confiance pour décider des promotions, du recrutement, et non aux autres. Si les applications industrielles abondent, alors on tord le nez en disant que tel thème de l'intelligence artificielle est plus une technologie qu'une véritable science. En France, j'ai pu aussi constater cette même attitude en discutant avec de plus jeunes collègues, qui n'ont certainement pas de "politique scientifique" consciente. Leur raisonnement est d'une grande simplicité: il s'intéressent à l'intelligence artificielle, mais "les statistiques sont tellement mieux formalisées!". Je veux dire par là, qu'innocemment, ils appuient leur préférence sur le seul critère de la formalisation. J'avoue effectivement préférer l'intelligence artificielle sur le critère inverse, celui de la créativité, et ce malgré une formalisation inférieure (ce que je regrette malgré tout, même moi). C'est pourquoi j'ai trouvé le point de vue de Draganescu si rafraîchissant, après des années de lavage de cerveau pro-formel.

Une troisième motivation, plus personnelle, est la suivante. Il se trouve qu'en dehors de mon travail, j'ai des contacts très profonds avec plusieurs types de mysticismes, nommément le shiatsu venu du Japon, le chamanisme venu des indiens d'Amérique, la mystique nordique venue de "chez nous" (et malheureusement terriblement violentée par le nazisme). Je dis bien, en dehors de mon travail, car à mon avis ce sont là des types différents de pensée, des formes différentes de communication entre humains. J'utilise la pensée scientifique dans mon effort mystique uniquement pour éliminer les grossières mystifications dont les mystiques, dits de tout poil, sont coutumiers, et ne faire confiance qu'à mon expérience personnelle. Je n'utilise la pensée mystique dans mon effort scientifique que pour le replacer dans une perspective plus globale que l'avancement dans le grade de directeur de recherche. Je serais tout à fait incapable, par exemple, de prendre une position scientifique pour des raisons mystiques, tant ces formes de pensées sont différentes. Pour faire un peu grossièrement court, la pensée scientifique veut du reproductible sans émotions, alors que la pensée mystique veut de l'émotion sans s'intéresser beaucoup à la reproductibilité: une expérience unique mais "forte" est suffisante. Or, on le sait bien, il est encore très à la mode (bien que cela ait (re)commencé il y a quelque vingt ans. Il y a une centaine d'années, on disait plutôt: "Voyez, les grands savants sont aussi de grands mystiques", sans aller jusqu'à déclarer qu'ils utilisaient le même type de raisonnement pour les deux attitudes) de déclarer qu'ultimement la pensée scientifique et la pensée poétique, ou mystique, coïncident, spécialement quand la pensée scientifique s'élève à des hauteurs suffisantes. Ceci contredit tellement mon expérience de tous les jours en tant que scientifique (voir plus haut, mes réflexions un peu désabusées sur l'importance du formalisme en Science), et aussi mon expérience mystique personnelle, que je ne vois pas comment commencer à accepter ce point de vue. De plus les ouvrages les plus marquants de cette tendance, comme le "Tao de la physique" ou le "Zen et l'art de réparer les motocyclettes" argumentent essentiellement sur le fait que la créativité et idendtification à l'objet de son étude sont nécessaires en Science comme en Poésie. Ceci est évidemment vrai, mais dès que l'acte créateur est fait en Science, l'ensemble de la pensée scientifique est justement de gommer cet aspect créatif, de se "distancier" de l'objet de l'étude, pour en faire un élément rationnellement déductible d'une théorie plus large, et donc de s'éloigner à grande vitesse de tout ce qui peut être mystico-poétique. Draganescu, dans sa tentative d'unification des sciences, tente bien en effet d'unifier pensée logique et pensée mystique, et ce dans la notion de "phénoménologique", dans ce qu'il appelle la "conscience mentale": ce par quoi l'esprit conscient est en contact avec la substance primitive. Mais on voit bien qu'il distingue soigneusement la pensée formelle (qu'il appelle "structurale" parce qu'elle s'intéresse essentiellement à construire des structures), de la pensée créative, "phénoménologique", et il plaide pour une pensée "structurale-phénoménologique" qui synthétise créativité et formalisation. Cependant, et en opposition avec la tendance évoquée plus haut, il ne prétend que les phénomènes sociaux, psychologiques, poétiques, relationnels entre humains, et même ceux relevant de l'irrationnel: superstitions, mysticisme, croyances religieuses, soient unifiés dès à présent dans une théorie qui montrerait qu'ils sont tous de même nature. Il pose les bases pour qu'ils puissent l'être dans le futur, et, dans l'immédiat, il se contente de construire un langage permettant de parler de tous ces phénomènes de façon cohérente. Ainsi, on pourra montrer à la fois leurs liens et leurs différences. En d'autres termes, il suppose justement que science et humanisme ne sont pas réconciliés, et il propose un langage unifié permettant de parler de leurs différences. Jamais Draganescu ne dit que Science et Poésie se confondent, il décrit plutôt un cadre dans lequel on peut mieux exprimer leurs relations. Draganescu présente donc, encore une fois d'une façon constructive, les liens, et les différences, qui existent entre la Mystique et la Science. J'espère avoir montré plus haut que cette position est de fait très originale dans la philosophie moderne des sciences, quoiqu'on en dise souvent.

Avant d'expliquer un peu rapidement les mots utilisés dans la suite de ce livre, je dois avouer avoir un goût prononcé pour le type de plaisanterie par laquelle on ramène un long discours à une phrase toute simple: "En somme, vous voulez dire que ...". Je vais maintenant donner libre court à ce penchant pour décrire l'ontologie (c'est dire le vocabulaire, le sens des mots et les relations entre les mots du vocabulaire) de Draganescu. La figure 1, ci-dessous, est une représentation schématique de cette ontologie.

Dans le but d'unifier les diverses façons de penser, Draganescu donne une description originale, et quelque fois un peu complexe de la structure de l'univers complet (comprenant le rationnel et l'irrationnel). En gros, il admet que l'information est un des composants originaux de l'univers, au même titre que la matière et l'énergie des physiciens.

FIG. 1


Figure 1. Vue simplifiée de l'ontologie de Draganescu. L'anneau du monde matériel est constitué par le circuit allant de la matière profonde à la pensée consciente, qui retourne à la matière profonde comme indiqué ci-dessus.

Cette description, bien évidemment, ne s'appuie pas sur quelques résultats objectifs de l'astrophysique. Elle n'est qu'une hypothèse dont Draganescu s'efforce de montrer trois propriétés. Premièrement cette hypothèse est minimale, c'est à dire qu'on ne peut lui enlever une composante sans que tout s'effondre. Deuxièmement, cette hypothèse est cohérente avec la science moderne. Troisièmement, elle permet d'expliquer certaines contradictions auxquelles s'est heurtée la philosophie de la science, contradictions encore plus criantes de nos jours. On voit donc qu'il ne prétend jamais donner une description factuelle, mais un ensemble d'hypothèses cohérentes.

La pensée de Draganescu est résolument matérialiste (quoiqu'informationnelle), en ce sens qu'il suppose qu'au début était la matière originelle, informe, et éternellement immuable par elle-même. Il appelle cette matière originelle: la matière profonde de l'univers. Selon la pensée classique, il associe aussi une énergie profonde à cette matière. La matière profonde contient deux composantes principales: l'informatière et l'orthomatière. L'orthomatière est la partie matérielle de la matière profonde. L'informatière est la partie informative de la matière profonde. Cette matière profonde n'est en réalité pas vraiment immuable. En fait, l'informatière est soumise à des sortes de vibrations internes, que j'ai appelées des phénomènes informationnels de la matière profonde (Draganescu les appelle des "orthosens", et il les définit bien comme des phénomènes informationnels de la matière profonde, je n'ai rien inventé, il m'est apparu simplement plus clair d'éviter ce néologisme). Ces phénomènes informationnels, agissant sur l'orthomatière, l'organisent et créent des univers, soumis aux lois classiques, dites lois structurales, de la physique de ces univers.

L'orthophysique est la science qui s'occupe de décrire l'orthomatière (et ses interactions avec l'informatière), tout comme la physique s'occupe de décrire la matière. Le phénoménologique décrit les phénomènes, c'est à dire ce qui est en train de se passer. Dans cet ouvrage, on ne parlera que du phénoménologique relatif aux phénomènes se produisant dans la matière profonde. Il s'oppose ainsi au structural, qui décrit comment la substance s'organise. Un phénomène peut se produire en l'absence d'une structure. Une structure est toujours le résultat d'un phénomène. Bien entendu, un phénomène peut se produire au sein d'une substance qui a déjà été structurée. Une science qui décrit à la fois les phénomènes et les structures s'appelle une science structurale-phénoménologique.

Comme nous l'avons dit, les phénomènes informationnels de la matière profonde sont une sorte de vibration. Celle-ci doit bien se passer au sein d'un cadre de nature spatio-temporelle. C'est pourquoi Draganescu admet l'existence d'une substance matérielle immuable dans la matière profonde, c'est une sorte d 'espace sans limites ni dimensions. Il doit aussi admettre l'existence d'une sorte de temps, le chronos, qui est aussi un temps sans limites, sans orientation ni intervalles. Substance profonde et chronos ne sont que les substrats (instructurés évidemment) de la matière profonde et des phénomènes informationnels.

Il existe encore un phénomène important dans la matière profonde, c'est sa tendance fondamentale "exister". Ainsi la matière profonde est soumis à une sorte de tension interne, tout aussi informe que le chronos et la substance, qui est d'exister. En fait, cette tendance à exister se manifeste sous trois formes différentes. La matière profonde peut exister en soi, c'est à dire exister en substance, exister de soi, c'est à dire en provoquant des phénomènes qui vont interagir avec d'autres substances, et exister au-dedans de soi, qui décrit l'aptitude à créer des phénomènes qui vont se manifester à l'intérieur de soi-même.

Enfin, quand les phénomènes informationnels auront créé des univers, que la vie intelligente se sera développée sur ces univers, les phénomènes de créativité des organismes conscients de ces univers (Draganescu appelle ces organismes conscients des "archèmes", autre néologisme que j'ai évité) se font en interaction directe avec la matière profonde. Ceci boucle un cercle d'interactions que Draganescu appelle l'anneau du monde matériel. L'information naît encore bien fruste dans la matière profonde, elle se raffine par des procédés biologiques, puis par des procédés intellectuels, pour enfin être à nouveau capable d'agir directement sur la matière profonde, créant ainsi des univers nouveaux dans lesquels le même cycle va prendre place. Ainsi, à mon sens, s'écoule l'information dans l'anneau du monde matériel.

Voilà donc un petit vocabulaire, qui peut être vu comme une introduction au glossaire fourni par Draganescu à la fin de l'ouvrage. Avec ce vocabulaire, je crois sincèrement que toute personne raisonnablement au fait de l'actualité scientifique et philosophique sera capable de lire l'ouvrage de Draganescu (et mes notes en bas de page) sans trop de difficulté.

Les machines peuvent-elles penser ?

Depuis que les machines existent, on a voulu trouver des critères pour distinguer la pensée artificielle de la naturelle. L'ensemble des notes en bas de page de cet ouvrage présentent progressivement une argumentation relative à ce problème et illustrent comment les machines pensent ou inventent ou comprennent à l'heure actuelle. Le "test de Turing" (familièrement appelé TT par les anglo-saxons) constitue une référence obligée quand on considère la possibilité pour les machines de penser. Il peut se résumer ainsi: soit un ensemble d'interlocuteurs communicant par des moyens symboliques (consoles d'ordinateurs par exemple). Supposons que cet ensemble contienne un ordinateur. Alors il aura passé TT si ses interlocuteurs sont incapables de faire la différence avec les humains. Le débat sur TT continue au sein de la communauté "philosophico-informaticienne" et je voudrais donner ici une idée de l'état de l'art des dernières discussions sur ce sujet. Je ne voudrais pas que le lecteur quitte ce livre sans savoir ce qu'est le test de "la chambre chinoise" et "le test de Turing total" (TTT), et je donnerai à la fin mon opinion sur ce problème. Je me suis essentiellement inspiré d'un débat publié en juin 93 par une nouvelle revue "Think". A l'origine, cette revue voulait créer un débat sur les liens entre le connexionnisme et le symbolisme, débat qui tourna très vite à la façon dont les machine peuvent penser.

Le point de départ de l'argumentation est celui de la "chambre chinoise" de John Searle (1984). Supposons qu'un humain ne parlant pas un mot de chinois soit placé dans une chambre ("chinoise") contenant des paniers pleins de signes chinois. Supposons qu'un livre en français lui dise comment manipuler ces symboles en s'appuyant seulement sur la forme de ces symboles, par exemple "prendre un symbole avec une petite boucle en haut et à droite dans le panier n°5, et le placer à gauche d'un symbole du panier n°3, avec deux petit traits parallèles à gauche au milieu etc.". Supposons qu'ainsi notre humain soit capable de répondre à des questions en chinois. C'est exactement ce qu'un programme d'ordinateur fait, et pourtanton dit toujours de l'humain qu'il ne comprend pas le chinois.

Searle a précisé son argument ensuite dans un article du Scientific American n°262, 1990, pp. 26-31 sur trois points. D'abord, il ne prétend pas que les ordinateurs ne peuvent pas penser, mais qu'il ne faut pas confondre manipulation symbolique et pensée, c'est à dire que la manipulation de symboles n'est pas suffisante pour garantir la pensée. Deuxièmement, il ne dit pas que seul le biologique peut penser (exactement au contraire de Draganescu), mais qu'actuellement les systèmes biologiques sont les seuls que nous connaissions et qui pensent. Troisièmement, si jamais les ordinateurs pensent ce n'est pas parce qu'ils ont une "psychologie" insoupçonnée, mais parce que la pensée se réduit à ça.

Ainsi, Searle rejette catégoriquement la définition comportementale de la pensée: "pense ce qui se comporte de sorte qu'un humain croit reconnaître un comportement humain". On voit que le problème s'est maintenant déplacé, on ne dit plus "jamais un machine ne fera cela", ce qui dit aussi implicitement que lorsqu'elle saura le faire, alors ce sera une machine pensante. On s'intéresse beaucoup plus à la façon dont le processus se passe, avec une nette méfiance pour les simples manipulations de symboles.Cet argument repousse donc tout un courant de pensée, dit symboliste et calculatoire ("computationalism"), au profit d'un courant nouveau, dit connexionniste (voir aussi cet ouvrage, chapitre 4).

Dans cette revue, l'auteur invité principal, Harnad, remarque qu'on peut rejeter l'argument de la chambre chinoise sous plusieurs prétextes, par exemple en soutenant qu'une implémentation humaine d'un programme d'ordinateur ne prouve rien. En effet, une implémentation n'est pas indépendante du matériel, le matériel humain n'est pas comparable à celui d'un ordinateur, donc les causalités chez l'humain sont essentiellement différentes des causalités dans une machine. Harnad rejette cet intéressant argument sous le prétexte qu'il donne une sorte d'âme à la machine, dont on attend encore une définition plus précise.

En fait, tout se ramène au problème de la fondation des symboles ("symbol grounding"). En effet, l'argument de Searle trouve sa force dans le fait que notre humain, tout comme l'ordinateur, ne donne aucun sens aux symboles (ils sont "sans fondements"), il ne les reconnaît que par la description de leurs formes.

Pour prendre en compte cet aspect fondamental, Harnad propose un nouveau test, qu'il appelle le TTT ("Total Turing Test"). Dans le test de Turing, seule la communication symbolique est concernée, alors que dans le TTT on demande à la machine d'être indifférenciable d'un humain au point de vue de la communication symbolique, et du point de vue des capacités robotiques: capacités à reconnaître et à manipuler des objets. L'argument de Searle ne s'applique alors plus, car lorsque l'humain simulant le robot "intelligent" voit un caractère chinois et l'interprète, alors il a bien "vu" ce caractère, ou bien sinon il ne peut pas le reconnaître du tout. On remarquera que cet argument est très particulier à la chambre chinoise, et aussi un peu contre-intuitif: en somme pour lutter contre un argument limitant l'intelligence des machines, on exige d'elles des capacités supplémentaires considérées comme secondaires du point de vue de l'intelligence. D'un autre côté, nous reviendrons là-dessus, on sait bien que les problèmes de reconnaissance de formes sont extrêmement difficiles (on a des ordinateurs qui raisonnent très bien, aujourd'hui, mais ils "voient" encore très mal). On sait aussi que l'intelligence purement abstraite est un mythe, et que le sensori-moteur est de première importance. En d'autres termes, Harnad exige que les symboles soient fondés sur des expériences sensori-motrices pour accepter une manifestation comme celle d'une véritable compréhension.

Il conclut en soutenant que seul le neuronal peut créer des systèmes qui soient capables de manipuler des objets symboliques fondés. En fin de compte, Harnad présente un point de vue mixte, symbolique-neuronal dans lequel chacun est important pour créer une compréhension véritable. Dans la revue "Think", l'article de Harnad est suivi d'une série de treize réponses, elles-mêmes suivies d'une réponse de Harnad. Pour résumer, disons que les objections sont les suivantes:

Mes propres arguments sont d'une nature tout à fait différente. Je constate que l'argument principal de cette discussion provient d'une réflexion philosophique, celle de Searle, et non d'une analyse des résultats (et des échecs) de la science censée créer une machine passant TT, l'intelligence artificielle. Et ce sont les résultats de l'intelligence artificielle elle-même qui montrent bien que le test de Turing doit être complété.

Tout d'abord, il faut bien remarquer que Turing n'a jamais défendu aux interlocuteurs humains de tendre des pièges à la machine, et je me fais fort (avec l'aide d'un traducteur chinois) de mettre la machine en état de "machinerie" patent en lui posant quelques questions un peu anormales, comme nous verrons un exemple plus bas. D'autre part, Turing n'a jamais défendu que l'ordinateur soit doué de capacités robotiques. En fin de compte, le "TTT" de Harnad différe d'un simple TT (où la communication doit se faire uniquement par le langage), pour lequel on a explicité une composante de l'intelligence, la sensori-motricité. D'ailleurs, en effet, l'expérience de l'IA a montré que le simple fait de voir, d'entendre, comme les humains le font, sont des manifestations d'une intelligence plus complexe qu'on ne croit: voir et entendre font appel à toute notre culture - ce n'est pas pour rien que seuls les pharmaciens peuvent lire les ordonnances des docteurs. Ainsi, l'exigence de Harnad de considérer un "TTT" est inscrite dans les échecs répétés de l'intelligence artificielle à créer des systèmes qui entendent ou voient vraiment bien.

Pour revenir à la chambre chinoise, supposons qu'au milieu des caractères chinois, un loustic (pour la pureté de TT, le loustic doit être un étranger aux interlocuteurs de la machine, mais ça ne change rien au fond) glisse quelque objet, disons gluant. L'ordinateur doit être évidemment capable de communiquer son étonnement sinon il sera prit en flagrant délit de "machinerie". Harnad est plus propre que moi en parlant d'un Bouddha, mais l'argument est très semblable.

En fait, je préfère utiliser un test plus linguistique, ne nécessitant pas de loustic additionnel, je l'appelle "les actions simultanées". Supposons qu'un des interlocuteurs transmette à la machine testée la phrase: "J'ai conduit ma voiture de Paris à Lyon sans cesser de me gratter la tête" (en chinois ou tout autre langage). La réponse de l'ordinateur devrait être l'équivalent symbolique de quelques grognement vaguement dégoûtés pour qu'il paraisse humain. Supposons maintenant qu'un des interlocuteurs transmette à la machine testée la phrase: "J'ai conduit ma voiture de Paris à Lyon sans cesser de me gratter les pieds". La machine doit s'étonner hautement de cette performance si elle veut passer pour humaine. On peut supposer qu'on a dit qu'il n'était pas possible de conduire en se grattant les pieds (quoique ... pour quelqu'un de souple et d'imprudent ce soit possible pendant un temps très court, vous voyez la quantité d'information que nécessite ce simple problème), mais on ne peut pas tout dire sur ce qui peut arriver en même temps qu'autre chose, ou ce qui ne peut pas coexister! Il faudrait alors dire aussi qu'on ne peut pas du tout se gratter la tête en nageant la brasse papillon, mais qu'on le peut, brièvement, en nageant le crawl etc. En évaluant le nombre de verbes d'action à 10 000 = 104, en évaluant le nombre de places où ces actions s'exercent à aussi 104 (ce qui est sans doute bien en dessous de la réalité puisqu'on peut gratter mille places sur soi-même, mais on peut aussi gratter la terre, un mur, quel sorte de mur etc.), ceci nous fait au bas mot 108 action détaillées, qui en se combinant deux à deux donnent, et certaines trois à trois, disons un total de 1020. Chacune de ces 1020 combinaisons doit être modulée par des possibilités et des conditions exprimant leur conditions. On voit que la base de données nécessaire à entreposer toute cette information est gigantesque, et sa gestion est impossible. C'est pourquoi il sera plus simple d'avoir un robot capable d'exécuter les actions en questions, ou de simuler leur exécution, afin de savoir ce qui est possible et ce qui ne l'est pas. D'ailleurs un humain n'ayant jamais nagé ni vu nager n'est pas sensé être capable s'imaginer toute les contorsions possibles d'un nageur, et certaines erreurs peuvent être très humaines. L'interlocuteur testant l'humanité de la machine peut vérifier la "validité" de certaines erreur en demandant si le testé a ou non pratiqué telles activités. C'est bien pourquoi un ordinateur tentant TT sera sensori-moteur ou l'échouera, même si la communication ne se fait que par le langage. D'autre part, je pense que pour tester un comportement intelligent, le "TTT" est loin d'être suffisant, principalement pour deux raisons.

La première raison est qu'un système intelligent doit être adaptatif. Par exemple, dans la chambre chinoise, si un caractère est mal formé ou incomplet, alors un système intelligent, soit-il humain ou non, doit être capable de reconstituer le bon signal. L'intelligence artificielle travaille très dur sur ce type de problème, en particulier dans ma communauté, celle de l'apprentissage automatique. Je puis attester que nous sommes encore très loin d'avoir implémenté des comportements adaptatifs bien intelligents. Ainsi, il faudrait que la machine passe le ATTT (adaptatif - TTT) pour qu'elle puisse être reconnue intelligente. Un philosophe peut s'imaginer (je rapporte ici un argument qui m'a été réellement opposé) qu'on peut prévoir toutes les situations possibles et qu'on se passera ainsi d'apprentissage. Bien entendu, c'est faire montre d'une grande ignorance quant à la difficulté de l'adaptabilité: ici encore, comme pour les actions simultanées, les situations nouvelles sont d'une infinie variété et il est impossible de les épuiser toutes.

La seconde raison est que ce n'est pas le comportement qui compte tellement, même un ATTT n'est pas suffisant. Ce qui compte ce sont les explications fournies par le sujet sur son comportement. Juste après que les premiers systèmes experts soient nés, on a tout de suite reconnu que l'explicabilité était une composante nécessaire à une machine intelligente (Clancey, 1983; une revue récente est donnée par Swartout et Moore, 1993). Une première raison est de nature pédagogique, car on désirait utiliser ce système expert pour enseigner. Les explications fournies par la première version étaient tellement mauvaises qu'il a fallu repenser la structure du système expert. Une autre raison est qu'un système expert non explicatif est très difficile à maintenir par d'autres que par son créateur. Pour revenir encore à la chambre chinoise, l'interlocuteur humain pourrait demander à la machine pourquoi elle a écrit telle phrase. D'après l'argument de Searle, elle ne pourrait que répondre "Parce que mes instructions me disent de mettre tel signe à la suite de tel autre etc.", et elle échouerait TT immédiatement. L'ultime test de Turing est celui où un ordinateur est capable d'expliquer son comportement à un humain, de sorte que l'humain pense que la machine s'explique bien comme un humain. C'est donc un "ATTTE" dont on a besoin (adaptatif - test de Turing total explicatif), pour réellement tester les capacités intellectuelles d'une machine de façon objective.

En passant, je voudrais signaler quelques résultats intéressants obtenus par Knight et Gil (1991). Ils ont construit un système mixte, neuronal et symbolique. La partie neuronale faisait l'apprentissage et prenait ensuite les décisions. La partie symbolique ne faisait qu'expliquer ces décisions. Le système symbolique était donc une sorte de sophiste capable d'expliquer une chose et son contraire de façon aussi convaincante. Cette étude intéressante du point de vue philosophique a été unanimement rejetée par la communauté de l'IA à cause des arguments sophistes symboliques. On voit bien que cette communauté cherche à construire des machines qui s'expliquent "sincèrement", sans argumenter dans le vide comme les humains le font si bien.

Pour couronner le tout, il faut bien dire que cet "ATTTE" est encore très loin d'exister, au moins pas avant des dizaines d'années. Pour moi, c'est une sorte de licorne: je sais ce qu'est un cheval, je sais ce qu'est une corne, cela ne me donne pas le droit de discuter sur la couleur des yeux de la licorne. Et, pour conclure sur une note gaie, en imaginant qu'un tel ATTTE existe, il n'est pas certain qu'il passe TT si aisément. Il risque d'être tellement intelligent, sérieux, pompeux, sûr de lui, ennuyeux, qu'il sera repéré immédiatement!


[Table des matières] [Préface] [Chapitre 1] [Chapitre 2] [Chapitre 3] [Chapitre 4] [Chapitre 5] [Chapitre 6] [Chapitre 7] [Chapitre 8] [Chapitre 9] [Chapitre 10] [Chapitre 11] [Chapitre 12] [Chapitre 13] [Glossaire] [Références bibliographiques]