Vous avez dit … intelligence ? De quoi parlons-nous vraiment ?

Interview de Bernard Georges, responsable de la Prospective Stratégique au sein de la Direction des Ressources et de la Transformation Numérique du Groupe Société Générale




Alors que de plus en plus d'entreprises investissent dans l'intelligence artificielle, ne pensez-vous pas que le vrai combat à mener soit celui de l'intelligence naturelle ?


Votre question met en avant, et à juste titre, la notion d’intelligence. Mais de quoi parlons-nous vraiment ?

Que l’on se situe dans le champ du naturel ou le domaine de l’artificiel, il nous faut éviter les écueils du marketing, sous toutes ses formes, et revenir au sens du mot intelligence, en s’ancrant dans le sens commun. En effet, nombreux sont les laboratoires de recherche et les entreprises qui emploient indifféremment et parfois confondent trois termes, renvoyant à trois notions cognitives certes étroitement liées, mais cependant distinctes : la connaissance, l’intelligence et la conscience.

Pouvons-nous parcourir ensemble ces trois notions, et leur emploi ? En commençant par l’idée de connaissance ?


Abordons tout d’abord l’idée de connaissance au sens le plus étroit du terme. Cette connaissance peut être qualifiée de brute, en ce sens qu’elle se situe hors champ de l’intelligence et de la conscience – j’évoquerai plus loin une connaissance de deuxième niveau en même temps que la notion de conscience. Cette forme de connaissance est celle qu’acquièrent par exemple des élèves, lorsqu’on les pousse ou qu’ils s’obligent à apprendre leurs cours par cœur avant un examen. Que mémorisent-ils alors ? Des corrélations. A l’année 1515, ils associent le nom de François 1er et sa victoire à Marignan. Au nom de Youri Gagarine, ils relient la notion de premier homme à avoir voyagé dans l’espace. Et ainsi de suite. A une information X, ils associent une information Y et mémorisent cette association. Si l’élève a bien appris sa leçon par cœur, il est alors capable, presque sans effort, de venir piocher dans le corpus des connaissances qu’il s’est constitué, la « bonne » réponse à toute question qu’on lui pose en rapport avec ses acquis par cœur.

Dans le domaine de l’artificiel, en est-il de même ?


La plupart des machines actuelles dites « intelligentes » se cantonnent à des fonctions d’apprentissage brut. Elles mémorisent de grandes quantités d’informations grâce au big data, puis établissent et mémorisent, hors de tout lien de causalité, des corrélations statistiques entre ces informations, produisant ainsi, à l’instar de l’humain, de la connaissance brute. Elles « apprennent » ainsi que Monsieur Dupond, lorsqu’il se connecte à une plate-forme de diffusion en continu, regarde principalement des westerns, ou que Madame Durand, cliente de plates-formes d’achats en ligne, commande souvent des livres de science-fiction. Et ainsi de suite.

Faut-il craindre l’emploi de telles machines souvent désignées par l’expression « machine learning » ?


La connaissance brute est comme le dieu Janus. Selon son usage ou sa destination, elle oscille entre deux visages. Le premier, tourné vers le bien-être et l’utilité, encourage le déploiement d’une heuristique éminemment précieuse : la fonction prédictive. Car en s’appuyant sur la connaissance brute, il est aisé de prédire, donc de proposer, à Monsieur Dupond ou à Madame Durand, le produit, le service ou l’usage qui, selon une assez forte probabilité, satisferont leurs désirs ou leurs attentes à court terme, en l’occurrence le dernier western à l’affiche ou la dernière publication de science-fiction.

A l’opposé, le second visage de la connaissance brute est dirigé vers son utilisation abusive, voire malveillante, rendue possible par le recours intensif à la puissance de calcul des machines. Car bien sûr, la recherche et l’observation systématiques des corrélations informationnelles qui « enveloppent » l’activité d’un individu, puis l’analyse répétée des empreintes numériques qu’il laisse ainsi dans son environnement, ont vite fait d’enfermer cet individu dans des catégories de plus en plus étroites et normatives. Pour ce qui est de Monsieur Dupond ou de Madame Durand, pendant longtemps probablement et à leur corps défendant, ils se verront proposer soit des films du genre western ou des ouvrages de la catégorie de la science-fiction, quels que soient l’évolution de leurs goûts ou leurs désirs de faire de nouvelles découvertes.

Quels sont les risques à l’échelle d’un pays ou de la planète ?


La situation est évidemment bien plus grave lorsqu’un Etat autoritaire se dote d’une puissance technologique dans le but d’industrialiser de tels processus. Généralement, cet Etat commence par profiler numériquement toute sa population. Puis il catégorise les profils ainsi calculés. Il évalue ensuite ces catégories, en les rapportant à des normes bureaucratiques descriptives et prescriptives, autrement dit à une norme politique. S’installe alors un régime de surveillance panoptique qui, inévitablement, grisé par sa propre logique et son pouvoir grandissant, met en place un système de notation, venant sanctionner, positivement ou négativement, sur différents plans matériels ou physiques, les écarts de conduite observés par rapport à « la norme », à laquelle chacun est désormais, irréversiblement, assigné. L’homme, avec ses identités multiples et sa liberté, s’efface alors, telle une ombre, derrière le « système ». Ne nous y trompons pas ! Il n’y a aucune intelligence artificielle en action dans de tels dispositifs techniques. Seules des intelligences humaines, sous la forme d’organisations à visée politique, produisent délibérément de tels processus de prédiction, de contrôle et d’asservissement, en s’appuyant sur de gigantesques réservoirs de connaissances brutes qui résultent de l’accumulation des observations de population confiées aux machines.

Vous venez de faire référence à l’intelligence. Il semble que le moment soit venu de développer cette notion. C’est quoi « être intelligent » ?


Tout d’abord, comme pour la connaissance, une précaution s’impose : l’intelligence peut et doit être qualifiée de brute, dès lors qu’on l’étudie hors champ de la conscience. Qu’est-ce qui caractérise l’intelligence ? D’instinct ou par expérience, nous savons tous que favoriser le développement de l’intelligence chez un enfant ne consiste pas à lui faire apprendre ses cours par cœur. L’enjeu est autre et plus ambitieux. Il s’agit de lui permettre, non pas seulement d’apprendre, mais d’abord et principalement de comprendre. Autrement dit, il s’agit pour l’enfant de pouvoir explorer l’apprendre. Comprendre suppose ainsi, non pas seulement, tel un automate sophistiqué, de « trouver la bonne réponse » à une question posée, mais avant tout de « se poser les bonnes questions », par rapport à quelque chose, ou à quelqu’un, en essayant de se mettre à la place de cet autre. Qui est-il ? Quels sont ses intérêts ? Que ressent-il ? On parlera ici d’empathie cognitive, à savoir du caractère essentiellement relationnel de l’intelligence, en tant que capacité de construction d’un rapport viable et durable à l’autre et au monde pour pouvoir s’y adapter.

Le développement de l’intelligence suppose-t-il de favoriser ou d’encourager des aptitudes particulières ?


Comprendre nécessite, par rapport à un objectif ou une finalité de recherche, de pouvoir prospecter le champ des possibles, de pouvoir s’y perdre, volontairement, au hasard, pour repérer plus facilement, non pas les déjà connues lignes droites qui souvent viennent buter en impasse sur le réel, mais les courbes, les inattendus chemins de traverse, voies de détour et divers entrelacs. Comprendre suppose ainsi, en parcourant librement des espaces réels et imaginaires, de pouvoir observer de multiples formes d’objets et de liens, de pouvoir en repérer non seulement les contours, mais aussi les répétitions, de manière à pouvoir mentalement les « factoriser », donc les abstraire. C’est ainsi que, par exploration, l’enfant puis l’adulte parviennent à comprendre – littéralement à prendre avec, c’est-à-dire à abstraire leurs connaissances sous forme de concepts qu’ils relient peu à peu aux concepts qu’ils ont déjà assimilés. En somme, l’intelligence commence avec la curiosité, et la liberté acquise ou revendiquée d’explorer, pour déboucher, par l’abstraction, sur la mise en lien de concepts et l’extension de réseaux sémantiques.

Si l’on vous suit, l’intelligence n’est donc pas que le simple prolongement et perfectionnement de la connaissance.


La véritable nature de l’intelligence est d’être tournée vers l’avenir, en questionnant les possibles par rapport à des objectifs, par opposition à la connaissance qui cristallise et incite à prolonger les acquis du passé et à rechercher des causes. Alors que, par exemple, l’intelligence s’intéresse à construire des communautés de destin, la connaissance s’attache à identifier des communautés d’origine. Ce sont là deux manières différentes de flécher le temps et de construire son rapport à l’autre. Il y a donc une rupture épistémologique et culturelle dans le passage de la connaissance à l’intelligence. Aujourd’hui dans le monde, faute d’avoir réellement cerné, au travers de ses caractéristiques, l’idée même d’intelligence, très peu d’équipes de recherche travaillent sur des machines réellement intelligentes, au sens notamment d’agents artificiels dotés d’empathie cognitive.

Il est temps d’aborder la troisième notion cognitive, la conscience. Que pouvez-vous nous en dire ?


En ce qui concerne la conscience, affichons d’emblée la couleur. A l’exception de personnages de science-fiction, et malgré les recherches réalisées par quelques brillantes équipes pluridisciplinaires, principalement aux Etats-Unis et en Chine, l’homme est encore très loin de savoir produire, pour le meilleur ou pour le pire, les conditions d’émergence, par auto-organisation et auto-complexification, de consciences artificielles ou machines pensantes. La conscience suppose en effet un saut et une rupture par rapport à l’intelligence brute. Elle nécessite, entre autres, la faculté de s’auto-produire, en produisant du « sujet ». Ainsi, pour qu’il y ait conscience, il faut que l’individu « conscient » soit « conscient de quelque chose », qu’il soit ainsi capable d’entrer en mouvement, voire en résonance, avec et dans le monde, de se mettre en relation avec ce qui l’entoure, les autres vivants et son environnement. Autrement dit, un individu conscient n’existe d’abord qu’au travers de ses émotions – du latin motio signifiant mouvement et trouble, de ce qu’il ressent, donc de sa capacité d’empathie affective, dans ses relations avec ceux et ce qui l’entourent. Puis, peu à peu, l’individu intériorise ses émotions, les stabilise sous forme de sentiments, et construit par-dessus un système de pensées.

Pour aborder le domaine de la conscience, vous évoquez la notion de « sujet », au sens philosophique et psychologique du terme. Pouvez-vous préciser de quoi il s’agit ?


La capacité de ressentir ouvre en effet la voie à la capacité de subjectiver, autrement dit de se faire sujet. Produire du « sujet » consiste pour une entité consciente à opérer un double mouvement de différenciation, à proprement parler d’individuation. D’une part, l’entité se constitue comme un étant, se distinguant des autres entités présentes autour d’elle. Elle se sait alors telle que : « je » n’est pas un « autre ». D’autre part et concomitamment, l’entité se dédouble, se constituant comme sujet et objet, pour s’observer elle-même en train d’agir, ce qui peut s’énoncer par la belle formule d’Arthur Rimbaud : « je » est un « autre ». La conscience est ainsi une faculté réflexive qui fournit la capacité de juger et d’oser, en dotant le sujet d’intentionnalité.

La conscience, en tant que faculté introspective, permet ainsi de donner corps à plusieurs concepts que nous connaissons tous fort bien. Tout d’abord, la Connaissance en tant que sublimation des savoirs (le terme connaissance étant polysémique, je l’emploie ici avec un grand C, pour le distinguer de la connaissance brute que nous avons évoquée précédemment), mais aussi la sagesse qui n’est autre qu’une Connaissance juste des choses qui implique donc une dimension éthique, ou encore l’altruisme qui suppose l’intervention de la conscience au sens où la présence du « sujet » est requise.

Pour conclure, pourriez-vous souligner les principaux enjeux, pour l’avenir, liés à l’intelligence et à son bon usage ?


Nous percevons spontanément que, pour ce qui est de l’homme et potentiellement de toutes les entités naturelles du domaine du vivant, la conscience – en tant qu’intelligence de soi, peut être vue comme un sur-ensemble de l’intelligence, et l’intelligence – en tant que capacité de prospecter et d’abstraire des connaissances sous forme de concepts, peut être considérée comme un sur-ensemble de la connaissance. La distinction que nous faisons entre ces trois notions peut donc sembler théorique. Elle est toutefois utile et prend toute son importance, sous la forme d’un exercice imposé, dès lors que l’on cherche à comparer le monde naturel et celui de l’artificiel et à caractériser les niveaux cognitifs atteints par les machines, d’autant que ces dernières, nous l’avons expliqué, ne sont dotées aujourd’hui ni d’intelligence, et encore moins de conscience, au sens où nous, humains, comprenons ces deux notions.


Assurément, à l’heure du développement des systèmes cognitifs artificiels, l’un des grands enjeux est que la société des hommes se réapproprie et réinvestisse l’idée même d’intelligence naturelle, si riche de notre humanité, qu’elle en perçoive les contours et les nuances, le voisinage – la connaissance et la conscience, et la portée. A l’ère de la mondialisation de l’innovation et de l’information, c’est un effort qu’elle doit consentir, et un cadeau qu’elle doit se faire à elle-même, en sollicitant et en associant l’ensemble des disciplines constitutives de notre savoir, des sciences humaines et sociales, à la philosophie, aux arts, aux mathématiques, aux sciences de la vie et de la matière, à la technique. Car c’est là, pour les temps incertains à venir, la condition sine qua non pour maîtriser ensemble, la conception, le développement et l’usage responsables, donc éthiques, des systèmes techniques que nous produisons.


Pour suivre Bernard Georges sur Twitter : @BMGeorges et @BdGEORGES