La naissance d’un sujet de société

Certains sujets sont conjoncturels (le covid, la crise économique, …), d’autres se basent sur les peurs ancestrales (la sécurité, le climat, …) et d’autres naissent de la nouveauté. Ces derniers apparaissent plus progressivement et présentent des caractéristiques qui témoignent de la méconnaissance qui leur a donné naissance. Il est fascinant de constater que ces sujets, à un moment donné, explosent et se répandent massivement dans la population. L’effet est sigmoïdal (un raz de marée en langage courant). Il faut quelque fois des mois et des années de latence mais quand il survient, le démarrage est rapide, le basculement est total.

Et je pense que le thème de l’organisation induite par les intelligences artificielles est l’un d’eux. Nous en sommes au début des réflexions mais on note déjà son ancrage fort dans la société. Et ce thème nous fait aussi réfléchir sur toute l’organisation actuelle de nos sociétés, sur leur finalité même.

L’exemple des organisations humaines

Lorsque l’on se réunit pour constituer un groupe, il est bien plus facile de rassembler des personnes qui nous ressemblent, qui mènent les mêmes réflexions. Le regroupement semble plus naturel, plus simple, moins contraignant. Ce faisant on ne traite que des mêmes sujets, sans faire de réels efforts. On peut y découvrir des aspects que l’on avait pas appréhendés auparavant, mais ceux ci restent à la marge et dans la même veine. On progresse peu, on ne se remet pas profondément en cause.

De plus créer un groupe homogène peut s’avérer extrêmement dangereux. Des dérives radicales peuvent naître et se développer progressivement sans que le groupe ne s’en rende compte, les uns alimentant les positions extrêmes énoncées par les autres. Le groupe homogène (que l’on appelait par le passé « un collège ») est fréquemment le siège de communautarisme ou de sectarisme. Il favorise l’intransigeance, il nivelle vers le bas les esprits et les rend dépendants. Des meneurs s’imposent et y développent leur pouvoir. La compétition avec les autres groupes peut se transformer en haine, en violence.

En revanche créer des groupes hétérogènes est plus compliqué. Il faut faire l’effort de convaincre des personnes différentes de se réunir alors qu’elles ne comprennent pas toujours pourquoi on leur demande de se mélanger à des autres si différents. Ensuite il faut faire l’effort de les écouter, de les comprendre et de prendre du recul sur leurs messages. Il est vrai que c’est beaucoup plus dur. Mais l’effort est bien récompensé. En expliquant on comprend mieux soit même, on voit les choses de plus haut. En observant les autres on relativise, on essentialise, on se reconnecte avec la réalité et les fondamentaux.

Non seulement on ne peut détecter précocement les sujets nouveaux que dans ces environnements où règne une grande diversité mais on y construit aussi les solutions les plus saines et les plus durables.

L’émergence d’un monde mixte

Si l’on compare l’apparition des intelligences artificielles et celle de la vie sur terre, on peut faire une analogie chronologique.

Les intelligences artificielles créées aujourd’hui se situent à l’époque des dinosaures, bien qu’elles constituent déjà une avancée technologique notable. Mais elle n’ont d’intelligence que leur nom. De plus en plus d’experts reconnus sur la scène internationale s’expriment en ces termes : « pour devenir intelligente, l’IA devra changer radicalement ses principes constitutifs ».

Avec quelques start-up avant-gardistes, je travaille activement sur les IA différenciatives qui constituent un pas dans cette direction. D’autres de par le monde sont aussi en train de développer les standards d’IA de demain. Ainsi, les mammifères viennent remplacer les dinosaures, et ainsi de suite.

Il est certain que petit à petit les intelligences artificielles vont nous entourer, nous suggérer des comportements, prendre des décisions nous concernant, à l’instar des personnes qui nous entourent. Elles vont se placer au niveau des hominidés si l’on poursuit notre analogie.

Un monde mixte d’intelligence humaine et d’intelligence artificielle va se créer. Mais quelle organisation naitra de ce monde ? Les intelligences artificielles respecteront-elles des lois ? y-aura-t-il des IA présidentes et des IA laborieuses ?

Les IA se comprendront-elles ? Y-aura-t-il de la diversité ou de la similarité chez les IA ? Des groupes d’IA se formeront-ils ? Ces groupes seront-ils diversifiés ou homogènes ? Y-aura-t-il des dérives sectaires ?

En prenant garde à ne pas créer ici un énième mauvais film de science fiction, ces interrogations sont légitimes et doivent nous faire penser qu’une réglementation sera surement nécessaire. Mais pour autant nous devons aussi réfléchir sur les organisations mixtes possibles et qui pourraient être bénéfiques à l’homme. Celles qui pourraient lui permettre de mener une révolution de son propre positionnement social par exemple. Et le moment est bien choisi, à la charnière entre un monde qui assure et un monde qui n’assure plus la survie de l’espèce humaine.

La peur de l’anarchie

Dans le registre des organisations possibles, il y a l’anarchie. Si l’on fait abstraction des mouvements politiques auxquels elle fût associée, elle peut nous apporter quelques réflexions utiles à notre sujet.

Bien sûr, on peut interroger quiconque pour obtenir une définition de l’anarchie, la réponse tournera toujours autour des notions de désordre, pagaille ou violence, pour ne citer que les plus châtiées.

Pourtant anarchie vient du grec arkhé (le pouvoir) et du privatif an- , l’anarchie n’est que l’absence de hiérarchie, l’absence de pouvoir.

La hiérarchie vise à établir un ordre. La hiérarchie c’est le fait qu’un individu qui s’est octroyé une position hiérarchique ou y a été nommé, va se choisir des alliés qu’il nomme à d’autres positions hiérarchiques inférieures à la sienne. Lesquels feront de même, construisant ainsi une pyramide ou règne le pouvoir et la reconnaissance des niveaux inférieurs envers les supérieurs. La hiérarchie peut donc se comprendre comme étant l’ordre + le pouvoir.

Contrairement aux idées reçues, l’anarchie vise aussi à établir un ordre, mais sans la hiérarchie, donc sans le pouvoir. L’anarchie c’est l’absence de pouvoir et non l’absence d’ordre comme on le croit souvent.

En réalité pour établir un ordre sans hiérarchie il faut beaucoup plus d’ordre puisque chacun en est à la fois détenteur et garant. Il ne s’agit plus d’obéir « sans réfléchir » à un chef. Dans un système anarchique chacun doit être convaincu du bien fondé de l’action et est un moteur du respect de l’ordre auprès des autres.

Et que fait-on dans les entreprises lorsque l’on constate que la hiérarchie ne fonctionne pas bien ? Si ce n’est de mettre en place des groupes de travail, de créativité, de réflexion ou chacun peut s’exprimer librement, en faisant « abstraction de la hiérarchie », en vue de faire émerger des solutions innovantes !

Il n’est pas rare aussi de rencontrer dans des systèmes hiérarchiques des « managers porteurs de sens » des « managers éclairés » qui animent leurs équipes en se mettant en retrait, en les éclairant et en leur obtenant des moyens. A charge à elles de s’organiser et rechercher les solutions optimales en fonction des moyens disponibles. Ces managers modernes font aussi abstraction de leur position hiérarchique.

Dans une start-up il n’y a pas de réelle hiérarchie, il y a des femmes et des hommes qui s’engagent corps et âme sur un projet qui les passionne. Ils prennent en charge les situations qui se présentent à eux, souvent inédites, au mieux de leurs compétences réciproques et non en fonction d’un soi-disant niveau hiérarchique.

L’anarchie est bien plus répandue qu’on ne le dit, mais comme aujourd’hui le mot « anarchie » est complètement dévoyé, nous sommes contraints de le remplacer par des périphrases telles que « organisation ouverte » ou « organisation non-hiérarchique », etc. Albert Camus disait avec raison que « mal nommer les choses c’est ajouter aux malheurs du monde ».

Les organisations numériques

Nous fabriquons de plus en plus des « employés numériques », des « amis numériques », des « décideurs numériques », des « fonctionnaires numériques » qui interagissent dans nos organisations et dans nos vies.

Ces systèmes d’intelligence artificielle prennent une place grandissante dans notre société et transforment nos organisations, faisant apparaître des avantages mais aussi des problèmes insoupçonnés jusque là. Les organisations numériques seront telles hiérarchiques ? Le pouvoir sera-t-il transféré en partie à la machine ?

En fait, les organisations mixtes naissantes dépendront du choix industriel qui sera fait :

  • Soit l’on produira des IA en grandes séries, toutes du même modèle ou de quelques modèles concurrents.
  • Soit on produira des IA diversifiées, avec de nombreuses « personnalités » différentes.

Et ceci aura des répercutions sur les organisations numériques à l’instar des organisations humaines.

Étudions les deux cas.

1) des IA produites en grande série

a) Lorsqu’une activité est conduite par un être humain, la responsabilité lui incombe. S’il y a erreur, la responsabilité de l’acteur concerné est naturellement invoquée. Pour des activités dangereuses comme la conduite automobile, par exemple, des assurances sont obligatoires pour couvrir le risque d’accident avec responsabilité conducteur. Mais si une activité similaire est prise en charge par une intelligence artificielle, de fait la responsabilité sera transférée du conducteur au constructeur de la dite IA. Fabriquées en nombre, quasi-identiques, même si leur apprentissage est différent, elles reproduiront les mêmes biais. Ceci peut créer des effets systémiques dévastateurs pour les victimes et les assureurs.

b) Au début l’intégration d’une IA dans une organisation localise les échanges entre l’IA et les êtres humains, mais lorsque les IA seront aussi nombreuses que les humains dans l’organisation et voire plus nombreuses, les échanges se feront beaucoup d’IA à IA. Le risque de disposer d’IA clones les unes des autres est grand et donc de fabriquer des groupes homogènes, présentant les mêmes biais. Ces groupes risquent de dévier rapidement vers des positions extrémistes, les uns observant et reproduisant les comportements des autres en dérivant dans le même sens.

c) Une IA apprend des activités humaines, elle puise sa connaissance dans des données issues des travaux humains ou sous contrôle humain. Mais lorsqu’une activité sera prise en charge intégralement par des IA, elles vont apprendre les unes des autres sans enrichissement et reproduire des processus qui seront de plus en plus obsolètes. A l’image de certaines administrations qui font perdurer des procédures qui n’ont plus de sens simplement parce que personne ne les a réformées, ne les a averti. Les administratifs entrant sont formés par ceux qui partent et ils ne se rendent pas compte qu’ils sont de plus en plus déconnectés de la réalité. S’en suit une chute de leur valeur ajoutée, celle-ci devenant même contre productive en détruisant sans le vouloir de la valeur auprès de ceux qui tentent de bien faire. Le phénomène n’est pas nouveau mais il sera multiplié.

2) des IA différenciées

a) Il existe aussi des facettes bien plus positives aux organisations mixtes. Pour peu que les IA produites ne le soient pas toutes sur le même modèle mais présentent des différenciants importants, par exemple en copiant des caractéristiques d’un humain qui deviendrait en quelque sorte leur « parrain ».

b) Contrairement aux êtres humains, les IA ne possèdent pas un ego surdimensionné et donc on ne verra surement pas se développer des architectures pyramidales fortement hiérarchisées au sein des populations d’IA. D’entrée les organisations intégrant des IA différenciées vont adopter une forme collaborative. Plus ces organisations se peupleront d’IA plus elles s’éloigneront du modèle hiérarchique et donc seront anarchiques (pardon !… non-hiérarchiques).

c) Les IA différenciés en affichant une grande diversité permettront alors d’apporter plus de richesse dans la résolution des problèmes, des phénomènes d’émulation et de convergence pourront se développer lors des échanges qu’elles auront entre elles.

Un avenir numérique

Nous avons tout pour faire bien, mais le voudrons nous ? Pierre Desproges disait qu’un pessimiste est un optimiste avec de l’expérience.

L’homme veut tout, tout de suite et n’hésite pas à sacrifier la vie de ses enfants au nom d’un profit court-termiste. Nous le constatons tous les jours en observant la dégradation que l’on afflige à notre unique planète.

Il est fort à parier qu’en matière d’intelligence artificielle un scénario similaire risque de produire si nous n’y prenons pas garde. Des IA semblables seraient alors produites en série et inonderaient nos vies nous exposant à des crises systémiques à répétition, toujours plus violentes et plus fréquentes.

Nous devons dores et déjà prendre la mesure de la problématique afin de réglementer la conception et l’usage des IA au lieu d’agir après coup. Il ne s’agit pas de brider ou pénaliser nos industries mais d’intégrer dans la conception des principes salvateurs qui renforceront leur valeur ajoutée au profit à la fois de l’humanité et des constructeurs. Un label peut apporter beaucoup en la matière.

Veillons aussi à ce que les détenteurs de pouvoir qui perdront leurs repères dans des organisations mixtes non-hiérarchiques ne cherchent pas à reproduire artificiellement des hiérarchies qui nous priveraient encore un peu plus de notre libre arbitre.

Jean Pierre MALLE