Le risque IA

C’est une erreur que de penser que la machine puisse spontanément générer des erreurs. Chacune de ses erreurs est le fruit de la conception direct ou indirect de son créateur, qu’il s’agisse d’une machine passive ou apprenante pour laquelle on a soumis un référentiel d’apprentissage issu d’un travail humain. Comme nous vivons entourés d’hommes qui se trompent, il faut accepter de vivre avec des machines qui se trompent aussi du fait de leurs créateurs. Le phénomène est seulement amplifié.

Si la machine devient autonome, il faut lui appliquer un code civil, la considérer comme une personne électronique. Elle doit alors être assurée contre ses dysfonctionnements comme on assure un animal par exemple. Des procès pourront à l’avenir opposer des personnes physiques ou morales à des personnes électronique, mais ce seront les constructeurs qui seront appelés à la barre.

Aujourd’hui nous avons tendance à imposer à la machine des exigences en matière de fiabilité bien supérieures à celles que l’on impose aux personnes physiques. Il n’est pas rare qu’un travail confié à un collaborateur dans une entreprise drainant un taux d’erreur non négligeable (comme pour chacun de nous), soit confié à une intelligence artificielle en ne tolérant cette fois ci aucune erreur. Ceci freine considérablement le développement des systèmes autonomes. Cette situation va nécessairement disparaitre lorsque nos environnements seront peuplés d’avions sans pilotes, métros sans conducteurs, voitures sans chauffeurs, blocs opératoires sans chirurgiens, etc. Force est de constater qu’il y a plutôt moins d’erreur commises par la personne électronique que par la personne physique, cette dernière étant sujette à la fatigue, le stress, la déconcentration. Finalement nous devons avoir moins peur des machines que de nos concitoyens.

La révolution industrielle

Le concept de quatrième révolution industrielle est révélateur de l’encrage matérialiste de notre société. Cela va faire bientôt près d’un siècle que le PNB de notre pays est essentiellement composé de « services », la part de l’industrie est en constante régression fasse aux services et depuis peu aux données, lesquelles vont constituer le quatrième secteur économique. Et pourtant le plan comptable imposé à nos entreprises contient toujours une classe 7 « produits » et une sous-sous-classe 706 « services », ce devrait être le contraire. Lorsque nous nous rendons au supermarché, nous n’achetons pas des produits mais des services. Le prix du produit est très faible par rapport à celui des services qui entourent le produit. Ceci pour dire que la quatrième révolution industrielle dépasse le cadre de l’usine intelligente, pour occuper aussi celui des services intelligents.

Cette révolution a en effet déjà commencé. Elle vise à remplacer les personnes physiques par des personnes électroniques que ce soit pour exécuter des taches dans des usines, dans des exploitations minières, agricoles ou piscicoles, ou pour répondre au téléphone, contacter des clients, expédier des colis, …

Certains ont peur de perdre ainsi leur emploi. Ce n’est pas une peur, c’est une certitude. La notion d’emploi est selon moi une réminiscence du passé totalement inappropriée à la vie moderne. Le terme lui-même fait froid dans le dos, comment peut-on associer le terme « homme » avec celui « d’emploi » habituellement réservé à l’usage d’un objet, ceci traduit un état finalement assez proche de l’esclavagisme. Le terme « travail » vient du latin « torture », c’est terrifiant. Il est temps que notre société évolue, qu’elle se modernise en automatisant tout ce qui peut l’être et en trouvant d’autres activités bien plus valorisantes à offrir à nos concitoyens pour qu’ils vivent dignement, puissent s’épanouir et cessent de craindre le futur.

La loi naturelle

Partout dans l’univers, la matière se regroupe pour former des galaxies, des étoiles, des planètes. Partout où c’est possible, la vie émerge, l’intelligence se forme, des sociétés naissent. Le processus d’évolution repose sur un principe différentiateur, les individus de génération n+1 sont un peu diffèrent de ceux de la génération n. Les plus adaptés, les plus performants se reproduisent davantage et s’imposent. De ce principe naturel auquel nul n’échappe, il résulte 3 piliers fondateurs de toute société : expansion, coopération et compétition.

Prenez une coupelle, versez-y de l’eau sucrée, des colonies de bactéries se développeront irrémédiablement. Lorsque la ressource semble infinie, c’est l’expansion, les individus coopèrent pour imposer leur colonie face aux autres, dessinant un tableau multicolore. Les colonies prennent rapidement possession des ressources. Puis la ressource se tarie, il faut survivre, c’est d’abord chacun pour soi, on entre en compétition accrue avec les autres pour survivre. Puis vient le temps du devoir de protéger l’espèce plutôt que l’individu, c’est un moment exceptionnel ou certains individus se sacrifient pour cela, les règles changent. Les bactéries tentent de s’extraire du lieu pour en coloniser d’autres. Puis la colonie poursuit sa régression jusqu’à l’extinction. Nous n’en sommes peut-être pas si loin en effet.

La courbe est toujours la même, son profil est une progression lente puis exponentielle, une inflexion, un sommet, et une chute vertigineuse. La fin de l’espèce humaine est programmée c’est certain. Sur terre elle donnera sa chance a une autre espèce parmi celles que nous n’aurons pas exterminées. Je ne sais pas si l’échéance est dans 1000 ans comme le dit Hawkins, mais elle sera.

Pour tenter d’échapper à cette redoutable loi naturelle, on peut donner la préférence à l’intelligence sur l’intérêt, bâtir une toute autre société, renoncer à certaines libertés, gérer la distribution des ressources, éviter le gâchis, coloniser mars ou titan. Mais ceci ne fait que retarder l’échéance. De ces principes d’expansion-coopération-compétition nous sommes issus et l’on aura beau chasser le naturel, il reviendra toujours au galop. A l’échelle de l’univers, nous ne sommes qu’un épiphénomène. Mais que ceci ne nous fasse pas perdre de vue le principal, rendre nos existences meilleures durant tout le temps que nous avons à les vivre.

La conscience

On distingue deux sens au terme « conscience ». Sur un plan purement cognitif la conscience est liée à la reconnaissance d’objets, d’êtres, de principes, de phénomènes… On prend conscience de l’existence de quelque chose. L’opération consiste à transformer une information en noèmes. Ce sont des représentations mentales sur lesquelles peut dérouler une réflexion consciente, ou noèse. Si nous utilisons les mêmes mots, les noèmes que nous associons sont légèrement différents. Chacun se fait une idée de chaque chose. Dans ce cadre, une personne électronique devant mener une analyse de situation doit pouvoir effectuer cette noèse et donc disposer d’une certaine forme de conscience.

Dans la vie courante, on associe le terme de conscience plutôt à l’exercice d’un jugement reposant sur des valeurs telles que l’éthique ou l’équité par exemple. Sur ce plan la machine peut être soit programmée à partir de règles comportementales ou apprenante en observant et reproduisant les comportements humains. Dans les deux cas on peut donner l’apparence d’une conscience. Cette pseudo-conscience peut être positive ou négative, il sera tout aussi facile de produire des machines bienveillantes ou des voyous électroniques. Mais j’ai la conviction que ceci ne sortira pas du cadre de l’apparence. Il me parait peu probable que nous puissions développer des capacités affectives telles que nous les vivons, la simulation touche ici ses limites.

Jean Pierre MALLE

Publié dans Investir en Europe