Les Tables de l’IA

Pour une régulation rapide, internationale et contraignante des IAs.

En 1942 le célèbre écrivain de science fiction Isaac Asimov formulait les trois lois de la robotique qui allaient parcourir son œuvre :

1. Un robot ne peut porter atteinte à un être humain ni, restant passif, permettre qu’un être humain soit exposé au danger.

2. Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.

3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième loi.

Ces 3 lois s’appliquent à des « robots positroniques » tels que les qualifie Asimov, et qu’on pourrait considérer comme des machines électroniques dotées d’une forme de conscience. En intégrant ces trois lois dans le programme informatique – code – des robots l’objectif est de rendre impossible qu’ils fassent du mal aux humains. Évidemment avec l’irruption des Intelligences Artificielles Génératives comme ChatGPT dans l’espace public, ces lois résonnent tout particulièrement ne serait-ce qu’en remplaçant robot par Intelligence Artificielle et l'on peut admirer la "prescience" d'Asimov. Ici, au delà du contenu, de la formulation même de ces lois c’est bien la capacité à contrôler les comportements d’entités « intelligentes » qui pourraient acquérir une autonomie qui est en jeu.

Ces réflexions autour d’une régulation des IAs ne sont pas nouvelles - on parle d'IA responsable ou éthique - mais une fois encore la technologie a été plus vite que la définition et la formalisation d’un cadre de référence qui pourrait s’appliquer aux laboratoires ou aux entreprises qui travaillent sur ces questions, et désormais c’est dans une forme d’urgence qu’il va falloir élaborer ce cadre.

Pour cela il nous semble indispensable d’éviter plusieurs écueils :

- tout d’abord il ne faut pas laisser ce débat aux spécialistes c’est à dire aux informaticiens et aux spécialistes de l’IA, et a fortiori aux entreprises qui développent des solutions d’IA et qui sont mues en priorité par la recherche du profit. On notera d’ailleurs l’évolution du positionnement d’OpenAI, la société qui développe chatGPT, passée en 2019 du statut d‘association à but non lucratif à celui d’entreprise à « but lucratif plafonné » et désormais financée par Microsoft. Dans un article paru dans le magazine Vice fin février un titre ravageur résumait d’ailleurs cette évolution : « OpenAI est maintenant tout ce qu’elle promettait de ne pas être : Corporate, Closed-Source (par opposition à Open Source) et à But Lucratif (« OpenAI Is Now Everything It Promised Not to Be: Corporate, Closed-Source, and For-Profit »).

Le débat sur ces questions de contrôle des IAs concerne la société toute entière car il a des implications éthiques, sociales, économiques, sociétales, majeures et c’est la collectivité dans son ensemble qui doit être capable de déterminer ce qui acceptable et ce qui ne l’est pas, ce qui est faisable et ce qui ne l’est pas. Il faut ici résister à la tentation de l’autorégulation qui ne manquera pas d’être réclamée par certains acteurs du secteur et dont on sait qu’elle ne marche pas et aboutit au mieux à des règles molles et facilement contournables,

- il faut pousser cette thématique de la régulation au niveau international, car un encadrement au niveau national ou régional sera évidemment insuffisamment, et ce d’autant plus que les réseaux informatiques sont, par définition, indépendants des frontières physiques. Cela sera évidemment difficile car les pays les plus avancés voudront éviter de se brider et de perdre un avantage, et par ailleurs des différences culturelles peuvent exister dans l’appréhension de ces questions. Mais sans régulation internationale on peut considérer qu’il n’y aura pas régulation efficace et il faut s’inspirer de la gouvernance internationale qui existe dans le domaine de la prolifération nucléaire ou des différents forum internationaux où se discute la lutte contre le dérèglement climatique, pour réglementer le développement et l’utilisation des IA,

- il ne faut pas attendre. Plus on attendra plus les résistances seront fortes, plus les questions à traiter seront complexes, plus des effets de cliquet rendront certaines décisions inapplicables. Il est sans doute déjà trop tard pour tout bien faire car il aurait fallu définir un cadre réglementaire et légal ex-ante, c’est à dire avant que les questions se posent pratiquement, mais plus on agira vite plus on limitera les problèmes,

- il faut faire simple. Les lois de la robotique citées plus haut ont l’élégance de la simplicité et de l’efficacité. Tout le monde peut les comprendre, elles sont articulées logiquement, mémorisables, en un mot concrètes. Des lois de l’AI ou des tables de l’IA devraient viser la même ambition, c’est à dire pouvoir s’imposer à tous car compréhensibles par tous,

- enfin il ne faut pas tomber dans l’écueil de la naïveté : des individus ou des organisations sans scrupules – y compris des Etats -, des criminels, des inconscients ou des fous, essaieront de s’affranchir des régulations en place, et y réussiront surement en partie. Dès lors des voix s’élèveront pour dire que cela ne sert à rien de légiférer… mais délimiter ce qui est permis et ne l’est pas rendra beaucoup plus difficile certains initiatives – ne serait-ce que parce qu’elle seront clairement identifiées comme interdites, et donnera par ailleurs les outils pour sanctionner les fautes. Ce n’est pas parce qu’il y a des délinquants qu’il ne faut pas un Droit !

En ayant posé ce cadre la France (et/ou l’Union Européenne) s’honorerait à lancer immédiatement une initiative internationale autour de la régulation des IAs en fixant des objectifs ambitieux, notamment en termes de calendrier. C’est à cette seule condition que nous pouvons encore espérer maîtriser le futur des IAs et avec lui le nôtre.

 

PS cette article a été écrit avant la tribune sur l'IA signée par Elon Musk notamment