Prométhée Déchaîné

 

« "Prométhée a dérobé le feu sacré de l'Olympe pour en faire don aux humains. Courroucé par cet acte déloyal, Zeus le condamne à une torture éternelle », citation du début du film « Oppenheimer » de Christopher Nolan.

Au-delà de la dimension biographique d’« Oppenheimer » de Christopher Nolan le film tisse des liens passionnants avec notre époque et la question du rapport à la Technique, notamment quand elle est de nature « prométhéenne ».

Ici l’on parle de technologies – on aurait sans doute parlé de « découvertes scientifiques » dans les années 40 ou 50 – qui ont la capacité de changer de façon fondamentale le rapport de l’humanité au monde et à elle-même. Dans le cas de la technologie nucléaire associée à Robert Oppenheimer c’est la maîtrise de l’énergie qui en jeu, comme un écho du mythe prométhéen, et au-delà la possibilité de détruire tout ou partie de notre planète et de ses habitants lorsqu’on parle de ses usages militaires à travers la bombe atomique. Ainsi dans son versant positif la maîtrise de l’atome nous permet de disposer d’une source d’énergie abondante et peu chère, elle rend possible la transformation du monde à travers les usages multiples de l’électricité, et dans son versant négatif elle nous confère un potentiel de destruction vertigineux, aux implications morales extrêmes.

Il nous semble que la technologie qui a le même potentiel prométhéen aujourd’hui est celle de l’intelligence artificielle (IA) – il faudrait en vérité parler des intelligences artificielles mais on simplifiera ici le propos. En fait c’est l’irruption des IA génératives avec ChatGPT à la fin de l’année dernière qui a fait prendre conscience au grand public de ce mouvement de nature historique. L’IA possède un pouvoir de transformation majeure de notre travail, de nos loisirs, de nos interactions sociales. Elle pose des questions fondamentales sur notre rapport à l’art, à la machine – envisagée demain comme un sujet conscient ? -, au pouvoir. Elle reconfigure les organisations, les savoirs, les hiérarchies.

Ce qui est très stimulant c’est de poursuivre la comparaison entre le nucléaire et l’IA quant aux questions soulevées par ces technologies. Ainsi la maîtrise du nucléaire militaire a très rapidement entrainé une rivalité systémique entre les Etats-Unis et l’URSS de l’époque, déclenchant la période de Guerre Froide qui structurera les relations internationales pendant des décennies. Il s’agissait de savoir qui maîtriserait le mieux la technologie et ses dérivés – après la bombe A américaine les Russes ont fait exploser leur première bombe atomique en 1949, puis les américains « réagissent » avec une bombe H en 1952, et enfin les russes testent leur propre bombe H en 1953. Aujourd’hui la rivalité systémique autour de l’IA met toujours en scène les Etats-Unis mais cette fois contre la Chine. Ce sont les deux pays qui ont le plus investi sur cette discipline et qui possèdent le plus d’atouts dans ce champ technologique : les américains avec les GAFA, les sociétés comme OpenAI et le dynamisme de leur écosystème technologique. Les chinois avec l’imbrication entre l’Etat/Parti Communiste et l’économie, leur rapport totalement décomplexée à l’utilisation des données et leurs 600 000 ingénieurs formés chaque année. Dans cette guerre, car en fait il s’agit d’une guerre techno-économique, tous les coups sont permis : embargos sur des technologies clés, espionnage, subventions massives…Ici il faut rappeler l’enjeu de cette rivalité en citant cette phrase prononcée en 2017 par un certain Vladimir Poutine « Le pays qui sera leader dans le domaine de l’intelligence artificielle dominera le monde."

De même la question du nucléaire militaire a entraîné en son temps des débats éthiques et moraux importants dans la communauté scientifique et au-delà. En effet il faut rappeler qu’en 1945 l’Allemagne – qui était à l’origine l’adversaire qu’il fallait battre - était déjà vaincue et que l’utilisation de la bombe A pour défaire le Japon était loin de faire l’unanimité. Dès lors fallait-il aller au bout du projet Manhattan et larguer une bombe A sur Hiroshima puis Nagasaki ? Fallait-il simplement faire savoir au monde que les américains maitrisaient cette technologie mais sans l’utiliser ? Le film de Nolan met en scène les doutes d’Oppenheimer et de certains de ses pairs sur ces questions et évoque aussi sa rivalité et sa différence d’appréciation avec Edward Teller – le père de la bombe H – sur la nécessité de développer cette nouvelle arme. Or on retrouve aujourd’hui les mêmes débats moraux autour de l’IA dans la communauté scientifique et dans la société. En effet de par sa dimension prométhéenne l’IA va bouleverser profondément nos vies avec des bénéfices mais aussi des risques majeurs. Va-t-elle mettre au chômage des dizaines de millions d’individus ? Va-t-elle rendre totalement obsolète nos systèmes d’apprentissage et notre rapport à l‘éducation ? Va-t-elle prendre le contrôle de nos sociétés et dominer l’homme ? Autant de questions vertigineuses… Dès lors faut-il faire une pause dans les développements de l’IA ? Faut réguler fortement ? Ou bien faut-il laisser les scientifiques et les ingénieurs continuer à travailler « librement » ?

Ainsi ceux qu’on considère comme les 3 pères fondateurs de l’IA contemporaine, Yann Le Cun, Geoffrey Hinton, et Yoshua Bengio ont développé chacun un point de vue assez différent sur le sujet. Par exemple Y Bengio a exprimé une forme de perplexité sur le futur de l’IA en indiquant « qu’il était perdu » lors d’une intervention à la BBC («You could say I feel lost »), tandis que G Hinton exprimait une grande inquiétude sur les développements en cours, allant jusqu’à « regretter son invention » et souhaitant désormais sensibiliser sur la question. Quant à Y Le Cun il exprime une vision plus optimiste, et s’oppose frontalement à toute pause dans la recherche comme il l’indiquait dans une interview au journal Le Monde en avril dernier (« L’idée même de vouloir ralentir la recherche sur l’IA s’apparente à un nouvel obscurantisme »).

Ici la question fondamentale pourrait être celle de l’organisation d’une réflexion collective autour de ces technologies prométhéennes, car leur portée est telle qu’on ne peut pas laisser les seuls experts débattre à leur sujet. Il faut en faire un sujet de débat dont s’emparent TOUS les citoyens. En France la mise en œuvre, fin septembre, d’un Comité de l'Intelligence Artificielle Générative – dont Y Le Cun fait partie – sous l’autorité de la Première Ministre est un exemple typique de forum qui fait la part (trop) belle aux spécialistes de l’IA et du numérique. Il nous semble qu’il faudrait largement étendre ce comité à des citoyens, des élus, des spécialistes des sciences sociales, pour en faire un vrai forum de débat à l’instar de ce qu’a été la Convention Citoyenne sur le Climat. Car la leçon d’Oppenheimer pourrait être celle-là : on ne peut pas laisser Prométhée se déchaîner sans en débattre.