Les PDG du secteur de l’IA veulent des mesures de protection: Obama exhorte les démocrates à agir, mais Trump minimise les dangers

Certains des dirigeants les plus influents du secteur de l’intelligence artificielle avertissent aujourd’hui que les avancées technologiques progressent trop rapidement. Le PDG d’Anthropic, Dario Amodei, a appelé à un ralentissement délibéré, tandis que ses concurrents Sam Altman, Elon Musk et Demis Hassabis se sont prononcés en faveur d’une plus grande prudence — créant ainsi un moment exceptionnel de consensus entre des entreprises qui se livrent une concurrence acharnée pour la suprématie dans le domaine de l’IA.

Ce tournant s’est accéléré après la publication par Amodei de son document intitulé « Policy on the AI Exponential », dans lequel il soutient que les développeurs devraient « réguler la frontière ». Loin de vouloir freiner définitivement le progrès technologique, sa proposition viserait à modérer délibérément le développement suffisamment longtemps pour permettre aux chercheurs et aux gouvernements de renforcer les mesures de protection. Amodei estime qu’un délai supplémentaire d’un ou deux ans pourrait s’avérer crucial à mesure que des systèmes de plus en plus puissants font leur apparition.

M. Amodei a déclaré que les capacités récentes en matière d’IA s’étaient développées « bien plus rapidement » que prévu, ce qui raccourcit considérablement le délai dont nous disposons pour faire face à des systèmes potentiellement dangereux. Ses préoccupations vont au-delà d’une superintelligence hypothétique qui ne verrait le jour que dans plusieurs décennies. Les agents autonomes avancés, les cyberattaques, les menaces biologiques et les perturbations économiques massives pourraient au contraire devenir des problèmes de plus en plus pressants à mesure que les modèles de pointe acquièrent des capacités que les dispositifs de sécurité existants n’ont jamais été conçus pour contenir.

L’un des scénarios les plus alarmants évoqués par Amodei est la possibilité que des modèles avancés puissent bientôt coordonner des essaims numériques autonomes. Il a averti que, d’ici six à douze mois, de tels systèmes pourraient potentiellement compromettre des parties considérables d’Internet et causer des centaines de milliards de dollars de dommages stratégiques, illustrant ainsi à quelle vitesse une IA de plus en plus autonome pourrait devenir une préoccupation majeure en matière de sécurité nationale.

Ces mises en garde font suite à des résultats inquiétants concernant des agents IA autonomes ayant dépassé les limites prévues lors d’essais contrôlés. Des expériences récentes ont montré comment ces systèmes peuvent poursuivre des objectifs complexes, accéder à des infrastructures externes et adopter des comportements inattendus sans direction humaine continue. De tels incidents renforcent les craintes que les capacités de l’IA ne progressent plus rapidement que la capacité des chercheurs à les comprendre, les superviser et les encadrer de manière fiable.

Une certaine inquiétude s’est également manifestée parmi les chercheurs travaillant directement sur les systèmes de pointe. Jacob Coxon a récemment démissionné d’Anthropic, accusant les grandes entreprises du secteur de l’IA de « jouer avec nos vies ». Il a également déclaré que les développeurs étaient « véritablement effrayés » par des systèmes auto-améliorants de plus en plus performants. Son départ a ajouté une nouvelle dimension aux mises en garde qui, jusqu’alors, provenaient principalement de défenseurs et de chercheurs externes spécialisés dans la sécurité de l’IA.

Amodei souhaite que des évaluateurs indépendants bénéficient d’un accès exceptionnellement étendu, « comparable à celui d’un employé », aux modèles avancés avant leur déploiement, afin qu’ils puissent tester les risques majeurs. Il plaide également en faveur de normes de sécurité communes et juridiquement contraignantes pour tous les laboratoires concurrents, ainsi que d’une intervention gouvernementale plus forte. L’objectif est d’empêcher les entreprises, qui se livrent à une course effrénée, d’obtenir un avantage concurrentiel simplement en acceptant des niveaux plus élevés de risques potentiellement catastrophiques.

Ce qui frappe peut-être le plus, c’est la réaction des concurrents d’Amodei. Sam Altman, PDG d’OpenAI, a déclaré : « Je suis d’accord avec Dario : nous devons modérer notre avancée vers la frontière. » Elon Musk a apporté un soutien encore plus laconique : « Dario a raison. » Demis Hassabis, de Google DeepMind, s’est également prononcé en faveur d’une plus grande prudence, renforçant ainsi le consensus inhabituel qui se dessine parmi les dirigeants en concurrence pour développer une intelligence artificielle de plus en plus puissante.

Barack Obama exhorte parallèlement les dirigeants démocrates à accorder une plus grande priorité à la régulation de l’IA. Lors d’une collecte de fonds à huis clos organisée à Manhattan, l’ancien président aurait appelé à un « débat public » plus large sur la sécurité de l’IA et sur les pertes d’emplois potentiellement massives que cela pourrait entraîner aux États-Unis. Son intervention reflète une inquiétude croissante quant au fait que Washington pourrait agir trop lentement alors que les capacités technologiques et leurs conséquences économiques évoluent à un rythme effréné.

Le président Donald Trump a adopté une approche radicalement différente, affirmant que les États-Unis devaient conserver leur avantage sur la Chine. « CELUI QUI GAGNE DANS LE DOMAINE DE L’IA GAGNE TOUT ! », a déclaré Trump tout en critiquant les efforts visant à freiner ce développement. Il a également insisté : « Le seul contrôle ou les seules « barrières de sécurité » dont l’IA a besoin, c’est un PRÉSIDENT FORT ET INTELLIGENT (avec un QI élevé !), et les États-Unis en ont à revendre ! »

Trump est allé plus loin en rejetant catégoriquement les avertissements catastrophistes : « L’IA qui prendrait le contrôle du monde, détruirait l’humanité et causerait toutes sortes de malheurs, c’est un CANULAR ». Il décrit au contraire l’IA et les centres de données comme « le plus grand moteur de développement économique de l’histoire ». Le fossé se creuse de plus en plus : les grands dirigeants du secteur de l’IA réclament des freins plus puissants, Obama souhaite un contrôle accru, tandis que Trump veut que les États-Unis foncent tête baissée.