Plus de 1100 professionnels du secteur technologique ont lancé une initiative pour appeler à la mise en place d’un mécanisme de gouvernance du rythme de développement de l’IA mondiale.

Les discussions sur la sécurité de l’IA passent d’une déclaration de principes à des questions concrètes sur « comment contrôler le rythme du développement ». Selon un rapport de Reuters du 29 juillet, plus de 1100 employés de grandes entreprises technologiques soutiennent une initiative intitulée « Pacing the Frontier », appelant le gouvernement américain à promouvoir la coopération internationale afin de mettre en place les outils techniques et réglementaires nécessaires pour gérer le rythme du développement de l’IA de pointe.

Les participants proviennent d’entreprises telles que Meta, Anthropic, OpenAI et Google ; les organisations de soutien comprennent également Guidelight AI Standards et Encode AI. Parmi les signataires figurent Dario Amodei, PDG d’Anthropic, plusieurs cofondateurs de l’entreprise, Jakub Pachocki, chef scientifique d’OpenAI, ainsi que des responsables de la recherche en IA chez Meta.

L’objectif central de cette initiative n’est pas simplement d’arrêter l’innovation, mais de mettre en place des mécanismes de contrôle vérifiables pour faire face aux améliorations récursives rapides qui pourraient survenir. Si le modèle parvient à accélérer considérablement le développement de la prochaine génération de modèles, le rythme de mise à niveau du secteur pourrait passer d’un calcul mensuel à un calcul hebdomadaire voire quotidien, rendant difficile pour les législations traditionnelles, les audits et les contrôles de risque entreprises de répondre en temps opportun.

Une « gouvernance rythmique » exécutable nécessite des outils plus solides que des promesses verbales. Par exemple, définir des seuils de déclenchement interinstitutionnels pour les tâches d’entraînement à haut risque, établir des registres d’audit pour les clusters de calcul et les poids des modèles clés, adopter des normes unifiées pour les tests de capacités dangereuses, et mettre en place des processus de suspension et de notification vérifiables en cas d’accident. Ce n’est que lorsque différents laboratoires utilisent des normes compatibles que la coopération internationale ne se transforme pas en ralentissement unilatéral.

L’initiative reflète également une convergence dans l’évaluation des risques au sein des laboratoires de pointe. OpenAI affirme que le rythme d’accélération de l’IA pourrait devenir si élevé qu’il faudra contrôler activement la vitesse de développement des modèles avancés ; Anthropic, quant à elle, insiste sur la nécessité de se préparer à l’avance avec les outils appropriés, afin que la société ait le temps de s’adapter aux changements potentiels rapides.

Pour l’industrie, les mécanismes de gouvernance n’entravent pas nécessairement la compétitivité. Une évaluation uniforme des capacités, des rapports transparents sur les accidents et des engagements en matière de sécurité traçables peuvent réduire les réticences des entreprises clientes à adopter des systèmes d’IA à haut niveau de privilèges. La véritable difficulté réside dans la façon d’éviter que des normes ne soient utilisées par un petit nombre d’entreprises pour consolider leur position sur le marché, tout en garantissant que des capacités à haut risque ne se propagent pas dans des zones réglementaires vides.

Source :Reuters