La communauté internationale doit faire face de toute urgence à la nouvelle réalité de l’intelligence artificielle générative, soulignent les intervenants alors que le Conseil de sécurité débat des risques et des récompenses

La communauté internationale doit affronter de toute urgence la nouvelle réalité de l'intelligence générative et des autres intelligences artificielles (IA), ont déclaré aujourd'hui les intervenants au Conseil de sécurité lors de sa première réunion formelle sur le sujet, alors que le débat qui a suivi a mis en lumière la dualité du risque et de la récompense inhérente à cette technologie émergente. .

António Guterres, secrétaire général des Nations Unies, notant que l’IA a été comparée à l’imprimerie, a observé que – s’il a fallu plus de 50 ans pour que les livres imprimés soient largement disponibles dans toute l’Europe – « ChatGPT a atteint 100 millions d’utilisateurs en seulement deux mois". Malgré son potentiel à dynamiser le développement mondial et à réaliser les droits de l’homme, l’IA peut amplifier les préjugés, renforcer la discrimination et permettre de nouveaux niveaux de surveillance autoritaire.

L’avènement de l’IA générative « pourrait être un moment déterminant pour la désinformation et les discours de haine », a-t-il observé et, même si les questions de gouvernance seront complexes pour plusieurs raisons, la communauté internationale dispose déjà de points d’entrée. La meilleure approche serait de relever les défis existants tout en créant la capacité de répondre aux risques futurs, a-t-il déclaré, et a souligné la nécessité de « travailler ensemble pour une IA qui comble les divisions sociales, numériques et économiques – et non qui nous éloigne davantage ».

Jack Clark, co-fondateur d'Anthropic, a souligné que, même si l'IA peut apporter d'énormes avantages, elle constitue également une menace pour la paix, la sécurité et la stabilité mondiale en raison de son potentiel d'utilisation abusive et de son imprévisibilité – deux qualités essentielles des systèmes d'IA. Par exemple, si un système d’IA peut améliorer la compréhension de la biologie, il peut également être utilisé pour construire des armes biologiques. De plus, une fois développés et déployés, les gens identifient des utilisations nouvelles et imprévues pour de tels systèmes.

« Nous ne pouvons pas laisser le développement de l'intelligence artificielle uniquement aux acteurs du secteur privé », a-t-il souligné, affirmant que les gouvernements peuvent demander des comptes aux entreprises – et les entreprises peuvent gagner la confiance du monde – en développant des systèmes d'évaluation robustes et fiables. Sans de tels investissements, la communauté internationale court le risque de confier l’avenir à un groupe restreint d’acteurs du secteur privé, a-t-il prévenu.

Yi Zeng, de l'Institut d'automatisation de l'Académie chinoise des sciences, a également souligné que les IA actuelles sont des outils de traitement de l'information qui, bien qu'apparemment intelligents, ne sont pas réellement compris. « C’est pourquoi, bien sûr, on ne peut pas leur faire confiance en tant qu’agents responsables capables d’aider les humains à prendre des décisions », a-t-il souligné. L’IA à court et à long terme comportera un risque d’extinction humaine simplement parce que « nous n’avons pas trouvé le moyen de nous protéger contre l’utilisation de la faiblesse humaine par l’IA », a-t-il déclaré.

Au cours du débat qui a suivi, les membres du Conseil ont tour à tour souligné les opportunités de transformation qu’offre l’IA pour relever les défis mondiaux et les risques qu’elle pose – notamment son potentiel d’intensification des conflits par la diffusion de désinformations et de cyberopérations malveillantes. Beaucoup, reconnaissant les applications militaires de la technologie, ont souligné l’impératif de conserver l’élément de prise de décision humaine dans les systèmes d’armes autonomes. Les membres ont également souligné la nécessité d’établir un cadre éthique et responsable pour la gouvernance internationale de l’IA.

À ce sujet, Omran Sharaf, ministre adjoint des Sciences avancées et de la Technologie des Émirats arabes unis, a déclaré qu'il existe actuellement une brève fenêtre d'opportunité où les principales parties prenantes sont prêtes à s'unir et à considérer les garde-fous pour cette technologie. Les États membres devraient établir des règles communes « avant qu’il ne soit trop tard », a-t-il souligné, appelant à des mécanismes pour empêcher les outils d’IA de promouvoir la haine, la désinformation et la désinformation qui peuvent alimenter l’extrémisme et exacerber les conflits.

Le représentant du Ghana a ajouté à cela, a souligné que la communauté internationale doit « limiter les excès des ambitions nationales individuelles de domination combative ». Invitant au développement de cadres qui régiraient l'IA à des fins pacifiques, il a mis en avant le déploiement de cette technologie par la Mission de soutien des Nations Unies en Libye (MANUL). Utilisé pour déterminer la réaction du peuple libyen aux politiques, il a facilité l'amélioration de l'indice de paix mondial 2022 de ce pays, a-t-il noté, tout en mettant également en garde contre l'intégration de l'IA dans les systèmes d'armes autonomes.