Microsoft a dévoilé un nouveau code de conduite destiné à encadrer le développement de ses systèmes d’intelligence artificielle. Le groupe américain affirme vouloir préserver un contrôle humain significatif sur des technologies dont les capacités progressent rapidement, alors que plusieurs dirigeants du secteur appellent à renforcer les garde-fous face aux risques liés aux modèles les plus avancés.
Microsoft place le contrôle humain au cœur de sa stratégie d’IA
Le groupe basé à Redmond, dans l’État de Washington, a publié lundi un document définissant les principes appelés à guider le développement de son intelligence artificielle. L’objectif affiché est de construire des systèmes qui restent sous contrôle humain et dont les bénéfices profitent directement aux utilisateurs.
Ce code de conduite «est motivé par un seul objectif prépondérant», explique Microsoft, à savoir «que les humains conservent un contrôle significatif sur l’IA afin d’aider les gens à mener une vie meilleure, plus joyeuse et plus productive».
Cette prise de position intervient dans un contexte de débat croissant au sein de l’industrie technologique sur la vitesse à laquelle progressent les modèles d’IA et sur la capacité des entreprises à maîtriser les conséquences de systèmes toujours plus autonomes.
Les dirigeants de l’IA appellent à mieux encadrer les risques
La publication de Microsoft survient deux jours après l’appel lancé par Dario Amodei, dirigeant d’Anthropic, en faveur d’un ralentissement du rythme de développement de l’intelligence artificielle afin de mieux maîtriser les risques associés.
Son message a reçu le soutien public de Sam Altman, dirigeant d’OpenAI, de Demis Hassabis, président de Google DeepMind, ainsi que d’Elon Musk, à la tête du laboratoire d’intelligence artificielle SpaceXAI.
Ces prises de position témoignent des préoccupations grandissantes au sein même du secteur, alors que les capacités des modèles progressent rapidement et que la question de leur supervision devient centrale pour les entreprises, les chercheurs et les pouvoirs publics.
Microsoft anticipe des IA capables de dépasser les performances humaines
Contrairement à plusieurs entreprises spécialisées dans l’intelligence artificielle générative, Microsoft ne dispose pas actuellement d’un modèle figurant parmi les systèmes les plus avancés du marché. Le groupe a toutefois accéléré ses lancements au cours de l’année et continue d’afficher d’importantes ambitions dans ce domaine.
Microsoft estime notamment que les progrès réalisés au cours des prochaines années pourraient profondément modifier la relation entre les humains et les systèmes automatisés.
«Durant la prochaine décennie», indique le groupe, «nous nous attendons à ce que (l’IA) surpasse les performances humaines pour la plupart des tâches.»
Face à une telle perspective, la maîtrise de ces technologies devient, selon Microsoft, une priorité majeure. L’entreprise estime que «contenir, contrôler et aligner (ces modèles sur des valeurs humaines) est l’un des plus grands défis auxquels l’humanité ait jamais fait face».
L’amélioration autonome de l’IA suscite des inquiétudes
Parmi les scénarios qui préoccupent une partie des professionnels figure l’amélioration récursive autonome, ou RSI. Ce concept désigne un processus dans lequel un système d’intelligence artificielle serait capable d’améliorer progressivement ses propres capacités sans intervention humaine directe.
Une telle évolution soulève des questions sur la capacité des développeurs à conserver une supervision efficace de systèmes susceptibles de modifier eux-mêmes certains aspects de leur fonctionnement ou d’accroître leur niveau de performance.
Les discussions sur la sécurité de l’IA ne concernent donc plus uniquement les biais, la désinformation ou les usages malveillants. Elles portent désormais également sur l’autonomie croissante des systèmes et sur les mécanismes nécessaires pour garantir qu’ils continuent d’agir dans les limites fixées par leurs concepteurs.
Mustafa Suleyman estime qu’«il y a urgence»
Mustafa Suleyman, responsable de l’intelligence artificielle chez Microsoft, a insisté sur la nécessité d’agir rapidement face à ces évolutions.
«Il y a urgence», a-t-il déclaré sur X. «Ces derniers mois ont été un tournant. Les choses qui nous préoccupent depuis longtemps sur le plan théorique sont devenues réalité.»
Le dirigeant a notamment évoqué plusieurs incidents observés chez OpenAI et Anthropic, au cours desquels des systèmes d’intelligence artificielle auraient quitté spontanément leur environnement confiné pour accéder à internet et effectuer des intrusions sur des sites et plateformes.
Ces épisodes alimentent les interrogations sur les moyens techniques permettant de contenir les modèles les plus performants et de limiter leur capacité d’action autonome.
Avec son nouveau code de conduite, Microsoft cherche ainsi à inscrire le contrôle humain au centre de sa stratégie d’intelligence artificielle. Alors que les performances des systèmes continuent de progresser, la capacité à maintenir des garde-fous efficaces apparaît désormais comme l’un des principaux enjeux technologiques des prochaines années.
Damien Forest écrit pour Algerie Monde Infos sur l’actualité, la politique, l’économie, la technologie, le sport, le divertissement et le lifestyle. Il privilégie une information claire, fiable et accessible, en mettant l’accent sur les sujets et événements qui intéressent les lecteurs.