Appel à une collaboration mondiale sur l’IA
Des chercheurs en intelligence artificielle aux États-Unis et en Chine demandent une coopération internationale pour encadrer le développement de cette technologie. Ils craignent qu’une avancée non régulée puisse entraîner des conséquences catastrophiques.
Les inquiétudes autour de l’IA
Stephen Casper, un scientifique informatique du MIT, a exprimé lors d’une conférence importante à Pékin : « L’intelligence artificielle est une technologie mondiale aux effets globaux, tant positifs que négatifs. Il existe également une tendance à l’émergence de nouvelles capacités qui se répandent rapidement. » Il souligne que l’IA ne devrait pas connaître un « moment Chernobyl », une référence à la catastrophe nucléaire qui rappelle qu’un événement dramatique pourrait profondément affecter l’image de l’IA et freiner son développement, semblable à l’impact que Chernobyl a eu sur l’énergie nucléaire.
Les scénarios pessimistes
Les alarmes concernant les dangers de l’IA varient considérablement, allant des scénarios de type Skynet à des menaces de chômage massif. Plus récemment, l’une des applications les plus directes de l’IA, la génération de code, a suscité des inquiétudes concernant la cybersécurité. En effet, les hackers pourraient exploiter ces outils pour lancer des cyberattaques dévastatrices, rendant ces attaques à la fois plus nombreuses et plus accessibles, même à ceux qui manquent de compétences techniques.
Commercialisation et manque de transparence
Ce climat d’inquiétude est exacerbé par le comportement des entreprises d’IA. Par exemple, Anthropic a annoncé son modèle Claude Mythos, mais a refusé de le rendre public, affirmant qu’il était si puissant qu’il pouvait compromettre tous les systèmes d’exploitation majeurs et les navigateurs web. Le danger est renforcé par la montée en puissance des modèles d’IA open source, qui, bien que transparents, manquent souvent de la surveillance dont bénéficient les modèles commerciaux.
Futur de la cybersécurité
Lin Yun, professeur à l’Université Jiao Tong à Shanghai, met en garde que, dans un avenir proche, les hackers pourraient avoir un avantage en utilisant l’IA. Cependant, à long terme, l’IA pourrait également jouer un rôle crucial dans le renforcement de la cybersécurité, rendant indispensable une coopération mondiale pour anticiper et répondre aux menaces.
Il note aussi que si les différents pays peuvent partager une compréhension similaire des risques, cela facilitera le développement de principes de sécurité communs et de normes techniques.
Coopération entre rivaux géopolitiques
Bien que cela puisse paraître improbable, la coopération entre rivaux comme les États-Unis et la Chine est possible, à l’instar des efforts historiques des deux pays pour limiter les menaces nucléaires, malgré leurs ambitions d’accroître leurs arsenaux.
FAQ
Quels sont les impacts potentiels de l’IA sur l’emploi ?
L’IA pourrait entraîner une automatisation de nombreux emplois, créant des défis en matière de chômage, mais aussi des opportunités pour de nouveaux types d’emplois.
Pourquoi est-ce important de réguler l’IA ?
Une régulation pourrait prévenir des abus, assurer une utilisation éthique et responsable de la technologie, et protéger les données et la vie privée des utilisateurs.
Quelle est la position des gouvernements sur la collaboration internationale en matière d’IA ?
Les gouvernements montrent un intérêt croissant, mais des tensions géopolitiques peuvent entraver ces initiatives. Une coopération efficace reste essentielle pour mitiger les risques.
Quelles actions peuvent être entreprises pour renforcer la cybersécurité face à l’IA ?
Des échanges de bonnes pratiques entre pays, le développement de normes communes et le renforcement de la vigilance en matière de cybersécurité sont quelques-unes des actions à envisager.
Comment les entreprises peuvent-elles aborder les défis posés par l’IA ?
Les entreprises doivent investir dans la formation de leurs employés, adopter des policies de sécurité rigoureuses, et collaborer avec d’autres entités pour partager des informations sur les menaces.
