Plus de **1 100 experts** en intelligence artificielle, parmi lesquels des PDG et des chercheurs, comme **Elon Musk**, ont signé une lettre ouverte appelant à une pause de **six mois** sur les “expérimentations d’IA”. Cette suspension concerne les développements dépassant les capacités du modèle de langage **GPT-4** d’OpenAI.
Cette démarche témoigne d’une **inquiétude partagée** par des figures éminentes de recherche en intelligence artificielle, comprenant notamment des chercheurs de **DeepMind**, qui est sous la direction d’**Alphabet**, ainsi que **Yoshua Bengio**, l’un des pionniers du domaine.
Dans cette lettre, il est précisé que les systèmes d’IA possédant une **intelligence compétitive avec celle des humains** représentent des **risques majeurs** pour la société. La lettre, émise par l’organisation à but non lucratif **Future of Life**, souligne également que l’IA avancée pourrait entraîner un tournant considérable dans l’histoire de la vie sur notre planète. Elle recommande donc une approche réfléchie et soigneuse dans son développement.
Cependant, les signataires notent des lacunes dans la planification et la gestion appropriées. Selon eux, il devient urgent de faire face à une **course effrénée** entre les laboratoires d’IA, qui semblent développer des solutions toujours plus puissantes sans en comprendre pleinement les implications. Les experts s’interrogent sur les effets d’une telle technologie, notamment sur la prolifération de **propagande** et de **fausses informations** sur Internet, ainsi que sur la menace que cela représente pour l’emploi humain.
Des déclarations faites par **Sam Altman**, le PDG d’OpenAI, concernant l’**intelligence générale artificielle** (AGI) sont évoquées. Il prétend que l’AGI devrait servir à “bénéficier à l’humanité”, des propos qui ont suscité des critiques immédiates chez les spécialistes.
Les experts proposent que cette pause de six mois permette de mettre en place des **protocoles de sécurité** partagés pour la conception et le développement d’IA, soumis à un **audit rigoureux** par des experts externes indépendants. Ils insistent sur le fait que la recherche en IA devrait se recentrer sur le **raffinement des systèmes actuels**, afin de les rendre plus précis, sûrs, et transparent.
Cette préoccupation est également partagée par de nombreux **gouvernements** dans le monde qui peinent à encadrer cette technologie. L’année dernière, le président américain **Joe Biden** a proposé un projet de **déclaration des droits** en matière d’IA, permettant aux citoyens de se soustraire à l’influence des algorithmes. Cependant, cette initiative a été critiquée pour son manque de substance.
**Elon Musk**, co-fondateur d’OpenAI, a également exprimé son **inquiétude** croissante face à la puissance des intelligences artificielles. En s’adressant aux investisseurs de **Tesla**, il a déclaré que l’IA l’angoisse et qu’il est “un peu inquiet” à cet égard. Musk a également suggéré qu’il serait essentiel d’établir une **autorité de régulation** pour superviser le développement de l’IA, afin de garantir qu’elle serve l’intérêt public.
La transition d’OpenAI, qui est passée d’un modèle **non lucratif** à un modèle **lucratif**, soulève des questions sur les motivations de l’entreprise. La critique principale demeure de savoir si OpenAI agit de manière éthique ou si elle est davantage préoccupée par des **contrats milliardaires** avec des entreprises comme **Microsoft**.
Les dangers associés à une IA sans contrôle qui pourrait causer des préjudices sont nettement plus réels qu’on ne le pense. Les modèles actuels, tels que **GPT-4**, ont encore tendance à générer des informations fausses, suscitant une grande inquiétude parmi les experts vis-à-vis du potentiel de désinformation.
FAQ
Qu’est-ce que l’AGI ?
L’AGI, ou intelligence générale artificielle, fait référence à une forme d’intelligence artificielle qui est capable de comprendre, d’apprendre et d’appliquer des compétences comme un humain dans divers domaines.
Pourquoi cette lettre ouverte est-elle importante ?
Elle représente un appel collectif d’experts sur la nécessité d’une pause pour évaluer les conséquences potentielles de l’IA, afin de protéger l’humanité et d’assurer un développement responsable de la technologie.
Quels sont les risques associés à l’IA actuelle ?
Les systèmes d’IA peuvent produire des informations erronées, influencer les opinions publiques, et même remplacer des emplois humains, ce qui entraîne des conséquences sociales importantes.
Comment les gouvernements s’adaptent-ils à ces technologies émergentes ?
De nombreux gouvernements étudient actuellement des régulations pour encadrer l’utilisation de l’IA, mais trouvent difficile de suivre le rythme rapide de l’innovation technologique.
Quelles mesures pourraient être prises pour garantir un développement sûr de l’IA ?
Il serait nécessaire d’établir des protocoles stricts de sécurité et des auditeurs indépendants pour surveiller le processus de développement de l’IA, assurant ainsi transparence et contrôle.