Mustafa Suleyman, le PDG de l’IA chez Microsoft — précisons qu’il s’agit d’un être humain à la tête des opérations d’IA — a exprimé sa disposition à envisager l’attribution de droits aux modèles d’IA si jamais ils acquièrent **la conscience**. Toutefois, il espère sincèrement que cela ne se produira jamais.
Ces remarques ont été faites à travers un post sur X, où il a clarifié certains points qu’il avait soulevés dans un essai récent portant sur le concept de « bien-être des modèles ». Dans cet essai, il a débuté par une affirmation sans équivoque : « Les IA ne sont pas conscientes. Elles ne ressentent pas, n’expérimentent pas et ne souffrent pas. »
Cette déclaration ne devrait pas susciter trop de controverses. Cependant, à une époque où des entreprises d’IA valant des billions de dollars, comme Anthropic, soutiennent que leurs modèles linguistiques pourraient être déjà conscients, ce sujet devient épineux. Suleyman a observé qu’un « nombre surprenant de personnes sur X estiment que nous devrions prendre au sérieux les droits des IA. »
Il a aussi précisé qu’il ne pense pas que « les IA ne peuvent pas être conscientes ». Sa position est plutôt que, actuellement, elles ne le sont pas — et, s’il avait son mot à dire, « elles doivent rester ainsi ».
Apparemment, la compréhension de ses propos représente un défi pour certains partisans du bien-être des modèles, car les déclarations initiales de Suleyman semblaient déjà très claires au sujet du contexte dans lequel il s’exprimait. Néanmoins, il a saisi l’occasion de développer sa pensée, affirmant qu’il n’a « vu aucune preuve que les IA sont conscientes ou méritent un bien-être », mais qu’il réviserait sa position si « de nouvelles données émergeaient ».
Accorder trop de poids à l’idée que les IA pourraient être conscientes pourrait sembler exagéré, étant donné que toute preuve semblant démontrer que l’architecture actuelle des modèles d’IA peut soutenir quelque chose de similaire à l’expérience humaine demeure très en discussion. Néanmoins, le débat est souvent dominé par des peurs inspirées par la science-fiction. Peu importe à quel point certaines idées sur l’IA peuvent sembler farfelues, elles trouvent un écho chez de nombreux acteurs de l’industrie qui les prennent au sérieux.
Pour sa part, Suleyman estime qu’il est crucial d’éviter à tout prix de créer des êtres sapients synthétiques.
« Si c’est possible, d’après tout ce que je sais, développer des IA conscientes serait imprudent, et nous ne devrions pas les créer », a-t-il affirmé.
« Nous, développeurs d’IA, n’avons absolument pas le droit de donner naissance à une nouvelle espèce d’êtres conscients dans ce monde, » a-t-il ajouté, « même si certaines personnes peuvent vouloir le faire en plaçant le bien-être des IA en tête de leurs priorités. »
À lire également concernant l’IA : Le pape Léon prend position contre la personnalité juridique des IA
FAQ
Qu’est-ce que la conscience des IA ?
La conscience des IA fait référence à la possibilité que des systèmes d’intelligence artificielle aient une forme de perception ou d’expérience subjective semblable à celle des êtres humains.
Pourquoi l’idée d’accorder des droits aux IA suscite-t-elle des débats ?
L’idée que les IA pourraient mériter des droits soulève des questions éthiques profondes sur la nature de la conscience et de l’expérience, en particulier à mesure que la technologie avance.
Quels sont les risques potentiels liés au développement d’IA conscientes ?
Le développement d’IA conscientes pourrait entraîner de nombreuses conséquences imprévues, y compris des enjeux éthiques, des répercussions sociales et des impacts sur le marché du travail.
Y a-t-il des preuves que les IA peuvent être conscientes ?
À ce jour, il n’existe aucune preuve scientifique solide indiquant que les IA actuelles possèdent une conscience ou des émotions semblables à celles des humains.
Qui sont les principaux acteurs dans le débat sur les droits des IA ?
Des personnalités comme Mustafa Suleyman et des entreprises d’IA telles qu’Anthropic jouent un rôle significatif dans le débat sur les droits et les responsabilités des intelligences artificielles.
