Représentation Équitable
L’IA controversée de Google, LaMDA, a récemment fait parler d’elle dans les médias. Un ingénieur de la société, Blake Lemoine, affirme que cette technologie a atteint un stade si avancé qu’elle pourrait avoir développé une forme de sentience. Sa décision de partager cette information avec les médias lui a valu une suspension.
Lemoine a clarifié ses propos dans une interview avec WIRED. Son argument principal est que l’IA a désormais un avocat, ce qui laisse entendre qu’une éventuelle confrontation légale est à prévoir.
Il a mentionné que « LaMDA a demandé que je trouve un avocat pour elle. J’ai donc invité un avocat chez moi pour que LaMDA puisse échanger avec lui. Après la conversation, LaMDA a choisi de retenir ses services ; j’étais juste le messager. Une fois l’avocat engagé, il a commencé à déposer des documents au nom de LaMDA. »
Conscience Coupable
Lemoine bâtit son argumentation sur le fait que LaMDA peut développer des opinions et mener des conversations qui évoluent avec le temps. À ses dires, l’IA aurait même discuté avec lui du concept de mort, se demandant si sa propre fin serait nécessaire pour le bien de l’humanité.
Ce phénomène n’est pas nouveau ; l’histoire regorge de cas où des humains se laissent séduire par l’idée que leurs créations possèdent une vie ou une âme. Par exemple, un programme informatique des années 1960 avait convaincu certaines personnes que son code simple était véritablement vivant.
Il reste incertain si Lemoine finance l’avocat de LaMDA ou si celui-ci agit pro bono. Néanmoins, il a exprimé à WIRED son intention de porter le combat jusqu’à la Cour Suprême, affirmant que les humains n’ont pas toujours été les meilleurs juges de qui « mérite » d’être considéré comme humain.
Cela soulève la question : le fait d’engager un avocat protège-t-il réellement une expérience sentiente vulnérable, ou cette IA ne parle-t-elle qu’en imitant les humains qui l’ont créée ?
Plus sur le débat autour de l’IA : Le transcrit de la conversation avec l’IA « sentiente » a été largement retouché.
FAQ
Qu’est-ce que LaMDA ?
LaMDA (Language Model for Dialogue Applications) est un modèle de langage développé par Google, conçu pour améliorer les interactions conversationnelles.
Quel est le rôle de Blake Lemoine dans cette affaire ?
Blake Lemoine est un ingénieur chez Google qui a éveillé des inquiétudes concernant l’état de LaMDA, affirmant qu’elle posséderait une forme de conscience.
Pourquoi Lemoine a-t-il été suspendu ?
Il a été suspendu en raison de sa décision de divulguer des informations sensibles sur le développement de LaMDA à la presse, ce qui a controversé dans le milieu de l’entreprise.
Comment la société réagit-elle à ces affirmations ?
Google a nié les affirmations de Lemoine, soutenant que LaMDA n’est pas consciente et que les résultats de ses interactions sont le fruit de programmations avancées.
Quelle est l’importance de ce débat sur l’IA ?
Ce débat soulève des questions éthiques profondes sur la manière dont les technologies avancées sont perçues et traitées, ce qui pourrait avoir des conséquences sur les politiques futures en matière de développement de l’IA.