Anthropic continue d’affirmer sa position dans le secteur en mettant en avant ses préoccupations, se présentant ainsi comme un acteur éthique de l’industrie.
La semaine dernière, la startup d’IA la plus précieuse du monde a dévoilé une nouvelle publicité adoptant une approche originale pour promouvoir sa technologie. Plutôt que de plonger directement dans un optimisme débordant, elle commence par une série d’images sombres, accompagnées de voix-off posant des questions percutantes sur l’IA.
On pourrait presque croire qu’il s’agit d’un message de sensibilisation. La publicité débute avec un domicile en flammes — un signe plutôt inquiétant. Lorsque quelqu’un demande, « Peut-on faire confiance à l’IA ? », nous découvrons des images qui semblent provenir de caméras de surveillance, mettant en avant un algorithme d’IA scannant les visages d’une foule.
La séquence la plus saisissante arrive juste après.
« Qui va freiner si besoin ? », interroge une autre voix. L’image suivante montre un cimetière avec des centaines de pierres tombales.
Pas besoin de demander à Claude pour comprendre : Anthropic admet clairement les craintes que l’IA pourrait causer des ravages.
Cependant, le message de cette histoire a également un côté positif, du moins du point de vue d’Anthropic. Le slogan, « Il y a de l’espoir dans les questions difficiles », rassure le spectateur sur le fait que ses inquiétudes concernant l’IA — comme son **impact potentiel sur l’emploi** ou **sa capacité à altérer notre manière de penser** — sont légitimes. Plus important encore, cela montre que ces préoccupations tiennent éveillés les dirigeants d’Anthropic.
« Les gens ont beaucoup de questions difficiles sur l’IA », a déclaré un communiqué de l’entreprise. « C’est notre responsabilité d’y répondre. »
La publicité, diffusée durant le match de quart de finale de la Coupe du Monde entre l’Argentine et la Suisse, a rapidement suscité des critiques sur Internet. Une publication virale a ironisé sur le message de l’annonce, en disant : « Lorsque nous soulevons la question de stopper une superintelligence dangereusement puissante, nous montrons 300 pierres tombales américaines pendant une demi-seconde. »
Même le PDG d’OpenAI, Sam Altman, a exprimé son mécontentement.
« Je pensais que c’était de la satire », a-t-il écrit dans son style habituel en minuscules.
Cette publicité résume bien l’essence d’Anthropic. Un des piliers de son image de marque est qu’elle a été fondée par d’anciens collaborateurs d’OpenAI souhaitant se concentrer sur un développement sûr de l’IA. Dario Amodei, son PDG, affirme qu’il aurait pu être celui qui aurait lancé un chatbot révolutionnaire plutôt qu’OpenAI avec ChatGPT, mais qu’il a choisi de ne pas le faire par crainte des risques technologiques.
Amodei s’est également montré très transparent sur les dangers liés à l’IA, en affirmant qu’elle pourrait éliminer la moitié des emplois de cols blancs d’entrée de gamme, tout en laissant entendre que ses modèles pourraient déjà être conscients. Récemment, l’entreprise a même demandé une « pause » mondiale dans le développement de l’IA, craignant que la technologie ne échappe complètement au contrôle humain. (Elle a également recruté un économiste qui a déclaré qu’un risque de 33 % d’extinction humaine causée par l’IA était acceptable.)
Ces déclarations semblent paradoxales pour le créateur d’un des chatbots les plus utilisés au monde. Pourtant, elles poursuivent un but bien précis. En étant l’entreprise qui aborde le plus ouvertement les dangers de l’IA, Anthropic se positionne également comme la seule entreprise en qui l’on peut faire confiance pour son développement.
Cependant, son parcours réel semble contradictoire. En février, elle a abandonné un engagement crucial qui garantissait qu’elle arrêterait la formation de tout système d’IA si elle ne pouvait pas assurer qu’il avait des garde-fous adéquats. De plus, malgré sa lutte avec le Pentagone contre l’utilisation de sa technologie dans la surveillance de masse et les armes autonomes, il a été révélé que son IA Claude était utilisée pour sélectionner des cibles d’attaque en Iran.
Une personne a réagi à l’annonce de la société en posant la question qui s’impose : « Peut-on faire confiance à Anthropic ? »
En savoir plus sur l’IA : New York devient le premier État à interdire les centres de données IA
FAQ
Quels sont les principaux enjeux soulevés par l’IA ?
Les questions d’éthique, de sécurité et de viabilité économique sont centrales dans le débat actuel sur l’IA. L’impact sur l’emploi et la vie privée sont des préoccupations majeures.
Quelles actions propose Anthropic pour encadrer le développement de l’IA ?
Anthropic évoque fréquemment l’importance de la sécurité dans le développement de l’IA, avec des appels à une réglementation plus stricte et à une pause dans certaines avancées technologiques.
Quels risques l’IA pose-t-elle vraiment ?
Les experts s’accordent à dire que les risques incluent le chômage de masse, des biais dans les décisions prises par les algorithmes, et d’éventuelles dérives autonomes dans des systèmes armés.
Qui sont les fondateurs d’Anthropic ?
Anthropic a été fondée par d’anciens employés d’OpenAI, qui souhaitaient se concentrer sur un développement plus responsable et sécuritaire de l’intelligence artificielle.
Pourquoi la publicité a-t-elle suscité tant de réactions négatives ?
La manière dont la publicité aborde des sujets graves tout en cherchant à rassurer le public a été perçue comme incohérente et insensible, ce qui a déclenché des critiques sur sa pertinence.
