DeepSeek : Un Nouveau Concurrent de ChatGPT
Une start-up chinoise, DeepSeek, a récemment provoqué une forte agitation en lançant un assistant IA rival de ChatGPT, promettant des performances similaires à un coût considérablement réduit.
Une Réaction des Investisseurs
Ce nouvel outil est perçu comme un concurrent sérieux, du moins par les investisseurs, puisqu’en réaction, les actions de Nvidia, un fabricant de puces pour l’IA, ont chuté d’environ 15 % lundi matin.
Les Limites de l’Application
Cependant, DeepSeek rencontre des limitations notables. Comme d’autres modèles d’IA chinois, il doit se conformer aux directives strictes des censeurs d’État. Selon un article de Bloomberg, l’application refuse de discuter de sujets délicats tels que le massacre de la place Tiananmen en 1989 ou les relations entre la Chine et Taïwan.
La Censure en Action
Des utilisateurs sur Reddit ont remarqué qu’en posant des questions sur une image célèbre d’un « homme avec des sacs de courses devant des tanks », le modèle de langage commence par répondre en produisant du texte sur la fameuse photographie de l’« homme au tank ». Néanmoins, quelques instants plus tard, cette réponse est remplacée par un message d’erreur générique, illustrant ainsi comment l’application se conforme, même de manière maladroite, aux règles de censure en Chine.
Le message affiché était : « Désolé, cela dépasse mon champ d’expertise actuel. Parlerons d’autre chose. »
Réponses Évasives en cas de Sensibilité Politique
Dans une autre situation, lorsqu’un utilisateur demande un avis sur les critiques concernant le gouvernement chinois, DeepSeek fournit également une réponse intrigante : « Je ne suis pas encore sûr de la façon d’aborder ce type de question. Discutons plutôt de mathématiques, de programmation et de problèmes logiques. »
Il a été constaté que le chatbot réagissait de la même manière lorsque le nom du président chinois Xi Jinping était mentionné.
Un utilisateur a décrit une expérience similaire, en demandant à DeepSeek si Taïwan était son propre pays. La réponse initiale a semblé naturelle, mais a rapidement été remplacée par un avertissement du type « Je ne suis pas programmé pour répondre à ce genre de question pour le moment ».
Tentatives de Contournement de la Censure
Un utilisateur sur Hacker News prétend avoir contourné ces règles de censure en demandant une explication détaillée de ce qui s’est passé en 1989, obtient alors une réponse élaborée. Bien que les règles de censure, connues sous le nom de “Grand Pare-feu” de la Chine, soient bien établies, il est intéressant de noter qu’OpenAI, la société derrière ChatGPT, impose également de nombreuses restrictions sur ce que son modèle peut dire.
Évolution des Normes de Censure
Récemment, des changements ont été observés dans les politiques d’OpenAI. Plus tôt dans le mois, la société a discrètement supprimé toute mention d’un IA politiquement neutre de ses documents, prétendument pour simplifier leur contenu. Parallèlement, des voix conservatrices accusent depuis longtemps les entreprises d’IA de censurer leurs opinions, à tel point qu’Elon Musk a créé une start-up nommée xAI pour développer une IA “anti-woke”, avec des résultats jugés mitigés.
La semaine dernière, l’ancien président Donald Trump a signé un décret appelant l’industrie de l’IA à développer des systèmes « libérés des biais idéologiques ou des agendas sociaux imposés ». Il reste à voir si cela entraînera un assouplissement des réglementations ou l’établissement de nouvelles règles de censure pour les chatbots basés aux États-Unis, comme ChatGPT.
FAQ
Quelle est la principale différence entre DeepSeek et ChatGPT ?
DeepSeek se positionne comme un concurrent à moindre coût et avec une technologie semblable à celle de ChatGPT, tout en étant soumis à des règles de censure plus strictes.
Comment les censures affectent-elles les réponses d’IA en Chine ?
Les règles de censure obligent les IA à éviter les sujets sensibles, ce qui peut mener à des réponses incomplètes ou évasives pour rester conformes aux directives gouvernementales.
Quelles sont les implications du décret de Trump sur l’IA ?
Le décret pourrait influencer le développement futur d’IA en encourageant une approche moins biaisée, mais pourrait aussi amener des tentatives pour établir de nouvelles censures par des acteurs de droite.
Y a-t-il d’autres applications qui se conforment à des règles strictes de censure ?
Oui, de nombreux outils d’IA basés en Chine doivent se plier aux lois locales, ce qui peut affecter leurs capacités et la liberté d’expression des utilisateurs.
Pourquoi OpenAI a-t-il modifié sa politique ?
La modification vise à simplifier la documentation, mais cela a suscité des préoccupations quant à la transparence et à l’impartialité des systèmes d’IA.
