Inscription à la Newsletter
Découvrez l’avenir aujourd’hui
Inscrivez-vous pour rester à l’affût des innovations futuristes dans le domaine de la science et de la technologie. Ne manquez pas les développements fascinants qui se profilent à l’horizon.
Emballage Précis
Lorsque des chercheurs en intelligence artificielle chez Google publient des travaux sur des sujets sensibles, ils font souvent l’objet d’un examen minutieux de la part de l’entreprise. Google s’assure ainsi que ses technologies sont présentées de manière positive.
Une Révélations Accablantes
Selon une récente enquête de NBC News, depuis l’été dernier, Google a instauré une procédure de révision pour les “sujets sensibles”. Cela semble empêcher les chercheurs d’aborder de manière précise les dangers potentiels des technologies émergentes, en particulier celles développées par Google et ses sociétés affiliées. Loin de se concentrer sur des produits innovants de recherche, Google semble davantage préoccupé par sa réputation publique.
Sous le Devant des Projecteurs
Bien que cela ne soit pas surprenant étant donné le comportement habituel des entreprises, cela soulève des questions, surtout pour une entreprise qui prônait auparavant de ne pas être malveillante.
L’éviction récente de Timnit Gebru, une éthicienne en IA renommée, qui avait mis en lumière des problèmes au sein de l’entreprise, a intensifié l’attention accordée à Google. Depuis, sa collègue, Margeret Mitchell, scientifique senior chez Google, s’exprime également. Elle souligne que si les chercheurs doivent se conformer à des standards créés par des normes de qualité, alors ils risquent de tomber dans une censure problématique.
Adopter une Position Positive
Selon des communications internes révélées par NBC, la nouvelle politique de révision de Google guide les scientifiques à adopter un ton positif dans leurs publications. Ils sont également encouragés à ne pas mentionner les produits de Google lorsqu’ils traitent de sujets controversés, afin de se distancier des dilemmes éthiques liés à la reconnaissance faciale, aux voitures autonomes, et à d’autres technologies sensibles.
Changements dans les Publications
Par exemple, un article portant sur l’IA de recommandation, comme celle utilisée par YouTube, a d’abord décrit comment la technologie pouvait conduire à la désinformation et à des résultats discriminatoires. Cependant, après révision, le texte a été modifié pour indiquer que la technologie pouvait promouvoir des informations exactes, ainsi qu’une équité et une diversité du contenu.
LIRE PLUS : Google a demandé à ses scientifiques d’adopter un ton positif dans les recherches en IA, montrent des documents (NBC News)
FAQ
Pourquoi Google modifie-t-elle ses recherches sur les sujets sensibles ?
Google craint que des études révélatrices sur ses technologies ne nuisent à sa réputation. Par conséquent, la société préfère adopter une approche plus positive pour éviter toute controverse.
Quel impact cela a-t-il sur la recherche académique ?
Cette politique risque de freiner la transparence et l’objectivité dans les recherches, rendant plus difficile l’identification de problématiques éthiques cruciales dans le développement des technologies.
Comment ces changements affectent-ils les scientifiques ?
Les chercheurs peuvent se sentir contraints de modifier leurs résultats pour se conformer aux attentes de l’entreprise, ce qui peut conduire à un sentiment de censure au sein de leur milieu.
Est-ce que d’autres entreprises adoptent une approche similaire ?
D’autres grandes entreprises du secteur technologique ont également été critiquées pour leurs pratiques de gestion de l’information, essayant souvent de protéger leur image publique au détriment d’une communication ouverte et honnête.
Quelle devrait être la solution ?
Un équilibre entre l’innovation et une discussion éthique, transparente et ouverte serait idéal pour garantir que les technologies développées soient bénéfiques pour l’ensemble de la société.
