Ne soyez pas malveillant.
Depuis l’an 2000, cette déclaration a été adoptée comme une sorte de devise par Google, figurant même comme la première phrase dans le Code de Conduite de Google – avec une note sur son passé. Cependant, il a été rapporté par Gizmodo que, vers la fin d’avril ou au début de mai, Google a retiré presque complètement l’expression “ne soyez pas malveillant” de son Code de Conduite, n’y faisant mention qu’une seule fois, dans la dernière phrase.
Bien que cette omission puisse paraître insignifiante, elle pourrait aussi être perçue comme un indicateur de changement dans les priorités morales de Google. Étant donné que l’entreprise offre aujourd’hui bien plus que de simples réponses à nos questions les plus cruciales (ou même les plus absurdes), un tel changement pourrait avoir des répercussions négatives pour l’avenir de l’humanité.
Désormais à un niveau d’influence considérable dans nos vies, se demande-t-on si Google utilisera ce pouvoir à des fins positives ou négatives. Voici trois éléments qui tendent à confirmer la seconde option.
## Projet Maven
La définition du bien et du mal est subjective. Ce qui semble « malveillant » à un individu pourrait relever d’une zone grise morale pour un autre. Néanmoins, contribuer à des opérations militaires utilisant des drones pour tuer des gens apparaît clairement comme une action discutablement éthique, et c’est l’un des projets récents de Google.
En mars, il a été révélé que Google assistait le Département de la Défense des États-Unis avec le Projet Maven, un projet visant à créer des drones dotés d’intelligence artificielle pour des applications militaires. Des milliers d’employés ont protesté contre cette collaboration en signant une pétition. La semaine dernière, certains d’entre eux ont même démissionné en signe de protestation.
Malgré tout, Google avance avec ce projet, et comme l’ont souligné des employés à Engadget, l’entreprise semble de plus en plus axée sur les opérations militaires et moins sur les préoccupations de ses employés.
## Intelligence Artificielle Douteuse
Le mensonge s’inscrit aussi dans une zone morale floue, et Google semble de plus en plus à l’aise dans cette ambiance. Les employés ont fait savoir à Engadget que la transparence de l’entreprise à leur égard a diminué, semblable à sa communication avec le public.
Récemment, Google a présenté une nouvelle fonctionnalité de son assistant vocal, Duplex, qui effectue des appels téléphoniques pour les utilisateurs. Des accusations selon lesquelles la démo aurait pu être “falsifiée” ont émergé, mais même si ce n’était pas le cas, certains jugent cette technologie trompeuse, car l’IA ne se présente pas comme non-humaine lors de l’appel.
Thomas King, chercheur au Digital Ethics Lab de l’Université d’Oxford, a déclaré que “les expériences de Google semblent avoir été conçues pour tromper”. Il a insisté sur le fait que même sans intention malveillante, l’entreprise a négligé de s’assurer que cela n induit pas en erreur.
Yossi Matias, vice-président de l’ingénierie chez Google, a assuré à CNET après la démo que l’IA avertirait probablement les utilisateurs de sa nature non humaine à l’avenir. Nous restons sceptiques.
## Le Ledger Égoïste
La semaine dernière, The Verge a obtenu une vidéo diffusée en interne chez Google en 2016, intitulée “Le Ledger Égoïste”. Cette vidéo évoque un avenir où Google ne se contente pas de recueillir des données sur les utilisateurs, mais cherche à exploiter ces données, avec pour objectif de contrôler les comportements humains.
Lorsque The Verge a contacté Google, un porte-parole n’a pas démenti le côté dérangeant de cette démonstration, affirmant que cela relevait d’une simple hypothèse théorique :
Nous comprenons que cela puisse trouber, et c’est le but. C’est une expérience de pensée de l’équipe de design d’il y a plusieurs années qui utilise une technique appelée « design spéculatif » pour explorer des idées inconfortables afin de provoquer des discussions. Ce n’est pas lié à des produits actuels ou futurs.
Cependant, il est facile d’imaginer que Google pourrait techniquement créer un tel Ledger Égoïste. De plus, la vidéo stipule que l’objectif serait d’aligner les actions des individus sur les “valeurs” de Google, comme la durabilité environnementale. Si ces valeurs évoluent, la direction dans laquelle le Ledger guide pourrait également changer.
En attendant, Google conserve des initiatives positives : l’entreprise finance des projets pour préserver l’environnement, offrir des opportunités éducatives aux enfants, et soutenir des communautés défavorisées.
Néanmoins, Google est si puissant que si jamais elle décidait que ne pas être malveillant n’est plus une priorité, les conséquences pourraient être désastreuses. Pour l’instant, espérons que la croissance de l’entreprise n’entraîne pas une diminution de sa conscience.
### FAQ
#### Google peut-il changer ses valeurs éthiques ?
Oui, les valeurs d’une entreprise peuvent évoluer en fonction des changements internes ou externes, ce qui peut influencer son comportement.
#### Quel est l’impact de Project Maven sur la réputation de Google ?
L’implication de Google dans des projets militaires a suscité de vives critiques, ce qui peut nuire à son image, en particulier auprès des employés et des consommateurs soucieux de l’éthique.
#### Comment Google assure-t-il la transparence de ses algorithmes ?
Google est critiqué pour son manque de transparence, surtout concernant l’utilisation de l’IA et des données utilisateurs. Des initiatives pour améliorer la transparence sont souvent discutées.
#### En quoi le concept de “Ledger Égoïste” pourrait-il être inquiétant ?
Ce concept soulève des préoccupations sur la manière dont les données pourraient être utilisées pour manipuler les comportements humains et aligner les actions des utilisateurs sur des valeurs potentiellement changeantes.
#### Comment Google soutient-il les communautés défavorisées ?
Google s’engage à aider des projets qui offrent des opportunités économiques et éducatives, visant à réduire les inégalités et à favoriser l’inclusion sociale.
