Inscription à la newsletter
Dans un monde en constante évolution, abonnez-vous pour découvrir les avancées de demain, dès aujourd’hui. Vous aurez accès à des innovations incontournables issues des tout derniers développements en matière de science et de technologie.
Protocoles internes
DeepMind, l’entreprise de intelligence artificielle acquise par Google en 2014, s’est donné pour objectif de créer la première intelligence générale artificielle (AGI) au monde. Ce type d’intelligence est souvent décrit dans les œuvres de science-fiction comme une entité dépassant les capacités humaines.
Pour assurer une utilisation responsable de cette AGI, le fondateur de DeepMind, Demis Hassabis, a veillé à préserver l’indépendance de son entreprise face à Google et à sa société mère, Alphabet. Pour ce faire, il a mis en place des systèmes de protection internes, comme un comité d’éthique dirigé par lui-même et son équipe d’origine, indépendamment de Google, selon un article récent du magazine culturel de The Economist, 1843 Magazine.
Les luttes de pouvoir
Malgré son image de leader éthique dans le domaine de l’IA, Google a souvent été critiqué pour ses comportements de contrôle et sa gestion discutable. Par exemple, en 2016, DeepMind a lancé une nouvelle division dédiée à la santé, avec l’objectif d’appliquer l’IA pour améliorer l’efficacité des hôpitaux et surveiller les signes vitaux des patients.
Cependant, seulement deux ans plus tard, après que DeepMind Health ait établi des contrats avec plusieurs hôpitaux, Google a annoncé la création de Google Health, et a intégré le programme de DeepMind dans son propre système, sans beaucoup de préavis. Cette décision a suscité frustration et colère au sein des équipes de DeepMind.
Un grand “si”
Certaines sources anonymes, qui ont souhaité garder leur identité secrète en raison d’accords de confidentialité, ont exprimé des doutes sur la capacité de DeepMind à atteindre l’AGI. Elles ont soulevé des faiblesses peu connues et des réserves concernant les succès médiatisés de l’entreprise dans le domaine de l’IA.
Les algorithmes créés par DeepMind sont capables d’accomplir des actions impressionnantes, comme triompher dans certains jeux vidéo et mémoriser des informations plus efficacement que d’autres systèmes. Toutefois, il n’existe pas de plan clair pour développer les technologies radicalement nouvelles nécessaires à la création d’une AGI.
Mais si Hassabis parvient à percer ce secret, les garde-fous et les instances d’évaluation éthique qu’il a établis lors de l’acquisition de son entreprise pourraient permettre à cette technologie de rester sous le contrôle de son équipe, évitant ainsi qu’elle ne devienne une simple technologie de Google.
FAQ
Qu’est-ce que l’intelligence générale artificielle (AGI) ?
L’AGI désigne une forme d’intelligence artificielle capable de comprendre, apprendre et appliquer des connaissances de manière autonome, tout comme un être humain.
Pourquoi la protection de l’indépendance de DeepMind est-elle importante ?
Maintenir l’indépendance de DeepMind permet de garantir que les décisions éthiques et les orientations de recherche demeurent centrées sur le bien-être humain, plutôt que sur des objectifs commerciaux à court terme.
Quels défis rencontre DeepMind dans la recherche de l’AGI ?
DeepMind fait face à de nombreux défis techniques et éthiques, notamment le besoin de créer des algorithmes qui peuvent généraliser des connaissances sur différents domaines, plutôt que d’être limités à des tâches spécifiques.
Comment Google influence-t-il DeepMind ?
En tant que propriétaire de DeepMind, Google exerce une certaine influence sur ses projets. Cependant, Hassabis s’efforce de maintenir une séparation pour éviter les abus de pouvoir.
Quels impacts l’AGI pourrait-elle avoir sur la société ?
L’AGI pourrait transformer divers secteurs tels que la santé, l’éducation et l’industrie, en offrant des solutions plus efficaces, mais elle soulève également des questions éthiques et de sécurité qui doivent être soigneusement examinées.