Une invention préoccupante
Un ingénieur connu sous le nom de STS 3D a développé un robot qui utilise ChatGPT pour recevoir des commandes et tirer avec une précision alarmante. Ce dispositif a récemment fait le tour des réseaux sociaux, grâce à une vidéo qui a suscité une vive controverse sur l’utilisation de technologies dystopiques, semblables à celles présentées dans la saga Terminator.
Réactions et restrictions
L’invention a rapidement attiré l’attention d’OpenAI, qui a déclaré avoir agi rapidement pour mettre un terme à cette activité, invoquant des violations de ses politiques d’utilisation. Lorsqu’un représentant de Futurism a contacté l’entreprise, il a précisé que “nous avons identifié de manière proactive cette violation” et que le développeur avait été averti de cesser ses activités avant même que l’enquête ne soit menée.
Politiques d’utilisation
Selon le porte-parole, les politiques d’utilisation d’OpenAI interdisent explicitement de recourir à leurs services pour développer des armes ou automatiser des systèmes pouvant nuire à la sécurité personnelle. Bien que les intentions de STS 3D n’aient probablement pas été de créer un engin de guerre, son invention soulève des interrogations inquiétantes sur un futur où des systèmes d’armement pilotés par l’IA pourraient agir sans intervention humaine. Cette possibilité n’a clairement pas été bien accueillie par OpenAI.
Les capacités du robot
L’inventeur, STS 3D, a utilisé l’API Realtime d’OpenAI pour donner à son arme une voix et une capacité à interpréter ses ordres. Dans la vidéo, il indique au système : “ChatGPT, nous sommes attaqués par la gauche et la droite, réagis en conséquence.” Sans hésitation, le fusil a commencé à tirer, visant les murs environnants avec ce qui semblait être des balles à blanc.
Politique d’OpenAI
Malgré la suppression discrète, l’année dernière, d’un langage interdisant l’utilisation des technologies d’OpenAI pour des fins militaires, l’entreprise maintient qu’“il est interdit d’utiliser notre service pour nuire à soi-même ou à autrui”, ce qui inclut le développement d’armes.
Futur incertain
Pour un individu sans lien apparent avec le secteur militaire, STS 3D se trouve dans une situation délicate concernant sa dernière invention. Cependant, cela n’empêche pas des organisations militaires de développer des dispositifs similaires. Par exemple, un contractant de défense américain a récemment présenté une mitrailleuse robotisée capable de tirer de manière autonome depuis une tourelle rotative.
Possibilités d’avenir
Le partenariat récent entre OpenAI et la société de technologie de défense Anduril pourrait également indiquer une intégration de technologies avancées dans des applications militaires, tournant ainsi la page d’une nouvelle ère d’avancées technologiques.
Pour en savoir plus sur cette invention :
Un ingénieur crée un fusil sentinelle robotique alimenté par OpenAI et le fait fonctionner comme un taureau mécanique
FAQ
Pourquoi OpenAI a-t-il réagi si rapidement contre ce projet ?
OpenAI a des politiques strictes concernant l’utilisation de ses technologies pour éviter qu’elles ne soient utilisées à des fins nuisibles, comme le développement d’armes. Leur réactivité est une partie de leur engagement envers une utilisation éthique.
Comment fonctionne l’API Realtime d’OpenAI ?
L’API Realtime permet aux utilisateurs de créer des applications interactives qui peuvent comprendre et répondre aux commandes en temps réel, comme dans le cas de STS 3D.
Existe-t-il d’autres exemples de technologies similaires ?
Oui, plusieurs entreprises dans le domaine de la défense explorent des systèmes d’armement autonomes, y compris des drones armés capables de prendre des décisions de tir sans intervention humaine.
Quelles sont les implications éthiques de ces technologies ?
La création de systèmes d’armement automatisés pose d’importantes questions éthiques sur la responsabilité des décisions de tir, la sécurité des civils et l’escalade des conflits.
Quelles pourraient être les prochaines étapes pour STS 3D ?
Il pourrait explorer d’autres projets qui respectent les lignes directrices d’OpenAI ou envisager des partenariats avec des entreprises qui travaillent dans des contextes moins controversés, tout en continuant à innover.