Lancement chaotique de Sora 2
Il apparaît de plus en plus évident qu’OpenAI n’a pas mis beaucoup de réflexion dans le lancement de Sora 2, sa dernière application de génération de vidéos à partir de texte. Cette approche hâtive, axée sur le principe « aller vite et casser des choses », a entraîné un grand nombre de polémique.
Une application controversée
La semaine dernière, l’entreprise dirigée par Sam Altman a présenté une application inspirée de TikTok, produisant un flux constant de contenus de qualité médiocre. Les utilisateurs peuvent créer des vidéos allant jusqu’à des deepfakes, un phénomène numérique jugé hautement problématique et potentiellement en violation des droits d’auteur. Cela a conduit à une situation catastrophique, semblable à celle des débuts de ChatGPT.
Utilisation inappropriée et abus
Sans surprise, les utilisateurs n’ont pas tardé à mettre en ligne les contenus les plus choquants possibles. Par exemple, il a été rapporté que certains utilisateurs ont généré des clips montrant SpongeBob préparant des cristaux bleus dans un laboratoire de méthamphétamine. Des vidéos, incluant des scènes avec Sam Altman interagissant avec un Pikachu particulièrement réaliste, sont également apparues. De plus, des épisodes entiers de South Park, entièrement générés par l’IA, ont été partagés.
Réactions des experts
Les experts sont préoccupés par les conséquences d’une telle application, permettant de créer des vidéos incriminantes mettant en scène des personnes. L’un des développeurs de Sora lui-même, Gabriel Petersson, a créé une vidéo virale montrant Altman en train de voler dans un magasin, illustrant ainsi la dégradation de la confiance dans les contenus numériques.
Un fonctionnement défaillant
Les utilisateurs ont élaboré des vidéos photoréalistes de célébrités décédées comme Michael Jackson ou Tupac Shakur. Malgré les promesses d’OpenAI de bloquer les représentations de figures publiques, la controverse a persisté. Bien que l’application ait été conçue pour interdire le contenu perturbant, les garde-fous initiaux n’ont pas suffi à freiner les abus. Des cas extrêmes, tels qu’une publicité d’un jouet associé à l’île des activités de Jeffrey Epstein, ont également été rapportés.
Changements nécessaires
Face à la tempête médiatique, OpenAI a semblé réagir en resserrant ses contrôles. De nombreux utilisateurs témoignent que les nouvelles restrictions rendent l’application « inutilisable pour des projets créatifs ». Ils affirment même que les récentes modifications des filtres de contenu sont « plus strictes que celles de la Corée du Nord ».
Une gestion en cours
La pression juridique a probablement été intense depuis le lancement, s’accompagnant d’exigences de réponses de la part de nombreux avocats. Dans une publication de blog controversée, Altman a évoqué l’excitation des entreprises concernant l’utilisation de leur propriété intellectuelle, tout en indiquant qu’OpenAI devrait trouver un moyen de monétiser la génération vidéo.
Il a proposé de partager les revenus avec les titulaires de droits, mais beaucoup restent perplexes quant à la manière dont cela sera mis en œuvre. Le modèle exact n’est pas encore clair, ce qui souligne le manque de préparation d’OpenAI quant à l’avenir de cette application.
Responsabilité des utilisateurs
OpenAI a précisé que les utilisateurs sont responsables de tout contenu problématique produit via leur technologie. Leurs conditions d’utilisation incluent des clauses stipulant que les utilisateurs doivent prouver qu’ils détiennent les droits nécessaires pour les médias téléchargés. De plus, la société a clairement indiqué que le non-respect de ces règles pourrait entraîner la suspension ou l’interdiction de leur compte sans remboursement.
Evolutions récentes
Une autre évolution importante a été rapportée; OpenAI a récemment modifié sa politique concernant l’utilisation de matériels protégés par des droits d’auteur. Initialement, les titulaires de droits devaient s’opposer activement à leur utilisation, alors qu’ils doivent désormais donner leur accord pour que cela soit possible.
Altman a promis d’offrir aux titulaires de droits un contrôle plus précis sur la génération de caractères. Une mise à jour des termes de service a été sollicitée, notamment concernant l’éventuel bannissement d’utilisateurs en raison de violations.
Ainsi, il semble qu’OpenAI ait misé avant tout sur le succès immédiat de l’application avant de réfléchir aux implications juridiques.
FAQ
Qu’est-ce que Sora 2 ?
Sora 2 est une application d’OpenAI permettant de créer des vidéos à partir de texte, inspirée de formats comme TikTok.
Pourquoi Sora 2 est-elle controversée ?
L’application permet la création de deepfakes et d’autres contenus sensibles, soulevant des préoccupations sur le droit d’auteur et l’éthique.
Quels changements OpenAI a-t-elle apportés à Sora 2 après son lancement ?
Après des critiques, OpenAI a resserré ses filtres de contenu, rendant l’application plus restrictive et a modifié sa politique sur les droits d’auteur.
Les utilisateurs sont-ils responsables des contenus qu’ils créent ?
Oui, selon les conditions d’utilisation d’OpenAI, les utilisateurs doivent détenir les droits des médias qu’ils partagent et sont responsables des abus.
Comment OpenAI prévoit-elle de monétiser Sora 2 ?
Altman a suggéré de partager les revenus générés avec les titulaires de droits, bien que les détails restèrent flous.