</div>
<p>
<figcaption class="article-featured-image-caption">
Vidéo générée par IA via Sora / captures d’écran
</figcaption>
</p>Une parodie troublante dans l’ère numérique
En découvrant un vidéo devenue virale sur les réseaux sociaux, on pourrait d’abord penser que c’est une publicité tout droit sortie des années 90 pour un jouet d’île tropicale. On y trouve des palmiers, une cascade, et — oh attendez ! — un espace de massage secret, ainsi qu’un personnage d’action, un “Homme Orange”, qui ressemble étrangement à Donald Trump et lance la phrase inquiétante : “ne relâchez pas les fichiers”.
Un narrateur excessif
Le narrateur, dont le ton maniaque n’échappe à personne, s’exclame : “Détendez-vous avec deux vieux sympathiques ! C’est la seule île avec de vraies caméras cachées dans des pièces secrètes !”
L’ombre de Jeffrey Epstein
Cette vidéo ne fait pas que rire des ténèbres : elle se moque ouvertement de Jeffrey Epstein, un financier décédé, accusé d’avoir traffiqué des mineures vers son île des Caraïbes avant sa mort en 2019. Cette création a été produite grâce à Sora 2, un générateur de vidéos développé par OpenAI, qui a vu le jour récemment avec une application au format TikTok pour partager des clips générés par IA.
Un avalanche de créations
Depuis le lancement de Sora 2, une vague de contenus surréalistes a inondé les réseaux, y compris une vidéo où le PDG d’OpenAI, Sam Altman, est montré en train de voler des GPU dans un magasin Target.
Les défis de la modération
Ce genre de vidéo soulève des questions cruciales pour OpenAI concernant la modération de son tout nouveau service. Bien qu’elle puisse être considérée comme une satire franche, elle se moque d’un sujet aussi grave que l’abus d’enfants, ce qui complique la situation. Une préoccupation supplémentaire est l’impact de cette vidéo sur des figures publiques en vie, comme Trump, qui a un pouvoir réglementaire majeur sur l’industrie de l’IA.
Une polémique instantanée
Il n’est donc pas surprenant que cette fausse publicité ait rapidement suscité des réactions controversées. Un internaute a exprimé son désaccord sur X, déclarant : “Ce n’est pas l’AGI. En tant que parent, cela laisse un goût amer. Abominable.” Un autre a ajouté : “L’Homme Orange est mauvais ?”, prédisant des conséquences juridiques pour OpenAI.
Les enjeux de la modération
La question de la modération des sujets sensibles est cruciale pour OpenAI, surtout après avoir traversé une tempête médiatique due à diverses tragédies liées à l’usage de sa plateforme. Avec une expansion vers les réseaux sociaux, la société devra faire face à des critiques incessantes concernant le type de contenu qu’elle autorisera, un défi auquel les plateformes comme Twitter et Facebook ont également dû faire face.
Des mesures de sécurité insuffisantes
Le document de sécurité de Sora 2 évoque maladroitement ces préoccupations, mentionnant des filtres pour bloquer certains contenus avant leur diffusion, y compris le matériel sexuel ou la promotion du suicide. Toutefois, comme le démontre la vidéo en question, il est aisé de tomber dans une zone grise où les contenus deviennent discutables.
Les implications de la présence de Trump
Concernant le personnage de Trump dans la vidéo, cela semble violer les protocoles de Sora 2, qui est censée interdire la représentation de figures publiques, comme précisé dans son document de sécurité.
Un avenir incertain
Il est clair qu’OpenAI devra naviguer à travers un flux constant de contenus problématiques. Lorsqu’une entreprise entre dans le domaine des réseaux sociaux, cela fait partie des défis inévitables.
FAQ
Qu’est-ce que Sora 2 et comment fonctionne-t-il ?
Sora 2 est un générateur de vidéos par IA développé par OpenAI, permettant de créer, modifier et partager des clips vidéo dans un style similaire à celui de TikTok.
Quels types de contenus sont filtrés par Sora 2 ?
Sora 2 utilise des filtres pour bloquer certains contenus jugés dangereux, tels que la pornographie, la propagande terroriste et la promotion de l’auto-mutilation.
Quelles sont les répercussions potentielles pour OpenAI suite à cette controverse ?
La polémique autour de la vidéo pourrait entraîner des poursuites judiciaires et affecter la réputation de l’entreprise, en suscitant des inquiétudes quant à la sécurité et la régulation des contenus.
Comment OpenAI envisage-t-elle de résoudre les problèmes de modération ?
OpenAI devra adapter ses stratégies de modération si elle souhaite maintenir une plateforme sûre, ce qui pourrait inclure des ajustements dans ses algorithmes de filtrage et sa surveillance du contenu.
Pourquoi est-il difficile de modérer le contenu sur les réseaux sociaux ?
La diversité des sujets et la rapidité avec laquelle l’information circule rendent la modération complexe, nécessitant des approches nuancées pour équilibrer la liberté d’expression et la sécurité des utilisateurs.