Sortie Limitée de Sora
Sora est enfin disponible — enfin, en partie.
OpenAI a annoncé qu’elle allait rendre publique son nouvel outil d’IA de génération vidéo dans certains pays, après plusieurs mois de test privé. Lors d’un direct sur YouTube animé par son PDG, Sam Altman, et d’autres responsables, il a été précisé que l’accès à Sora serait ouvert aux utilisateurs aux États-Unis et dans “la plupart des autres pays”, mais qu’il ne serait pas disponible en Europe ni au Royaume-Uni. Cette situation soulève des questions importantes.
Altman a déclaré : « Nous ferons de notre mieux pour être opérationnels dans ces régions, mais nous n’avons pas de calendrier précis à communiquer pour le moment », ajoutant que cela pourrait prendre un certain temps.
Questions de Sécurité
Ce n’est pas la première fois que OpenAI rencontre des difficultés pour déployer ses produits au-delà de l’Atlantique. Par exemple, le lancement de la fonction de voix avancée pour ChatGPT avait également été retardé durant plusieurs semaines, probablement à cause de réglementations sur la protection des données imposées par l’Union européenne.
Avec Sora, les obstacles semblent encore liés au cadre réglementaire. Rohan Sahai, responsable du projet Sora, a mentionné : « OpenAI est sous haute surveillance, donc nous voulons éviter toute utilisation illégale de Sora, tout en veillant à permettre l’expression créative. » Les préoccupations exprimées par Kevin Weil, responsable des produits, dans un fil de discussion Reddit, soulignent qu’il reste des défis à relever concernant la sécurité et le risque de contrefaçon.
Éclaircissements sur les Risques
OpenAI n’a pas détaillé ce que pourrait impliquer l’“activité illégale” mentionnée par Sahai. Cependant, l’histoire des IA génératives est marquée par des abus. Les désinformations générées par ces technologies suscitent des inquiétudes croissantes. Si Sora ne dispose pas de protections suffisantes, il pourrait facilement être utilisé pour imiter des célébrités ou des politiques, engendrant des risques juridiques importants.
Les problèmes de droits d’auteur ne sont pas négligeables non plus. OpenAI a déjà fait l’objet d’examens minutieux concernant la provenance de ses données d’entraînement. Les générateurs d’images, comme DALL-E intégré à ChatGPT, évitent souvent des requêtes associant des noms d’artistes pour éviter d’enfreindre des droits. Sora devra certainement mettre en place des régulations similaires.
De plus, il est crucial de reconnaître que Sora pourrait être détourné pour produire des contenus plus sombres, y compris des images violentes ou du matériel pédopornographique, ce qui pourrait entraîner des conséquences légales sévères pour ceux qui abusent de l’outil.
OpenAI doit donc naviguer habilement entre la liberté créative et les impératifs de sécurité. Lancer ces modèles d’IA dans des états comme celui de Sora, qui peut engendrer des hallucinations, revient à marcher sur des œufs.
À propos de OpenAI : Un employé a récemment déclaré avoir atteint l’AGI (Intelligence Artificielle Générale).
FAQ
Q: Qu’est-ce que Sora et à quoi sert-il ?
Sora est un outil d’IA de génération vidéo développé par OpenAI, permettant de créer des vidéos à partir de descriptions textuelles.
Q: Pourquoi Sora n’est-il pas disponible en Europe ?
Sora n’est pas accessible en Europe en raison des préoccupations réglementaires concernant la protection des données et les lois sur la confidentialité.
Q: Quels types de contenus peuvent être créés avec Sora ?
Sora peut potentiellement générer divers contenus vidéo, allant du simple divertissement à des contenus plus controversés ou problématiques.
Q: Quelles mesures de sécurité sont mises en place pour éviter les abus ?
OpenAI a annoncé des « garde-fous » pour limiter les usages abusifs de Sora, mais des détails spécifiques n’ont pas été fournis.
Q: Que sont les hallucinogènes dans le contexte de l’IA ?
Les hallucinations désignent des erreurs ou des déformations créées par l’IA, où le système produit des information fausses ou inexactes.