Au lancement de Sora il y a quelques jours, le copyright semblait être le cadet des soucis d'OpenAI.
Le modèle pouvait générer des épisodes entiers de "South Park" et bien d'autres contenus problématiques en masse.
À côté, la polémique sur les images façon Studio Ghibli paraît presque anecdotique.
Cette permissivité était probablement voulue. Mais les ayants droit ont manifestement réagi vite et fort, obligeant OpenAI à changer son fusil d'épaule en catastrophe.
L'entreprise n'est pas seule dans cette situation : Midjourney, Google et d'autres essuient également une pression juridique croissante avec l'accumulation de procès dans le secteur de l'IA.
Quelles générations sont désormais bloquées sur Sora par OpenAI ?
Depuis 24 heures, Sora devient plus restrictif. Impossible désormais de générer du contenu "South Park" ou d'autres œuvres protégées.
Sam Altman, PDG d'OpenAI, annonce que les créateurs auront bientôt leur mot à dire sur l'utilisation de leurs personnages.
L'entreprise travaille sur un système de contrôle étendu permettant aux ayants droit de définir précisément comment (ou si) leurs personnages peuvent être générés.
"Beaucoup d'ayants droit sont enthousiastes pour ce nouveau type de 'fan fiction interactive', mais veulent pouvoir spécifier comment leurs personnages sont utilisés, y compris les interdire complètement", explique Altman.
OpenAI promet aussi de partager les revenus quand du contenu protégé est généré dans Sora.
Mais aucun détail concret ni calendrier pour l'instant.
"Le modèle exact demandera des ajustements, mais on démarre très bientôt", écrit le PDG.
OpenAI testait-elle les limites du copyright ?
Difficile de croire qu'OpenAI découvre le problème.
L'entreprise connaît le terrain juridique et fait déjà face à plusieurs procès sur le contenu généré par IA.
Alors pourquoi lancer Sora sans garde-fous, pour serrer la vis trois jours après ?
Une hypothèse : OpenAI voulait voir jusqu'où elle pouvait aller après l'incident Ghibli. Certaines voix dans le monde de l'IA plaident ouvertement pour réformer ou abolir le droit d'auteur.
Une application comme Sora peut contribuer à normaliser les violations de copyright.
Si tout le monde le fait, impossible de faire appliquer la loi. Le nombre de procès submergerait les tribunaux.
La vraie question avant le lancement était : quelle sera la réaction ? Visiblement assez forte pour un rétropédalage express.
Pourquoi est-ce si compliqué techniquement ?
Même si OpenAI veut respecter le copyright et rémunérer les créateurs, concrétiser tout ça relève du casse-tête technique et juridique.
En avril, Sam Altman déclarait qu'il serait "cool" de payer les artistes quand les modèles IA utilisent leur style.
Mais il n'a donné aucun détail, pointant la difficulté de suivre les influences, surtout quand plusieurs styles se mélangent dans un seul prompt. "Comment on répartit l'argent entre chacun ? Ce sont de vraies questions", admettait-il.
Altman argumente aussi que toute créativité s'appuie sur des œuvres existantes, ce qui affaiblit l'idée d'une compensation directe.
Pendant ce temps, l'outil "Media Manager" promis en mai 2024 pour permettre aux artistes de refuser l'entraînement IA n'a toujours pas vu le jour.
Une chose est sûre : OpenAI n'aurait jamais pu lancer Sora en acceptant d'emblée toutes les restrictions de copyright.
Trouver un accord aurait pris des années, et le droit d'auteur actuel ne peut simplement pas suivre le rythme de l'IA.
Quelles autres critiques vise Sora ?
Sora essuie aussi des critiques sur la qualité de sa production.
Beaucoup estiment que le modèle génère surtout du "AI slop" : des vidéos génériques et superficielles conçues pour générer des clics, avec peu de créativité réelle.
Même Sam Altman a reconnu le problème, déclarant qu'OpenAI fermerait Sora si le service n'améliorait pas vraiment la vie des utilisateurs. Sans préciser comment ce serait mesuré.
