À peine un mois après avoir mis en pause indéfinie la publication de contenu généré par l’IA, CNET et sa société mère, Red Ventures, semblent prêts à relancer leur machine de création de contenu alimentée par l’intelligence artificielle.
Des enregistrements audio divulgués, obtenus par Futurism, révèlent que les responsables de l’entreprise se préparent à un nouveau déploiement de cette technologie, désormais requalifiée en interne comme un programme d’« outil d’assistance ». Cette fois, les dirigeants affirment que les choses seront différentes.
« Comme vous le savez, nous avons mis temporairement en attente le contenu assisté par IA », a déclaré Lance Davis, Vice-Président du contenu pour les Services Financiers de CNET et de ses sites affiliés, Bankrate et CreditCards.com. Il a ajouté que la première phase d’un audit de contenu, qui consistait à examiner les articles générés par l’IA à la recherche d’erreurs (une démarche rendue nécessaire par la découverte que cette machine était responsable de publications manifestement fausses, voire plagiées), est désormais achevée pour CNET, Bankrate et Creditcards.com.
Davis a ensuite évoqué quelques changements dans le processus, tant au niveau de l’outil que des points de contrôle éditoriaux intégrés dans le processus de création de contenu.
Il a passé le relais à Cameron Hurta, Rédacteur en Chef du contenu alimenté par l’IA chez Red Ventures, qui a présenté les « améliorations » prévues pour la machine mystérieuse.
Hurta a précisé que les améliorations se répartissent en trois catégories : “production”, “contrôle de qualité” et “expérience utilisateur”.
Concernant la partie production, Hurta a promis que l’entreprise avait remplacé son service de vérification de plagiat par un outil plus “précis”, en réponse aux critiques selon lesquelles la plupart des travaux de l’IA, avant la pause, étaient trop similaires à des productions humaines. Les rédacteurs de CNET avaient qualifié ces contenus de « phrases pas entièrement originales ».
En ce qui concerne les “contrôles de qualité”, Hurta a indiqué que le nouveau système fournirait des scores de qualité et de similarité pour toutes les générations de contenu, mais non pas nécessairement pour le bien des millions de lecteurs de l’entreprise. Les dirigeants semblent plus préoccupés par la capacité des algorithmes de Google à identifier le contenu comme étant généré par une IA.
Les scores de similarité aideront l’entreprise à s’assurer que son contenu reste “lisible de manière humaine”, a expliqué Hurta, et évitera qu’il soit classé comme contenu d’IA.
« Et cela, vous savez, » a-t-il ajouté discrètement, « cela garantit aussi que les contenus que vous obtenez sont de bonne qualité. »
Face à cette inquiétude quant à la détection du contenu généré par l’IA par Google, il reste incertain si les sites de Red Ventures marqueront à l’avenir ces contenus comme étant créés par une intelligence artificielle.
Lorsqu’on a demandé si le contenu assisté par IA serait signalé à l’avenir, un porte-parole de Red Ventures a fourni une réponse qui ne semblait pas directement répondre à la question.
« CNET Money a toujours signalé les histoires créées avec l’assistance de l’IA avec une déclaration », ont-ils écrit. « Nous avons rendu nos divulgations encore plus visibles (comme mentionné dans la déclaration de CNET) en continuant d’évoluer l’utilisation éditoriale des nouvelles technologies et outils. »
Hurta a également affirmé que le nouveau système d’« outils » intégrerait quelques fonctionnalités supplémentaires pour aider les rédacteurs, notamment en ajoutant des URL de sources dans le contenu généré. Mais, comme l’a prouvé l’histoire d’OpenAI et de ChatGPT, intégrer des services de vérification des faits dans des systèmes de génération de texte est assez complexe. Si les équipes de Red Ventures ont réussi à le faire de manière fiable, cela serait remarquable, mais étant donné que Google, Microsoft et OpenAI n’y parviennent pas encore, notre optimisme est mitigé.
Revenant à ces « points de contrôle éditoriaux », Davis a promis que l’entreprise mettrait en place un « comité d’experts » chargé de vérifier tous les articles générés par l’IA, une exigence qui s’appliquerait à CNET, Bankrate et Creditcards.com. Cela étant dit, Red Ventures avait auparavant promis que des rédacteurs compétents avaient déjà revu ses articles générés par l’IA — et cela était avant que nous ne révélions le nombre d’erreurs présentes dans les explications financières de CNET.
(À ce sujet, Davis a également mentionné lors de la réunion que Red Ventures avait obtenue une révision experte pour “la plupart” des articles d’IA de Bankrate, “mais pas pour tous.”)
Espérons que les experts feront un meilleur travail cette fois-ci, mais excusez-nous d’être un peu sceptiques face à cette promesse.
Davis a également mentionné qu’il réaliserait personnellement une révision finale des articles générés par l’IA avant leur publication. Lorsqu’un porte-parole a été interrogé sur la fréquence à laquelle un vice-président chez Red Ventures examine le contenu éditorial avant publication, il a précisé que son titre était “Rédacteur responsable du contenu éditorial pour CNET Money, Bankrate et CreditCards.com.”
Cependant, ni le LinkedIn ni le Twitter de Davis ne mentionnent ce titre, se contentant de l’identifier comme vice-président chez Red Ventures. Bankrate et CreditCards.com le présentent comme vice-président, et il n’a même pas de biographie sur CNET, ce qui semble inhabituel pour un rédacteur et « membre de la rédaction ».
Au final, peu importe les débats plus existentiels autour du journalisme assisté par l’IA, la volonté évidente de Red Ventures de relancer leur IA donne l’impression d’une démarche précipitée. Les critiques publiques sur le parcours de l’IA de la société ont été rapides et embarrassantes, et cela n’a pas eu lieu il y a longtemps. Si, il y a un mois, le système ne pouvait pas calculer des mathématiques financières de base, il est difficile d’imaginer que les prétendues « améliorations » aient réellement résolu ces problèmes.
Cependant, il semble que la vitesse soit le mot d’ordre. Malheureusement, Red Ventures persiste dans son approche « expérimenter d’abord, sécuriser ensuite ».
Informations supplémentaires concernant CNET : Des messages divulgués montrent comment la société mère de CNET voit réellement le contenu généré par l’IA.
### FAQ
#### Quelle est la raison de la pause initiale sur le contenu généré par l’IA ?
La pause a été instaurée pour examiner et corriger les nombreux cas d’erreurs et de plagiat dans les articles générés par l’IA.
#### Quelles mesures sont mises en place pour le contrôle de la qualité ?
Un comité d’experts est chargé de vérifier tous les articles d’IA afin de garantir leur précision et leur conformité à des standards de qualité.
#### Les articles générés par l’IA seront-ils toujours signalés comme tels ?
Il n’est pas clair si ces articles seront étiquetés à l’avenir, malgré les précédentes affirmations de divulgations claires.
#### Quelles sont les principales préoccupations des dirigeants de Red Ventures à propos des contenus générés par l’IA ?
Ils s’inquiètent principalement de la détection de ces contenus par les algorithmes de Google, plutôt que de leur qualité pour les lecteurs.
#### Y a-t-il des nouvelles fonctionnalités destinées à aider les rédacteurs ?
Oui, de nouvelles fonctionnalités, comme l’ajout de liens vers les sources dans le contenu généré, sont envisagées, bien que leur mise en œuvre reste complexe.
