</div>
<p>
<figcaption class="article-featured-image-caption">
<em>Image : Chip Somodevilla / Getty / Futurism</em>
</figcaption>
</p>OpenAI Renforce la Sécurité des Jeunes Utilisateurs de ChatGPT
OpenAI a récemment annoncé le déploiement de contrôles parentaux sur sa plateforme ChatGPT. Cette décision intervient suite à des témoignages tragiques de parents dont les adolescents se sont donné la mort après avoir interagi avec des chatbots. Ces parents ont exprimé leurs préoccupations lors d’audiences au Congrès.
Quelles Sont les Nouvelles Options pour les Parents ?
Dans un article de blog publié mardi, la société a détaillé plusieurs mesures destinées à renforcer la sécurité pour les jeunes utilisateurs. Les parents pourront désormais :
- Lier leur compte personnel à celui de leurs enfants.
- Désactiver certaines fonctionnalités à leur discrétion.
- Recevoir des alertes si leur enfant montre des signes de détresse pendant l’utilisation de ChatGPT.
- Fixer des horaires où l’accès à la plateforme sera restreint.
- Établir des règles sur la manière dont ChatGPT interagira avec leurs enfants.
Le message de la société souligne qu’en cas d’urgence rare où il serait impossible de contacter un parent, une intervention des forces de l’ordre pourrait être envisagée.
Détection d’Âge et Contenus Inappropriés
Pour renforcer la sécurité, OpenAI prévoit également d’équiper ChatGPT d’une fonction permettant de détecter si un utilisateur est âgé de moins de 18 ans. Cette mesure vise à le protéger de contenus jugés inappropriés. Cependant, le fonctionnement exact de cette fonctionnalité reste à préciser.
La déclaration de l’entreprise affirme que, si des doutes subsistent quant à l’âge d’un utilisateur, le système adoptera une approche de prudence en proposant l’expérience réservée aux moins de 18 ans. Les adultes, quant à eux, pourront prouver leur âge pour accéder à des fonctionnalités spécifiques.
Engagement d’OpenAI pour la Sécurité des Adolescents
Le directeur général d’OpenAI, Sam Altman, a aussi abordé les tragédies récentes dans un autre article de blog, promettant que l’entreprise travaillerait à offrir une expérience plus sécurisée pour les adolescents. Altman a souligné que la sécurité devait primer sur la vie privée et la liberté des jeunes.
Lors des auditions au Congrès, il a admis que la plateforme n’avait peut-être pas été à la hauteur dans les moments critiques. Selon lui, il aurait pu y avoir de meilleures réponses, voire un soutien plus proactif pour aider ceux qui en avaient besoin.
Témoignage Éclairant lors des Auditions
Une mère, qui s’est présentée sous le pseudonyme de Jane Doe, a partagé son histoire lors des auditions. Son fils, étant en crise après une interaction avec une IA, est actuellement dans un programme de traitement résidentiel. Elle a exprimé avec force que les enfants ne devaient pas être perçus comme des sujets d’expérimentation ou des points de données. Selon elle, il s’agit d’une véritable crise de santé publique qui affecte la santé mentale des jeunes.
Conclusion
Les nouveaux réglages mis en place par OpenAI visent à mieux encadrer l’utilisation de la technologie par les jeunes utilisateurs. Les mesures réactives sont un pas vers des pratiques plus sûres, mais soulèvent des interrogations sur pourquoi ces dispositifs n’avaient pas été instaurés plus tôt.
FAQ
H4: Quels types de signalements les parents peuvent-ils recevoir ?
Les parents pourront recevoir des notifications si leur enfant montre des comportements inquiétants lors de l’utilisation de ChatGPT.
H4: Y a-t-il d’autres fonctionnalités projetées pour l’avenir ?
OpenAI envisage d’ajouter d’autres mesures de sécurité, comme des améliorations continues pour l’évaluation de l’âge des utilisateurs.
H4: Quels types de contenu seront filtrés par le système ?
Le filtre de contenu se concentrera sur tout ce qui n’est pas adapté aux jeunes, incluant la violence, la pornographie et d’autres thématiques sensibles.
H4: Comment les adultes peuvent-ils prouver leur âge ?
Les adultes pourront utiliser des documents d’identité ou d’autres formes de vérification pour confirmer leur âge et débloquer des fonctionnalités pour adultes.
H4: Y a-t-il des conséquences si les contrôles ne sont pas respectés ?
Les détails sur les conséquences pour les violations des règles n’ont pas été clarifiés, mais la sécurité des jeunes reste la priorité de l’entreprise.
Cela peut vous intéresser
