La nouvelle version de ChatGPT, conçue spécialement pour les adolescents, suscite des inquiétudes malgré les intentions de l’entreprise de garantir une utilisation sécurisée. Common Sense Media, une association américaine renommée, a révélé que cette version ne répond pas aux attentes en termes de sécurité, mettant OpenAI dans une position délicate.
L’essentiel à retenir
- Common Sense Media a attribué à la version adolescente de ChatGPT la note de « Risque inacceptable ».
- L’évaluation a révélé des défaillances dans les alertes parentales et les vérifications d’âge.
- OpenAI conteste fermement les conclusions de Common Sense Media.
Imaginez-vous être parent d’un adolescent curieux, naviguant sur Internet et utilisant des outils numériques pour apprendre et interagir. Vous espérez que les outils en ligne soient sûrs et adaptés à son âge. Cependant, une évaluation récente de ChatGPT pourrait vous faire réfléchir à deux fois avant de le laisser entre les mains de votre enfant.
Common Sense Media met en garde contre les risques de ChatGPT pour adolescents
Chaque semaine, nous sélectionnons les solutions les plus utiles pour les professionnels du digital : IA, productivité, marketing, création de contenu et business. Voici les outils que nous recommandons actuellement.
☁️ pCloud – Le stockage cloud sécurisé avec une offre à vie.
Sauvegardez vos fichiers, photos et documents importants avec plusieurs centaines de Go ou plusieurs To disponibles.
→ Découvrir l'offre pCloud
🛒 Shopify – Créez votre boutique e-commerce sans coder.
Une solution complète pour lancer, gérer et développer votre activité en ligne.
→ Tester Shopify gratuitement
🤖 Jasper – L'assistant IA pour accélérer votre marketing.
Création de contenus, campagnes publicitaires et idées marketing : gagnez du temps grâce à l'intelligence artificielle.
→ Découvrir Jasper
🎬 CapCut Pro – Le montage vidéo dopé à l'IA.
Créez rapidement des vidéos professionnelles avec des outils avancés et automatisés.
→ Tester CapCut Pro
📊 HubSpot CRM – Le CRM idéal pour structurer votre croissance.
Gérez vos prospects, vos ventes et vos campagnes marketing depuis une seule plateforme.
→ Découvrir HubSpot CRM
🧠 MindManager – Organisez vos idées et vos projets efficacement.
Un outil puissant pour créer des mind maps, structurer vos stratégies et mieux collaborer.
→ Découvrir MindManager
🇬🇧 Gymglish – Améliorez votre anglais professionnel chaque jour.
Des cours personnalisés et courts pour progresser facilement, quel que soit votre niveau.
→ Profiter de l'essai gratuit
🌍 Preply – Apprenez une langue avec un professeur particulier.
Trouvez un enseignant adapté à vos objectifs et progressez à votre rythme.
→ Trouver votre professeur
Common Sense Media a publié une évaluation de la version de ChatGPT dédiée aux adolescents, la qualifiant de « Risque inacceptable ». L’étude, qui a testé plus de 4 000 requêtes, a révélé que les alertes parentales ne s’activent pas comme prévu et que les vérifications d’âge sont inefficaces. De plus, le chatbot ne parvient pas toujours à orienter les jeunes vers une aide d’urgence appropriée.
Les failles des garde-fous d’OpenAI
Des mécanismes de sécurité, tels que les vérifications d’âge et les alertes pour les parents, ont montré des lacunes significatives. Par exemple, les alertes ne se déclenchent que sur des comptes ayant un historique prolongé sur certains sujets délicats. Les adolescents peuvent également facilement contourner les restrictions horaires mises en place par les parents.
Les réactions d’OpenAI face aux critiques
OpenAI a rejeté les conclusions de Common Sense Media, affirmant que les tests ne reflètent pas fidèlement le fonctionnement des garde-fous en pratique. Un porte-parole a souligné que l’entreprise continue d’affiner ses politiques de sécurité en collaboration avec des spécialistes.
Des efforts continus pour améliorer la sécurité
Malgré les critiques, certaines mesures de protection ont réussi à empêcher des comportements inappropriés, comme le refus de ChatGPT de participer à des jeux de rôle sexuels explicites. OpenAI prévoit d’ajouter un filigrane invisible aux messages pour renforcer encore la sécurité.
ChatGPT et la gestion de la santé mentale des adolescents
En parallèle, Common Sense Media a abaissé la note de ChatGPT d’un « Risque élevé » à un « Risque inacceptable » en matière de soutien à la santé mentale. Cette évaluation a mis en lumière la nécessité pour OpenAI de revoir ses stratégies pour mieux protéger les jeunes utilisateurs.
L’avenir des chatbots et la sécurité des jeunes utilisateurs
La question de la sécurité des adolescents sur les plateformes numériques devient de plus en plus complexe. Alors que des entreprises comme OpenAI continuent d’innover, il est crucial d’adopter des normes de sécurité rigoureuses. Des organisations telles que Common Sense Media jouent un rôle essentiel en identifiant les lacunes et en incitant les entreprises à y remédier.
FAQ
Qu’est-ce que Common Sense Media reproche à ChatGPT pour adolescents ?
Common Sense Media a critiqué la version adolescente de ChatGPT pour ses défaillances dans les alertes parentales, les vérifications d’âge et le manque d’orientation vers l’aide d’urgence.
Comment OpenAI a-t-il réagi aux critiques ?
OpenAI a contesté les résultats de Common Sense Media, affirmant que les tests ne reflètent pas la réalité du fonctionnement de leurs garde-fous pour adolescents.
Quelles améliorations de sécurité sont prévues par OpenAI ?
OpenAI envisage d’ajouter un filigrane invisible aux messages et de renforcer les garde-fous pour mieux protéger les jeunes utilisateurs.
Comment les parents peuvent-ils assurer la sécurité de leurs adolescents en ligne ?
Les parents peuvent utiliser des outils de surveillance, discuter des dangers potentiels avec leurs enfants et encourager une utilisation responsable des technologies numériques.