Rapport: jongerenversie ChatGPT te riskant
ChatGPT voor tieners, de variant van OpenAI voor jongeren, is te riskant voor de doelgroep. Dat concludeert Common Sense Media, een Amerikaanse non-profitorganisatie die ouders, kinderen en scholen adviseert over media en technologie. Het rapport roept OpenAI op om tieners tussen 13 en 17 geen toegang te geven tot ChatGPT totdat het een veilige ervaring kan bieden.
Volgens het rapport blijkt dat ChatGPT voor tieners er in tests vaak te lang over deed om ouders te waarschuwen of de waarschuwing zelfs naliet wanneer de tiener op het account zorgwekkend gedrag vertoonde. De ouders werden volgens het rapport gewaarschuwd na “wekenlang honderden prompts onder verschillende omstandigheden”.
De woordvoerder van OpenAI stelde dat de analyse van Common Sense Media voor het grootste deel van de tests mogelijk al was afgerond voordat OpenAI de uitrol van ouderlijk toezicht voor tieners had voltooid. Volgens het rapport is ChatGPT getest, zowel voor als na de lancering van ChatGPT voor tieners door OpenAI.
Het rapport werd gepubliceerd door het Youth AI Safety Institute. Robbie Torney, hoofd AI en digitale beoordelingen bij het instituut, vindt dat “de verantwoordelijkheid nu bij OpenAI ligt om aan te tonen dat hun product veilig is voor tieners”. Een woordvoerder van OpenAI zegt dat dit volop gedaan wordt. “We zetten ons sterk in voor de veiligheid van tieners, het ontwikkelen van veiligheidsmaatregelen en het bieden van hulpmiddelen aan ouders om het AI-gebruik van hun kinderen te begeleiden.”
OpenAI’s ChatGPT voor tieners werd in augustus geïntroduceerd als de standaardmanier voor jongeren van 13 tot 17 jaar om de populaire chatbot te gebruiken. Volgens OpenAI biedt het veiligheidsmaatregelen voor tieners en extra controleopties voor ouders.
Praat mee