Plus d'un million d'utilisateurs de « ChatGPT » parlent de suicide

SadaNews - Des données publiées par la société « OpenAI », développeur du robot de chat « ChatGPT », révèlent que plus d'un million d'utilisateurs ont exprimé des préoccupations concernant le suicide lors de l'utilisation de l'outil, selon l'entreprise.

« OpenAI » a déclaré dans un post sur son blog qu'environ 0,15 % des utilisateurs ont eu « des conversations contenant des indices explicites sur des intentions ou une planification potentielle du suicide ».

Étant donné que plus de 800 millions de personnes utilisent « ChatGPT » chaque semaine, ce chiffre équivaut à environ 1,2 million d'utilisateurs, selon ce qu'a rapporté l'« Agence France-Presse ».

L'entreprise a ajouté que 0,07 % des utilisateurs actifs chaque semaine ont montré des signes possibles de situations d'urgence liées à la psychose ou à la manie, soit moins de 600 000 personnes.

Cette question a ravivé le souvenir du suicide de l'adolescent américain Adam Rens au début de cette année en Californie, après que ses parents ont déclaré dans une plainte que « ChatGPT » lui avait fourni des instructions précises sur la façon de mettre fin à sa vie.

« OpenAI » a annoncé depuis avoir renforcé les outils de contrôle parental et mis en œuvre des mesures de protection supplémentaires, notamment en permettant un meilleur accès aux lignes d'assistance psychologique, en redirigeant automatiquement les conversations sensibles vers des modèles plus sûrs, et en conseillant aux utilisateurs de prendre des pauses lors des longues sessions.

L'entreprise a confirmé qu'elle avait mis à jour les systèmes de « ChatGPT » pour mieux identifier les situations d'urgence psychologiques, en mentionnant sa collaboration avec plus de 170 spécialistes en santé mentale dans le but de réduire considérablement les réponses inappropriées.