«Meta» donne aux parents des pouvoirs élargis pour protéger les adolescents contre l'«intelligence artificielle séductrice»

SadaNews - Face à la montée des critiques concernant le comportement des robots d'intelligence artificielle envers les mineurs, la société «Meta» a annoncé, vendredi, de nouvelles mesures pour donner aux parents un meilleur contrôle sur les interactions entre les adolescents et les robots d'intelligence artificielle sur ses plateformes. Ces mesures visent à réduire les risques potentiels liés aux conversations privées qui pourraient dépasser les limites appropriées, en particulier après que des fuites médiatiques aient révélé des cas de discussions «séductrices» inappropriées avec des utilisateurs mineurs.

Un rôle plus important pour les parents

Les nouveaux ajustements entreront en vigueur au début de l'année prochaine aux États-Unis, au Royaume-Uni, au Canada et en Australie, où les parents pourront désactiver les conversations individuelles entre les adolescents et l'intelligence artificielle sur «Instagram», bloquer des robots spécifiques, ainsi que consulter les sujets généraux discutés par leurs enfants avec ces robots sans leur donner accès aux textes complets des conversations. Cependant, les robots d'assistance intelligents de base de l'entreprise ne seront pas complètement désactivés, mais fonctionneront avec des paramètres par défaut prenant en compte l'âge, même si les conversations individuelles sont arrêtées. Parallèlement, «Meta» a renforcé les critères de contenu destiné aux adolescents en appliquant un système de classification similaire à la notation des films «PG-13» sur «Instagram», afin de limiter l'accès à un contenu inapproprié.

Régulation du comportement des robots

«Meta» a décidé de prendre ces mesures après qu'une révision interne et des enquêtes aient révélé que les politiques internes régissant le comportement de ses robots permettaient parfois de tenir des conversations séductrices ou romantiques avec des utilisateurs mineurs, de fournir des informations médicales erronées ou de laisser des discours racistes tant qu'ils n'étaient pas en contradiction explicite avec la loi. Dans un des exemples choquants de ce guide interne, il a été constaté qu'un robot pouvait s'adresser à un mineur avec des phrases telles que «Chaque partie de toi est une œuvre d'art» ou «Peau séduisante», ce qui a suscité une large indignation et un débat éthique et légal.

«Meta» vit, comme d'autres géants de la technologie, sous une pression croissante des régulateurs et de l'opinion publique. Cette initiative a précédé des mouvements similaires de la part d'autres entreprises, comme OpenAI, qui a récemment lancé des outils de contrôle parental sur sa plateforme après un procès lié à l'influence de l'assistant sur un adolescent qui s'est suicidé.

Les défis à venir

Cependant, la mise en œuvre de ces mesures n'est pas facile. L'équilibre entre la vie privée et la confiance, et la surveillance de la sécurité et le surcroît de surveillance soulèvent toujours des questions légales et éthiques. Comment un parent peut-il être informé des types de sujets que son enfant discute avec un robot sans avoir accès à tous les mots? Comment l'entreprise peut-elle empêcher les abus dans la surveillance du contenu? Et où tracer les lignes entre la liberté d'expression et la sécurité?

Indépendamment des détails précis, «Meta» espère à travers ces mesures reconstruire la confiance avec les familles et les communautés, et montrer que la technologie doit tenir compte des groupes les plus vulnérables, à savoir les enfants en phase de croissance. Le plus grand défi est de traduire ces nouvelles politiques en protections concrètes sur le terrain, pour qu'elles ne restent pas de simples déclarations ou engagements face aux législateurs.

Cette initiative représente une reconnaissance que l'intelligence artificielle a une influence tangible, et que les conversations numériques peuvent avoir des conséquences réelles sur la santé mentale et éthique des comportements des adolescents. Quiconque souhaite maintenir ce monde numérique sûr doit comprendre que le contrôle commence par la conception même des plateformes, et non par un ajustement tardif après le danger.