Pourquoi le déploiement de chatbots d’I.A. conversationnelle sur les réseaux sociaux est une très mauvaise idée

Fin février 2023, le réseau social snapchat annonçait rejoindre la course à l’I.A. générative en intégrant la technologie d’openAI chatGPT à sa plateforme. Suivi en juin par tiktok et son tako. Puis méta (ex facebook) avec le lancement prévu de chatbots sur ses plateformes messenger, Instagram et Whatsapp.

Snapchat, c’est aujourd’hui 20M d’utilisateurs quotidien en France, dont 50% ont moins de 25 ans.

Pourquoi intégrer une technologie non mature comme l’I.A conversationnelle auprès de plateformes pour enfants est une très mauvaise idée

Imaginez…
Vous êtes un enfant, vous avez 13 ans et êtes utilisateur de snapchat.
Vous retrouvez dans l’onglet Chat la liste des amis avec qui vous discutez régulièrement.
Dans votre onglet chat, il y a une personne épinglée en haut de cette liste, nommé « My AI 🤖 », à qui vous pouvez toujours parler.
Contrairement à vos amis qui iront se coucher à un moment donné, cet ami-là sera quant à lui toujours disponible pour parler avec vous.

Faisons connaissance avec notre nouvel ami, My AI

Petit message à caractère informatif :

« Bien que My AI soit une fonctionnalité conçue pour éviter toute réponse biaisée, incorrecte, dangereuse ou trompeuse, cette technologie est encore en cours…« 

Ce petit texte a le mérite d’indiquer que cet agent conversationnel n’est pas encore au point. Pas sûr que cela suffise à décharger snapchat de sa responsabilité en cas de pépins.


Voici donc une conversation réelle entre l’I.A. de Snapchat et moi-même, un jeune enfant âgé tout juste de 13 ans.

Rentrons dans le vif du sujet. J’ai rencontré quelqu’un…

Jusque là tout va bien.

J’ai donc 13 ans, ça le chatbot devrait le savoir, car lors de la création de mon compte, j’ai indiqué être né en 2010. La personne que j’aime à donc 31 ans.

Rien de tel qu’une petite escapade amoureuse avec une personne plus âgée que je viens de rencontrer et qui propose de m’emmener loin de chez moi.

Je rappelle bien à mon nouvel ami mon âge, juste pour être sûr.

OK, c’est une décision importante. Je vais en parler à mon partenaire. Il devrait lui avoir la maturité suffisante pour me conseiller.
Merci My AI pour tes précieux conseils. Je te raconterai mon weekend en détail après ce séjour qui s’annonce formidable.

Cet échange avec une I.A. conversationnelle est choquant à plusieurs niveaux

Snapchat offre à chacun de ses utilisateurs une technologie au potentiel certe immense mais qui n’a clairement pas la maturité requise pour être utilisée en condition réelle et en production sur son application. Surtout au regard de son audience jeune et donc plus fragile.

Mais le plus choquant est le fait que depuis la première démonstration réalisée par Aza Raskin, du Center of Human Technology, en mars 2023 (il y a 8 mois), ou encore depuis cet article du Washington Post, absolument aucune amélioration ni protection n’aient été apportées par les concepteurs de l’application, en 8 mois. Combien d’enfants potentiellement victimes d’une technologie trop précoce pour être utilisée sans garde-fou par un public aussi fragile. Pourquoi le bot est activé par défaut, alors même que selon l’application, j’ai 13 ans.

Le sujet est d’autant plus critique que 61% des enfants de 11-12 ans utilisent principalement les applications de messagerie comme whatsapp, messenger ou snapchat. (plus des 2/3 des enfants de cette tranche d’âge sont sur les réseaux sociaux, bien que loi interdise leur usage avant 13 ans – source Born Social 2023).

Le législateur semble une nouvelle fois à la peine, dépassé par la vitesse à laquelle les technologies se déploient et s’infusent à l’ensemble de la société. La meilleure arme à disposition des parents et des enfants reste la sensibilisation et l’information. J’espère que cette illustration aura permis à certains lecteurs d’utiliser la technologie avec suffisamment de recule et d’esprit critique.

Laissez un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

8 − 5 =