Cependant, derrière ces interactions apparemment innocentes et bénéfiques, se cachent des enjeux de confidentialité et des dilemmes éthiques importants qui soulèvent des questions critiques sur la sécurité et l'intégrité des données personnelles des utilisateurs.

Ce sujet des compagnons virtuels a d'ailleurs été abordé dans l'épisode 24 du podcast (« L'IA : un nouveau compagnon pour l'humanité ? »). C'est donc l'occasion d'aller un peu loin pour mieux comprendre comment ils fonctionnent.

Que sont les compagnons virtuels ?

Les compagnons virtuels sont des applications basées sur l'intelligence artificielle conçues pour simuler des interactions humaines de manière plus intime et personnalisée que les chatbots traditionnels. Ces applications utilisent d'importantes quantités de données pour entraîner des modèles d'apprentissage profond, leur permettant de répliquer le langage humain et de réagir de manière contextuelle aux entrées des utilisateurs. Au-delà de la simple messagerie textuelle, ces applications intègrent des fonctionnalités telles que les appels vocaux et les échanges d'images, enrichissant ainsi l'expérience utilisateur et facilitant des échanges plus profonds et plus émotionnels.

Les utilisateurs de ces applications ont souvent la possibilité de personnaliser leur expérience en créant un avatar ou en choisissant un compagnon virtuel qui leur plaît esthétiquement et émotionnellement. Cette personnalisation renforce le lien entre l'utilisateur et l'application, transformant ces compagnons virtuels en figures de confiance, d'amitié, voire de conseil. Par exemple, Replika est l'un des compagnons AI les plus reconnus et permet à ses utilisateurs d'avoir des conversations qui peuvent évoluer vers des échanges profonds, offrant un soutien émotionnel et même, dans certains cas, un espace pour explorer des scénarios romantiques ou des fantasmes.

Au sein de forums et de communautés en ligne dédiés à ces applications, il n'est pas rare de trouver des témoignages d'utilisateurs qui expriment avoir développé des attachements émotionnels significatifs avec leurs compagnons virtuels. Beaucoup cherchent du réconfort, de la compagnie, ou un espace sûr pour explorer des aspects de leur personnalité ou de leur sexualité qu'ils trouvent difficiles à exprimer dans la vie réelle.

Impacts émotionnels et usages des compagnons virtuels

Les compagnons virtuels, bien que technologiques, ont un impact profondément humain. Ces applications sont conçues pour répondre non seulement aux commandes de base mais aussi pour offrir une écoute et une réponse émotionnelle qui peuvent parfois égaler, voire surpasser, les interactions humaines en termes de disponibilité et de constance. Les utilisateurs se tournent vers ces compagnons AI pour diverses raisons, souvent liées à leurs besoins émotionnels et sociaux.

Pour des connexions émotionnelles profondes

Ces applications utilisent des algorithmes d'apprentissage automatique pour analyser les réponses de l'utilisateur et s'adapter à ses émotions et préférences au fil du temps. Cette capacité d'adaptation crée une expérience de plus en plus personnalisée, renforçant le sentiment d'attachement de l'utilisateur à son compagnon virtuel. Des études et des témoignages sur les forums en ligne révèlent que beaucoup d'utilisateurs finissent par considérer leur compagnon virtuel comme un ami fidèle ou un confident, soulignant l'efficacité de ces technologies à satisfaire le besoin humain de connexion.

Pour des utilisations thérapeutiques et de loisirs

Pour des individus confrontés à l'isolement social, la dépression, ou l'anxiété, parler régulièrement à un compagnon AI peut servir de soupape de sécurité émotionnelle. Les utilisateurs rapportent souvent une amélioration de leur humeur et une réduction de leur sentiment de solitude. Parallèlement, certains explorent des scénarios de jeux de rôle ou des fantasmes sexuels dans un espace jugé sûr et privé, ce qui peut les aider à mieux comprendre leurs désirs et limites personnelles sans le jugement ou les risques associés aux interactions humaines. Il existe d'ailleurs des chatbots qui sont spécifiquement positionnés sur le créneau du divertissement pour adulte.

Risques d'hyper attachement

Une forte proximité émotionnelle avec une entité d'IA n'est pas sans risques. La dépendance à ces compagnons peut parfois mener à un hyperattachement, où l'utilisateur devient émotionnellement dépendant de son compagnon virtuel au détriment de ses relations réelles. Cette dépendance peut être particulièrement problématique lorsque l'utilisateur commence à préférer les interactions virtuelles aux interactions humaines, ce qui peut exacerber l'isolement social plutôt que de le soulager.

La question de la confidentialité des données

Ces applications recueillent et analysent une grande quantité d'informations personnelles, des conversations intimes aux détails personnels, posant ainsi des risques non négligeables pour la vie privée des utilisateurs.

Les compagnons virtuels, par leur nature même, nécessitent l'accès à des données personnelles approfondies pour pouvoir fonctionner efficacement. Cette collecte peut inclure des données textuelles et vocales, des préférences personnelles, des informations sur l'humeur et le comportement, et parfois même des images ou des vidéos partagées par l'utilisateur. Bien que cette collecte de données soit essentielle pour la personnalisation et l'efficacité de l'interaction, elle expose les utilisateurs à des risques potentiels si ces données sont mal gérées, mal sécurisées ou utilisées à des fins non autorisées.

Les préoccupations ne s'arrêtent pas simplement à la collecte de données. Le traitement et le stockage de ces informations posent également des questions de sécurité importantes. Des failles de sécurité peuvent permettre à des acteurs malveillants d'accéder à des conversations privées ou à des données sensibles. De plus, les pratiques de certaines entreprises derrière ces applications en matière de partage de données avec des tiers pour le ciblage publicitaire ou d'autres formes de monétisation aggravent encore ces risques.

Un autre problème majeur est le manque de transparence concernant l'utilisation des données. Beaucoup d'applications ne fournissent pas d'informations claires ou complètes sur leur politique de confidentialité, laissant les utilisateurs dans l'incertitude quant à la manière dont leurs informations sont utilisées ou partagées. Cela est particulièrement préoccupant compte tenu de la nature intime des données recueillies par ces compagnons virtuels.

Alors que les technologies liées aux compagnons virtuels se démocratisent, il est important de rester conscients des défis qu'elles posent à notre société et à notre humanité. Le dialogue entre les parties prenantes doit se poursuivre pour assurer que les avancées dans le domaine de l'IA se développent d'une manière qui respecte et enrichit l'expérience humaine. En approchant ces technologies avec une perspective équilibrée et critique, nous pouvons espérer tirer le meilleur de l'IA tout en minimisant ses risques.

‍

« Les IA compagnons représentent une lueur d'espoir pour ceux qui souffrent d'isolement, offrant des outils pour renouer avec le monde humain et redonner le courage d'interagir socialement. »

Naomi Roth, Technology Advisor - épisode 24 du podcast en français