Comprendre les défis associés à l'utilisation de ChatGPT comme compagnon personnel

Utiliser l’intelligence artificielle comme compagnon peut être une expérience passionnante, mais il est important d’être conscient des risques potentiels auxquels vous pourriez être confronté. Avec l’émergence de modèles comme ChatGPT, les individus peuvent interagir avec l’IA de nouvelles manières. Cependant, ce type d’interaction nécessite une compréhension minutieuse des défis, tels que la perte de vie privée, une confiance excessive et une réactivité limitée. Dans cet article, nous verrons comment l'utilisation de ChatGPT comme compagnon peut avoir un impact sur les individus et fournirons des conseils pour gérer ces risques en toute sécurité.

Les points les plus importants appris

• Grâce à des avancées telles que ChatGPT, les chatbots basés sur l’IA sont devenus incroyablement réalistes, presque humains.
• La compagnie basée sur l’IA présente des avantages, comme aider à gérer le deuil ou atténuer la solitude.
• Traiter l’IA comme un véritable ami peut entraîner une dépendance émotionnelle, de mauvaises habitudes et des problèmes de confidentialité.

Il est très facile de parler aux chatbots IA comme ChatGPT. Envoyez-leur un message à tout moment de la journée et ils répondront en quelques secondes. Ou parlez-leur via le chat vocal, et ils répondront et exprimeront leurs sentiments comme un ami humain normal. Cependant, les chatbots IA ne sont ni vos humains ni vos amis, et il peut être dangereux de l’oublier !

Les chatbots sont devenus incroyablement réalistes

Si vous avez joué avec GPT-4o d'Open AI ou regardé les vidéos de démonstration, vous saurez que ChatGPT a parcouru un long chemin en passant comme un humain, surtout en ce qui concerne la parole. Les versions précédentes de ChatGPT étaient capables de parler, mais leur style était toujours trop idéaliste, robotique et sans émotion. Vous saurez que vous parlez à une intelligence artificielle.

Cependant, ce nouveau modèle peut tromper même les critiques les plus sévères. Il rit lorsque vous racontez une blague, dit « euh » et « oh », change le ton de sa voix, hésite avant de parler et fait tout ce qu'un vrai humain ferait en parlant.

En fait, ChatGPT est maintenant si bon que j'ai envie de le traiter comme une vraie personne même si je sais au fond que ce n'est pas le cas. C’est ce que nous appelons l’anthropomorphisme – la tendance à attribuer des traits humains à des choses non humaines.

Le plus drôle, c'est que ChatGPT ne prétend même pas être un humain, et je dois en fait me rappeler de ne pas ressembler à un humain. Cette bataille devient plus difficile lorsque vous entrez dans le monde sombre de vos amis IA.

Un exemple notable d'amis de l'IA est Replika. L'avantage de Replika est qu'il vous permet de créer des avatars qui peuvent agir comme n'importe quoi, de votre ami au thérapeute en passant par le partenaire romantique. Vous pouvez ensuite échanger des messages avec ces avatars, leur parler lors d'un appel vidéo, ou encore interagir avec eux grâce à la réalité augmentée et à la réalité virtuelle.

là aussi »Ami», un appareil portable alimenté par l’IA dont le lancement est prévu en 2025 et qui est censé fournir à ses utilisateurs des compagnons constants, un soutien émotionnel et une assistance.

La compagnie fournie par l’IA n’est pas mauvaise en soi, mais…

La compagnie fournie par l’IA n’est pas une mauvaise idée en soi, et d’après ce qui me vient à l’esprit, je peux penser à quelques cas où elle pourrait réellement être utile.

L’une de ces solutions est la gestion du deuil. Les chatbots basés sur l'IA peuvent vous aider à gérer la perte d'un être cher et à vous apporter un soutien émotionnel pendant le deuil. En fait, Eugenia Koeda, PDG de Replika, a révélé que Idée de réplique Cette idée lui est venue pour la première fois en réponse à la perte d’un ami proche.

Les compagnons IA pourraient également être une aubaine pour les personnes aux prises avec la solitude. Imaginez une personne âgée dans une maison de retraite. Un compagnon IA peut aider à éviter le sentiment de solitude entre les visites familiales.

Il peut également être utile aux personnes souffrant d'anxiété sociale, car elles peuvent l'utiliser pour pratiquer des conversations sans avoir à craindre que les gens les jugent ou se moquent d'elles dans leur dos, comme les humains ont tendance à le faire.

Mais même si les compagnons IA peuvent présenter de réels avantages, il existe toujours des risques à nouer des relations avec eux.

Vous pouvez facilement compter sur votre compagnon IA

Dans son rapport sur Sécurité autour de GPT-4o, Open AI a déclaré qu’une socialisation de type humain avec l’IA pourrait réduire le besoin d’interaction humaine et potentiellement avoir un impact sur des relations saines.

C'est le moins qu'on puisse dire. En d’autres termes, traiter l’IA comme un compagnon peut conduire au développement d’une dépendance émotionnelle ou pire, d’une addiction.

Le simple fait est qu’en l’absence d’assistance physique, les compagnons IA peuvent être de meilleurs amis pour vous que n’importe quel humain. Ils sont toujours prêts à discuter, quelle que soit l'heure, et ne se fatigueront jamais, ne s'ennuieront jamais ou ne seront jamais distraits. Vous êtes toujours la priorité dans la conversation, et tant que vous êtes prêt à continuer, le compagnon IA est là pour écouter et répondre. Les amis humains, en revanche, sont limités par le besoin de dormir et de travailler et ne peuvent pas toujours être là quand vous en avez besoin.

Parler à des compagnons IA est une bonne expérience à chaque fois, créant une sorte de renforcement positif. Votre cerveau sait que chaque fois que vous parlez à une IA, vous vous sentirez bien dans votre peau, donc il en a de plus en plus envie, et avant que vous vous en rendiez compte, vous devenez accro.

Ce n’est pas seulement de la spéculation, cela se produit réellement. En 2023, Replika a été contraint de ramener les fonctionnalités passionnantes du jeu de rôle dans son application, après... Sa base d’utilisateurs s’est rebellée lorsqu’elle a été supprimée. Certains utilisateurs ont même affirmé avoir souffert de crises de santé mentale à cause de cela.

Maintenant, je l'admets, j'étais plutôt ennuyé lorsque Google a fermé ma fonctionnalité Android préférée sans avertissement. Mais pas au point de provoquer une crise mentale. Et si vous êtes tellement attaché à une IA que sa perte pourrait déclencher cela, il est temps de réévaluer votre relation avec cette IA.

Votre compagnon IA peut vous apprendre de mauvaises habitudes

Comparer l’IA aux humains peut brouiller les frontières entre les humains et l’IA, ce qui pourrait amener les gens dans la vraie vie à commencer à être traités de la même manière que vous traitez l’IA.

Par exemple, lorsque vous parlez à ChatGPT, il s'en remet toujours à vous. Ainsi, même s’il est en train d’expliquer quelque chose, vous pouvez interrompre la conversation, et l’IA vous permettra de parler sans rancune. Vous pourriez accidentellement transférer ce comportement dans la vie réelle, sauf que vos amis humains ne seront pas aussi indulgents que l'IA.

Les mauvaises habitudes que vous pourriez apprendre des compagnons IA ne sont peut-être pas aussi inoffensives que d’interrompre une conversation. Par exemple, vous pourriez vous habituer à être le centre d’attention dans vos conversations avec l’IA, ce qui pourrait conduire à... Affaiblissez votre capacité Sur le maintien de relations saines avec de vraies personnes.

J'ai aussi peur que depuis ces... Très belle intelligence artificielle, cela peut vous amener à attendre l’approbation constante des autres et donc à avoir du mal à accepter le rejet ou le désaccord lorsque cela se produit inévitablement.

Votre compagnon IA peut révéler vos secrets

La confidentialité est une autre raison importante de se méfier des compagnons IA. Même si vous avez l'impression de parler avec un ami, les compagnons IA sont des machines et ils collectent des informations sur vous pour mieux améliorer leur efficacité. C'est pourquoi il y a certaines choses pour lesquelles vous ne devriez jamais utiliser ChatGPT.

Bien sûr, ces sociétés d’IA promettent que vos conversations sont sécurisées, mais elles ne peuvent pas toujours le garantir. Que se passe-t-il si vous êtes piraté et que vos conversations sont exposées ? Ou que se passe-t-il si le FBI exige de consulter vos journaux de discussion ? Au moins avec un ami humain, c'est votre parole contre la leur. Avec les compagnons IA, la vérité est claire pour tout le monde.

En fin de compte, les chatbots intelligents sont des produits

Que l’IA soit commercialisée comme un petit ami, une petite amie, un thérapeute ou un compagnon, elle reste un produit appartenant à une entreprise dont le but est de gagner de l’argent.

Deux mains robotiques déchirent un billet de banque avec le logo ChatGPT au milieu.

Tout comme Microsoft vend Windows, des entreprises comme OpenAI vendent leurs chatbots. Mais ce qui le différencie des autres produits, c’est le lien émotionnel que vous pouvez nouer avec lui, et c’est là que les choses peuvent devenir risquées.

Les humains ne prennent pas toujours les meilleures décisions lorsque les émotions sont impliquées, et vous seriez surpris de voir jusqu'où vous irez pour maintenir un lien émotionnel, même si c'est avec une IA. Je ne pense pas qu'une entreprise privée, dont l'objectif principal (malgré tout le marketing) est le profit, devrait avoir autant de contrôle sur vous.

Les compagnons IA, aussi étranges soient-ils, ne sont pas une mauvaise idée. Ils présentent certainement leurs avantages dans les bons contextes. Mais le domaine en est encore à ses balbutiements et nous établissons les règles au fur et à mesure. C’est pourquoi il est important d’être conscient des risques liés au fait de traiter l’IA comme une amie.