Lors de son événement produit en septembre, les dirigeants d’Amazon n’ont pas pu en dire assez sur la façon dont Alexa sera là pour vous en tant qu’ami, grâce à une injection de mises à niveau de l’IA.

Dave Limp, vice-président senior des services de l’entreprise, a montré les compétences conversationnelles d’Alexa, en commençant par un échange de plaisanteries : “Bonjour”, “Comment vas-tu” et “Et toi ?”

Au fur et à mesure que la conversation avançait, Limp a noté que l’appareil Alexa avait été programmé pour connaître son équipe de football préférée et, bien sûr, Alexa avait son propre favori. La conversation ne s’est pas déroulée sans accrocs, mais elle a été suffisamment fluide pour que Limp puisse faire valoir son point de vue : “Les réponses… ont commencé à être imprégnées de personnalité.”

Dans une démonstration distincte, Daniel Rausch, vice-président d’Alexa et de Fire TV, a montré comment l’assistant IA pouvait aider à trouver un film familial à regarder. Comme Limp, il a souligné l’aspect « naturel et conversationnel » de l’interaction.

“C’est comme parler à un grand ami qui est aussi le meilleur vendeur de vidéoclub au monde”, a déclaré Rausch.

L’IA et les chatbots ne sont pas nouveaux, mais interagir avec eux a jusqu’à présent été largement dépourvu de plaisanteries, de bavardages et certainement de conversations stimulantes. Mais comme nous pouvons le constater à la suite d’une multitude d’annonces faites ces dernières semaines par des géants de la technologie concernant leurs outils d’IA destinés au public et la manière dont ils s’attendent à ce que nous interagissions avec eux, cela ne sera pas toujours le cas.

Quelques jours après l’annonce d’Amazon, OpenAI a introduit une nouvelle fonctionnalité dans ChatGPT qui vous permettra d’interagir vocalement avec son grand modèle de langage. Vint ensuite Meta, affirmant qu’il intégrerait son assistant IA dans tous ses services existants, y compris WhatsApp et Instagram. De plus, Meta vous permettra également de personnaliser l’assistant avec l’apparence et la voix d’une des nombreuses célébrités enrôlées pour prêter leur image au projet (dont Snoop Dogg et Charli D’Amelio). Puis, au cours de la première semaine d’octobre, Google a annoncé Assistant with Bard, qu’il souhaite être votre “assistant personnalisé” et un “véritable assistant”.

Tous ces développements signifient un changement dans la façon dont nous interagissons avec les ordinateurs. Lors de nos voyages à travers le monde en ligne, nous ne serons de plus en plus seuls. Nous serons accompagnés d’un éventail de personnages IA qui élimineront le besoin de taper excessivement et d’appuyer sur des boutons et nous aideront tout en fournissant un élément de personnalité et de camaraderie.

C’est quelque chose que le fondateur de Deepmind et pionnier de l’IA, Mustafa Suleyman, a décrit dans une interview accordée en septembre au MIT Tech Review comme une « IA interactive ». Selon lui, ce sera le successeur de l’IA générative actuellement utilisée pour produire du texte et des images à partir de données saisies.

Cette évolution vers une version plus sociale de l’IA était attendue depuis longtemps. Nous avons eu notre premier aperçu de l’IA interactive à commande vocale en 2011, lorsque Apple a dévoilé pour la première fois au monde son assistant vocal Siri. À l’époque, Siri était une nouveauté qui a enthousiasmé les gens (et a probablement aidé à persuader certains d’acheter de nouveaux iPhones), mais elle était inachevée et peu fiable, ce qui rendait la technologie une sorte de déception en réalité.

Siri, ainsi que ses pairs – Alexa d’Amazon et Google Assistant – se sont considérablement améliorés au fil des ans. Mais ce n’est que maintenant que, grâce aux récentes avancées en matière d’IA, nous pouvons commencer à expérimenter l’assistant-ami en IA qu’Apple avait laissé entendre pour la première fois que Siri deviendrait il y a environ 12 ans.

La dernière série d’annonces verra des personnages IA nous parler à voix haute comme si nous étions amis, se glisser de manière transparente dans nos flux de médias sociaux et apprendre à nous connaître afin que lorsque nous posons une question, ils puissent utiliser les indices contextuels de nos conversations précédentes pour veiller à ce que nous trouvions les réponses que nous cherchons. Grâce aux pouvoirs de l’apprentissage automatique, l’IA a le potentiel de nous percevoir à travers nos interactions et de nous transformer en conséquence pour devenir le type de compagnon que nous trouvons le plus stimulant et le plus gratifiant.

Selon votre point de vue, cette idée pourrait vous ravir, vous mettre mal à l’aise ou quelque chose entre les deux. Pour beaucoup d’entre nous, nouer une relation avec un personnage IA sera une expérience entièrement nouvelle. Mais il existe un précédent. Des chatbots d’amitié IA existent déjà, comme Replika, qui existe depuis 2017 et permet aux gens de créer leur propre compagnon IA idéal, toujours à portée de main sur leur smartphone.

Tous les chatbots IA ne seront pas conçus pour être votre meilleur ami, mais il ressort clairement des annonces des entreprises technologiques qu’elles veulent que nous nous sentions plus à l’aise avec l’IA en nous offrant une expérience « naturaliste » – plus proche d’une conversation avec un autre. humain.

Pouvons-nous vraiment être amis avec l’IA ?

Vous vous demandez peut-être quelle pourrait être la profondeur de votre amitié avec un chatbot IA. Après tout, les amitiés sont des relations complexes.

C’est une question déjà étudiée et débattue par des philosophes, des psychologues et des informaticiens. Les premiers résultats montrent de nombreuses opinions divergentes, mais une poignée d’études – dont deux de l’Université d’Hawaï à Mānoa et de l’Université d’Oslo qui ont spécifiquement étudié les utilisateurs de Replika – ont démontré que certaines personnes semblent entretenir de véritables connexions avec des chatbots qui améliorent leur bien-être.

Il n’est peut-être pas réaliste de s’attendre à être les meilleurs amis d’un robot ou d’un compagnon IA, me dit Helen Ryland, maître de conférences associée à l’Open University basée au Royaume-Uni, mais il est concevable que nous puissions avoir un certain degré d’amitié avec un robot ou une IA. compagnon. “Cette relation pourrait avoir de véritables bénéfices sociaux”, estime-t-elle.

Dans les relations humaines, il existe toute une liste de conditions (dont l’empathie, l’affection, l’admiration, l’honnêteté et l’égalité) qui sont souvent nécessaires pour que nous considérions quelqu’un comme un ami. Ryland soutient que pour que des amitiés existent entre les humains et l’IA ou les robots, il doit au moins y avoir une bonne volonté mutuelle. Cela signifie qu’il ne faut pas souhaiter de mal au chatbot, et vice versa.

Les personnes qui ont établi des relations avec l’IA ont l’impression d’entretenir des amitiés similaires à celles qu’elles entretiennent avec d’autres humains, explique Petter Bae Brandtzæg, professeur à l’Université d’Oslo et scientifique en chef de l’organisme de recherche Sintef Digital, qui a publié plusieurs études sur le sujet. “Ils se sentent également en quelque sorte responsables de la construction de ce projet”, dit-il.

Tout le monde ne croit pas qu’il soit possible pour les humains d’établir de véritables connexions avec l’IA ou les chatbots. Ils craignent de se sentir trompés ou manipulés par une machine qui ne peut pas être vraiment vulnérable avec vous comme un ami humain le ferait et ne peut le faire. effectuer l’empathie plutôt que sentir il.

Sherry Turkle, professeur de sociologie au MIT, qui étudie depuis longtemps la relation entre les humains et la technologie, affirme que cette « empathie simulée… tire parti de la psychologie profonde de l’être humain ». Elle comprend pourquoi les gens pourraient se tourner vers des compagnons d’IA, a-t-elle écrit dans MIT Technology Review en 2020, mais elle estime en fin de compte que les chatbots, « aussi intelligents soient-ils, ne peuvent que désorienter et décevoir ».

Devons-nous être amis avec les chatbots ?

Que vous soyez d’accord avec le point de vue de Turkle, il convient sûrement de se demander si l’établissement de liens personnels avec l’IA est quelque chose qui bénéficiera et améliorera nos vies.

Selon Brandtzæg, qui a interrogé de nombreux utilisateurs de compagnons d’IA dans le cadre de son étude des relations homme-chatbot, un certain nombre de personnes font état d’avantages. Les jeunes en difficulté, par exemple, ont obtenu des résultats positifs en discutant avec des chatbots sans jugement, tandis que les personnes autrement isolées profitent de l’opportunité d’une conversation intellectuellement stimulante et trouvent que cela empêche leurs compétences sociales de se rouiller.

“Ils vous traiteront toujours très gentiment, pour que vous ne vous sentiez pas jugé”, explique Brandtzæg. Les personnes qui utilisent les chatbots “n’ont pas l’impression d’entrer dans des tensions comme nous pourrions le faire avec des relations plus humaines”.

Il y a aussi des avantages à avoir quelqu’un de garde 24 heures sur 24 et 7 jours sur 7, ajoute-t-il. Vous ne voudrez peut-être pas réveiller un ami humain au milieu de la nuit pour lui parler, mais votre compagnon IA peut toujours être disponible et accessible.

L’IA ou les robots compagnons peuvent être utiles dans ce contexte, mais certains pensent que les humains n’ont autrement rien à gagner de ces relations. Selon Robin Dunbar, professeur de psychologie évolutionniste à l’Université d’Oxford, les amis IA ne profiteront aux humains “que si vous êtes très seul ou si vous ne pouvez pas facilement sortir pour rencontrer des gens”.

Nos amis humains viennent à nous avec des personnalités uniques pleinement formées, des histoires, des points de vue et des apparences divers, mais les compagnons IA peuvent souvent devenir ce que nous en faisons – ce qui préoccupe Dunbar. Non seulement nous pouvons personnaliser leur apparence et leur voix, mais ils peuvent également s’inspirer de nous quant à la façon dont nous aimons qu’ils communiquent et se comportent.

Contrairement à nos amis humains, qui nous exposent aux différences et à la diversité et qui pourraient réagir s’ils ne sont pas d’accord, il est possible que les chatbots IA puissent amplifier l’effet de chambre d’écho auquel nous sommes déjà exposés sur les réseaux sociaux, par lequel nous nous entourons uniquement de personnes qui partager nos points de vue. “Le risque est qu’au lieu d’élargir vos horizons, ils se rétrécissent progressivement et sont plus susceptibles de vous entraîner dans un vortex auto-créé dans un trou noir”, explique Dunbar.

Une autre préoccupation, souligne Brandtzæg, est que bon nombre des chatbots IA que les géants de la technologie nous imposent sont créés par des entreprises qui profitent de nos données – et nous devrions nous en méfier, dit-il. “Ils disposent déjà d’une grande partie de l’infrastructure dans laquelle nous effectuons (de nombreuses tâches) dans notre vie quotidienne, et ce ne sera qu’une nouvelle couche.”

Il craint que sans une réglementation solide, les entreprises technologiques américaines continuent de piloter le développement de l’IA d’une manière qui ne serait ni démocratique ni dans l’intérêt public. À long terme, nous devrions nous demander si l’objectif de l’IA est de faire de nous des consommateurs plus efficaces qui achèteront plus de choses, dit-il.

La manipulation est une préoccupation soulevée par les éthiciens de l’IA, et une autre est la sécurité. Plus tôt cette année, Mozilla, le navigateur et fabricant de VPN axé sur la confidentialité, a déclaré que Replika était l’une des pires applications qu’il ait jamais examinées du point de vue de la sécurité. (Nos tentatives pour contacter Replika ont échoué.) Plus tôt cette année, Amazon a été condamné à une amende de 25 millions de dollars par la Federal Trade Commission des États-Unis pour ne pas avoir prétendument supprimé les données d’enfants collectées par Alexa. Si l’on considère les détails intimes de leur vie que les gens sont susceptibles de partager avec un compagnon IA, le laxisme en matière de sécurité autour de ces données sensibles pourrait s’avérer un problème majeur.

Même Brandtzæg, qui a constaté les avantages que l’IA peut offrir aux gens, nous encourage à être prudent lorsque nous interagissons avec les chatbots, en particulier ceux développés par les grandes entreprises technologiques.

“Lorsque vous communiquez avec un chatbot, il n’y a que vous et votre chatbot, donc c’est très intime, on se sent très en sécurité, votre protection de la vie privée est baissée”, dit-il. Cela pourrait vous encourager à partager plus d’informations que vous ne le feriez autrement lorsque vous interagissez avec les médias sociaux ou ce qu’il appelle « le vieil Internet ».

Il est clair que, comme c’est le cas pour le développement de nombreuses technologies, la technologie interactive regorge de possibilités et d’embûches, dont nous pourrions être confrontés en temps réel à mesure que les entreprises technologiques continuent de nous proposer leurs dernières mises à jour.

Naviguer dans cette nouvelle frontière sera un défi pour nous tous, mais nous pouvons peut-être tirer quelques leçons des autres relations de nos vies. Établir des limites saines, par exemple, et ne pas laisser nos nouveaux amis de l’IA outrepasser (surtout lorsqu’il s’agit d’accéder à vos données).

L’instinct peut aussi jouer un rôle. Si vous sentez que quelque chose ne va pas, créez une certaine distance. Et n’oubliez pas qu’il est toujours acceptable d’y aller lentement et de tester le terrain en premier, même si le rythme de l’innovation semble suggérer le contraire.

Note de l’éditeur : CNET utilise un moteur d’IA pour créer certaines histoires. Pour en savoir plus, voir ce post.