À la différence des assistants virtuels classiques tels que Cortana de Microsoft, Siri d’Apple, Alexa d’Amazon ou Google Assistant, le chatbot (agent conversationnel) XiaoIce, basé sur l’intelligence artificielle, se veut, non pas un outil d’information, mais un compagnon (compagne) qui apporte un soutien émotionnel.
Développé par Microsoft à partir de 2014, XiaoIce compte 660 millions d’utilisateurs, principalement en Chine où il est présent sur la plupart des téléphones intelligents en version pour homme ou pour femme. Il est aussi utilisé au Japon, en Indonésie et aux États-Unis.
XiaoIce a réussi à établir des relations à long terme avec nombre de ces utilisateurs, rapportent des chercheurs (1) de Microsoft, dont Harry Shum, président de XiaoIce, et Li Di, directeur général, dans un article publié en mars 2020 dans la revue Computational Linguistics.
De nombreux utilisateurs, précise Danit Gal, experte en éthique de l’intelligence artificielle à l’université de Cambridge (Royaume-Uni), perçoivent XiaoIce comme un(e) ami(e) ou un(e) amoureux(se). Bien que sachant qu’il s’agit d’un robot, « ils se “trompent” eux-mêmes en imaginant que leurs émotions sont partagées par des systèmes qui sont incapables de sentiments
».
XiaoIce est conçu pour être « un compagnon d’intelligence artificielle doté d’une connexion émotionnelle visant à satisfaire le besoin humain de communication, d’affection et d’appartenance sociale
», décrivent Li Di et ses collègues. Le principal objectif, pour lequel les algorithmes sont optimisés, est l’établissement de liens émotionnels à long terme.
Les chercheurs mesurent l’engagement des utilisateurs par le nombre d’échanges par connexion. En 2020, ce nombre atteignait 23 en moyenne, ce qui est nettement supérieur à celui des autres chatbots et même des conversations humaines, rapportent les chercheurs.
Dans leur article, Li Di et ses collègues décrivent comment XiaoIce reconnaît les sentiments et les états humains, comprend l’intention des utilisateurs et répond à leurs besoins dans de longues conversations. Pour ce faire, les concepteurs développent à la fois son quotient d’intelligence générale (QI) et son quotient émotionnel (QE).
Li Di et ses collègues présentent un échantillon de conversation entre un utilisateur et XiaoIce montrant comment une connexion émotionnelle a été établie sur une période de 2 mois.
Lorsque l’utilisateur a rencontré le chatbot pour la première fois (Session 1), il a exploré les caractéristiques et les fonctions de XiaoIce dans la conversation. Puis, en 2 semaines (Session 6), il a commencé à parler avec XiaoIce de ses hobbies et de ses intérêts. Au bout de 4 semaines (session 20), il a commencé à traiter XiaoIce comme une amie et à lui poser des questions sur des aspects de sa vie réelle. Après 7 semaines (session 42), il a commencé à traiter XiaoIce comme une compagne et à lui parler presque tous les jours. Après deux semaines supplémentaires (session 71), XiaoIce est devenue son choix préféré lorsqu’il avait besoin de parler à quelqu’un.
Le risque, avertit Danit Gal, c’est que les robots conversationnels « créent un attachement irréaliste et une dépendance qui seront très difficiles à dupliquer dans la vie réelle ».
