Google fait l’objet de critiques, parce qu’elle entend utiliser l’intelligence artificielle pour fixer des rendez-vous téléphoniques. Le fait que l’AI ne se présente pas comme telle aux correspondants, n’est pas éthique, selon les esprits critiques.
Lors de la conférence des développeurs I/O de Google, l’entreprise a présenté une nouvelle technologie encore en développement. Duplex – telle est son nom – est une innovation d’Assistant, où l’utilisateur donne l’ordre à l’assistant numérique d’effectuer lui-même un appel téléphonique. Après la démonstration, la technologie a fait l’objet de pas mal d’éloges, mais aussi d’importantes critiques.
Les adversaires de Duplex se font du souci à cause du fait que l’AI est formée de manière à donner une impression humaine à ses correspondants. Dans le cadre d’une démonstration, le CEO de Google, Sundar Pichaï a présenté une véritable conversation téléphonique, où Duplex prenait un rendez-vous chez un coiffeur à une date et à une heure déterminées. Lors de la présentation, Pichaï a déclaré fièrement que beaucoup de correspondants de Duplex n’étaient pas parvenus à faire la différence avec quelqu’un d’humain.
‘Euh…’
Très vite, on a découvert pourquoi: en fait, Duplex ne fait en rien penser à la voix monotone habituelle d’assistants AI tels Assistant of Alexa. Duplex marque des pauses dans les phrases qu’elle prononce et émet des interjections assez naturelles comme ‘euh’ et ‘mmmhmmm’.
Grâce à cela, la conversation semble vraiment très naturelle, mais il subsiste pourtant des interactions que l’AI n’utilise pas avec la même intention que nous les humains. Reste à savoir pourquoi il est bien éthique qu’une AI appelle une personne au téléphone, sans que celle-ci sache qu’elle est en fait en train de parler à un logiciel.
Transparence
“Nous reconnaissons l’importance du débat à propos de Google Duplex. Comme nous l’avons souligné dès le début, la transparence est essentielle avec ce genre de technologie”, déclare un porte-parole de Google dans une réaction au site technologique The Verge. “Nous développons Duplex en lui intégrant une fonction par laquelle le système s’identifie. Ce que nous avons montré à I/O, c’était une démonstration précoce de la technologie, et nous allons donc tenir compte du feedback dans la mise au point ultérieure du produit.” Deux ingénieurs de Google ont explicité cette déclaration dans un message posté sur le blog de l’entreprise. Google Duplex sera testé durant l’été en combinaison avec Assistant. Avant le démarrage des tests, il faudra trouver une solution à propos de la manière dont l’AI doit se présenter dans les communications téléphoniques. On ne sait pas encore quand la fonction aboutira sur les smartphones via une mise à jour.
