Avec son nouveau service Google Duplex, le patron de Google fait faire un pas de géant à l’intelligence artificielle: l’assistant vocal peut prendre rendez-vous pour nous chez le coiffeur ou réserver une table au restaurant et cela, avec une voix humaine quasi parfaite. Les call centers n’ont qu’à bien se tenir.
Aujourd’hui, nous sommes déjà habitués à parler avec des assistants virtuels comme Siri d’Apple, Alexa d’Amazon ou Assistant de Google. Généralement, c’est pour donner un ordre, du genre baisser la température ambiante, ou pour chercher une information comme la température qu’il fait à la mer pour notre prochain weekend à la côte.
Mais la semaine dernière, Google a franchi une étape supplémentaire. Sundar Pichai, le CEO de Google a dévoilé la dernière trouvaille de ses ingénieurs : Google Duplex. C’est le nom de l’intelligence artificielle qui va mettre au chômage tous les vendeurs et tous les commerciaux du monde entier. En tout cas, c’est déjà comme cela que Google Duplex est perçu par quelques gourous actifs sur LinkedIn.
Pourquoi cette crainte ? Parce que le patron de Google a montré deux exemples en direct durant lesquels Google Duplex, a téléphoné à un restaurant et à un coiffeur pour prendre rendez-vous à sa place. C’était épatant de vérité, car cette intelligence artificielle n’avait pas une voix métallique ou reconnaissable d’un robot, mais une voix bien humaine. Mieux encore, durant la prise de rendez-vous, cette voix prenait des pauses de quelques secondes avant de répondre et nous imitait en tant qu’êtres humains, avec toutes nos imperfections.
« Google Duplex va mettre au chômage tous les vendeurs et tous les commerciaux du monde entier »
En clair, au lieu de répondre « oui » ou « non » ou par des phrases types, Google Duplex a mené une vraie conversation, avec ses digressions propres aux conversations humaines, et cela, tant avec le restaurateur que le coiffeur. Avec même des « Mhmm » et des « Ah, bon » propres à une conversation humaine.
Bref, c’était effrayant de réalité, car à aucun moment les interlocuteurs humains de cette machine intelligente ne se sont rendu compte qu’ils parlaient justement à une machine ! Regardez les vidéos sur YouTube, et vous verrez qu’il est impossible de distinguer si on avait affaire à un humain ou à une machine au téléphone. Bien entendu, cela soulève des questions morales.
En effet, lorsque cette machine intelligente a téléphoné, elle s’est présentée à ses interlocuteurs comme l’assistant de Mme X mais à aucun moment, elle n’a dévoilé le fait qu’elle était une machine. Le problème éthique est posé, car ses interlocuteurs ont été abusés : ils n’ont même pas eu droit à l’élémentaire « opt in » en vogue aujourd’hui.
N’étant pas technophobe par nature, je reconnais que cette invention est géniale sur le plan technologique. Elle pourrait, par exemple, sauver des vies en cas d’accident de voiture en appelant les urgences à notre place. Mais l’actualité récente doit nous rappeler que cette intelligence artificielle pourrait aussi nous tromper.
Le grand public a compris – mieux vaut tard que jamais – qu’un réseau social comme Facebook pouvait être manipulé pour influencer les votes des citoyens américains ou pour inciter les gens à la haine des autres. Question : si demain, en plus des fausses informations, des fausses images, des fausses vidéos, ce genre de technologie vocale tombe dans des mains maléfiques, comment savoir si nous parlerons encore à un véritable être humain ou à une machine destinée à nous manipuler ?
Le CEO de Google dira que nous n’en sommes pas encore là sur le plan technologique, mais à l’allure des progrès de l’IA, il ne faudra pas plus d’une génération pour assister à l’émergence d’un monde potentiellement dangereux. Regardons autour de vous : les jeunes, les fameux « millenials », ne veulent déjà plus parler à un interlocuteur humain, ce qui n’arange pas les banques privées, et préfèrent pousser sur un bouton virtuel ou sur un clic pour gérer leurs tracas quotidiens.
Avec Google Duplex et ses avatars, ils vont être gâtés. Fini de parler à un humain, l’assistant de Google le fera pour eux. Et ça, c’est le début de la fin, une sociologue américaine avait déjà démontré en 1961 que ce qui faisait la cohésion humaine d’une ville, sa viabilité, ce sont toutes ces petites conversations anodines et quotidiennes.
Exit l’humain avec Google Duplex. Si les ingénieurs de Google ne prêtent pas attention aux questions éthiques, c’est le tissu social qui pourrait être détruit avec ce genre d’invention. La vérité, c’est que le problème n’est pas l’intelligence artificielle de Google Duplex. Les scientifiques le savent de longue date, la technologie est neutre par essence. Mais pas les humains de Google. Les ingénieurs de Google ont des responsabilités éthiques, exactement comme Facebook a feint de les découvrir avec nos données privées.
Mais les CEO de la Silicon Valley ont-ils conscience de leur responsabilité ? Pour l’heure, l’actualité répond à leur place. La chroniqueuse Natacha Polony avait rédigé en février 2017 un éditorial indiquant que le monde est désormais dirigé par des « délinquants fiscaux en sweat-shirt à capuche et qui vouent leur vie à rendre la nôtre plus belle (…) exactement comme l’Église catholique veillait sur nos âmes ». Je trouvais qu’elle exagérait, mais aujourd’hui, j’ai des doutes.
