Les enceintes intelligentes sont là pour rester dans nos vies. Des millions de personnes dans le monde ont déjà chez elles les célèbres appareils Echo d’Amazon, capables de signaler la météo dans votre ville, de commander de la nourriture et d’effectuer d’autres tâches de base en réponse à une commande vocale.
Ce qui à surpris les utilisateurs
Mais cet appareil ne reste pas là. L’année dernière, tout le monde a été surpris lorsqu’un utilisateur a dit : Tuez vos parents adoptifs. Mais ce n’est pas la seule expression avec laquelle l’assistant a surpris les utilisateurs. Comme Reuters se souvient, Alexa a également parlé aux utilisateurs d’actes sexuels ou de défécation de chien.
La réalité est qu’Alexa n’a pas de crises. Ces curieux épisodes découlent de la stratégie de l’entreprise qui consiste à faire en sorte que son appareil communique de mieux en mieux. En fait, de nouvelles recherches indiquent, selon Reuters, comment Amazon travaille avec Alexa pour pouvoir imiter les blagues humaines et parler de presque tout ce qu’il trouve sur Internet. Cependant, s’assurer que vous n’offensez pas les utilisateurs est un défi.
Ce qui est en jeu est un marché en pleine croissance pour les périphériques avec assistants virtuels. Selon la société de recherche eMarketer, environ deux tiers des clients américains de haut-parleurs intelligents (43 millions de personnes) utilisent les appareils Echo d’Amazon. L’entreprise se concentre donc sur le maintien de son avantage sur ses concurrents.
Le Prix Alexa annuel en 2016
Beaucoup de nos rêves en matière d’intelligence artificielle sont inspirés par la science-fiction, a déclaré Rohit Prasad, vice-président d’Amazon et scientifique senior chez Alexa Artificial Intelligence (AI), lors d’une conférence le mois dernier à Las Vegas. Pour ce faire, l’entreprise a lancé le Prix Alexa annuel en 2016, en faisant appel à des étudiants en informatique pour améliorer les compétences en conversation des participants. Les équipes s’affrontent pour le premier prix de 500 000 $, créant des ” chatbots ” qui permettent à Alexa d’essayer des conversations plus sophistiquées avec les gens.
Le projet a été important pour Jeff Bezos, PDG d’Amazon, qui a approuvé l’utilisation des clients de l’entreprise comme cobayes, a déclaré une personne à Reuters. Amazon est prêt à accepter le risque d’erreurs publiques afin de stresser la technologie des tests dans la vie réelle et de faire apprendre Alexa beaucoup plus rapidement. L’expérience porte déjà ses fruits. Les équipes du collège aident Alexa à avoir une plus grande variété de conversations. Et les clients d’Amazon ont également donné de meilleures notes aux robots cette année que l’année dernière.
Mais les erreurs d’Alexa font leur effet. A tel point que Bezos a parfois ordonné au personnel de fermer un bot. L’utilisateur à qui l’on a dit de tuer ses parents adoptifs a écrit une critique sévère de l’entreprise sur son site Web, décrivant la situation comme “un tout nouveau et effrayant niveau”. Lorsque l’entreprise a enquêté sur l’incident, elle a constaté que le robot avait cité une publication sans contexte Reddit.
Le vrai problème est que les implications sur la vie privée peuvent être encore plus complexes. Les consommateurs ne se rendent peut-être pas compte que certaines de leurs conversations les plus sensibles sont enregistrées par des appareils Amazon. Jeudi, la société a déclaré qu’une “erreur humaine” a permis à un client Alexa en Allemagne d’accéder accidentellement aux enregistrements vocaux d’un autre utilisateur.
Fuites de données possibles
Les utilisations potentielles des ensembles de données Amazon sont hors normes, a déclaré Marc Groman, expert en politique et technologie de confidentialité chez Georgetown Law. “Comment allez-vous vous assurer que les données partagées sont utilisées de façon responsable ? En fait, l’expert avance que cela pourrait se terminer par une catastrophe des données , comme ce fut le cas sur Facebook.
En juillet, Amazon a découvert qu’un des robots conçus par les étudiants avait été hacked. Cela compromettait une clé numérique qui aurait pu déverrouiller les transcriptions de conversation du robot sans les noms d’utilisateur. L’entreprise a rapidement désactivé le bot et a fait reconstruire le bot par des étudiants pour plus de sécurité.
L’entreprise a reconnu le hacking dans une déclaration : A aucun moment les systèmes internes d’Amazon ou les données identifiables par le client n’ont été affectés. Amazon refuse de donner des détails sur les bogues spécifiques à Alexa signalés par Reuters, mais a déclaré qu’il travaille pour protéger les utilisateurs contre les contenus offensants.
Ses équipes travaillent avec des outils qui les aident à filtrer les sujets mous et sensibles, qui peuvent même détecter les infractions subtiles. L’entreprise numérise également les transcriptions des conversations et ferme les robots transgresseurs jusqu’à ce qu’ils soient résolus. Ces cas sont assez rares, surtout si l’on tient compte du fait que des millions de clients ont interagi avec des robots sociaux, a déclaré Amazon.
Comme le moteur de recherche de Google, Alexa a le potentiel pour devenir une passerelle dominante vers Internet, et la société avance. En contrôlant cette passerelle, vous pouvez construire une entreprise super rentable, a déclaré Kartik Hosanagar, un professeur Wharton qui étudie l’économie numérique.
Open Pandora’s box
Amazon’s business strategy for Alexa implique de s’attaquer à un problème de recherche énorme : Comment enseigner l’art de la conversation à un ordinateur ? Alexa est basé sur l’apprentissage automatique, la forme la plus populaire d’intelligence artificielle avec laquelle travailler. Ces programmes informatiques transcrivent la parole humaine et répondent ensuite à cette entrée par une hypothèse basée sur ce qu’ils ont observé auparavant. Le logiciel apprend de nouvelles interactions, en s’améliorant progressivement au fil du temps.
Amazon a pour objectif d’avoir un assistant capable d’engager un dialogue naturel et ouvert. Cela exige qu’Alexa comprenne un ensemble plus large de signaux verbaux provenant des clients, une tâche difficile même pour les humains.