Les indiscrétions du bot de Google Allo

L'application de messagerie instantanée Google Allo, qui permet d'ajouter un chatbot aux conversations de groupe, divulge parfois les données personnelles sur laquelle elle s'appuie. Le journaliste Tess Townsend s'est ainsi aperçu que le bot d'Allo piochait dans l'historique de recherche des membres du groupe pour construire ses réponses - souvent approximatives - aux questions posées. Doté d'un système permettant d'obtenir l'autorisation de l'utilisateur avant de révéler une information sensible, le robot a, dans ce cas, agit de manière autonome. Alerté par la communauté, Google a répondu corriger prochainement ce comportement dysfonctionnel.

In the middle of our conversation, my friend directed Assistant to identify itself. Instead of offering a name or a pithy retort, it responded with a link from Harry Potter fan website Pottermore. The link led to an extract from “Harry Potter and the Order of the Phoenix,” the fifth book in J.K. Rowling’s Harry Potter series. But the response was not merely a non sequitur. It was a result related to previous searches my friend said he had done a few days earlier. It didn’t come from any of my search history, since I had not viewed any Harry Potter-related websites in the days before our conversation. We also did not mention Harry Potter in our text exchange until Assistant brought it up. (source)