ASSISTANTS VOCAUX

27/10/2020 / Droit de l’informatique et des nouvelles technologies – Droit des contrats

« A votre écoute », la CNIL s’intéresse aux enjeux des assistants vocaux, nos amis qui nous veulent du bien…

Le 7 septembre 2020, la CNIL a publié un livre blanc relatif aux assistants vocaux, intitulé « A votre écoute ». Ce livre blanc à une visée éducative sur les enjeux (éthiques, technologiques ou juridiques) de ces assistants vocaux pour les utilisateurs et doit servir de ligne de conduite aux concepteurs.

  1. Définition d’un assistant vocal

Un assistant vocal est défini par la CNIL dans son livre blanc comme un « ensemble de ressources logicielles permettant de réaliser les traitements de la voix et du langage afin de répondre à la requête d’un utilisateur ».

L’assistant vocal n’est pas à confondre avec l’objet dans lequel il est embarqué (par exemple une enceinte connectée).

La CNIL rappelle qu’un assistant vocal fonctionne en 5 grandes étapes :

  1. L’utilisateur « réveille » l’assistant vocal à l’aide d’un mot clé. A cet égard, la CNIL indique que si l’assistant vocal est effectivement en permanence en attente et à l’écoute du mot clé, il n’enregistre en principe rien et ne procède à aucune opération tant que ce mot clé n’a pas été entendu.
  2. L’assistant vocal reconnait l’utilisateur (optionnel). Cette option permet de préenregistrer la voix de l’utilisateur principal, afin de lui permettre d’accéder à davantage de services que d’autres utilisateurs (une sorte de session administrateur).
  3. L’utilisateur énonce sa requête. A la réception de cette requête, deux chemins peuvent être pris. Certains assistants vocaux enregistrent les requêtes localement, d’autres les envoient sur les serveurs du concepteur de l’assistant vocal. En tout état de cause, un historique des requêtes sera conservé à des fins de consultation pour l’utilisateur ou à des fins d’amélioration de la technologie.
  4. La requête orale de l’utilisateur est automatiquement retranscrite en texte puis interprétée par l’assistant vocal qui donne une réponse adaptée.
  5. L’assistant vocal repasse en « veille ».
  1. Enjeux de l’assistant vocal

En publiant son livre blanc, la CNIL cherche à guider les concepteurs par la présentation de bonnes pratiques et à éveiller l’attention des utilisateurs sur les enjeux afférents à l’utilisation des assistants vocaux.

  • Des enjeux liés à la protection de la vie privée : En particulier, la voix est une caractéristique biométrique permettant l’identification d’une personne.

La transmission de cette donnée doit donc être explicite et consentie expressément par l’utilisateur. Les données biométriques sont définies par 4.14 du RGPD comme « les données à caractère personnel résultant d’un traitement technique spécifique, relatives aux caractéristiques physiques, physiologiques ou comportementales d’une personne physique, qui permettant ou confirment son identification unique, telles que des images faciales ou des données dactyloscopiques ». Si l’article 9 du RGPD interdit par principe les traitements de données biométriques aux fins d’identifier une personne physique de manière unique, ces derniers sont admis dans certains cas et notamment en cas de consentement explicite des utilisateurs.

La voix peut contenir de nombreuses informations relatives aux paroles prononcées, à l’identité de la personne, à sa personnalité via ses intonations ou ses émotions. Lorsque les paroles prononcées touchent à l’intime, aux opinions, à la santé, elles entrent à leur tour dans la catégorie des données sensibles protégées par le RGPD. La conception de l’assistant vocal doit donc garantir la sécurité de la voix et des paroles à ce titre.

Or, la profusion de ces assistants dans la vie quotidienne professionnelle ou personnelle pose la question de la confidentialité des échanges et de la protection des données des personnes. A cet égard, il apparaît que la mise en œuvre d’une analyse d’impact pourrait constituer un prérequis au développement d’un assistant vocal.

  • Des enjeux éthiques : Par exemple, lorsque l’utilisateur pose une question à l’assistant vocal, contrairement à une requête sur un moteur de recherche, l’assistant va choisir une seule réponse à la question posée. Ce changement de paradigme soulève des interrogations sur l’algorithme régissant le choix de l’assistant entre les réponses possibles.
  • Des enjeux écologiques : les serveurs nécessaires ont un impact écologique important, notamment via la consommation énergétique et la chaleur qu’ils dégagent.
  1. Les conseils de la CNIL

Afin de guider les concepteurs et les utilisateurs, au sein de son livre blanc, la CNIL propose des cas d’usage au sein de son livre blanc pour étudier la manière dont la réglementation relative à la protection des données trouve à s’appliquer en matière d’assistants vocaux.

Au sein de ces cas d’usage, la CNIL rappelle les principales étapes à réaliser pour garantir la conformité au RGPD du dispositif envisagé. Ainsi, la CNIL préconise :

  1. De définir le traitement, son responsable et sa base légale ;
  2. De choisir les données collectées et leurs durées de conservation ;
  3. D’informer les personnes et garantir leur droit ;
  4. De protéger et sécuriser.

Ainsi, la CNIL met en avant plusieurs « bons réflexes » à acquérir dès la conception de l’assistant vocal pour assurer la conformité de l’assistant vocal avec les exigences relatives à la vie privée tels que :

  • Etablir la transparence sur le fonctionnement de l’assistant vocal ;
  • Conférer des moyens de contrôle pour les utilisateurs ;
  • Respecter les principes du RGPD sur le dimensionnement des données collectées et le traitement des données biométriques par exemple.

Nous recommandons tant aux utilisateurs de ces assistants vocaux, qu’aux sociétés conceptrices de prendre connaissances de recommandations de la CNIL au sein de son livre blanc : https://www.cnil.fr/sites/default/files/atoms/files/cnil_livre-blanc-assistants-vocaux.pdf

Nous restons à votre disposition pour toute interrogation qui en résulterait.