Cela va trop loin : l’utilisation de l’IA dans les centres d’appels est controversée

par

Quiconque contacte une entreprise par téléphone pour lui poser des questions ou des plaintes ne se retrouve généralement pas chez un employé, mais plutôt dans un centre d’appels. Et vice versa, les clients sont appelés à plusieurs reprises par les centres d’appels. Grâce à ce que l’on appelle le démarchage téléphonique, les employés tentent, par exemple, de vendre de nouveaux contrats de téléphonie mobile ou de promouvoir une mise à niveau d’un contrat existant. La phrase bien connue pour de tels appels est : « Cet appel est enregistré pour améliorer la qualité du service. » Ensuite, les employés du service doivent être formés sur la base des appels téléphoniques enregistrés et les offres doivent être « optimisées ». Mais ce que cachent souvent les centres d’appels, c’est que l’IA est désormais également utilisée. Au cours de la conversation, il analyse la réaction du participant aux offres de l’employé du centre d’appels. Les émojis le montrent sur un écran lorsque le client se met en colère ou s’impatiente, semble instable ou écoute patiemment et amicalement. Mais l’IA ne cible pas uniquement les clients : elle analyse également la réaction de l’employé du centre d’appels à l’ambiance à l’autre bout du fil. C’est ce qu’on appelle la « reconnaissance des émotions ».

L’IA dans les centres d’appels : menace de surveillance totale

Les deux variantes de l’analyse sont juridiquement très controversées. Un Enquête du Bayerischer Rundfunk (BR) Selon les centres d’appels, ils affirment avec leurs clients qu’ils ont préalablement accepté que la conversation soit enregistrée. Mais certains délégués à la protection des données ne sont pas d’accord : l’annonce mentionne uniquement une évaluation « pour vérifier et améliorer la qualité de nos services ». Selon une étude du BR, le professeur Lena Rudkowski de l’université de Giessen considère que cela est « juridiquement problématique », car les appelants ne peuvent pas savoir comment la conversation sera évaluée. La reconnaissance des émotions est quelque chose « auquel le client ne doit pas s’attendre ». Et qu’en est-il de l’analyse des employés des centres d’appels ? Peter Wedde, professeur de droit à l’Université des sciences appliquées de Francfort, souligne que les employeurs ne sont autorisés à traiter les données de leurs propres collaborateurs que si cela est absolument nécessaire. Cependant, l’analyse des émotions « permet d’avoir un aperçu approfondi de la personnalité ». Au sens le plus large, il s’agit de données de santé dont le traitement est soumis à des exigences extrêmement strictes. On pourrait même parler ici de surveillance totale.

Utilisation de l’IA : les défenseurs de la protection des données s’alarment

Thomas Fuchs, délégué à la protection des données à Hambourg, est également d’accord : « L’analyse vocale à l’aide de l’IA lors des appels du centre d’appels n’est possible qu’avec le consentement exprès des participants à la conversation. Avant que le consentement ne soit donné, des informations transparentes sur le système utilisé devraient être fournies. Dans le cas des salariés dépendants, un tel consentement échoue généralement en raison de l’exigence du caractère volontaire », a déclaré Fuchs à Meilleur du Moniteur. De nouvelles lois sont nécessaires ! Fuchs espère un cadre juridique clair : « C’est pourquoi le règlement sur l’IA, actuellement en cours de finalisation dans l’UE, est d’une grande importance », a déclaré le délégué à la protection des données. Le projet de loi allemande sur la protection des données des salariés devrait également contenir des règles sur l’utilisation de l’IA dans les entreprises. En attendant que ces ajustements importants n’entrent en vigueur, le RGPD doit être appliqué de manière cohérente aux applications d’IA.