Le procès a été intenté par deux chauffeurs britanniques auprès du tribunal d'Amsterdam, où Uber possède l'un de ses sièges. Ils demandent de pouvoir accéder aux données qu'Uber utilise pour décider des courses de taxi qu'elle leur attribue. Un grand nombre de ces informations exerce un impact important sur leur emploi et sur le montant qu'ils peuvent gagner en une journée, mais ces données sont majoritairement invisibles pour les chauffeurs, selon eux. "L'appli décide des millions de fois par jour qui se voit attribuer tel trajet, qu'il soit court ou long", déclare à ce propos Anton Ekker, l'avocat qui s'occupe de cette affaire à Amsterdam, au journal The Guardian. "Les algorithmes et les données permettent un important contrôle, mais les personnes ciblées n'en sont souvent pas conscientes."

Profilage

Aux termes de la plainte, Uber exploite les remarques dans le profil des chauffeurs à propos de comportements inappropriés, de courses trop lentes, etc., et ce, à leur insu. Les chauffeurs ne sauraient donc pas pourquoi leur 'score' fléchit brusquement. Les plaignants demandent par conséquent une vision complète de leur profil et des règles utilisées par l'intelligence artificielle (AI). Ils en ont du reste le droit en vertu de la réglementation GDPR, peut-on lire dans leur plainte. Les utilisateurs d'applis ont du reste toujours le droit de solliciter les données que des entreprises tiennent à jour sur eux. Et puis, il y a aussi l'article 22 de la réglementation européenne sur le respect de la vie privée, qui donne aux personnes le droit de ne pas être soumises à un traitement exclusivement automatisé, dont le profilage, si cela peut avoir d'importantes conséquences. Comme il est question ici des revenus de personnes, on pourrait dire que tel est le cas chez Uber.

Les plaignants signalent avoir introduit à plusieurs reprises des requêtes de visionnement de leurs données et n'avoir pas reçu de réaction, voire une réponse incomplète. Uber, de son côté, déclare faire de son mieux pour donner les informations correctes aux personnes, en ajoutant qu'elle explique pourquoi il n'est parfois pas possible de libérer ces données. Cela paraît surtout compliqué dans le cas des algorithmes, parce qu'il n'est pas toujours clair d'expliquer pourquoi l'AI prend une décision plutôt qu'une autre.

Indépendants ou employés

Pour Uber, cette affaire est embarrassante quoi qu'il en soit. Ce type de transparente pourrait offrir plus de pouvoir aux chauffeurs en vue de s'associer pour poser des exigences. Elle pourrait aussi amener du grain à moudre dans d'autres affaires, surtout à propos de savoir si les chauffeurs indépendants sont bien aussi des employés. A ce propos, un procès débute cette semaine aussi en Grande-Bretagne, intenté par l'App Drivers & Couriers Union, un syndicat de chauffeurs. S'il apparaît qu'Uber prévoit des 'balises de performances' dans les profils de ces derniers, cela pourrait être considéré comme du 'management', à savoir une manière d'agir avec des employés, pas avec des indépendants.

L'affaire pourrait également impacter d'autres entreprises utilisant l'intelligence artificielle afin de régler toute une série de processus. Si le tribunal confirme qu'en vertu des règles de confidentialité européennes, les entreprises doivent permettre d'accéder à l'AI et à la façon, dont les algorithmes traitent les employés, cela pourrait aller loin dans certains cas. Même si l'AI détermine une grande partie de notre vie, elle est parfois aussi simplement une 'boîte noire'. En raison de la manière dont on conçoit l'AI actuellement par l'apprentissage machine, surtout l'apprentissage profond, les développeurs eux-mêmes ne savent pas toujours comment un tel algorithme fonctionne et pourquoi il prend des décisions spécifiques.

Le procès a été intenté par deux chauffeurs britanniques auprès du tribunal d'Amsterdam, où Uber possède l'un de ses sièges. Ils demandent de pouvoir accéder aux données qu'Uber utilise pour décider des courses de taxi qu'elle leur attribue. Un grand nombre de ces informations exerce un impact important sur leur emploi et sur le montant qu'ils peuvent gagner en une journée, mais ces données sont majoritairement invisibles pour les chauffeurs, selon eux. "L'appli décide des millions de fois par jour qui se voit attribuer tel trajet, qu'il soit court ou long", déclare à ce propos Anton Ekker, l'avocat qui s'occupe de cette affaire à Amsterdam, au journal The Guardian. "Les algorithmes et les données permettent un important contrôle, mais les personnes ciblées n'en sont souvent pas conscientes."ProfilageAux termes de la plainte, Uber exploite les remarques dans le profil des chauffeurs à propos de comportements inappropriés, de courses trop lentes, etc., et ce, à leur insu. Les chauffeurs ne sauraient donc pas pourquoi leur 'score' fléchit brusquement. Les plaignants demandent par conséquent une vision complète de leur profil et des règles utilisées par l'intelligence artificielle (AI). Ils en ont du reste le droit en vertu de la réglementation GDPR, peut-on lire dans leur plainte. Les utilisateurs d'applis ont du reste toujours le droit de solliciter les données que des entreprises tiennent à jour sur eux. Et puis, il y a aussi l'article 22 de la réglementation européenne sur le respect de la vie privée, qui donne aux personnes le droit de ne pas être soumises à un traitement exclusivement automatisé, dont le profilage, si cela peut avoir d'importantes conséquences. Comme il est question ici des revenus de personnes, on pourrait dire que tel est le cas chez Uber.Les plaignants signalent avoir introduit à plusieurs reprises des requêtes de visionnement de leurs données et n'avoir pas reçu de réaction, voire une réponse incomplète. Uber, de son côté, déclare faire de son mieux pour donner les informations correctes aux personnes, en ajoutant qu'elle explique pourquoi il n'est parfois pas possible de libérer ces données. Cela paraît surtout compliqué dans le cas des algorithmes, parce qu'il n'est pas toujours clair d'expliquer pourquoi l'AI prend une décision plutôt qu'une autre.Indépendants ou employésPour Uber, cette affaire est embarrassante quoi qu'il en soit. Ce type de transparente pourrait offrir plus de pouvoir aux chauffeurs en vue de s'associer pour poser des exigences. Elle pourrait aussi amener du grain à moudre dans d'autres affaires, surtout à propos de savoir si les chauffeurs indépendants sont bien aussi des employés. A ce propos, un procès débute cette semaine aussi en Grande-Bretagne, intenté par l'App Drivers & Couriers Union, un syndicat de chauffeurs. S'il apparaît qu'Uber prévoit des 'balises de performances' dans les profils de ces derniers, cela pourrait être considéré comme du 'management', à savoir une manière d'agir avec des employés, pas avec des indépendants.L'affaire pourrait également impacter d'autres entreprises utilisant l'intelligence artificielle afin de régler toute une série de processus. Si le tribunal confirme qu'en vertu des règles de confidentialité européennes, les entreprises doivent permettre d'accéder à l'AI et à la façon, dont les algorithmes traitent les employés, cela pourrait aller loin dans certains cas. Même si l'AI détermine une grande partie de notre vie, elle est parfois aussi simplement une 'boîte noire'. En raison de la manière dont on conçoit l'AI actuellement par l'apprentissage machine, surtout l'apprentissage profond, les développeurs eux-mêmes ne savent pas toujours comment un tel algorithme fonctionne et pourquoi il prend des décisions spécifiques.