Accélération #1 - Données personnelles, reconnaissance faciale, enceintes connectées, avenir du travail, élections ultra-partisanes et ++
Regard critique sur le futur de l'économie, de la technologie et de la société
#Accélération est un recueil de liens, idées et autres articles extraordinaires qui couvre l'économie, les technologies et les tendances émergentes, réunis par Sarah pour élargir vos horizons et stimuler votre réflexion.
Suggestions? Commentaires? Écrivez-moi à sarah@inferencelab.ca.
Bonne lecture!
Technologie : Quand confiance et transparence sont absentes.
Des données pas si personnelles
Alors que la fuite de données personnelles chez Desjardins, puis chez Capital One, continuent d’ébranler la confiance des Québécois, l’Ontario lance des consultations sur le renforcement de la confiance du public en matière de données (fr). 83% des Ontariens n’auraient pas confiance en la façon dont les entreprises utilisent leurs données personnelles.
C’est la conséquence du laisser-faire qui domine l’industrie du numérique et du commerce électronique depuis des années. Guidés par les géants du Web, nous nous sommes habitués au consentement forcé, aux accords de licence inintelligibles, à la track des cookies invisibles et à la revente de nos données personnelles. Ces pratiques se retrouvent désormais sur toutes les plateformes et tous les sites Internet. Rebâtir la confiance prendra plus qu’une simple consultation et une stratégie numérique. Il nous faut plutôt des règles définissant les pratiques acceptables et les normes de transparences à respecter. Si cela se fait au coût de quelques entreprises dont le modèle d’affaires reposait sur l’exploitation des failles du système, cela semble peu cher payé.
Assistants connectés à l'écoute
Après avoir découvert en avril dernier que nous étions écoutés à notre insu via nos enceintes connectées par l’assistant personnel Alexa (en) d’Amazon, puis au début du mois par Google Home (en) de Google, on apprend que c’est également le cas pour Siri (en) installé sur tous les iPhone d’Apple. Autrement dit, l’enregistrement et l’écoute à la dérobée par nos assistants personnels sont des pratiques courantes dans l’industrie. C’est exactement ce genre de manque de transparence de la part des entreprises qui nuisent à la confiance du public.
Apple a annoncé la suspension (en) de son programme d'écoute (après avoir été pris la main dans le sac) le temps de faire une révision et d’intégrer une option de retrait dans la prochaine mise à jour de son iOS. Quant à Google, après avoir cherché à défendre (en) son programme, l’entreprise a été forcée de le mettre en pause (en) le temps que se termine une enquête (en) du commissaire à la vie privée de l’Allemagne. Et Alexa? Rien. Amazon se fiche éperdument de votre vie privée (en).
La solution à ce problème de transparence semble relativement simple. Il suffit que les prochaines enceintes soient accompagnées d'avertissements clairs informant les utilisateurs que leurs échanges peuvent être enregistrés à des fins de contrôle de la qualité, comme le font déjà les centres d’appels. Un second avertissement devrait également indiquer que des enregistrements peuvent se déclencher accidentellement. Finalement, un lien devrait être fourni aux clients les dirigeant vers un outil de contrôle de leurs options de confidentialité.
L’industrie insiste depuis des années pour s’auto-réguler. Pourtant, des solutions aussi simples que celles proposées ci-dessus risquent de nécessiter l’intervention des pouvoirs publics.
En attendant, les partenariats et les initiatives impliquant le secteur privé se multiplient pour favoriser la confiance du public. Par exemple, Partnership on AI, un consortium sur l’intelligence artificielle, veut favoriser la transparence de la documentation accompagnant l’utilisation d'apprentissage machine (les données utilisées pour entraîner les algorithmes, les manipulations effectuées sur les données, le type de modèles utilisés, etc.). Il a produit une première ébauche des meilleures pratiques (en) et sollicite les commentaires du public jusqu'au 14 septembre.
La reconnaissance faciale comme outil de répression
Depuis la fin mars 2019, secteur après secteur, toute la société hongkongaise s’est engagée (fr) dans un mouvement populaire majeur s’opposant d’abord à une loi autorisant les extraditions vers la Chine et exigeant maintenant des réformes démocratiques en profondeur. Depuis le début de la mobilisation, les HongKongais ont craint que la reconnaissance faciale et la géolocalisation soient utilisées à des fins de répressions contre les manifestants. Ils ont multiplié les tactiques pour être invisibles (fr) : géolocalisation coupée, billets de métro payé en espèce, silence sur les médias sociaux et usage de l’application de messagerie cryptée Telegram. Il suffit de regarder les photographies des manifestants; ils portent tous des masques, lunettes, chapeaux et parapluies pour se cacher des caméras.
Nous ne sommes pas épargnés au Québec. Au cours des derniers mois, plusieurs corps policiers municipaux nord-américains (Calgary, Toronto, New York) ont reconnu posséder et utiliser des systèmes de reconnaissance faciale, malgré les taux élevés d’erreurs de ces systèmes et les biais importants qu’ils comportent, notamment contre les personnes racisées. D’autres villes comme San Francisco ont interdit l’usage de cette technologie par leurs institutions publiques, incluant la police. En avril dernier, la Sûreté du Québec a publié un avis d’intérêt (fr) pour ce même type de technologie, depuis c’est le silence. Le bras immobilier de la Caisse de dépôt et placement du Québec a quant à elle lancé un projet pilote dans un centre commercial. Il serait peut-être temps de commencer à réfléchir à cet enjeu.
Économie : L'avenir du travail, c’est le précariat.
À la course
On savait depuis des mois (en) que l’entreprise de livraison par application DoorDash, la plus importante des « food tech » aux États-Unis, gardait pour elle les pourboires donnés par ses clients aux coursiers. Un journaliste du New York Times a remis la controverse de l’avant (en) en nous faisant plonger dans le quotidien de livreurs à vélo de UberEat, DoorDash et PostMates. Cette fois, la controverse fut suffisamment forte pour que DoorDash renverse sa politique (en), incluant ici au Québec. Une bonne raison pour commencer à laisser du pourboire à vos coursiers, considérant qu’ils n’atteignent pas toujours le salaire minimum.
La « Food Tech », à l’instar de l’industrie du taxi, est un secteur emblématique de l’économie de plateforme où les entreprises se positionnent comme de simples intermédiaires, gestionnaires d'applications mobiles, mais tirent en fait leurs revenus de la précarisation de leurs « partenaires ». Ces derniers ne sont pas considérés comme des employés, mais comme des travailleurs autonomes et ne reçoivent donc aucune protection sociale (pas d’assurance, ni retraite, ni congé-maladie, pas de préavis ni de 4%, mais tous les risques). Les coursiers doivent fournir leur propre vélo ou leur voiture. Même pour les restaurants, les avantages liés à l’utilisation de ce type d’application peuvent être limités (en).
Dans son reportage Travailler sans filet (fr), le nouveau magazine économique et pédagogique Pour l’Éco détaille les pressions et contraintes économiques qui définissent le modèle d’affaires des « food tech », et démontre clairement que la seule variable soumise au contrôle des plateformes numériques, c’est le salaire des travailleurs (voir notamment les diapos). Cela explique l’âpre bataille politique et juridique entourant le « statut d’employé » entre travailleurs et syndicats d’un côté et plateformes numériques de l’autre. En effet, le statut d’auto-entrepreneurs de la « gig economy » fait l’objet de plus en plus de contestation juridique à travers le monde :
au Royaume-Uni, les chauffeurs d’Uber ont réussi à faire reconnaître leur statut de salarié en cour d’appel (en), tandis qu’en France la Cour de cassation a statué qu’un livreur à vélo travaillant pour une plateforme est un salarié (fr). Ces deux États devront mettre en place la règlementation nécessaire, maintenant que les droits des travailleurs ont été reconnus juridiquement. Cela n’a pas empêché deux avocats français de lancer, il y a quelques jours à peine, une action collective (fr) contre Uber Eats s’attaquant à la question du salariat déguisé;
au Canada, un recours collectif a été déposé en Ontario (fr) afin de faire reconnaître les chauffeurs et livreurs d'Uber à titre d’employés. Au Québec, après un projet de loi controversé ayant déréglementé l’industrie du taxi (fr), les chauffeurs d’Uber tentent maintenant de se syndiquer (fr) comme leurs collègues de Toronto.
en Californie, où dès 2015, un chauffeur Uber avait été reconnu comme salarié, un projet de loi, le Bill 5, pourrait bientôt venir confirmer ce statut pour tous les employés sur demande (en). Syndicats et grandes entreprises de technologies s’affrontent (en) depuis des mois à coup de lobbyistes et de campagnes de communication sur le sujet.
Rappelons qu'aucune de ces firmes tech de la livraison et du taxi ne fait de profit. Lors de son entrée en bourse, Uber dévoilait des pertes de plus de 10 milliards de dollars depuis sa création (en). En 2018 seulement, Lyft et Uber ont à eux seuls dilapidé 4 milliards de dollars (fr). Les pertes de DoorDash, Foodora, Postmates, etc. sont quant à elle inconnues, car ces entreprises ne sont pas cotées en bourse. Ces entreprises zombies survivent, car elles sont soutenues par des fonds d’investissement spéculatifs. Les investisseurs misent sur la croissance plutôt que la profitabilité (en), espérant que leur choix remporte la compétition, s’empare du marché et retourne finalement un profit une fois qu'elles auront atteint une position quasi-monopolistique. C’est le modèle d’Amazon.
La reconnaissance d’un statut d’employé, les obligeant à fournir protection sociale et conditions salariales décentes à leurs travailleurs, signifierait la mort du modèle d’affaires de ces plateformes.
Malgré la flexibilité et la facilité qu’offrent ces applications pour leurs clients, leurs impacts sociaux et économiques érodent les standards de toute la société. On assiste à une normalisation des emplois sur demande dans un contexte dominant de précariat, les immenses sommes investies en capital de risque dans des entreprises non rentables augmentent les risques de bulles spéculatives et l’objectif économique recherché par ces investisseurs - le monopole - n’est aucunement dans l’intérêt des consommateurs.
Il est donc temps de procéder à une révision du droit du travail en fonction de ces nouvelles réalités et de mettre en place un encadrement législatif en bonne et due forme qui réaffirme les conditions salariales et les protections sociales minimales auxquelles ont droit tous les travailleurs. Ce n’est que dans ce contexte qu’on peut imaginer la pérennité des modèles de plateforme dans l'industrie des « food tech » et du taxi.
La plus récente modernisation des normes du travail au Québec (fr), adoptée en juin 2018, est passée complètement à côté de ces questions. C’est plutôt au niveau fédéral, où une révision du Code canadien du travail est en cours, qu’on se penche sur le salariat déguisé, mais également sur le droit à la déconnexion. Comité d’experts sur les normes du travail fédérales modernes (fr) devait déposé un rapport avant le 30 juin dernier. Celui-ci n’a pas toutefois pas été rendu public encore.
Société : nos démocraties se transforment à la même vitesse que nous.
Les élections fédérales se dérouleront en ligne
Une analyse du Toronto Star et de BuzzFeed, qui surveille étroitement la montée des fausses nouvelles depuis quelques années, a constaté que les médias sociaux canadiens sont envahis par des producteurs de contenu ultra-partisans (en) au point d’éclipser les médias traditionnels dans les fils d’actualité des citoyens. Les producteurs de droite, notamment le média Ontario Proud, sont particulièrement actifs et génèrent déjà plus d’engagements que plusieurs médias traditionnels anglophones réunis. 23 millions de Canadiens ont un compte Facebook, sur environ 30 millions d’électeurs. Au Québec, la plus récente enquête (fr) du Céfrio révèle que 79% des Québécois s’informent sur les médias sociaux. Plutôt que de craindre l’influence étrangère (fr) lors des prochaines élections, c’est peut-être à cette influence interne qu’il faut porter attention!
Comprendre la nature humaine pour sauver la démocratie
Les humains ne sont pas des êtres purement rationnels comme les économistes voudraient nous le faire croire. Chaque nouvelle découverte en neuroscience et en science comportementale semble le réaffirmer. Une étude de la Commission européenne s'est penchée sur la façon dont cette nouvelle conception de l’être humain peut nous aider à répondre aux défis auxquels nos démocraties sont confrontées. Les principales conclusions des 60 experts ayant participé à l’étude sont les suivantes. Traduction :
Mauvaise perception et désinformation : Nos capacités de réflexion sont mises à l'épreuve par le climat informationnel actuel et nous rendent vulnérables à la désinformation. Nous devons réfléchir davantage à la façon dont nous pensons.
Intelligence collective : La science peut nous aider à redéfinir la façon dont les décideurs travaillent ensemble pour prendre de meilleures décisions et prévenir les erreurs politiques.
Émotions : On ne peut pas séparer l'émotion de la raison. Une meilleure connaissance des émotions des citoyens et une meilleure compréhension des émotions pourraient améliorer l'élaboration des politiques.
Valeurs et identités : Les valeurs et les identités sont le moteur du comportement politique, mais elles ne sont pas bien comprises ou débattues.
Cadrage, métaphore et narration : Les faits ne parlent pas d'eux-mêmes. Le cadrage, les métaphores et les récits doivent être utilisés de façon responsable si l'on veut que les faits soient entendus et compris.
Confiance et ouverture : L'érosion de la confiance dans les experts et dans le gouvernement ne peut être corrigée que par une plus grande honnêteté et une plus grande délibération publique sur les intérêts et les valeurs.
Élaboration de politiques éclairées par des données probantes : Le principe selon lequel les politiques doivent s'appuyer sur des données probantes est remis en question. Les hommes politiques, les scientifiques et la société civile doivent défendre cette pierre angulaire de la démocratie libérale.
En rafale
Une équipe de l’Institute of Cancer Research (en) à Londres à découvert qu’il existait 5 types de cancer du sein réagissant différemment aux traitements grâce à l’intelligence artificielle et l’apprentissage machine.
Jonathan Zittrain, directeur du Berkman Klein Center for Internet & Society, nous prévient qu’une trop grande dépendance à l’intelligence artificielle pourrait exacerber notre tendance à accepter ses résultats sans en comprendre leur raison d’être et ainsi créer ce qu’il nomme « une dette intellectuelle ». The Hidden Costs of Automated Thinking, New Yorker.
Le New York Times explore l’utilisation de la technologie blockchain pour contrer le phénomène des fausses nouvelles à travers The News Provenance Project.
On ne s’est jamais arrêté pour questionner la mondialisation du modèle des médias sociaux proposés par les géants de Silicon Valley. À l’instar du Consensus de Washington en économie, nous avons vu le Consensus de Palo Alto déferlé sur le monde et imposer la même façon de faire à tous. Et si chaque état, chaque culture avaient son propre modèle pour encourager la délibération citoyenne?
Le débat entre le libre-marché et la planification économique a suscité d’innombrables débats jusqu’à ce que la chute de l’URSS semble clore le débat. Et si l’intelligence artificielle et le big data ouvraient de nouvelles possibilités de planification? Evgeny Morozov, dans Digital Socialism?, tente de passer outre les querelles traditionnelles pour offrir des pistes de réflexion émancipatrices. Dans le même ordre d’idée, mais à l’opposé en terme de style, l’ouvrage The People’s Republic of Wal-Mart par Verso Books.
En terminant
J’ai décidé de créer Inférence Lab afin d’ouvrir un espace de réflexion où je cherche à comprendre les impacts de l’économie et de la technologie sur notre société. Oscillant entre le pessimisme et l’optimisme, je suis captivée par le futur de l’humanité. Je crois que les fondements de notre organisation sociale sont en grande partie déterminés par la technique et l’idéologie capitaliste et qu’il est donc important de les étudier.
Junkie de la connaissance en tout genre, je suis constamment à l’affût des nouvelles avancées, réflexions, recherches, innovations pour nourrir mes médiations. J’ai vite constaté que très peu de ces informations sont accessibles en français. Cette infolettre est donc une façon de partager mes découvertes et d’ouvrir un dialogue avec ceux qui pourraient être intéressés.
Je citerai souvent des articles en anglais, mais je tenterai d’intégrer des sources d’information en français autant que possible. Je compte également faire des traductions sommaires de temps à autre. Nous verrons au fil du temps.
Vous aimez ce que vous lisez? N'hésitez pas à partager. Vous avez des commentaires, ils sont les bienvenus!
Envoyez-moi vos recommandations de lecture, vos commentaires, des questions, des idées à sarah@inferencelab.ca.
Merci pour votre lecture
- Sarah