Accélération #3 - Quelles responsabilités pour les fournisseurs de services Internet? + surveillance + micromobilité + renouveler la démocratie ++
Regard critique sur le futur de l’économie, de la technologie et de la société
#Accélération est un recueil de liens, idées et autres articles extraordinaires réunis par Sarah qui couvre l'économie, les technologies et les tendances émergentes pour élargir vos horizons et stimuler votre réflexion.
Suggestions? Commentaires? Écrivez-moi à sarah@inferencelab.ca.
Bonne lecture!
Technologie
Quelles responsabilités pour les fournisseurs de services Internet?
⏩ On commence à peine à réaliser l'ampleur de l'impact qu'on les différents médias sociaux sur la psyché humaine et les récits sociaux. La propagation de fausses informations, de contenu idéologiquement extrême et de propos haineux à grande échelle permis par Facebook, Youtube, What's App et les autres réseaux sociaux est probablement la plus considérable expérience de propagande de l'histoire de l'humanité.
Depuis peu, toutefois, nombreux sont ceux qui remettent en question l'absence complète d'imputabilité des fournisseurs de services Internet et réfléchissent à la façon de redéfinir leurs responsabilités : Quels contrôles peut-on exiger d'une plateforme sur le contenu publié par ses utilisateurs? Un fournisseur devrait-il refuser d'héberger des forums où pullulent les messages incitant à la haine et la violence? Les géants de l'industrie technologique ont-ils une responsabilité morale d'éviter que leurs technologies soient utilisées à des fins militaires ? Comment encadrer ces services sans réduire la liberté d'expression?
Des répercussions à grande échelle
C'est l'élection américaine de 2016 qui a servi de déclencheur. Le rôle de la Russie dans la propagation de fausses informations sur les médias sociaux et la radicalisation subséquente du discours politique a été largement documenté. De nombreux experts ont cherché à comprendre comment une telle ingérence avait été possible et ont porté leur attention sur le fonctionnement des plateformes numériques, révélant des problématiques d'une intensité insoupçonnée.
Je reviendrai dans une prochaine analyse sur la désinformation et son impact dans le processus électoral, un enjeu important à l'orée de la prochaine élection fédérale canadienne. Toutefois, la problématique la plus majeure à mon avis est incontestablement l'emballement complet de l'algorithme de recommandation de YouTube. Chaque jour, les internautes regardent en moyenne un milliard d'heures de vidéos sur la plateforme, équivalent à plus de 100 000 années de visionnement! 70% de ce contenu est le résultat d'une recommandation algorithmique et ce que YouTube nous fait regarder est horrifiant.
De la pornographie juvénile
Depuis au moins 2017 (en), des youtubers dénoncent le fait que le système de recommandations de la plateforme facilite l'accès d'un réseau de pédophiles à des images d'enfants. Ce n'est que récemment, suivant la publication d'un vidéo extrêmement révélateur (et émotif) du youtuber MattsWhatitis et d'un reportage du New York Times que ces révélations ont mené à une investigation du gouvernement américain (en) ainsi qu'à l'abandon de la plateforme (en) par certains annonceurs, tel que Walt Disney, McDonald et Epic Games.
Des vidéos pour les enfants
James Bridle, auteur de New Dark Age: Technology and the End of the Future, a documenté comment le système de recommandation de YouTube exploite les enfants (en) avec des vidéos qui les mettent en scène, qui tentent d'accroître leur temps d'écran, ou qui sont tout simplement violents, scatologiques, voire vaguement sexuels. Cette facette de l'algorithme est encore peu discutée, pourtant la monétisation de l'attention des enfants va complètement à l'encontre des standards qui protègent les enfants dans les autres médias comme la télévision.
Des contenus faux, extrêmes, haineux
Dès 2018, le Wall Street Journal (en) affirmait que le système de recommandation YouTube encourageait de manière disproportionnée la lecture de vidéos d'extrême droite ou propageant théories du complot et fausses informations, une situation connue par la direction de YouTube (en), selon Bloomberg. La radicalisation causée par l'algorithme de YouTube été documenté dans des cas aussi divers que la polarisation politique de jeunes garçons (en), la mobilisation anti-immigrant, la diffusion de théories anti-vaccins (en) ou encore la montée de la droite au Brésil (en). Sans parler du harcèlement, de la revenge porn, de la promotion constante de l'image, de l'apparition des deepfakes, etc., etc.
YouTube affirme avoir mis en place diverses mesures visant à lutter contre la discrimination, le révisionnisme historique ou les propos suprémacistes. Toutefois, impossible de savoir ce que l'algorithme recommande vraiment. Un ancien développeur chez Google, Guillaume Chaslot, a fondé le projet AlgoTransparency, qui cherche à documenter quels sont les vidéos les plus recommandés chaque jour (il faut absolument écouter son entrevue dans cette balado de Center for Humane Technology). Dans le top 10 aujourd'hui, 19 août, on y croise les vidéos suivants, dont au moins 4 sont de la désinformation ou d'extrême droite:
un pseudo-documentaire affirmant que la Mecque moderne serait en fait située au mauvais endroit (#1), le dernier épisode de Nigel Farage Show (un des principaux acteurs du Brexit) (#2), 3 vidéos sur la mort de Jeffrey Espstein (#5, #6 et #9), un de CBS, un média américain, un d'un show d'humour et un à caractère conspirationniste, un vidéo niant que les changements climatiques sont causés par l'homme par Fox News (#8), les autres vidéos parlent d'extraterrestres (#3), de comment frauder un fraudeur (#7) et de la façon de déchiffrer le langage corporel (#4) ou de détecter un mensonge (#10).
C’est l’économie… de l’attention, stupide!
YouTube contribue à une profonde transformation de nos sociétés, et pour le pire. Il n'y a aucun "gatekeeper", ce sont des algorithmes qui sont en contrôle et leur fonctionnement est invisible et imperceptible jusqu'au moment où leurs impacts sont tels qu'ils influencent le cours d'une élection, font ressurgir des maladies autrefois contrôlées ou provoquent des crimes haineux.
L'information est le pilier de nos sociétés modernes, elle alimente l'innovation, elle bâtit ou détruit la confiance et en ce sens les grandes entreprises technologiques, parce que leurs services nous permettent de nous connecter, d'échanger, d'apprendre, jouent un rôle qui s'approche de plus en plus d'un service public. Mais comme le dit Matt Stoller, ancien haut fonctionnaire américain,
Traduction : Ce qui est nouveau, c'est la façon dont ces grands services publics d'information profitent de la diffusion rapide et automatisée de contenus trompeurs et de la suralimentation des mouvements fascistes et sectaires pour attirer des clients potentiels.
Et c'est là le coeur du problème. Tant et aussi longtemps que le modèle d'affaires de YouTube reposera sur la publicité et donc sur l'augmentation du temps d'attention et d'écoute par les utilisateurs, l'entreprise n'aura aucun incitatif à corriger le tir.
Une règlementation désuète
Cette problématique est exacerbée par l'absence de toute responsabilité légale des plateformes numériques pour le contenu publié par leurs utilisateurs. Ce sont les États-Unis qui ont établi le standard mondial en la matière lorsqu'ils ont adopté le Communication Decency Act (en), en 1996. La section 230 de cette loi dégage les prestataires de services de toute responsabilité, à l'exception des contenus spécifiquement criminels, notamment ceux violant les droits d'auteur. 20 ans plus tard, nous sommes donc collectivement impuissants devant les tweets sexistes, les vidéos anti-vaccins ou les manifestes haineux.
Le Québec a été pionnier en adoptant dès 2001 la Loi concernant le cadre juridique des technologies de l'information. Toutefois, son article 27 s'inspire de l'approche américaine et est tout aussi désuet aujourd'hui :
Le prestataire de services qui agit à titre d'intermédiaire pour fournir des services sur un réseau de communication ou qui y conserve ou y transporte des documents technologiques n'est pas tenu d'en surveiller l'information, ni de rechercher des circonstances indiquant que les documents permettent la réalisation d'activités à caractère illicite.
Sans responsabilité quant au contenu et uniquement préoccupé à augmenter le temps d'écoute et d'attention des usagers afin de pouvoir mieux vendre de la publicité, il n'est pas surprenant que YouTube n'ait tout simplement pas réfléchi aux dimensions sociales du contenu qu'il choisissait de promouvoir. Seul un encadrement juridique sérieux pourra changer la trajectoire que nous suivons présentement. Malheureusement, les solutions à ce sujet ce font rares. J'y reviendrai.
🐦 Un autre exemple d'un algorithme de recommandations qui favorise la désinformation ou les contenus extrêmes est celui des Tendances sur Twitter (Trending). Casey Newton analyse le rôle que ces Tendances ont joué dans l'émergence de théories du complot entourant la mort de Jeffrey Esptein cette semaine et invite carrément Twitter à laisser tomber ce système ou de mettre en place une sélection éditoriale pour éviter de futurs dérapages.
⛔ Encore une fois, le président Trump ne semble pas avoir lu le mémo. Affirmant que les grands de la tech censurent les idées conservatrices, il aurait mandaté ses services d'élaborer un décret exécutif, visant à empêcher la "censure" sur les médias sociaux. Un tel décret nous mènerait dans la direction inverse d'où nous devons aller : c'est-à-dire exiger que les plateformes exercent un plus grand contrôle sur le contenu qu'ils hébergent.
Surveillance technologique
🚘 Un chercheur a mis au point un logiciel libre qui utilise les multiples caméras et radars d'une Tesla pour en faire un véritable engin de filature urbaine (en) capable de détecter les plaques d'immatriculation, mais aussi de reconnaître des visages. La vidéo qui accompagne l'article donne froid dans le dos.
👁️ La reconnaissance faciale est désormais utilisée en en Chine, aux États-Unis et bientôt en France afin de surveiller les allés et venus des élèves dans les établissements scolaires.
📰 Quant à moi, je persiste et signe : la reconnaissance faciale n'a pas sa place à Montréal. Son utilisation par le SPVM doit être impérativement limitée, encadrée et soumise à un contrôle démocratique. C'est pourquoi j'ai décidé d'écrire un texte d'opinion dans Le Devoir pour alerter nos concitoyens en prévision du débat sur un possible moratoire qui aura lieu cette semaine au Conseil de ville.
⚖️ Une cour d'appel fédérale de l'Illinois a rejeté à l'unanimité (en) la demande de Facebook visant à stopper un recours collectif reprochant à l'entreprise d'avoir collecté des données biométriques à l'insu de ses utilisateurs en contravention de la Biometric Information Privacy Act, exposant Facebook à d'importants dommages financiers. À bien y penser, les balises d'identification de Facebook semblent également contrevenir à l'article 44 de la Loi concernant le cadre juridique des technologies de l'information du Québec qui, malgré sa désuétude et sa (très) difficile application, exige le consentement exprès de la personne pour vérifier ou confirmer son identité au moyen de mesures biométriques.
🤐 La reconnaissance vocale serait-elle la prochaine technologie de surveillance et de profilage?
Intelligence artificielle
📎 La première édition des Ateliers SociologIA est désormais accessible en ligne. Organisés par le Centre interuniversitaire de recherche sur la science et la technologie et la Faculté des sciences humaines de l'UQAM, cet événement visait à réfléchir de manière critique aux dimensions sociologiques de l'IA.
💉 Et si les systèmes d'intelligence artificielle étaient soumis à des audits et des évaluations aussi rigoureux que ceux auxquels sont soumis les nouveaux médicaments? À quoi ressembleraient des essais cliniques numériques?
🤦♀️ NULL : Quand une mauvaise blague offre un bel exemple du fonctionnement kafkaïen de nos systèmes informatiques.
Économie
Pendant ce temps au Québec
💲 Quand même le Financial Post reconnaît que l'économie du Québec va bien et que nos programmes sociaux sont bons pour l'économie…
Traduction : La province était également en avance sur son temps en réalisant que les coûts initiaux d'un bon programme de garderies subventionnées seraient plus que couverts par une croissance économique plus forte à long terme. Quelque 87 % des Québécoises âgées de 25 à 54 ans font partie de la population active, comparativement à 93 % des hommes, soit l'écart le plus faible au pays.
Le résultat : le Québec tire plus de ses résidents que n'importe quelle autre grande province parce qu'il a donné aux femmes la souplesse dont elles ont besoin pour être à la fois des mères et des agents économiques.
Le gouvernement du Québec compte règlementer les agences de crédit comme Equifax et TransUnion. Ils comptent mettre en place un service de "gel de crédit" unique au Canada. À quelque chose malheur est bon.
Amazon : l’envers du décor
🏭 On apprenait cette semaine que l'entreprise Foxconn, sous-traitant d'Apple, a eu recours à des adolescents stagiaires et en temps supplémentaire pour la fabrication des enceintes connectées Echo et des liseuses Kindle. L'entreprise Foxconn, où sont également fabriqués les produits Apple, s'est fait connaître en 2010 suite à une vague de suicides liée aux piètres conditions des travailleurs. Amazon elle-même est loin d'être un bon employeur. Les dénonciations touchent chaque aspect de cette immense transnationale : les conditions de travail "brutales" dans ces centres d'approvisionnement, ses tactiques visant à décourager le syndicalisme ou encore sa culture d'entreprise extrême et conflictuelle (en).
Micromobilité et toujours plus de précariat
🛴 Je demeure peu convaincue des avantages des nouvelles technologies de la micromobilité, mais surtout, je suis outrée par le modèle d'affaires de ces entreprises qui recourent toutes à des "auto-entrepreneurs" précaire et sans protection sociale pour réduire leurs coûts d'opération.
Derrière les trottinettes électriques Lime, nouvelles arrivées à Montréal, se cachent le même modèle d'affaires qui favorise le précariat. Peu rapporté dans nos médias, encore sous l'effet du "buzz", l'ubérisation des "chargeurs de trottinettes" est très bien documentée en France où les trottinettes sont déployées depuis plus longtemps. Risques d'accident, recharge à la génératrice, faible rémunération, les impacts sociaux de ce nouveau mode de transport (sans parler des impacts environnementaux dont j'ai parlé dans ma dernière infolettre), sont loin d'équilibrer les avantages en termes de mobilité. Selon Les Affaires, une recharge rapporterait 4$ à Montréal!!! Ça me semble bien peu pour payer le temps, les efforts et les outils requis pour le déplacement des trottinettes et l'électricité fournie aux frais du chargeur. Rappelons d'ailleurs que Lime est une filiale de Google, une des entreprises les plus riches au monde.
Société
Renouveler la démocratie
🎧 Je suis une consommatrice invétérée de baladodiffusion. Je suis fidèle à plusieurs séries de qualité que je vous ferai découvrir au fil des semaines. Une de celles-là est l'émission Mindscape de l'astrophysicien et cosmologiste Sean Carroll. À travers des entrevues, il y aborde diverses questions relatives à la science, la cognition, la philosophie et la société avec une limpidité extraordinaire.
Cette semaine, j'ai écouté son échange avec la documentariste Astra Taylor, suite à la parution de son livre Democracy may not exist. Elle y expose les tensions et les paradoxes qui traversent nos démocraties, avec cette croyance que ce n'est qu'en les attaquant de front que nous pourrons les dépasser et améliorer "le pire des systèmes, à l'exception de tous les autres (Churchill)".
Astra Taylor y parle également de l'importance d'encourager l'innovation dans nos démocraties. Une vision à laquelle j'adhère entièrement! Un exemple tout à fait pertinent qu'elle soulève est la démarche citoyenne qui a mené à l'abrogation de la prohibition constitutionnelle de l'avortement en Irlande. Cette question controversée était dans une impasse depuis des années, jusqu'à ce que le parlement décide de confier à une assemblée mixte, composée de 33 parlementaires et de 66 citoyens sélectionnés au hasard, le rôle de débattre de la question et de soumettre des recommandations.
🗳️ Ici au Québec, l'encadrement de la laïcité aurait été un cas parfait pour tester ce genre d'innovation politique. Malgré l'adoption d'une loi, laquelle est déjà contestée juridiquement, le débat populaire entourant la laïcité demeure toxique. Malheureusement, la laïcité est une "wedge issue" qui rapporte aux politiciens. Pas surprenant que la candidate à la chefferie du parti Libéral tente de se réapproprier la question en proposant l'adoption d'une loi sur l'interculturalisme, perpétuant de fait la polémique. Il serait peut-être temps de retirer ce débat des mains des politiciens et de le confier à une assemblée délibérative! Qu'en pensez-vous?
Et en entreprise?
👊 À quoi ressemblerait une entreprise dont les employés contribueraient à orienter le développement? À choisir quels produits sont développés? Quels types d'employés sont embauchés? Est-ce que les choix seraient les mêmes que ceux effectués uniquement par la direction? Et si c'était Google qui pouvait nous éclairer sur ces questions?
Pendant des années, Google a encouragé ses employés à ne pas mettre de côté leurs valeurs en venant au boulot. Depuis trois ans, le personnel de Google a multiplié les revendications auprès de son employeur : refus de développer des technologies militaires, refus de censurer les résultats de recherche en Chine, mobilisation en faveur de la diversité et contre le harcèlement sexuel. L'évolution des relations de travail au sein de Google démontre un écart grandissant entre la direction, en quête de profit, et le personnel, préoccupé de justice sociale. Après avoir géré plusieurs crises de relations publiques, débrayages, et autre sorties, Google est donc en mode "reprise de contrôle" depuis plusieurs mois, abandonnant par le fait même une des rares cultures d'entreprise qui favorisait la liberté d'expression. À lire dans WIRED, un compte rendu détaillé des trois dernières années de cette relation tumultueuse entre la direction de Google et son personnel.
Si vous vous êtes rendus jusqu’ici c’est sûrement que vous avez apprécié votre lecture! Dites-le moi en partageant en vous abonnant, en cliquant sur le ❤️ en haut ou au bas de cette lettre ou écrivez-moi un mot à sarah@inferencelab.ca!
Merci d’être là!
Sarah