Ne pas rester «Derrière nos écrans de fumée»: repenser le modèle économique des géants technologiques

Par Rasha Abdul Rahim, Co-Director Amnesty Tech

S’il y a bien une chose que l’année 2020 a mise en avant, c’est notre dépendance à Internet pour établir nos relations et interactions sociales. Pour nombre d’entre nous, les plateformes et services en ligne comme Facebook et Google ont représenté une véritable planche de salut pendant la pandémie : ils nous ont permis de rester en contact avec notre famille et nos amis, de continuer à travailler ou à étudier en ligne et de recevoir les dernières informations en matière de santé. Cependant, ce confort nuit à nos droits humains, y compris à notre droit à la santé mentale ; c’est ce que montre Derrière nos écrans de fumée, un nouveau documentaire coup-de-poing arrivé sur Netflix le 9 septembre 2020.

Derrière nos écrans de fumée s’emploie en effet à nous ouvrir les yeux sur la façon dont nos vies sont constamment surveillées – et contrôlées – par ces sites. C’est le Truman Show puissance 1 000, qui surveille un tiers de la planète.

En avril 2020, Eric Schmidt, ancien directeur général de Google, expliquait que « les avantages que représentent ces entreprises (que nous adorons dénigrer) en termes de capacité à communiquer [...], de capacité à s’informer, sont immenses », et il a indiqué que la population devrait s’estimer heureuse que « ces entreprises aient engrangé les revenus, fait les investissements et construit les outils que nous utilisons aujourd’hui et qui nous aident réellement ». Pourtant, dans le documentaire, des personnes qui ont vu la Silicon Valley de l’intérieur décrivent une situation très différente. Elles estiment que si les pires aspects de l’humanité ressortent continuellement sur ces sites, cela vient directement de la conception des plateformes.

Elles sont faites pour optimiser trois paramètres : 1) Pendant combien de temps peuvent-elles réussir à garder deux rétines collées à un écran ?, 2) Combien de nouveaux utilisateurs peuvent-elles gagner ? et 3) Combien de revenus peuvent-elles engranger en plaçant des publicités devant lesdites rétines collées aux écrans ?

Derrière nos écrans de fumée s’emploie en effet à nous ouvrir les yeux sur la façon dont nos vies sont constamment surveillées – et contrôlées – par ces sites. C’est le Truman Show puissance 1 000, qui surveille un tiers de la planète.
Rasha Abdul Rahim, co-directrice d’Amnesty Tech

Tout cela sert leur modèle commercial, qui se résume à la collecte et la monétisation de nos données personnelles. La caractéristique principale de ce modèle est d’agréger un nombre énorme de données personnelles en gardant leurs utilisateurs le plus longtemps possible sur leurs sites, puis d’utiliser ces données pour dessiner des profils incroyablement détaillés sur le mode de vie et le comportement des utilisateurs, et enfin de monétiser cela en vendant leurs prédictions à n’importe quelle entité qui souhaiterait influencer ces personnes.

Comme nous l’avions signalé dans notre rapport de 2019, le modèle économique fondé sur la surveillance mis en place par Facebook et Google est par nature incompatible avec le droit à la vie privée et représente une menace structurelle pour toute une série d’autres droits, notamment les droits à la liberté d’opinion, d’expression et de pensée, ainsi que les droits à l’égalité et à la non-discrimination.

Sur YouTube, des algorithmes décident de la prochaine vidéo qui se lancera, tandis que sur Facebook, ils déterminent le contenu de notre fil d’actualité et les publicités que nous verrons. Très souvent, ces algorithmes amplifient le phénomène de désinformation et les contenus clivants, alimentent le racisme et influencent même nos propres croyances et opinions.

Le documentaire révèle comment des équipes formées principalement d’hommes blancs dans la Silicon Valley reçoivent l’instruction explicite d’exploiter les vulnérabilités de l’esprit humain : notre tendance naturelle à la dépendance, notre besoin de recevoir une forme de validation sociale et notre préférence pour des contenus explosifs et sensationnalistes. Cette instruction est donnée précisément parce que ces entreprises ont découvert que c’était le meilleur moyen de garder notre attention pendant plus longtemps, de recueillir de plus en plus de nos données personnelles, d’améliorer leurs prédictions sur notre comportement et de tirer profit des publicités qu’elles vendent.

En d’autres termes, l’ensemble de l’écosystème de l’information qui dessert actuellement un tiers de la planète n’a pas été créé pour nous faciliter la vie, mais pour nous manipuler et nous utiliser. Les services de Facebook et de Google semblent « gratuits » au premier abord mais, comme le dit l’ex-ingénieur de Google Tristan Harris dans le documentaire, « si vous ne payez pas pour le produit, c’est que vous êtes le produit ». En outre, la domination des sites de ces entreprises fait qu’il est désormais concrètement impossible d’utiliser Internet sans « accepter » leur modèle économique fondé sur la surveillance.

Sebastien Thibault

Bien que le documentaire décrive cela comme un « dilemme social », selon son titre original, ce dilemme n’est pas une fatalité. Malgré ce que l’on voudrait nous faire penser, Internet n’a pas besoin de s’appuyer sur la surveillance. Les personnes qui se sont inscrites sur des sites à une époque où ils respectaient bien plus la vie privée de leurs utilisateurs, ou avant qu’ils ne soient rachetés par Facebook ou Google, doivent maintenant choisir entre quitter un service duquel elles dépendent ou se soumettre à une surveillance constante. Ce choix n’est pas et ne devrait pas être légitime.

Nous avons besoin que les gouvernements agissent immédiatement et mettent en place une réglementation qui vise à repenser ce modèle économique et à protéger nos droits. Il s’agit d’un problème systémique et structurel qui ne sera pas facile à résoudre et nécessitera d’associer des solutions politiques, juridiques et structurelles.

Les tentatives pour poser des limites bien plus strictes au suivi et à l’utilisation des données personnelles resteront insuffisantes si ces mesures ne résolvent pas également le problème de la concentration des données (et du pouvoir) entre les mains de Facebook et de Google. De même, les voix de plus en plus nombreuses de responsables politiques, d’organismes de contrôle et de chercheurs qui demandent à « démanteler » les géants technologiques ne parviendront pas à faire cesser les violations systémiques des droits humains si elles ne réclament pas des mesures qui concernent le modèle économique fondé sur la surveillance dans son ensemble.

Aucune approche ne se suffira à elle-même, et nous ne pouvons pas non plus résoudre ce dilemme social sans aide. Nous avons besoin que nos responsables gouvernementaux prennent des initiatives et adoptent des mesures urgentes pour nous protéger des atteintes aux droits perpétrées par les géants technologiques.