Philippe Vion-Dury, La nouvelle servitude volontaire

Facebook, le nouveau Panopticon

Dans cet essai paru à l’automne 2016, Philippe Vion-Dury propose au lecteur une analyse critique, étayée, rigoureuse, illustrée, de notre monde hyperconnecté, et plus particulièrement d’un enjeu propre à notre siècle : Que peut-on tirer des données massives – big data – générées par nos connexions ? Selon quel processus la donnée – data – devient-elle le nouvel « or noir », partout disponible puisque nous laissons des traces partout : réseaux sociaux, recherches et sites internet, téléphones portables, GPS ou appareils connectés. […] Nos activités, nos préférences, nos relations sociales, nos achats, nos désirs deviennent des données qu’il est possible et aisé de collecter » avant de les « raffiner ».

Comment l’utilisation de ces données par les géants et les fourmis de l’internet transforme-t-elle nos vies en une prison algorithmique, dans laquelle nous nous laissons enfermer sans réagir, faute d’en avoir perçu et compris l’existence ?

Grâce aux données passées à la moulinette des algorithmes, nous vivons dans une société de l’anticipation, nous acceptons le contrôle de nos existences par des tiers, non plus le « Big Brother » du roman de George Orwell mais une « Big Mother » à la présence nettement plus pernicieuse, mère « protectrice » supposée veiller sur nous.

Une réalité entièrement personnalisée

Google fut d’abord une formidable invention, un moteur de recherche qui triait les réponses suivant leur sérieux, leur pertinence. Ce temps n’est plus. Par le biais de la centaine d’applications que la firme a créées, et tout particulièrement les comptes Gmail, les individus pistés sont marchandisés par le biais des publicités ciblées, le cœur de la machine à dollars.

La personnalisation est la clé du succès : 30 % des ventes d’Amazon viennent des algorithmes de recommandation. Les algorithmes de Facebook, complexes, opaques, choisissent les contenus accessibles à l’usager.

La publicité ciblée est ainsi devenue le moteur de l’internet grand public. Marques et annonceurs payent fort cher les outils qui permettront de présenter les annonces à la bonne personne.

« C’est là la position qu’occupent des géants comme Facebook et Google, qui dominent largement le marché tout en se livrant à un duel féroce. Pour peu que vous utilisiez Gmail et que vous ayez discuté avec votre mère de votre projet de vacances à Izmir, vous pouvez être sûr que dans les prochains jours vous tomberez opportunément sur une annonce pour prendre un avion low-cost direction la Turquie. Mais uniquement si vos signaux révèlent un niveau socio-économique modeste, sinon ce sera plutôt une semaine dans un hôtel quatre étoiles de la ville balnéaire turque qui vous sera proposée. »

La généralisation de l’usage des smartphones est une aubaine pour les annonceurs qui pratiquent le « géomarketing prédictif », préparent des annonces personnalisées, géolocalisées, anticipées.

Netflix, qui fut à ses débuts un loueur de DVD par correspondance, est un exemple frappant de l’utilisation du profilage « devenu le nouveau Graal ». Non content d’avoir réussi à obtenir le taux de 75 % de contenus regardés sur recommandation, devenu producteur, grâce à l’énorme quantité de données venant de ses abonnés, il crée des séries calculées statistiquement, comme un puzzle, avec pour objectif une audience maximale, objectif largement atteint pour House of Cards et Orange Is the New black.

Ce phénomène est sans doute plus connu pour la musique, avec les play lists hebdomadaires créées par la plate-forme Spotify, et Facebook, « le plus gros journal personnalisé du monde ».

Ainsi se trouve accentuée la tendance naturelle qui nous pousse vers ce qui nous conforte. Livres, modes, rencontres, séries, tout est personnalisé et par là même normé.

« Dans le monde algorithmique qui se dessine, chacun est " sans relâche rappelé à ses inclinations d’après une équivalence jamais contrariée entre l’identité et l’identique"[i]. »

L’action subtile et imperceptible de ces algorithmes contourne « les défenses instinctives que l’individu peut dresser contre la publicité et le consumérisme » et nous accoutume à la passivité, « à ce que nos actions soient continuellement le fruit de suggestions proposées par des substances externes,  cette délégation permanente de notre pouvoir de décision. »

Les écosystèmes de manipulation

Grâce à la masse des données collectées, à leur interprétation par des algorithmes de plus en plus performants, on a vu comment Google, Facebook ont transformé le marketing, exploitent les données comportementales en leur possession à des fins de manipulation marchande. L’utilisation, encouragée par Facebook, des smileys - 😠  - et pouces - 👎  - facilite grandement les analyses psychologiques, à défaut de permettre l’expression d’une pensée nuancée.

Gagner des élections pourrait-il devenir simple affaire de technologie ?

On a beaucoup parlé de l’usage d’internet dans la seconde élection de Barack Obama, première élection gouvernée par la donnée - data-driven - .  « Pour l’anecdote, le "chef d’équipe", Rayid Ghani, s’affairait auparavant dans le secteur privé à maximiser l’efficience des soldes en supermarché. »

Les Républicains ont bien sûr emboîté le pas, puis d’autres pays comme le Canada, l’Inde et surtout le Royaume Uni en 2015.

En Europe des freins existent : la limitation du financement des campagnes électorales et la protection des données. Mais la tendance à « rationaliser les campagnes » est bien lancée.

On objectera la difficulté à mesurer l’impact réel de ces méthodes. Mais il est clair que la « politique est devenue un service, l’électeur un client, la parole publique de la communication. »

 « […] les derniers hommes politiques inner-directed, animés de l’intérieur par leurs propres croyances et engagements, sont sommés de laisser place à un corps de gestionnaires vidés de leur intériorité, outer-directed, pilotés par les calculs et les probabilités. »

Avec cette nouvelle forme de campagnes électorales, on assiste à une accentuation de défauts préexistants dans la vie politique. Dans le domaine des assurances, ce sont des bouleversements radicaux qui se préparent : le passage d’un système de mutualisation des risques à l’individualisation des contrats en fonction des potentiels et des efforts de chacun, aisément contrôlables grâce à des bracelets, aux applications des smartphones, aux innovations domotiques qui garantissent aux assureurs une connection permanente. Pay as you drive, payez selon votre conduite disent les assureurs automobile.

Fondé sur un modèle prédictif ce nouveau système ne pourra que renforcer les inégalités et accentuer la normalisation d’une société sous surveillance constante.

"L’hypothèse sous-jacente [des rapports faisant la promotion de ces nouveaux modèles assurantiels] est que la mauvaise santé n’est pas seulement un fardeau pour la société, mais mérite d’être punie (fiscalement pour l’instant) pour irresponsabilité. Qu’est-ce qui pourrait expliquer leurs problèmes de santé, sinon leurs défaillances personnelles ? Ce n’est en tout cas pas l’emprise des entreprises alimentaires ni les différences fondées sur la classe sociale ou les diverses injustices politiques et économiques. On pourra bien porter une douzaine de capteurs puissants, posséder un matelas intelligent, ce genre d’injustices passera inaperçu car elles ne sont pas le genre de choses qui peuvent être mesurées par un capteur. Les injustices sociales sont beaucoup plus difficiles à suivre à la trace que le quotidien des personnes qu’elles affectent."[ii]

En France prévaut jusqu’ici le principe de non-discrimination, de collectivisation du risque et de mutualisation de l’assurance. Pour combien de temps ?

La machine à gouverner

Les États-Unis sont également à la pointe de la création de logiciels prédictifs visant à lutter contre la criminalité. Ils ont d’abord cherché à définir des « zones à risque » sur lesquelles la police peut intervenir préventivement.

Mais la police prédictive tend à délaisser ce profilage géographique, pour s’intéresser davantage aux individus et à leurs comportements afin de créer une liste des individus « à risque ». Les spécialistes de l’analyse prédictive se défendent de toute intention discriminatoire, affirmant évaluer le risque de violence « d’une manière non biaisée, quantitative. »

En France, le Conseil d’État s’est ému du danger, mais a bien dû constater combien il est difficile de protéger les droits fondamentaux « face à la diversité des données existantes, à la complexité de leur mise en relation et à l’opacité des dispositifs prédictifs. »

Le champ d’action de ces algorithmes prédictifs est immense. Ils doivent permettre de détecter l’ennemi intérieur. La loi sur le renseignement en France votée par l’Assemblée en 2015 a permis l’installation de « boîtes noires » insérées au cœur du réseau internet français pour détecter des terroristes, mettant ainsi sous surveillance l’ensemble des internautes, et faisant passer nos sociétés "d’une logique de l’innocence, où la faute se prouve, à une culture de la culpabilité, où tout le monde doit être soupçonné par avance"[iii]

Nous vivons aussi le temps de l’évaluation – scoring – qui ne cesse jamais. Elle est facilitée par les réseaux sociaux comme Facebook, qui se réserve même le droit de nouer des partenariats avec des banques qui pourront fonder leurs évaluations des demandeurs de prêts sur la base de leur cercle social en ligne.

Airbnb et Uber fonctionnent sur un système de notation qui fait planer la menace constante d’une exclusion de la plate-forme. Tout est fondé sur la réputation.

Les activités en ligne sont aussi devenues un critère essentiel pour dénicher l’employé modèle. Pour être embauché, mieux vaut être influent sur les réseaux sociaux.

Les mêmes entreprises qui proposent leurs services de repérage et de filtrage des candidats développent également des logiciels de « management algorithmique ». L’un des pionniers de ce domaine, A. Pentland, s’inscrivant dans l’héritage d’Auguste Comte et du positivisme, définit ainsi sa théorie : "La physique sociale nous aide à comprendre comment les idées coulent d’une personne à une autre par le mécanisme de l’apprentissage social et comment ce flot d’idées finit par façonner les normes, la productivité et les créations de nos entreprises, villes et sociétés. Cela nous permet de prédire la productivité de petits groupes, de départements, d’entreprises et même de villes entières. Cela nous aide encore à régler les réseaux de communications pour que nous puissions prendre de meilleures décisions et devenir plus productifs. "[iv]

Le système décrit rend nécessaire la collecte de données sur les employés. Il faut tout mesurer, tout surveiller afin de prendre des décisions « scientifiques », automatisées, indiscutables.

Ces logiciels capables de désigner l’employé modèle à fort potentiel et la brebis galeuse à exclure, peuvent aussi permettre aux universités de choisir les étudiants les plus prometteurs, de prédire leurs résultats. Ils sont déjà utilisés dans certaines universités américaines.

« Les différents rapports liant individus et collectifs tombent peu à peu sous l’influence de cette logique statistique. […] Dans cette société qui s’esquisse, tous les individus suivraient un chemin tracé à la mesure de leurs potentiels, se verraient offrir un étroit panel d’options pour exercer leur libre arbitre. […] Cette rationalisation nous est souvent présentée comme objective, neutre, impartiale, écartant les préjugés humains. Or, non seulement il est aisé de démontrer qu’un algorithme n’est en rien neutre et peut facilement reproduire de facto des biais sociaux, mais nombre d’entre eux s’appuient ostensiblement sur des données socio-culturelles sensibles comme l’ethnie (aux États-Unis), le lieu de résidence, le sexe ou les revenus. »

Rien n’empêche la régulation algorithmique de s’étendre. Tout est numérisable et numérisé : ville intelligente, gestion de nos sociétés, pratiques gouvernementales, suivant un processus invariable : collecte d’un maximum de données, construction de modèles, intervention selon les scores produits. « Si ces interventions sont jugées efficaces, c’est qu’il est temps de les automatiser et de retirer l’humain de la boucle. »

Est-il encore possible d’arrêter cette course vers la « machine à gouverner », qui créera un gouvernement visant à l’équilibre et au bonheur statistique des masses et appauvrira la substance des existences individuelles et de la vie collective ? "Le big-data serait devenu un instrument pour collectiviser le choix humain et abandonner le libre arbitre dans notre société." [v]

La société de contrôle intégral

Dans ce monde rêvé et mis en œuvre par la Silicon Valley, la politique est morte, la science technocratique triomphe, seule apte à réparer les dysfonctionnements de la société. Les héros de notre temps, gardiens du progrès, sont les scientifiques et les ingénieurs, les inventeurs du numérique, les startupers tel Steve Jobs qui fait l’objet d’un véritable culte post-mortem.

La Silicon Valley « s’octroie une mission messianique. […] Elle est ce Prométhée qui doit apporter le feu sacré aux hommes sur la Terre, leur offrir la connaissance et les techniques qui seront les moyens de leur émancipation. » Les GAFA, champions de la Valley, promettent un monde interconnecté, sans guerre et sans misère.

La traduction économique de ce discours révolutionnaire et progressiste est l’ultralibéralisme, la nécessité de « déverrouiller » l’économie, l’opposition à toute régulation, à toutes les formes de contraintes, de limites et de frontières, associée à la concentration monopolistique des entreprises du numérique. Amazon contrôle toute la chaîne, a racheté aussi les entreprises de livraison. « You Tube, parti d’un simple partage de vidéos et de musique, a entrepris de remplacer les radios (constitution de playlists automatiques, lecture automatique), les diffuseurs, les maisons de disques, la télévision, etc. » Notons que cette plate-forme est maintenant la propriété de Google.

L’emblème présent et futur de nos sociétés est le Panopticon, imaginé par le philosophe anglais Jeremy Bentham, espace pénitentiaire dans lequel le gardien, placé au centre, peut tout voir et savoir de ce que font les prisonniers, sans se déplacer. Il ne s’agit plus cependant d’enfermer les corps, mais d’envelopper les esprits. La coercition n’est plus nécessaire ; la suggestion suffit, l’enfermement est volontaire. Les mécanismes du contrôle sont fluides, dilués dans le corps social.

Le « dressage » reste nécessaire, pour pousser l’individu à consommer, à nourrir l’appétit vorace des multinationales du net, mais nul besoin de coercition. Ce système, au contraire, fait appel au « principe de plaisir », à l’illusion de permissivité, voire de transgression. « Les nouveaux lieux de conditionnement sont la boîte de nuit, les fêtes, la bande, la mode ». Le processus de contrôle, subtilement introduit, agit sur l’individu à son insu, quand il croit trouver son compte dans les services proposés, qui profitent avant tout au concepteur.

Ce nouveau système de contrôle permet à l’homme moderne d’assouvir son besoin d’être conduit tout en restant libre du moins en apparence.

L’autorité exercée a changé de forme et de nature. « Ce que veut l’opinion n’est certes pas "Big Brother vous surveille", mais sans doute "Big Mother" veille sur vous ». [vi] Sa main amicale sait trouver les formules qui pénètreront les cerveaux pour mieux les manipuler.

Comment se prémunir ? N’est-il pas déjà trop tard ?

Comment redonner leur place à la politique et aux luttes sociales, aujourd’hui marginalisées et discréditées, au moment où les hommes politiques, soumis au capitalisme mondialisé, développent des politiques sécuritaires, derniers domaines d’action possible ?

Comment sortir de « la plaine arasée du conformisme » à peine caché derrière les images illusoires de liberté et de choix ?

Saurons-nous donner, dans nos vies, toute la place à la SÉRENDIPITÉ ?

« Ce mot trouve son origine dans un conte persan du XVIe siècle, Les Trois Princes de Serendip, narrant l’épopée de trois hommes envoyés à l’étranger par leur père pour parfaire leur éducation et qui, ballottés par les remous imprévisibles du monde, reçoivent tout au long de leur aventure des récompenses inattendues. La morale de cette histoire, qui lui a valu un substantif et la postérité, est que tant la découverte que l’enrichissement qui peut en découler n’ont de chance d’advenir que dans la confrontation avec le hasard, dans la prise de risque. »

Philippe Vion-Dury, La nouvelle servitude volontaire

Editions fyp, 252 p.

---

[i] Éric Sadin, La Vie algorithmique : Critique de la raison numérique, L’Échappée, 2015

[ii] Evgeny Morozov, « The Rise of Data ad the death of Politics », The Guardian, 20 juillet 2014

[iii] Jean-Claude Vitran, président de la Ligue des droits de l’Homme

[iv] Alex Pentland, Social Physics

[v] Viktor Mayer-Schönberger, Kenneth Cukier, Big Data : A Revolution That Will Transform How We Live, Work,and Think, Hougton Mifflin Harcourt, 2013

[vi] Michel Schneider, Big Mother, Psychopathologie de la vie politique, Odile Jacob, 2002.