Shoshana Zuboff – L'Âge du Capitalisme de Surveillance

Avec la révolution numérique, et l'accès à Internet de milliards d'individus, nous sommes entrés dans une nouvelle ère pour l'espèce humaine. Cette révolution sans précédent, dans l'accès au savoir et la manière de communiquer, transforme profondément nos sociétés, d'une façon encore plus radicale que l'invention par Gutenberg de l'imprimerie au milieu du XV^ème siècle.

Cependant, il n'est pas évident que cette révolution numérique nous achemine collectivement vers une nouvelle Renaissance dont un humanisme rénové serait le moteur. Dans un ouvrage intitulé L'âge du capitalisme de surveillance, paru en France en 2020^{Toutes les citations sont tirées de Shoshana Zuboff, L'âge du capitalisme de surveillance, Zulma, Paris, 2020. L'ouvrage est d’abord publié en Allemagne en septembre 2018, puis aux États-Unis en janvier 2019. La traduction française est de Bee Formentelli et Anne-Sylvie Homassel.} , la sociologue Shoshana Zuboff décrit au contraire l'émergence d'un nouveau type de pouvoir dans notre société, qui instrumentalise la révolution numérique à son profit.

L'instrumentalisation du numérique

Ce nouveau pouvoir « surveille, suit, cible, analyse, définit, manipule et contrôle des individus, des groupes, des populations ». Il impose une nouvelle forme de domination sociale, fondée sur la modification des comportements humains. Ce pouvoir, que Zuboff qualifie de « pouvoir instrumentarien » est au service d'un nouvel ordre économique : le capitalisme de surveillance.

Selon Zuboff, « à notre époque, c’est le capital de surveillance qui commande le milieu numérique et dirige notre trajectoire vers le futur. »

Le capitalisme de surveillance apparaît dans les années 2000 et s'est progressivement accaparé le domaine numérique^{La révolution numérique est issue de recherches et d'investissements publiques menés dès les années 1960 et 1970. L'ouverture du réseau au commerce à la fin des années 1980, avec l'apparition des premiers fournisseurs d'accès à Internet, marque les débuts de la privatisation d'internet.} .

« Il défait l’illusion que le modèle du réseau aurait une sorte de contenu éthique inhérent, qu’être “connecté” serait d’une manière ou d’une autre intrinsèquement pro-social, ouvert par essence, ou tendant naturellement vers la démocratisation du savoir. La connexion numérique est désormais un moyen pour que d’autres atteignent leurs objectifs commerciaux. »

La conquête de l'espace numérique par les GAFAM

Les entreprises technologiques, à commencer par les GAFAM (Google, Apple, Facebook, Amazon, Microsoft) ont profité du vide législatif concernant le numérique pour coloniser Internet.

« En tant que pionnier du capitalisme de surveillance, Google a lancé une opération de marché sans précédent dans les espaces non cartographiés d’Internet, où il a rencontré peu d’obstacles législatifs ou concurrentiels, comme une espèce invasive dans un milieu de prédateurs naturels. »

L'ignorance du grand public, l'inaction des gouvernements et l'opacité des processus techniques mis en œuvre ont permis le développement exponentiel de ces entreprises.

« Les capitalistes de surveillance se sont très vite rendu compte qu’ils pouvaient faire ce qu’ils voulaient, et ils l’ont fait. (...) Ils étaient protégés par l’illisibilité inhérente des processus automatisés qu’ils mettaient en place, par l’ignorance qu’entretiennent ces processus, et par le sentiment d’inévitabilité qu’ils favorisent. »

Le capitalisme de surveillance est donc le résultat des décisions politiques prises (ou pas) ces dernières décennies. Les dirigeants ont abandonné leurs citoyens au bon vouloir des géants du Web.

« Nous avançons nus dans le siècle numérique sans les institutions, sans les chartes de droit, les cadres juridiques, les paradigmes réglementaires et les formes de gouvernance nécessaires à la création d'un futur numérique compatible avec la démocratie. »

Les États ont globalement renoncé à leur souveraineté numérique.

« Les démocraties libérales ont livré l'architecture du futur numérique aux entreprises privées du secteur technologique dont elles dépendent à présent pour leurs capacités de surveillance. »

En effet, c'est le potentiel inédit de surveillance, et non le potentiel démocratique des outils numériques qui a retenu l'attention de nos dirigeants. La conquête d'internet par les GAFAM témoigne ainsi d'un inquiétant parti pris politique qui place la capacité de surveillance de l'État au-dessus de l'intérêt collectif, de la protection des libertés et de la vie privée des citoyens.

Le sans-précédent

Comment expliquer le succès fulgurant des GAFAM et de leur vision prédatrice du numérique ?

« Une explication des nombreux triomphes du capitalisme de surveillance domine : le sans-précédent. Ce qui est sans précédent n’est pas reconnaissable. »

Il n'est pas évident de comprendre un phénomène nouveau, surtout quand il perturbe nos repères habituels.

« Quand on est confronté à du jamais-vu, on l’interprète automatiquement à travers le prisme de catégories familières, rendant ainsi invisible précisément ce qui est sans-précédent. L’expression “voiture sans chevaux” à laquelle les gens ont recouru devant la réalité sans précédent de l’automobile en est un exemple classique. La rencontre entre les peuples indigènes et les premiers conquistadors espagnols en est une illustration tragique. »

Les Aztèques n'ont pas su interpéter correctement l'arrivée des Espagnols, qu'ils ont analysé à l'aune de leurs repères culturels, sans mesurer à temps le danger réel que ceux-ci représentaient pour leur société. De même, nous avons du mal à appréhender et à analyser ce que représente pour nos sociétés la révolution numérique, et son détournement par les GAFAM.

« La nature sans précédent du capitalisme de surveillance lui a permis d’échapper à la contestation méthodique parce qu’il ne peut pas être correctement appréhendé avec nos concepts actuels. »

En effet, l'analyse d'un phénomène aussi nouveau et aussi impactant prend du temps, et nécessite un certain recul intellectuel qui n'est pas évident à mettre en place.

« On recourt à des catégories telles que le “monopole” ou la “vie privée” pour contester les pratiques capitalistes de surveillance. Or, bien que ces questions soient vitales, alors même que les opérations capitalistes de surveillance sont monopolistiques et constituent une menace pour la vie privée, les catégories actuelles sont néanmoins insuffisantes pour identifier et contester les faits sans précédent les plus cruciaux de ce nouveau régime. »

Ce qui n'a pas de précédent dans l'histoire humaine est toujours déroutant. Nous avons du mal à nous y confronter, et à le comprendre sans plaquer dessus des catégories et des interprétations obsolètes. Ces erreurs d'interprétation contribuent, selon Shoshana Zuboff, à « la normalisation de l’anormal ».

L'utilisateur comme matière première

Désormais nous pouvons difficilement nous extraire du domaine numérique et de la surveillance généralisée qui s'y exerce à notre insu.

« Considérons qu’Internet est devenu essentiel à la vie sociale, qu’il est maintenant saturé par le commerce, et que le commerce est désormais surbordonné au capitalisme de surveillance. Notre dépendance est au cœur du projet commercial de surveillance [...]. »

Pour le comprendre, il faut garder à l'esprit que le capitalisme de surveillance est directement lié à l'invention, en 2001, d'« une nouvelle forme de marché qui revendique l'expérience humaine privée comme matière première dont elle se sert dans des opérations secrètes d'extraction, de production et de vente ».

Une relation fondamentalement asymétrique

Ce nouveau marché repose sur l'accès à des flots massifs d'informations nous concernant par certains acteurs stratégiques, notamment les entreprises technologiques comme les GAFAM. Dès 2013, le directeur du Renseignement de la CIA affirmait que « Nous sommes quasiment en mesure d'informatiser toutes les informations générées par les êtres humains. »^{« En 2013, le directeur du Renseignement de la CIA livrait cet aveu stupéfiant : “Nous sommes quasiment en mesure d'informatiser toutes les informations générées par les êtres humains.” » (page III)}  Cette masse d'informations constitue le fond de commerce des GAFAM.

« Le capitalisme de surveillance revendique unilatéralement l’expérience humaine comme matière première gratuite destinée à être traduite en données comportementales. »

La masse d'informations accumulée sur chacun d'entre nous est transformée en produits de prédiction. Ces produits de prédiction sont négociés sur de nouveaux marchés que Zuboff appelle les marchés des comportements futurs. L'utilisateur, le consommateur cesse d'être un client pour devenir la matière première d'un profit généré par sa surveillance.

« Les véritables clients du capitalisme de surveillance sont les entreprises qui achètent les comportements futurs sur ses marchés. »

Et c'est dans l'opacité la plus totale que ces entreprises transforment notre vécu en source de profit.

« Le capitalisme de surveillance opère au moyen d’asymétries sans précédent dans le savoir et le pouvoir qui en découle. Le capitalisme de surveillance sait tout de nous, alors que ses opérations sont conçues pour que nous n’en sachions rien. Il accumule de vastes domaines de nouveaux savoirs à partir de nous, mais non pour nous. Il prédit notre avenir pour que d’autres en tirent profit, et pas nous. »

Les produits et les services du capitalisme de surveillance n’instaurent aucune réciprocité constructive entre producteurs et consommateurs.

« Ce sont au contraire les “hameçons” qui appâtent les utilisateurs dans les opérations d’extraction par lesquelles notre expérience personnelle est captée et emballée pour que d’autres atteignent leurs objectifs. »

De la prédiction à l'automatisation

Ainsi, chaque aspect de l'expérience humaine se trouve monitoré dans le but de prédire notre comportement et de monétiser ces prédictions.

« Qu’il s’agisse d’un appareil électroménager “intelligent”, de ce qu’on appelle l’“assurance comportementale” ou de mille autres transactions, nous payons désormais pour notre propre domination. »

Mais pourquoi se contenter de prédire les comportements ?

« En fin de compte, les capitalistes de surveillance ont découvert que les données comportementales les plus prédictives s’obtiennent en intervenant directement pour inciter (nudge) et influencer, ajuster (tune) et aiguillonner (herd) le comportement vers des résultats rentables. La pression de la concurrence a provoqué ce changement à la faveur duquel des processus automatisés non seulement connaissent notre comportement mais le façonnent aussi à grande échelle. »

Après tout, la meilleure façon de prédire les comportements futurs n'est-elle pas de les façonner ?

« Avec cette réorientation, du savoir vers le pouvoir, automatiser les flux d’informations nous concernant ne suffit plus ; le but est désormais de nous automatiser. »

C'est un projet de manipulation psychologique à grande échelle qui se met en place. Cependant, l'asymétrie de savoir qu'impose l'opacité des processus techniques (algorithmes, notamment) empêche de penser correctement les transformations sociales à l'œuvre.

La technologie au service du conformisme

Shoshana Zuboff rappelle que « la technologie n’est pas et ne pourra jamais être une chose en soi, isolée de l’économie et de la société ». Elle n'est qu'un outil.

La technologie ne se fixe pas elle-même des objectifs à atteindre, elle est toujours mise au service d'une idée ou d'une idéologie. On peut très bien imaginer les mêmes technologies au service d'autres objectifs plus humanistes^{« C’est le capitalisme qui fixe le prix de la sujétion et de l’impuissance, pas la technologie. »} .

« Le capitalisme de surveillance n’est pas une technologie, c’est une logique qui imprègne la technologie et la met en œuvre. C’est une forme de marché inimaginable en dehors du marché numérique, mais ce n’est pas la même chose que le “numérique” [...], le numérique peut prendre de nombreuses formes en fonction des logiques sociales et économiques qui lui donnent vie. »

Un modèle idéologique rétrograde

Si les technologies du capitalisme de surveillance sont nouvelles, la logique derrière ces technologies, elle, n'a rien de nouveau et rien d'innovant.

« [...] en dépit de la sophistication futuriste de l’innovation numérique, le message des entreprises capitalistes de surveillance diffère à peine des thèmes jadis glorifiés dans la devise de l’Exposition universelle de Chicago en 1933 : “La science découvre, l’industrie applique, l’homme se conforme.” »

Le changement climatique nous montre les conséquences de cette idéologie suivant laquelle les hommes doivent se conformer aux applications industrielles qu'on leur propose de consommer continuellement.

« Dans une société capitaliste moderne, la technologie était, est encore et sera toujours une expression des objectifs économiques qui la mettent en œuvre. »^{Zuboff s'appuie sur les travaux du sociologue Max Weber, notamment sur l’idée d'une « orientation économique » de la technologie. Pour Weber en effet, « l’orientation, sur le plan économique, de ce que l’on appelle le développement technologique de la modernité, vers la recherche du profit est l’un des faits fondamentaux de l’histoire de la technologie ». (Max Weber, Économie et Société, t. 1 : Les catégories de la société, trad. Julien Freund, Pocket, coll. Agora, 2003, cité par Shoshana Zuboff)} 

Selon Zuboff, nous sommes souvent la proie d'une illusion technologique, et nous oublions que « la technologie est l’expression d’autres intérêts. »

Ces intérêts sont avant tout ceux du capital, dont le pouvoir, tout au long du XX^ème siècle, reposait sur le contrôle des moyens de production. Cependant, l'ère du capitalisme de surveillance valorise davantage la détention des nouveaux moyens de modification des comportements. D'après Zuboff, le contrôle des données comportementales a désormais surpassé en importance le contrôle des moyens de production comme source de pouvoir et de richesse.

Un paradigme de plus en plus dominant

Le développement exponentiel des GAFAM, et les profits faramineux qui l'ont accompagné, ont suscité une émulation générale de ce modèle prédateur dans le reste des entreprises du secteur numérique.

« Le capitalisme de surveillance ne se limite plus aux drames de la concurrence entre les géants du web, où les marchés des comportements futurs visaient d’abord la publicité en ligne. Ses mécanismes sont devenus le modèle par défaut de la plupart des entreprises Internet. Et finalement, la pression concurrentielle a conduit à leur expansion dans le monde hors ligne, où les mêmes mécanismes fondamentaux, qui s’approprient votre navigation en ligne, vos likes et clics, s’appliquent à votre jogging au parc, vos conversations au petit déjeuner ou votre quête d’une place de parking. »

Loin de se cantonner au domaine numérique qui lui a donné naissance, le capitalisme de surveillance s'est donc généralisé. Le marché des comportements futurs attire un nombre toujours croissant d'entreprises, bien au-delà du marché initial des publicités ciblées en ligne.

On y retrouve « d’autres secteurs dont l’assurance, la vente au détail, la finance et un éventail toujours plus vaste d’entreprises de produits et de services déterminées à participer à ces nouveaux marchés rentables ».

Conclusion

En résumé, pour Shoshana Zuboff, de plus en plus, le capitalisme de surveillance impose aux individus du XXI^ème siècle « un choix foncièrement illégitime ». Nous vivons tous dans une sorte de dissonance cognitive, partagés entre notre désir de résister aux atteintes à notre vie privée et un désir de socialisation de plus en plus tributaire des réseaux sociaux.

« Ce conflit provoque un engourdissement psychique qui nous rend insensibles au fait d’être géolocalisés, analysés, exploités et modifiés. Ce qui nous dispose à rationaliser la situation avec un cynisme résigné, à inventer des excuses qui fonctionnent comme des mécanismes de défense (“Je n’ai rien à cacher”) ou à trouver d’autres moyens de faire l’autruche, en choisissant l’ignorance par frustration et impuissance. »

Mais les multinationales qui nous imposent ce choix illégitime savent parfaitement ce qu'elles nous font.

« Le capitalisme de surveillance n’est pas un accident de parcours de technologues trop zélés, mais plutôt un capitalisme voyou qui a appris à exploiter habilement ses conditions historiques pour garantir et défendre son succès. »

Shoshana Zuboff souligne combien l'inaction politique a fragilisé la société face à l'assaut inédit du capitalisme de surveillance et sa conquête de l'espace numérique. C'est l'apathie des législateurs et la complicité des gouvernements qui a permis l'instrumentalisation d'Internet.

« Au lieu de vivre un Âge d'or numérique qu'accompagnerait la démocratisation promise de l'information, nous avons été relégués vers des temps féodaux, les empires de la surveillance privée parvenant à des concentrations sans précédent de savoir et au pouvoir injustifié qui découle de ce savoir. »

Pour Shoshana Zuboff, c'est la démocratie elle-même qui est mise en péril.

« Le savoir illicite et le pouvoir injustifié du capitalisme de surveillance [...] menacent de défaire la démocratie tout en refondant l'ordre social. »

Et cette marchandisation croissante des expériences humaines risque d'avoir des conséquences dramatiques pour nos sociétés.

« Tout comme la civilisation industrielle a prospéré aux dépens de la nature et menace désormais de nous coûter la Terre, la civilisation de l’information façonnée par le capitalisme de surveillance et son pouvoir instrumentarien sans précédent prospérera aux dépens de la nature humaine et menacera de nous coûter notre humanité. »

C'est pourquoi, face aux nouvelles frontières du pouvoir que dessine le capitalisme de surveillance, il est urgent de se réapproprier Internet et de lutter pour un espace numérique au service de l'humanité et de son avenir.

«