Intervention au Séminaire Etudier les cultures du numérique organisé par Antonio Casilli à l'EHESS. Janvier 2018.

1. Gouvernementalité algorithmique et libertés
/ séminaire EHESS / Etudier les cultures numériques
De plus en plus d’ingénieurs de la Silicon Valley critiquent les technologies qu’ils ont eux-mêmes construites : crise
éthique personnelle ou échec de la gouvernementalité algorithmique ?
1
Les 7 crises de la gouvernementalité algorithmique.
Olivier Ertzscheid. Université de Nantes. 8 Janvier 2017.

2. Gouvernementalité algorithmique ?
• « La gouvernementalité algorithmique est un mode de gouvernement des conduites qui s’appuie sur des
données numériques insignifiantes mais quantifiables.
• L’objectif n’est pas de gérer le présent, mais de se protéger contre l’incertitude de l’avenir.
• On ne gouverne plus des sujets rationnels, on contrôle un espace purement spéculatif en analysant le
potentiel d’un individu à adopter un comportement plutôt qu’un autre. »
• Antoinette Rouvroy*.
* http://www.lemonde.fr/idees/article/2017/12/29/en-2018-resistez-aux-algorithmes-avec-la-philosophe-antoinette-rouvroy_5235555_3232.html
2
PRÉAMBULE

3. Plateformes ?
• Cette gouvernementalité s’exerce au sein des « plateformes » (GAFAM, NATU, BATX en Chine, etc ...)
• A. Casilli (je souligne) : « une plateforme est une entité politique, et non pas une simple métaphore – elle illustre les dimensions
collectives et la nature consensuelle des négociations qui ont lieu dans son périmètre*. »
* http://www.casilli.fr/2017/10/01/de-quoi-une-plateforme-est-elle-le-nom/
• Le périmètre de ces entités « politiques » et donc de leur action politique est avant tout un périmètre « documentaire » : le
périmètre des comportements, interactions, individualités, sentiments, expressions, etc … qu’elles sont en capacité de
« documenter » au sens premier.
• Et je travaille sur les enjeux politiques de cette capacité à documenter. A documenter le réel, à documenter l’inanimé et à
documenter le vivant. À une échelle macro et micro.
3
PRÉAMBULE

4. Au programme
Tenter de faire 3 choses.
• Dire d’où je parle dans ce livre :
– Resituer ce livre, ce recueil d’articles publiés sur mon blog dans le champ des problématiques de
mon champ de recherche initial, c’est à dire problématiques documentaires. Liées à l’épistémologie
du document. Et comment la dimension « politique » de la gouvernementalité est arrivée au centre
de mes réflexions. A partir de 5 « moments » qui ont marqué mon positionnement de chercheur et
de citoyen autour des « cultures du numérique ».
• Dire de quoi je parle dans ce livre :
– d’un moment de crise. Une crise de la gouvernementalité algorithmique. Vous proposer un focus sur
« des crises ». Sept crises qui me semblent essentielles.
• Ouvrir sur le prochain moment :
– 4 interrogations fortes, à la conjonction de la politique, de la gouvernementalité algorithmique et de
la documentation.
4
PRÉAMBULE

5. L’appétit des géants.
Pouvoir des algorithmes,
ambition des plateformes.
• Ce livre est une série de variations sur le même thème : la place du document et de la documentation dans ces « entités politiques »
que sont les plateformes. Comprendre pourquoi et comment cette documentation est au service de ce « mode de gouvernement des
conduites ».
• Et dans ce qui ressemble à une extension presqu’infinie de champ du documentable, de ce qui peut être documenté, puisque même
l’être humain est un document, comprendre quelle place peut occuper notre libre arbitre (souvenir de Beckett et de mes études de
lettres probablement) dans la tourbe d’un déterminisme algorithmique multi-factoriel que quelques plateformes cristallisent dans nos
usages.
• Le « libre arbitre » étant, en un sens, ce qui ne peut pas être documenté, ce qui résiste à toute forme de documentation, ou en tout cas
ce qui peut permettre une forme de « résilience documentaire », la capacité de prendre acte des activités de documentation qui nous
définissent et nous caractérisent au sein de ces plateformes pour mieux s’en abstraire et s‘en éloigner ; pour s’affranchir du
déterminisme calculatoire qu’elles pourraient nous imposer.
• Une interrogation sur le libre-arbitre qu’Antonio a d’ailleurs très bien observée et décrite dans la préface qu’il a eu la gentillesse
d’accepter de rédiger.
5
PRÉAMBULE

6. NOS PREMIÈRES
LIBERTÉS SONT NOS
LIBERTÉS
DOCUMENTAIRES*
6
* Toutes proportions gardées 

7. La question documentaire est plurielle. Mais ses enjeux
sont toujours, in fine, politiques.
• 1ER
MOMENT : L’HOMME EST UN DOCUMENT COMME LES AUTRES
• Décembre 2007 (Séminaire GDR-Tics). Publication en 2009, dans Hermès, de « l’homme est un document comme les autres ».
• Résumé : Les réseaux sociaux posent aujourd'hui, au sens propre, la question documentaire appliquée au facteur humain. La gestion
des identités numériques laisse entrevoir la constitution d'un pan-catalogue des individualités humaines, ouvert à l'indexation par les
moteurs de recherche, et pose ainsi la question de la pertinence des profils humains. (…) Il devient nécessaire de questionner le
processus qui après avoir ouvert l'indexation à la marchandisation, après l'avoir parée de vertus « sociales », place aujourd'hui
l'homme au centre même du cycle documentaire, non plus comme sujet-acteur, mais comme un objet-documentaire ... parmi
d'autres. La question qui se pose est donc clairement celle du caractère indexable de l'être humain. Celle de savoir si l'Homme est, ou
non, un document comme les autres. »
• Si l’Homme est un document comme les autres, alors pourquoi en faire collection ? Quel pouvoir
en tirera celui qui disposera du catalogue complet de l’humanité connectée ?
• Thèse de Suzanne Briet : « Pour S. Briet, tout élément qui fait office de preuve est un document, y compris les êtres vivants, s'ils ont
cette fonction. Ainsi une antilope dans un zoo est une source primaire donnant naissance à une très nombreuse documentation
secondaire. À l'inverse, la même antilope, gambadant libre dans la savane n'a pas de statut documentaire. Selon cette perspective, tout
individu est potentiellement un document s'il est utile à prouver quelque chose. Les hommes vivant en sociétés organisées, tous leurs
faits et gestes sont potentiellement utiles pour au moins trois champs de connaissances : le savoir scientifique, le commerce, le
politique. » **
• Et aussi de la cybernétique, N. Wiener (être vivant comme système d’information).
• Question de la « preuve physique », et derrière la question de la preuve, la question de la vérité. Une interrogation que nous
retrouverons plus tard sur les différents « régimes de vérité » à l’œuvre dans les plateformes.
7
INTRODUCTION
**
http://blogues.ebsi.umontreal.ca/jms/index.php/post/2010/01/02/Suis-je-un-document

8. 8
« L’antilope qui court dans les plaines d’Afrique ne peut être considérée comme un document…»
« Mais si elle est capturée… et devient un objet d’études, on la considère alors comme un document.
Elle devient une preuve physique. » Suzanne Briet
INTRODUCTION

9. La question documentaire est plurielle. Mais ses enjeux
sont toujours, in fine, politiques.
• 2ème
MOMENT : LE GÉNOME COMME PRIMO-DOCUMENT
– 2007 : la société 23andMe annonce le séquençage complet de notre génome pour 1000 dollars. Wired titre
sur « Welcome to the age of genomics » *
– 23andMe est co-dirigée par Anne Wojcicki. Qui épouse Serguei Brin en 2007. Ils ont deux enfants. Se séparent
en 2015. Google et 23andMe sont deux entreprises documentaires. Qui ont en commun un objectif de
séquençage. « Séquencer » c’est déterminer un ordre (des nucléotides pour la génomique et des informations
pour un moteur de recherche), séquencer c’est « organiser », « organiser l’information à l’échelle de la
planète » (1er
Motto de Google)
• 3ÈME
MOMENT : « WE SHALL DOCUMENT THEM ».
– Mai 2010 : un candidat au congrès américain, républicain, médecin, parle de pucer les immigrés « We shall
document them » : "Je pense que nous devrions les attraper, les documenter, s'assurer de savoir là où ils sont
et ce qu'ils font. (...) En fait, je soutiens les micropuces. Je peux pucer mon chien pour que je puisse le trouver.
Pourquoi ne puis-je pas pucer un clandestin ? »**.
– Je rappelle qu’aujourd’hui des entreprises « pucent » leurs employés (volontaires)
– On commence à parler et à réfléchir à des dispositifs, à des stratégies de « résistance à la
redocumentarisation des humains » ***
9
* https://www.wired.com/2007/11/ff-genomics/
** https://web.archive.org/web/20100502040045/http://iowaindependent.com/32926/install-microchips-in-illegal-immigrants-gop-candidate-says
*** http://blogues.ebsi.umontreal.ca/jms/index.php/post/2010/04/13/R%C3%A9sistance-%C3%A0-la-redocumentarisation-des-humains
INTRODUCTION

10. La question documentaire est plurielle. Mais ses
enjeux sont toujours, in fine, politiques.
• 5ÈME
MOMENT : L’HUMANITÉ SANS DOCUMENTS.
– Février 2017 : les « undocumented men » font la une de Time.
http://affordance.typepad.com/mon_weblog/2017/02/undocumented-men.html
10
• 4ÈME
MOMENT : PREUVE D’UNE SURVEILLANCE DOCUMENTAIRE GLOBALE
– Mai 2013 : révélations de Snowden sur la NSA.
INTRODUCTION

11. • 1ER
MOMENT : L’HOMME EST UN DOCUMENT COMME LES AUTRES
• 2ÈME
MOMENT : AVEC LE GÉNOME COMME PRIMO-DOCUMENT
• 3ÈME
MOMENT : IL EXISTE UNE HUMANITÉ QUI VEUT PUCER UNE AUTRE PARTIE DE L’HUMANITÉ (« WE SHALL
DOCUMENT THEM »)
• 4ÈME
MOMENT : NOUS AVONS LES PREUVES D’UNE SURVEILLANCE DOCUMENTAIRE GLOBALE
• 5ÈME
MOMENT : IL EXISTE UNE HUMANITÉ « SANS DOCUMENTS ».
11
NOS PREMIÈRES LIBERTÉS SONT NOS LIBERTÉS
DOCUMENTAIRES
ALORS …
SI …
QUELQUES SOCIÉTÉS PRIVÉES SUFFISENT-ELLES À EN GARANTIR LE
LIBRE EXERCICE ET L’ÉQUILIBRE ?
INTRODUCTION

12. NON.
• C’est parce que ces plateformes ont grandi et se sont développées dans un impensé politique –
presque – total (heureusement ça va mieux, grâce à ce séminaire et aux travaux de Casilli,
Rouvroy, Kaplan, Cardon, Morozov …)
• que se manifestent ces crises éthiques individuelles comme autant de symptômes d’un (r)éveil
tardif
• et que les postures (individuelles et collectives) autour de la gouvernementalité algorithmique se
radicalisent et s’essentialisent.
12
Alors qui pour garantir cet équilibre et éviter toute
forme d’abus ?
INTRODUCTION

13. • La nature ayant horreur du vide idéologique, face au libertariens, au libéralisme, au capitalisme
(linguistique), retour en force de l’analyse Marxiste 
13
INTRODUCTION

14. * http://affordance.typepad.com//mon_weblog/2017/11/contre-nous-algorithmie.html
14
INTRODUCTION

15. * http://affordance.typepad.com//mon_weblog/2017/11/contre-nous-algorithmie.html
15
2012
2014
INTRODUCTION

16. Les 7 crises de la gouvernementalité algorithmique
Bosch. https://upload.wikimedia.org/wikipedia/commons/0/03/Hieronymus_Bosch-_The_Seven_Deadly_Sins_and_the_Four_Last_Things.JPG
16

17. 1. La crise du catalogue et de la collection
• La figure du catalogue comme modèle, comme paradigme. Toute l’histoire du web s’organise autour de deux figures tutélaires qui sont
celles du catalogue et de la collection*.
• Tous les grands services du web sont construits et pensés comme des collections (Youtube, FlickR, Wikipédia, etc.). Toutes les grandes
plateformes se caractérisent par leur capacité d’avoir la main mise sur le catalogue permettant de naviguer au mieux dans ces collections.
– 1968 : Whole Earth Catalogue de Steward Brand. Pionnier de contre-culture. Un « Google fait avec des papiers, de la colle des
ciseaux et des photos polaroïd, 30 ans avant Google » Steve Jobs**.
– 1994 : Amazon et le web / catalogue des marchandises.
– 1996 : Yahoo! et le web / catalogue des adresses
– 1998 : Google et le web / catalogue des documents.
– 2004 : Facebook et le web / catalogue des profils : Pan-catalogue des individualités humaines.
– 20?? : le web / catalogue des objets (IoT) ? Le web / catalogue du génome ?
• La « crise » naît ici de l’inadéquation entre le catalogue et la collection, inadéquation entre (l’intentionnalité de)
l’activité de collection et l’usage du catalogue.
– Au début les gens tapaient dans Google des mots-clés pour trouver des pages pertinentes contenant ces mots-clés, et allaient dans
Facebook pour voir ce que faisaient leurs amis.
– Aujourd’hui les gens vont dans Facebook pour s’informer sans le vouloir (= ils « sont » passivement informés) et dans Google pour
obtenir des confirmations sans le savoir (et réciproquement). Exemple de l’Holocauste qui a vraiment existé.
– Du coup ça coince. Et Zuckerberg envisage d’ailleurs de scinder son outil en deux : d’un côté les « status » de ses « friends » et de
l’autre les « news » des « médias ».
* https://fr.slideshare.net/olivier/lavenir-des-collections-la-bibliothque-comme-mme
** https://www.theguardian.com/books/2013/may/05/stewart-brand-whole-earth-catalog
17

18. Et si l’histoire des plateformes n’était qu’un hoquet de l’histoire
des bibliothèques ?
• Assez troublant de constater, quand on connaît l’histoire des bibliothèques, que les grandes plateformes
semblent aujourd’hui confrontées aux mêmes enjeux que les bibliothèques dans leur mue depuis bibliothèques
de l’ancien régime vers les premières bibliothèques « publiques ».
• Elles ont dû – les bibliothèques – inventer des « politiques documentaires ** » pour que leurs collections :
– ne se fassent plus de manière « confiscatoire » (comme aux premiers temps d’Alexandrie ou de la Révolution Française)
– trouvent un mode équilibré et respectueux de droit à la copie. Qui (ré)autorise la copie.
– Repensent les logiques de diffusion et de « public » lors même que toutes ces plateformes (hors peut-être Google) sont des
espaces ni publics ni privés mais semi-publics ou semi-privés (danah boyd)
18** la « politique documentaire », c’est à dire la « conception et mise en œuvre de méthodes et d’outils permettant de répondre aux missions
de la structure et aux attentes des usagers. » Bertrand Calenge.
Données collectées
(statut et mode de collecte avec ou sans
consentement, explicite ou implicite)
Données collectées
(statut et mode de collecte avec ou sans
consentement, explicite ou implicite)
Statut de la copie. Droit à la copie
Régulation et financement de la circulation
des copies
Statut de la copie. Droit à la copie
Régulation et financement de la circulation
des copies
Articulation entre activité de lecture
publique et confidentialité de l’acte de
lecture privée
Articulation entre activité de lecture
publique et confidentialité de l’acte de
lecture privée
3 piliers des bibliothèques « modernes »
Et des plateformes contemporaines.
3 piliers des bibliothèques « modernes »
Et des plateformes contemporaines.

19. 2. Crise de croissance : où est
le prochain milliard
d’utilisateurs ?
• 1ère guerre de croissance : qui aura la plus grosse BdD de pages indexées pour moteurs, base de profils utilisateurs pour réseaux
sociaux
• 2nde
guerre de croissance commence : qui aura le prochain milliard d’utilisateurs (next billion).
• Pas trop de choix pour le « Next Billion » d’utilisateurs ce sera soit :
– Les enfants *
– Les population pauvres et/ou opprimées. Régimes non-démocratiques
• Dans les deux cas, énormes enjeux éthiques
• Crise de croissance > implique crise de gouvernance (Google en chine, Facebook en Inde, puis récemment en Chine aussi** : « It’s
better for Facebook to be a part of enabling conversation, even if it’s not yet the full conversation »)
• A tel point que la résolution 2018 de Mark Zuckerberg est de « s’occuper des problèmes de Facebook*** » :
– « Le monde semble anxiogène et divisé, et Facebook a beaucoup de travail à faire – qu’il s’agisse de protéger notre
communauté contre la cruauté et la haine, de la défendre contre les interférences des Etats, ou de s’assurer que le temps
passé sur Facebook est du temps bien dépensé. Mon défi personnel de 2018 est de me consacrer à régler ces problèmes. (…)
Nous ne pourrons pas empêcher toutes les fautes et les abus, mais nous faisons pour l’instant trop d’erreurs dans la façon
dont nous appliquons nos règles et tentons de contrecarrer les détournements de notre outil. »
* http://affordance.typepad.com/mon_weblog/2017/12/kids-united-for-facebook.html
** http://affordance.typepad.com/mon_weblog/2016/11/comment-dit-on-facebook-en-chinois-censure.html
*** http://www.lemonde.fr/pixels/article/2018/01/04/la-bonne-resolution-de-mark-zuckerberg-regler-les-problemes-de-facebook_5237671_4408996.html
19

20. 20
Ceci n’est pas un
algorithme.
3. Crise de (l’interface de) la représentation
La trahison des images. René Magritte.
1928-1929
La trahison des technologies. Anonyme.
Circa 2018

21. 3. Crise de (l’interface de) la représentation
• Une crise de « l’interface ». Crise de ce qui peut / doit être représenté.
• Technologies de l’artefact*
– des systèmes socio-techniques capables de créer des « représentations volontairement altérées et artificielles de la réalité
dans une recherche (une « mimesis ») de la vraisemblance. À coût cognitif et économique quasi-nul.
• Même affichée, éditée, animée, photographiée, enregistrée ou filmée de la manière la plus réaliste qui soit, une représentation
de la réalité n'est pas la réalité. Le problème c’est qu’à la différence de la peinture et de la démarche artistique de Magritte, le
numérique dans son usage trivial est supposé suppléer au vrai.
• Les technologies de l'artefact sont un avatar du capitalisme cognitif
– forme ultime de spéculation sur le vrai, sur la vraisemblance, une spéculation sur le réel. Un réel qui serai insuffisant, dont
nous aurions exploré ou épuisé la quasi-totalité des ressources de vraisemblance et de vérité comme autant de ressources
"naturelles", et où il s'agirait maintenant de produire des faits alternatifs au service de réalités fantasmées pour que ces
formes de spéculation - bâties sur différents régimes documentaires de l'altération et de la dis-simulation - puissent
continuer de se déployer de manière exponentielle.
• Technologies de l’artefact disposent d’intentionnalités
– souvent cachées, parfois paradoxales (Disparition d’Aylan Kurdi**), culturelles et / ou normatives (nudité, pronographie)
et sont servies par des « technologies de la persuasion » (captologie)
• Et génèrent d’autres crises potentielles :
– faux-positifs***
– biais algorithmiques (racisme, credit-scoring, justice, accès au logement, etc …)
http://affordance.typepad.com//mon_weblog/2017/12/gal-gadot-porno-politique-faux-document.html
** http://affordance.typepad.com/mon_weblog/2015/09/recherche-aylan-kurdi.html
*** http://affordance.typepad.com/mon_weblog/2017/09/erreur-404-.html
21

22. 3. Crise de (l’interface de) la représentation
• Solution proposée (par les plateformes) :
– 1er
temps : Editorialisation algorithmique*
– 2ème
temps : Des interfaces WYSIWYG aux interfaces WYSIWYWTS : What You See Is What You Want
To See (cf lettre de facebook). En apparence en tout cas …
– WYSITAWYTS : What You See Is What The Algorithm Wants You To See
• Cette crise de la représentation annonce aussi une crise de la représentativité, algorithmique et
politique => facebook influence vote (on y reviendra)
* http://affordance.typepad.com/mon_weblog/2016/11/un-algorithme-est-un-editorialiste-comme-les-autres.html
22
Techno artefactTechno artefact
Capitalisme cognitifCapitalisme cognitif
Spéculation sur le vraiSpéculation sur le vrai
Faux-positifsFaux-positifs
Biais algosBiais algos
captologiecaptologie
Effondrement valeur
de preuve
Effondrement valeur
de preuve
Se nourrit / entretient
Avec l’appui
entraîne
Nouvelles croyancesNouvelles croyances
Avec le risque
Produit / entretient
Nx automatismes
Arcs Réflexes cognitifs
Nx automatismes
Arcs Réflexes cognitifs
Facilitent installation
Qui contribuent
Qui alimenteQui vient nourrir

23. 4. Crise de foi / crise de confiance.
• On a de plus en plus de mal à croire ce que l’on voit (cf crise précédente)
• On a de plus en plus tendance à ne plus croire à ce que disent nos applications.
– Après le doute Cartésien (Descartes), voilà maintenant le doute cardinal (GPS) qui nous amène à remettre en cause ce que
disent nos GPS.
– « don’t trust your apps »
– https://linc.cnil.fr/fr/applications-gps-des-petites-villes-se-rebiffent
– http://www.internetactu.net/a-lire-ailleurs/gps-de-la-valeur-par-defaut/
• On ne croit plus au « projet » algorithmique des plateformes
– parce que de plus en plus d’observateurs démontrent que la réalité sociale produite par l’exercice algorithmique est le
contraire de celle affichée dans le discours marketing des plateformes :
– exemple avec le « hack » des données AirB’nB par un observatoire indépendant pour la ville de Bordeaux* : « Beaucoup de
gens aux revenus modestes (…) ne trouvent plus de logements à un prix abordable ; Airbnb a raréfié l’offre. De plus en plus de
propriétaires utilisent exclusivement cette plateforme pour louer leur bien car cela leur rapporte trois fois la somme qu’ils
toucheraient avec un locataire classique. Des gens se retrouvent donc contraints d’aller habiter en dehors de la ville, là où les
prix sont moins élevés. A Bordeaux par exemple, en un an, le nombre d’annonces Airbnb a augmenté de 135%. Et 83% des
logements loués sont entièrement dédiés à cette activité. On est loin de l’image sur laquelle la plateforme communique, celle
de propriétaires qui louent de temps en temps leur résidence principale pour arrondir leurs fins de mois. Airbnb est devenu
un business d’investisseurs immobiliers, de gens qui achètent de petits logements, des studios ou des T2, pour les mettre en
location via la plateforme et rentabiliser très vite leur achat. La conséquence c’est que beaucoup de jeunes, d’étudiants, de
célibataires modestes sont chassés du centre-ville. Il est devenu très difficile de se loger à Bordeaux. »
• On se rebelle, on manifeste, parfois violemment. Courant luddite (peut-être parce qu’il est de plus en plus difficile de « jouer » -
ludique – avec les algorithmes comme au temps du Google Bombing)
* http://www.urbislemag.fr/-airbnb-rarefie-l-offre-de-logements-abordables--billet-433-urbis-le-mag.html
23

24. 5. La crise de la bulle
spéculative des discours.
• Pourquoi semble-t-il si difficile pour ces plateformes, avec leurs moyens, techniques, informatiques, financiers, de lutter contre Fake
News et / ou les discours de haine ? Pourquoi Facebook annonçait encore récemment qu’il renonçait à signaler Fake News ** ?
• Hypothèse : Discours de haine et Fake News comme forme spéculative, inflationniste des régimes discursifs de l’engagement.
• Dans contexte de capitalisme linguistique, spéculation est économiquement féconde puisqu'elle alimente en interactions lesdites
plateformes.
• Laisser se déployer la volumétrie des logiques de harcèlement (ou refuser de prendre les mesures nécessaires pour les stopper
rapidement et efficacement) équivaut à entretenir la spéculation linguistique sur des logiques de haine, de détestation, de
stigmatisation, de colère, etc. ***
• Il y aura toujours des Fake News et des discours de haine sur Facebook. Sauf si on ferme Facebook. Ou sauf si Facebook renonce à son
modèle publicitaire.
• « nous déclarons que les moteurs de recherche reposant sur un modèle économique de régie publicitaire sont biaisés de manière
inhérente et très loin des besoins des utilisateurs. (…) En général et du point de vue de l'utilisateur, le meilleur moteur de
recherche est celui qui nécessite le moins de publicité possible pour lui permettre de trouver ce dont il a besoin. Ce qui, bien sûr,
condamne le modèle de régie publicitaire de la plupart des moteurs de recherche actuels. (…) nous croyons que le modèle
publicitaire cause un nombre tellement important d'incitations biaisées qu'il est crucial de disposer d'un moteur de recherche
compétitif qui soit transparent et transcrive la réalité du monde. » ****
24
** http://www.atlantico.fr/decryptage/facebook-renonce-signaler-fake-news-cliquaient-encore-plus-mal-atteints-nadaud-albertini-nathalie-3267606.html
*** http://affordance.typepad.com/mon_weblog/2017/11/sagesse-ou-folie-des-foules.html
**** http://affordance.typepad.com/mon_weblog/2016/04/google-appendice-8.html

25. 6. La crise des régimes de vérité*
• Foucault : "Chaque société a son régime de vérité, sa politique générale de la vérité: c’est-à-dire les
types de discours qu’elle accueille et fait fonctionner comme vrais ; les mécanismes et les instances
qui permettent de distinguer les énoncés vrais ou faux, la manière dont on sanctionne les uns et les
autres ; les techniques et les procédures qui sont valorisées pour l’obtention de la vérité ; le statut de
ceux qui ont la charge de dire ce qui fonctionne comme vrai."
• 3 grands régimes de vérité induits par chaque plateforme :
• Google : popularité. Google est une machine à produire de la popularité. Est "vrai" dans
l'écosystème Google, au regard des critères de l'algorithme de Google, ce qui est populaire.
• Wikipédia : vérifiabilité. Est "vrai" dans l'écosystème Wikipédia ce qui est vérifiable.
• Facebook : engagement. FB est une machine à produire de l’engagement. Est "vrai" dans
l'écosystème Facebook ce qui permet de produire de l'engagement, d'être "atteint" (le fameux
"reach") et, par effet de bord, de "porter atteinte". Peu importe que cela soit "vérifiable", peu
importe que cela soit "populaire" (effet de l'illusion de la majorité), il suffit, dans le régime de vérité
de Facebook, que cela produise de l'engagement.
* http://affordance.typepad.com/mon_weblog/2016/11/un-algorithme-est-un-editorialiste-comme-les-autres.html
25

26. 6. La crise des régimes de vérité*
• Je reviens deux minutes sur Wikipédia (et je souligne) :
• "A la différence des lois mathématiques ou scientifiques, la vérité wikipédienne n'est pas basée sur des principes de cohérence ou
d'observabilité. Pas davantage qu'elle n'est basée sur le bon sens ou l'expérimentation. Wikipedia a construit un ensemble de standards
épistémologiques radicalement différents (...) qui doivent interroger ceux qui sont concernés par le sens traditionnel des notions de
vérité et de précision. (…) La ligne officielle de Wikipédia est (…) la suivante : "La condition d'inclusion d'un article dans Wikipédia est la
vérifiabilité, et non sa vérité. (…) Alors qu'est-ce que la vérité ? (...) En pratique, le standard d'inclusion des articles mis en place par
Wikipedia est devenu, de facto, le standard pour la vérité, et depuis que Wikipédia est la source en ligne la plus lue sur la planète,
c'est également le standard de vérité que la plupart des gens utilisent quand ils font une recherche sur Google ou Yahoo. Sur
Wikipédia, la vérité est la vue concensuelle d'un sujet. »
• Simson Garfinkel. « Wikipédia and the meaning of truth », MIT TecReview, 20 Octobre 2008.
https://www.technologyreview.com/s/411041/wikipedia-and-the-meaning-of-truth/
• Il y a un effet de contamination, de percolation, lié aux régimes de vérité. A l’échelle de Wikipédia, est vrai ce qui est vérifiable. Mais à
l’échelle documentaire du web, tout ou presque est vérifiable, y compris des contre-vérités.
• Cette fracture de la « vérité » est tenable tant qu’elle peut être contrebalancée par la concurrence des régimes de vérité (médiatiques,
plateformes, journaux, etc.). Le risque est que des silos de régimes de vérité, étanches les uns aux autres, émergent et ne soient plus en
dialogue.
• Ce risque c’est la 7ème
crise.
* http://affordance.typepad.com/mon_weblog/2016/11/un-algorithme-est-un-editorialiste-comme-les-autres.html
26

27. 7. La crise de la concurrence
attentionnelle.
• Neutralité du net
• Le « web » n’est plus très « net ».
• Guerre ouverte des plateformes
• 12 décembre : Google empêche appareils Amazon Fire TV et Echo Show d’avoir accès à Youtube. Réaction Amazon : «Google
établit un précédent décevant en bloquant de façon sélective l’accès des clients à un site internet ouvert ». Réponse au fait
qu’Amazon ne propose pas produits Chromecast et Google Home. http://bo.slate.fr/story/154940/guerre-plateformes-vocales-
commence/
• 20 décembre : Amazon dépose deux noms de marques « AmazonTube » et
« OpenTube ».https://www.theverge.com/2017/12/20/16802986/amazon-amazontube-opentube-trademark-filing-google-echo-
show-feud
• 20 décembre : Google annonce un gros Deal avec Universal (prépare son entrée sur Streaming musical)
https://scinfolex.com/2018/01/03/le-remix-selon-google-ou-la-culture-web-digeree-par-la-novlangue/
• 21 décembre : Facebook annonce un énorme Deal avec Universal pour réutiliser son catalogue.
• https://www.engadget.com/2017/12/21/facebook-deal-lets-you-use-universals-music-in-your-videos/
• Série de « licences globales privées » (Lionel Maurel)
• En marche vers le pire cauchemar de TBL : Empilement de réseaux et de services incompatibles les uns avec les autres. Et quand
on entend 1ères réactions des opérateurs (dont PDG Orange), on n’est pas rassuré. 27

28. 28
Crise de l’inadéquation entre l’activité de
collection et l’usage du catalogue.
Crise de croissance et de gouvernance.
Crise de la représentation
Crise de foi (et de confiance)
Crise spéculative (capitalisme linguistique en crise)
Crise (des régimes) de vérité
Crise de concurrente attentionnelle
favorisée par fin de neutralité du net.

29. 7 crises de gouvernementalité algorithmique
4 horizons documentaires, politiques et sociétaux assez angoissants.
29

30. 30
1. Le corps est (en train de devenir) un
document comme les autres.

31. 31

32. 1. Le corps est (en train de devenir) un
document comme les autres.
• L'idée selon laquelle, à l'heure des bio-tech et de l'internet du génome, le corps devient une technologie "détachable" dont les
traces fondent un bio-capitalisme de la surveillance.
• Simondon « un objet technique est produit quand est détachable »
• La question du corps (séquençage) comme nouvelle frontière.
• Le résultat est une forme de nouveau capitalisme, un capitalisme "biologique" dans l'héritage du capitalisme cognitif et linguistique,
qui organise la spéculation sur le corps en jouant de traces extra-corporelles (les capteurs disséminés sur notre corps ou dans notre
environnement pour le mesurer) et intra-corporelles (les "marqueurs" au sens génétique du terme).
• question de la "pertinence" et donc de la "valeur" d'un documents (web 1.0),
• "pertinence" et donc de la "valeur" d'un profil (web 2.0)
• question de la "pertinence" et donc de la "valeur" d'un corps. D'un corps dans sa globalité, c'est à dire autant pour l'héritage
génétique dont il est porteur que dans sa capacité à s'inscrire dans un ensemble d'interactions sociales pour l'essentiel administrées
et régulées dans l'ombre des grandes plateformes d'aujourd'hui et de demain.
32

33. Téléphoner le livre, télégraphier un Homme, imprimer le vivant.
33
Début 1900, Paul Otlet imagine le « livre téléphoné » : « On peut imaginer le
télescope électrique, permettant de lire chez soi des livres exposés dans la salle
« teleg » des grandes bibliothèques, aux pages demandées d’avance. Ce sera
« le livre téléphoné ».
1948, Norbert Wiener imagine qu’il sera
un jour possible de « télégraphier un
être humain ».
2017 : on sait « imprimer du vivant » (Bioprinting).
https://usbeketrica.com/article/imprimer-humain-complet-possible-un-
jour

34. 2. Totalitarisme des plateformes et néo-
fascisme documentaire.
• Campagne et présidence de Trump
• sa haine viscérale est adressée à des communautés et à des minorités (rien de nouveau sous le
fascisme ordinaire ...)
• stigmatise principalement ces communautés du fait de leur absence de papiers ("Undocumented
Men")
• utilise, pour conduire et guider cette haine, les outils et les métriques ne pouvant s'appliquer qu'à
une population "sur-documentable". (Cambridge Analytica) ;
• toute puissance du discours totalitaire est d'autant plus efficiente qu'elle s'applique à des
communautés ciblées parce que sur-documentées (et sur-documentables) ;
• Projet fasciste de dessiner et d’opposer deux humanités : d'un côté ceux qu'il est possible de
contrôler et de manipuler (les "sur-documentés") et de l'autre ceux contre qui il faut diriger la
haine des premiers (les "sous-documentés", la "undocumented mankind"). Le reste est une
histoire d’administration (Facebook) qui n’est pour l’instant ni coupable ni complice mais qui
fournit et collecte les données.
34

35. 3. L’effondrement régimes de vérité.
• 14 points caractéristiques du fascisme selon Umberto Eco. Parmi lesquels : "Appel à
la frustration sociale", "obsession du complot", "populisme sélectif", "novlangue
appauvrie et à la syntaxe élémentaire" : ces quatre traits sont aussi (je n'ai pas dit
uniquement, j'ai dit "aussi"), ces quatre traits sont aussi les traits les plus saillants
de la viralité, ceux dont le déterminisme algorithmique se satisfait le plus, ceux
capables de faire du déterminisme algorithmique une arme de destruction
matheuse (Weapon of Maths Destruction).
• Hannah Arendt : « la pensée idéologique s’émancipe de la réalité que nous
percevons (...) et affirme l’existence d’une réalité plus vraie qui se dissimule
derrière les choses sensibles. ».
• Jusqu'à parvenir à ce point où l'idéologie va totalement couper "les masses" du
"monde réel" :
• "(elles) ne croient à rien de visible, à la réalité de leur propre expérience. Elles se
laissent convaincre, non par les faits, même inventés, mais seulement par la
cohérence du système dont ils font partie. »
• N’est-ce pas là le principal ressort du déterminisme algorithmique que de
s’émanciper aussi de la réalité que nous percevons ? (cf techno de l’artefact)
35

36. 4. La démocratie publicitaire.
• Nous construisons une société dystopique juste en cliquant sur des publicités.
• Zeynep Tufekci
• dernière élection américaine a été gagnée avec un écart de 100 000 voix. Or un seul affichage d'un petit badge Facebook permettant
de vous indiquer lesquels de vos amis sont allés voter a permis d'envoyer aux urnes 340 000 personnes qui sans cela n'y seraient pas
allé lors d'élections en 2010 aux USA, expérience reproduite lors des élections de 2012 et qui avait cette fois permis d'amener aux
urnes 270 000 nouveaux votants. Tout cela est décrit dans cet article scientifique. https://www.nature.com/news/facebook-
experiment-boosts-us-voter-turnout-1.11401
36

37. 37
As a conclusion.
• « Il n’y a pas de démocratie sans exercice de rendu public » #PointStiegler
• Les algorithmes sont des formules qui n’ont rien de magique.
• Les programmes en charge de les appliquer poursuivent des finalités explicites (au
moins pour ceux qui les commanditent et les conçoivent).
• À chaque fois dans l'histoire de l'humanité que nous nous sommes mis à calculer,
à utiliser des « formules » (cf J. Goody), nous avons été en capacité de produire de
nouvelles formes de compréhension du monde.
• Se demander ce que ces nouvelles formes de calcul algorithmique (plus rapides,
instantanées, difficilement auditables parce qu'invisibles, etc.) sont en capacité de
produire comme nouvelles formes de compréhension du monde.
• Et de quelles formes de compréhension du monde elles peuvent également …
nous priver.

38. 3838
NOS PREMIÈRES LIBERTÉS SONT NOS LIBERTÉS
DOCUMENTAIRES
"PUISQUE NOUS ÉTIONS TRAQUÉS,
CHACUN DE NOS GESTES AVAIT LE POIDS
D’UN ENGAGEMENT."
JEAN-PAUL SARTRE.
MERCI  QUESTIONS ?