Katastasogénèse
Ces temps-ci, on parle beaucoup de Facebook qui se dote d'une monnaie, « Libra », et d'une Cour suprême chargée de trancher sur les litiges internes. Ces mesures ont évidemment occasionné de nombreux articles de presse. À part les benêts qui vantaient le caractère visionnaire des projets, la plupart étaient indignés. Facebook, disent-ils, se mêle de ce qui est normalement l'apanage des états ; Mark Zuckerberg se prend pour un roi.
L'actualité récente, en particulier les scandales liant Facebook à des interférences dans les campagnes électorales, montre que dans l'ensemble ils ont raison : Facebook dispose d'une quantité dangereuse de pouvoir sur la société en dehors de tout contrôle, et en use pour faire des dégâts graves.
Cependant, je trouve qu'ils se trompent en formulant leur indignation sur les points que j'évoquais plus tôt, la monnaie et la cour suprême. Quand Facebook autorise des organisations douteuses à utiliser leur système de propagande ciblée sur des critères malhonnêtes, quand Facebook utilise des numéros de téléphone communiqués par sécurité pour faire de la publicité, il s'agit de décisions délibérées dont les problèmes éthiques sont immédiatement visibles, et on peut les reprocher à Facebook.
Mais quand ils décident d'inventer un système pour rendre les achats en lignes plus fluides et sûrs, ils pensent améliorer l'expérience des utilisateurs. Quand ils se dotent d'un comité pour trancher sur les cas litigieux, il s'agit réellement d'une nécessité, pour nettoyer un peu le caniveau plein de trolls que certaines parties de Facebook sont devenues.
J'ai l'impression que sur ces deux exemples, Facebook se comporte simplement en accord avec une loi universelle, que j'ai envie d'appeler la loi de la katastasogénèse : toute situation où un grand nombre de personnes interagissent de manière répétée et durable verra l'apparition d'institutions.
Des gens ensemble ont envie de faire des choses. Des gens ensemble vont engendrer des conflits. Ces deux faits sont le moteur. Pour faire des choses, ils vont vouloir s'organiser, et si un modèle d'organisation a bien marché, il va être répété et amélioré. S'il y a des conflits, on va chercher des moyens de les résoudre, et les moyens qui se seront montrés efficaces gagneront la confiance du public ce qui leur donnera plus de poids lors du prochain conflit.
Petit à petit, des solutions ad-hoc choisies sur le moment sont réutilisées et améliorées, elles deviennent des habitudes, puis des évidences et enfin des institutions incontournables.
S'il y a une autorité centrale qui se soucie du bien des gens présents, même indirectement par intérêt personnel, elle voudra probablement leur faciliter la vie, donc mettre en place des institutions.
Quand Facebook met en place un comité pour modérer le contenu, ils font quelque chose d'évidemment utile, même indispensable. Ils le font de la manière qui leur semble évidente : en imitant les institutions similaires des états qui ont fonctionné. Et s'il y a des différences fondamentales sur la manière dont c'est fait, sur la manière dont le comité est désigné, sur l'origine de son autorité, sur le détail de son mandat, elles sont négligées comme anecdotiques et dénuées de pertinence.
Une monnaie était moins indispensable, mais l'intention est là encore de rendre service aux gens en leur simplifiant la vie. Avec l'hypothèse que le plus important dans la vie est de pouvoir acheter des babioles le plus facilement possible.
Cachée dans leur raisonnement, il y a l'idée implicite que simplifier la vie des gens est rentable, et même la réciproque encore plus abusive que ce qui est rentable est forcément bénéfique pour les clients. L'idée, au fond, que capitalisme égale bonheur.
Il y a également la fascination dans le milieu technique pour « celui qui fait » : le hacker génial qui va en une nuit écrire un programme efficace et astucieusement conçu là où un comité de développeurs médiocres n'a réussi à rien en plusieurs mois. C'est cette fascination qui est illustrée par la devise de Mark Zuckerberg « move fast and break things » : il vaut mieux essayer, se tromper et corriger plutôt que réfléchir aux problèmes à l'avance.
Cette approche peut marcher quand on n'a affaire qu'à des machines. Certains des projets logiciels les plus indispensables ont vu le jour de cette manière. Mais quand on a affaire à des gens, casser des choses n'est pas une option acceptable.
On peut voir dans l'enthousiasme de Mark Zuckerberg à doter son site d'institutions le même enthousiasme qui pousse un enfant qui dessine une machine à la décorer de pistons, de leviers, de boulons, parce que les vraies machines en ont. Ou d'un auteur de fantasy de seconde zone à donner à ses personnages des titres ronflants, parce que les œuvres qu'il admire font de même. Il ne se rend pas compte que dans les œuvres de qualité, les titres ronflants correspondent à une réflexion en profondeur sur le fonctionnement politique du monde fictif.
C'est cette mentalité infantile qui préside aux milieux d'affaires et technologique. Il faut en tenir compte. Facebook n'est pas un acteur exceptionnellement retors, c'est un phénomène, une conséquence inévitable du fonctionnement de toute une industrie. Reprocher ses méfaits à Facebook, c'est comme reprocher à l'eau de bouillir : adressez vos critiques à la main qui a allumé le chauffage sous la casserole. Et il ne faut pas être choqué par la turbulence des enfants mais par l'inaction des parents.
Devant son besoin d'institutions, Facebook réagit de manière simpliste en créant le nécessaire de toutes pièces. Cette attitude désinvolte est dangereuse. C'est particulièrement le cas pour la monnaie : ce qui permet de tant simplifier la vie aux utilisateurs, c'est le fait de contourner les nombreuses réglementations qui ont été imposées au secteur bancaire traditionnel.
Or ces réglementations n'ont pas été mises en place pour compliquer gratuitement la vie mais pour éviter que des catastrophes ne se reproduisent. Les affaiblir a permis les crises financières récentes. Négliger de les inclure dans un nouveau système n'aura pas de meilleures conséquences.
Mais quand ça arrivera, quand Libra sera victime de l'équivalent d'une panique bancaire et d'hyper-inflation, ou d'un autre phénomène catastrophique pas encore théorisé, ce ne seront pas Facebook et ses partenaires qui en souffriront. Ce seront les utilisateurs, en particulier les commerçants qui auront tablé sur cette monnaie mais pas eu les moyens de se diversifier.
Sur ces exemples, Facebook opère à l'intérieur d'un système, et se comporte en accord avec les incitations mises en place par ce système. S'il y a quelque chose à reprocher à ses opérations, c'est au système qu'il faut le reprocher, et en particulier aux garants de ce système.
On reproche à Facebook de se substituer aux états pour créer des institutions, c'est bien parce que ces institutions, bien que nécessaires, n'existaient pas.
C'est donc parce que les états n'ont pas rempli leur rôle.
Les états sont les garants de la civilité entre les personnes, c'est donc leur devoir d'intervenir quand des discours haineux ou autrement abusifs commencent à envahir un endroit. Les états sont les garants de l'économie, c'est donc leur devoir d'intervenir quand des montages privés la mettent en danger tout en permettant des solutions efficaces.
Nous ne pouvons pas continuer à vivre dans la fiction que chacun fait ce qu'il veut chez soi et que l'immense domaine de Facebook est un chez soi comme un autre. Facebook a fait des efforts considérables pour rendre les particuliers émotionnellement et socialement dépendants de ses services, et s'apprête à intensifier ses efforts pour rendre les entreprises économiquement dépendantes. Ça suffit à en faire un acteur particulier, qui mérite un contrôle spécifique.
Quand la question du contrôle des acteurs privés d'Internet se pose, on se heurte au problème de la définition précise de la nature de leur rôle. Par le passé, les opérateurs se sont rangés dans deux catégories : les intermédiaires techniques et les éditeurs de contenu. Les seconds ont la responsabilité du contenu qu'ils publient. Les premiers, postes et opérateurs de télécommunication principalement, sont protégés de cette responsabilité, mais ont en contrepartie un devoir de neutralité.
Les géants d'Internet assoient leur domination sur leur fonction d'intermédiaire technique, indispensable. Mais un intermédiaire technique est censé être interchangeable, pour permettre la concurrence. Comme ils se comportent également en éditeurs, en exploitant les données et en choisissant le contenu le plus susceptible d'accrocher le public, les géants d'Internet ne sont pas interchangeables. Cette dualité leur permet d'échapper aux réglementations, en présentant tantôt un visage tantôt l'autre, toujours celui qui n'a pas besoin d'être réglementé.
Pour éviter que Mark Zuckerberg et sa compagnie ne réinventent toutes les erreurs catastrophiques des secteurs bancaires et journalistiques, il est indispensable que les états régulent les activités de ce genre.
Cette régulation doit passer par la définition de devoirs très précis. Les opérateurs techniques doivent être rappelés à l'ordre de leur devoir de neutralité, et donc en particulier n'avoir aucun droit d'exploiter la valeur des données qui leur sont confiées. Les éditeurs doivent être tenus pour responsables du contenu qu'ils promeuvent ; même s'ils sont sélectionnés par un algorithme : le choix de l'algorithme est un choix éditorial.
Et toutes les catégories doivent avoir une très forte obligation d'interopérabilité. Ce dernier point est à mon avis fondamental : c'est l'absence d'interopérabilité qui permet aux géants d'Internet de devenir si gros, si puissants, sans se désagréger sous leur propre poids. S'ils sont forcés d'être correctement interopérables, s'ils sont obligés de permettre facilement de passer à la concurrence, alors ils doivent se livrer compétition sur la base de leurs qualités propres, ils ne peuvent pas s'appuyer uniquement sur leur masse d'utilisateurs. C'est la porte ouverte à une foule d'inconvénients mineurs pour les utilisateurs, le mot-clef ici étant mineurs, c'est à dire bien moins graves, au total, qu'une poussée de populisme haineux ou qu'une panique bancaire.
Le danger que Facebook fait courir à la démocratie et à l'équilibre de la société est réel, mais il ne vient pas de la personnalité de Facebook ou de ses dirigeants mais du vide politique et juridique dans lequel cette entreprise a pu grandir. Pour neutraliser ce danger, il faut combler ce vide, il faut construire les institutions nécessaires, il faut réaffirmer la primauté de la démocratie, de la politique et de la loi sur les mécanismes du marché.
Publié le 22 octobre 2019