Les théories du complot volent sur YouTube, Facebook accueille des communautés extrémistes – et pendant tout ce temps, l’action de Big Tech est en plein essor. La pandémie et la politique moderne ont clairement montré que quelque chose ne va pas avec notre écosystème d’information. Dans Conditions de mauvais service: Comment la Silicon Valley est destructrice par conception, Dipayan Ghosh souligne les modèles commerciaux de la Silicon Valley, qui dirigent les vagues de données personnelles qui circulent sur Internet, comme un problème sous-jacent. Et Ghosh, codirecteur du projet Digital Platforms & Democracy à l’Université de Harvard, qui travaillait auparavant pour Facebook et la Maison Blanche d’Obama, voit la régulation de l’industrie comme une solution inévitable. « Les gens n’accepteront pas une telle invasion de la vie privée et des atteintes à la concurrence du marché à perpétuité », a-t-il déclaré. « La réglementation arrive – et, je crois, elle imposera en fin de compte les normes de confidentialité et de concurrence appropriées à l’industrie. »

Presse de la Brookings Institution

Extrait de Termes de mauvais service: Comment la Silicon Valley est destructrice par conception par Dipayan Ghosh. Réimprimé avec la permission de Brookings Institution Press.

Le fait que les entreprises Internet aient dépassé l’écosystème médiatique occidental est-il vraiment mauvais pour notre société? C’est peut-être pour le mieux, car cela rompt la centralisation plus traditionnelle de la création de contenu?

En fait, la plus grande partie de l’attrait des médias sociaux provient de sa capacité à nous connecter avec des problèmes et des idées qui comptent dans nos vies individuelles – des problèmes qui n’apparaîtraient pas du tout sur les formats de médias traditionnels – plus que les préoccupations plus abstraites du grand public. médias.

Alors que le pouvoir des producteurs des médias d’information traditionnels s’est affaibli, le pouvoir des plateformes Internet – Google, Facebook, Twitter – a discrètement émergé. Un élément clé de leur force commerciale continue réside dans leur «avantage de premier arrivé» à prendre les rênes du modèle économique Internet grand public, fondé sur la création d’échanges publicitaires, en même temps que deux technologies – le stockage de données et l’informatique – étaient En expansion rapide. Tout comme Google et Facebook se sont installés sur leurs modèles commerciaux basés sur la publicité, ces deux technologies ont dépassé un seuil clé qui a déclenché la montée de l’économie du Big Data; et tant que les sociétés Internet pourraient s’accrocher à ses coattails, elles réaliseraient une grande rentabilité.

Lire aussi  The Morning After: les consoles de nouvelle génération sont vraiment grandes

Ce qui a émergé, cependant, est un régime commercial sous-jacent à l’ensemble du Web ouvert qui est formé de manière algorithmique uniquement pour la maximisation des profits pour les principales entreprises Internet soumises à quelques contraintes brutales.

Sur une base quasi continue, les algorithmes sont formés pour comprendre les préférences, les croyances et les intérêts du consommateur, qui sont tous mélangés dans le profil comportemental du consommateur; pour garder l’utilisateur engagé sur la plate-forme en comprenant et en classant tout le contenu existant dans le domaine des publications qui pourraient être insérées dans le fil social de l’utilisateur; et de diffuser des publicités numériques susceptibles d’engager l’utilisateur typique. Dans un sens, les algorithmes d’apprentissage sont donc utilisés en permanence et de manière omniprésente par les entreprises Internet pour déduire aussi précisément que possible la vraie nature de l’utilisateur individuel et, par conséquent, quel arrangement de contenu doit être poussé à l’utilisateur pour maximiser les profits. Il s’agit d’une opération fluide – qui représente peut-être la machine la plus bien huilée que le monde ait jamais vue.

C’est ce que j’appelle la radicale «commercialisation des décisions», radicale en raison de son raffinement continu et de son omniprésence totale dans les principales sociétés Internet. Toutes les décisions prises par les algorithmes d’apprentissage dans le contexte de l’internet grand public sont désormais nécessairement commercialisées à la lumière de la combinaison de technologies big data suralimentées et de la puissance de la plateforme.

C’est-à-dire que chaque décision prise par un algorithme d’apprentissage Internet grand public – que ce soit sur la détermination du contenu à pousser sur l’utilisateur, une inférence du caractère de l’utilisateur ou une autre pratique plus restreinte – est financièrement incitée et donc initiée et propulsée. uniquement par la recherche de gains commerciaux; il y a une monnaie liée à chaque processus de prise de décision qui se produit dans l’industrie, peu importe son impact ou son importance. 

L’intégration verticale de l’Internet grand public de la collecte de données illimitée et de l’intégration logique transparente de l’apprentissage automatique dans chaque surface de décision relative à chaque utilisateur et groupe d’utilisateurs n’est pas discrétisée au sens hiérarchique traditionnel. C’est le rhizome, tel qu’articulé par Gilles Deleuze et Félix Guattari dans leur Capitalisme et Schizophrénie écrits, au travail. Comme pour un rhizome, la commercialisation omniprésente de la prise de décision «n’a ni début ni fin; c’est toujours au milieu, entre les choses, interêtre, intermezzo. Quelles que soient les données ou la monnaie qui peuvent y entrer ou en sortir, il a une règle gravitationnelle dominante: le profit.

Lire aussi  Native Instruments fourre son puissant logiciel de création musicale dans une groovebox autonome

La culture rhizomatique de l’internet grand public est celle de la prise de décision discriminatoire partout, en toute circonstance, tout le temps – portée par l’énergie purement capitaliste de la société Internet de la Silicon Valley soutenue par les capital-risqueurs anticipant un rachat de grange ou une offre publique initiale et le mur Les dirigeants de rue espèrent tirer profit de tout accord possible. 

Il s’agit d’une distinction étonnante par rapport aux temps anciens: la commercialisation de la prise de décision a créé de nouvelles opportunités pour diffuser toutes sortes de discours – qu’ils soient de nature organique, commerciale ou autrement néfaste – et l’injecter dans l’univers médiatique moderne. Il a globalement affaibli nos anciennes traditions d’indépendance et d’équité. 

La capacité individuelle de déterminer ce que nous voyons et ce à quoi nous sommes soumis a été sapée et diminuée par les entreprises Internet grand public. Alors que le lieu de l’information dans les décennies passées offrait un espace ouvert à la pensée indépendante, il a maintenant été envahi par une forme silencieuse de discours commercial; le contenu affiché devant nous vient à la demande de la firme chargée de remplir la page de résultats.

Chaque fois que nous ouvrons l’ordinateur portable ou vérifions le téléphone et utilisons les services essentiels à la consommation d’informations, nous sommes soumis à un ensemble d’informations présélectionnées et commandées pour nous lors de la détermination d’une machine mercenaire, sans rien formé à sa modélisation de décision sauf la maximisation du profit. Et comme l’ont constaté les chercheurs Gordon Pennycook, Tyrone Cannon et David Rand, «même une seule exposition [à de fausses manchettes] augmente les perceptions ultérieures de l’exactitude, à la fois au cours d’une même session et après une semaine.» Une telle consommation virulente de conclusions présupposées dans le filtre semble aller de pair avec la conclusion connexe de Soroush Vosoughi, Deb Roy et Sinan Aral selon laquelle, sur la base de l’analyse des cascades de rumeurs de 2006 à 2017, les fausses nouvelles voyagent plus vite et plus loin que la vérité. sur Twitter.

Nous sommes sortis de la conceptualisation formative du «bien public» du World Wide Web à sa création. Nous sommes maintenant à l’ère du «bien commercial», c’est-à-dire du bien des entreprises qui dirigent l’industrie.

Lire aussi  Microsoft, TikTok, Oracle? Oh et NVIDIA et ARM. N'oubliez pas non plus Sony et Apple.