Le soft-totalitarisme numérique

Jouets connectés : alerte sur la sécurité et les données personnelles ! (UFC-Que Choisir, déc. 2016)

A l’approche de Noël et face à la multiplication des offres de jouets connectés pour enfants dans les rayons de magasins ou sur Internet, l’UFC-Que Choisir dénonce aujourd’hui, sur la base d’une analyse technique, des lacunes quant à la sécurité et la protection des données personnelles des enfants utilisateurs de la poupée connectée ‘Mon amie Cayla’ et du robot connecté ‘i-Que’ disponibles chez de nombreux vendeurs en France. Sur la base de ces inquiétants constats, l’association saisit la CNIL et la DGCCRF.

L’étude technique commanditée par notre homologue norvégien, Forbrukerradet, souligne que Cayla et i-Que, en apparence inoffensifs, ne garantissent pas le respect de la vie privée et de la sécurité des données personnelles de vos enfants.
Source (et suite) du texte : Que Choisir

Small Sister

Is Watching Your Children

* * *

Eric Sadin, La silicolonisation du monde (TV5Monde, Grand Angle, novembre 2016)

Eric Sadin, La Silicolonistion du monde, Ed. L’Echappée, 2016
Berceau des technologies numériques (Google, Apple, Facebook, Uber, Netflix, etc.), la Silicon Valley incarne l'insolente réussite industrielle de notre époque. Cette terre des chercheurs d'or, devenue après-guerre le coeur du développement de l'appareil militaire et de l'informatique, est aujourd'hui le lieu d'une frénésie innovatrice qui entend redéfinir de part en part nos existences à des fins privées, tout en déclarant oeuvrer au bien de l'humanité.
Mais la Silicon Valley ne renvoie plus seulement à un territoire, c'est aussi et avant tout un esprit, en passe de coloniser le monde. Une colonisation d'un nouveau genre, portée par de nombreux missionnaires (industriels, universités, think tanks...), et par une classe politique qui encourage l'édification de valleys sur les cinq continents, sous la forme d'écosystèmes numériques et d'incubateurs de start-up.
Après avoir retracé un historique de la Silicon Valley, ce livre, à la langue précise et élégante, montre comment un capitalisme d'un nouveau type est en train de s instituer, un technolibéralisme qui, via les objets connectés et l'intelligence artificielle, entend tirer profit du moindre de nos gestes, inaugurant l'ère d'une « industrie de la vie ».
Au-delà d'un modèle économique, c'est un modèle civilisationnel qui s'instaure, fondé sur l'organisation algorithmique de la société, entraînant le dessaisissement de notre pouvoir de décision. C'est pour cela qu'il est urgent d'opposer à ce mouvement prétendument inexorable d autres modalités d existence, pleinement soucieuses du respect de l'intégrité et de la dignité humaines.
Quatrième de couverture
Commande sur Amazon : Silicolonisation du Monde (la)

* * *

Comment la Silicon Valley a inventé une nouvelle industrie de la vie
Par Marc Hunyadi, le 9 décembre 2016 - Le Temps

Eric Sadin, avec finesse et détermination, décrit la «silicolonisation du monde», désormais soumis à ce qu’il appelle le «soft-totalitarisme numérique»

Le monde que nous décrit Eric Sadin est effroyable, mais ne vous inquiétez pas: c’est le nôtre. C’est en effet sous nos yeux, en direct et avec notre complicité que se produit jour après jour la «silicolonisation» du monde, c’est-à-dire le façonnage de nos existences par un modèle imaginé par les ingénieurs de la Silicon Valley – ceux de Google, Amazon, Facebook et Apple, mais pas que. Leur idée générale, c’est que tout ira mieux quand tout sera numérisé, algorithmé, automatisé, connecté. Notre vie se déroulera dans un monde fluide où tout problème sera résolu par la gestion des données, et où nous n’aurons plus qu’à rétroagir aux signaux envoyés par les systèmes experts. Nous évoluerons alors dans l’univers ouaté des big data exploitant les flux ininterrompus des données extraites à partir de nos propres comportements.

Pilotage automatique

Il y a deux ans, Eric Sadin avait déjà publié un livre remarquable, La Vie algorithmique, chez le même éditeur (L’Echappée). Il y décryptait avec sagacité la logique qui présidait à la «raison numérique» qui s’étendait à travers le monde et qui désormais caractérisait la nouvelle modernité. Avec La Silicolonisation du monde, son nouveau livre, il poursuit dans cette veine, en mettant cette fois davantage l’accent sur l’impact anthropologique et politique de ce qu’il appelle «l’accompagnement algorithmique de la vie» ou «le soft-totalitarisme numérique», lesquels visent ultimement à nous dessaisir de notre jugement pour piloter automatiquement le cours de nos existences.

Géolocalisation

Car il y a bien longtemps qu’Internet n’est plus là pour seulement garantir aux utilisateurs un accès à une quantité sans fin de ressources en tout genre (bibliothèques, encyclopédies, informations, etc.). Il fait aussi cela, bien sûr, et nous en profitons tous les jours. Mais avec le développement des réseaux sociaux (le Web 2.0), Facebook et consorts ont amassé, «sous couvert de favoriser les liens entre personnes, des masses exponentielles de données relatives à leurs pratiques en ligne, à leurs modes de vie, à leurs opinions et à leurs affinités». En a découlé «une économie fondée sur la suggestion personnalisée de masse». Puis la mise sur le marché des smartphones, en permettant la géolocalisation, a permis de personnaliser les infos, rendant possible au quotidien l’accompagnement algorithmique de la vie. S’est ouverte là une source de profit intarissable qui, prétextant «améliorer le sort de l’humanité» (Google dixit), entend «exploiter pour le meilleur et sous une infinité de formes les traces émises par nos gestes, mobilisant désormais, avec ferveur, la terre entière».

Le guidage robotisé des gestes, appelé à s’étendre à de nombreux champs de la vie, sape le régime politique de la démocratie fondé sur l’autonomie du jugement des personnes

Intégrale

Ce qui se dessine là est une véritable «industrie de la vie», à l’affût de nos moindres comportements pour nous offrir des conseils de consommation ou de santé: «Autant d’évolutions qui attestent du passage de l’âge de l’accès à celui de «la mesure de la vie», ou de celui d’une économie ayant jusque-là prioritairement cherché à exploiter l’attention des internautes, à une économie ambitionnant désormais de «capter le vivant», ou d’orienter la vie des personnes.»

Restituant également cette analyse dans une perspective historique, il montre comment la contre-culture californienne des années 1960 s’est muée aujourd’hui en ce qu’il appelle le technolibéralisme: «L’économie de la donnée aspire à faire de tout geste, souffle, relation, une occasion de profit, entendant ne concéder aucun espace vacant, cherchant à s’adosser à chaque instant de la vie, à se confondre avec la vie tout entière. L’économie de la donnée, c’est l’économie de la vie intégrale.»

Révolution

On ne saurait tarir d’éloges devant le livre d’Eric Sadin et son opération de décryptage historique, philosophique, économique, idéologique, sociologique, rhétorique de la révolution numérique que nous vivons. Il fait partie avec d’autres (Bernard Stiegler par exemple) de ces penseurs qui, dans le sillage d’Hannah Arendt, Jacques Ellul ou Michel Foucault se sont très tôt alarmés du devenir automatique du monde, y voyant une menace essentielle pour l’humanité de l’homme. Sadin peut certes décrire le phénomène plus précisément qu’eux, mais surtout il peut pointer, dans un chapitre marquant, vers les responsables qui agissent trop souvent de manière irresponsable, c’est-à-dire sans aucun souci des conséquences: les ingénieurs, benoîtement convaincus de participer à l’amélioration du monde parce qu’ils sont très chèrement payés par les firmes qui commercialisent leurs inventions. Un aveuglement de plus qui participe à la silicolonisation du monde, qui est la mort de l’esprit.

* * *

Eric Sadin : «L’anarcho-libéralisme numérique n’est plus tolérable»
Par Jean-Christophe Féraud, le 20 octobre 2016 - Libération

«Nous entrons dans une nouvelle étape de la numérisation du monde.»

Mythe de la start-up, précarisation des travailleurs, dépossession des capacités créatrices… Le philosophe Eric Sadin dénonce les ravages de la vision du monde propagée par le «technolibéralisme».

  Eric Sadin : «L’anarcho-libéralisme numérique n’est plus tolérable»
Ecrivain et philosophe critique, Eric Sadin analyse depuis dix ans l’impact du numérique sur nos sociétés. Après la Vie algorithmique en 2015, il publie la Silicolonisation du monde - l’irrésistible expansion du libéralisme numérique (1). Une charge violente et argumentée contre les Google, Apple et autres Facebook, qui prennent subrepticement les commandes de nos vies pour en tirer profit comme aucune autre entreprise auparavant.

Dans votre nouvel ouvrage, vous dénoncez «l’esprit de la Silicon Valley» comme une entreprise de «colonisation» du monde. Pouvez-vous vous expliquer ?
La Silicon Valley incarne l’insolente réussite industrielle de notre temps. Elle a donné naissance à des géants qui dominent l’industrie du numérique - les Apple, Google, Facebook, Uber, Netflix… - et qui engrangent des chiffres d’affaires colossaux. Toutes les régions du globe cherchent désormais à dupliquer son cœur actuel de métier : l’économie de la donnée et des plateformes. Mais depuis peu, la Silicon Valley ne renvoie plus seulement à un territoire, elle a généré un «esprit» en passe de coloniser le monde, porté par de nombreux missionnaires : industriels, universités, think tanks… Mais aussi par une classe politique qui encourage l’édification de «valleys» sur les cinq continents, sous la forme d’«écosystèmes numériques» et d’«incubateurs de start-up». La «silicolonisation», c’est la conviction que ce modèle représente l’horizon indépassable de notre temps et qui, de surcroît, incarnerait une forme lumineuse du capitalisme. Un capitalisme d’un nouveau genre, paré de «vertus égalitaires» car offrant à tous, du «start-upper visionnaire» au «collaborateur créatif», en passant par «l’autoentrepreneur», la possibilité de s’y raccorder et de s’y épanouir. Mais dans les faits, c’est un modèle civilisationnel fondé sur la marchandisation intégrale de la vie et l’organisation automatisée de la société qui en train de s’instaurer à grande vitesse.

Vous parlez d’un «technolibéralisme». En quoi est-il plus puissant que les formes de libéralisme qui l’ont précédé ?
Nous entrons dans une nouvelle étape de la numérisation du monde, celle de la dissémination tous azimuts de capteurs. A terme, toutes les surfaces sont appelées à être connectées : corps, domiciles, véhicules, environnements urbains et professionnels… Cet «enveloppement» technologique va entraîner un témoignage intégral de nos comportements permettant au technolibéralisme de s’adosser à tous les instants de l’existence, de n’être exclu d’aucun domaine, et d’instaurer ce que je nomme une «industrie de la vie» cherchant à tirer profit du moindre de nos gestes.

Ce nouvel âge des machines, caractérisé par la mise en données de tous et de toutes choses, serait donc le stade ultime du capitalisme ?
Le technolibéralisme entend opérer une pression continue sur la décision humaine par la suggestion continuellement renouvelée des «meilleures» actions à prendre. Cet «accompagnement» de nos vies par les algorithmes s’est institué lors de l’avènement des smartphones et des applications à partir de 2007. Et nous franchirons un nouveau seuil lorsque les assistants numériques tels Siri d’Apple ou Google Now, à l’efficacité encore balbutiante, en viendront à nous prodiguer des conseils pour tous nos faits et gestes du quotidien. Et plus encore. Ce sera notamment le cas avec la voiture autonome, qui ne se contentera pas de piloter le véhicule mais également notre emploi du temps, en nous proposant de faire une pause dans tel restaurant ou tel hôtel supposés adaptés à notre «profil». Mais en outre, cet accompagnement peut aussi prendre une forme coercitive pour servir comme jamais les objectifs de productivité et de compétitivité du projet technolibéral.

Comment cela se traduit concrètement dans le monde du travail ?
Les chaînes de production dans les entreprises sont et seront de plus en plus infiltrées de capteurs qui autorisent une évaluation en temps réel des cadences permettant à des systèmes d’ordonner en retour les actes à accomplir. La figure du contremaître disparaît au profit du résultat d’équations qui dictent le cours des choses et auxquelles il est difficile, voire impossible, de s’opposer. La capacité d’initiative et de créativité des individus est niée, réduite à exécuter des ordres émanant de programmes qui ne font l’objet d’aucune publicité et qui, la plupart du temps, sont administrés par des prestataires extérieurs. En cela, il s’agit d’un déni de démocratie. Il est temps que les syndicats se saisissent de ces questions d’organisation impersonnelle et ultra-optimisée des conduites, qui bafouent le droit du travail autant que la dignité humaine.

Quand le patron de Microsoft, Satya Nadella, dit que «le défi de l’homme est de reprendre le pouvoir sur les données», c’est un début de mea culpa ?
Il s’agit là typiquement du langage schizophrénique tenu par les gourous de la Silicon Valley, qui collectent systématiquement des données sur tous nos faits et gestes, et qui en retour cherchent à rassurer les consciences. Le «siliconisme» sait très bien générer des discours positifs qui sont partout repris en boucle sans distance critique. Concernant la question des données personnelles, nous sommes au cœur d’un des grands malentendus de l’époque. La question cruciale ne regarde pas notre «vie privée», à laquelle certes nous tenons tous, mais qui représente si peu en regard de ce qui se trame et qui devrait autrement nous mobiliser. Car ce n’est pas une question de société, c’est une question de civilisation. Le technolibéralisme entend à terme tout automatiser et orienter nos vies afin de satisfaire de seuls intérêts privés. Et ce modèle se déploiera surtout si les données sont parfaitement protégées, instaurant une «confiance dans l’économie numérique» apte à assurer son expansion. Avant de nous prétendre victimes du traçage sécuritaire et commercial, nous devrions à la base individuellement et collectivement nous demander si nous voulons de tous ces objets, capteurs et systèmes appelés, non pas tant à violer notre vie privée qu’à progressivement nous dessaisir de notre pouvoir de décision.

La prise de décision par les machines va s’accélérer avec l’intelligence artificielle. Le but c’est de «disqualifier» l’humain ?
L’intelligence artificielle est désormais érigée comme une sorte de «surmoi» dotée de l’intuition de vérité et appelée à guider en toutes circonstances nos vies vers les plus grands confort et efficacité supposés. Beaucoup de choses ont été dites sur l’intelligence artificielle, notamment qu’elle allait à terme se «retourner» contre ses géniteurs. Il s’agit là d’une vision grotesque et fantasmatique. Ce n’est pas la race humaine qui est en danger, mais bien la figure humaine dotée de la faculté de jugement et de celle d’agir librement et en conscience. Car c’est bien notre pouvoir de décision qui va peu à peu être dessaisi au profit de systèmes supposés omniscients et plus aptes à décider du «parfait» cours des choses dans le meilleur des mondes.

Vous assimilez l’esprit start-up à de la «sauvagerie entrepreneuriale» et l’irresponsabilité des cerveaux de la Silicon Valley à de la «criminalité en sweat-shirt». Carrément ?
La start-up, c’est la nouvelle utopie économique et sociale de notre temps. N’importe qui, à partir d’une «idée», en s’entourant de codeurs et en levant des fonds, peut désormais se croire maître de sa vie, «œuvrer au bien de l’humanité», tout en rêvant de «devenir milliardaire». Or, à y regarder de près, le mythe s’effondre aussitôt. La plupart des start-up échouent rapidement. Et pour les employés, le régime de la précarité prévaut. Une pression terrible est exercée par le fait de l’obligation rapide de résultat. Et on offre des stock-options qui, sous couvert d’intéressement à de futurs profits hypothétiques, évitent de rémunérer convenablement les personnes. Le technolibéralisme a institué des méthodes managériales laissant croire que chacun peut librement s’y épanouir. En réalité, tout est aménagé afin de profiter au maximum de la force de travail de chacun. En outre, les conditions de fabrication du hardware dans les usines asiatiques sont déplorables. Quant aux travailleurs dits «indépendants» qui se lient aux plateformes, ils se trouvent soumis à leurs exigences et ne sont protégés par aucune convention collective. Enfin, les grands groupes savent opérer des montages complexes afin de se soustraire à l’impôt. Le technolibéralisme relève de la criminalité, non pas en col blanc, mais en hoodie [sweat-shirt à capuche, ndlr]. Et pourtant ce modèle est partout célébré. Mais comment un tel aveuglement est-il possible ?

Vous écrivez que le «technolibéralisme est désormais libre d’agir sans entrave». Alors, que faire ?
Nous sommes tous citoyens mais également consommateurs, et nous pouvons, par des décisions simples mais d’une redoutable efficacité, mettre en échec ce modèle. Pour ma part, j’en appelle au refus de l’achat d’objets connectés et de protocoles dits «intelligents» chargés de nous assister en continu. Ces compteurs Linky par exemple, appelés à mémoriser nos gestes de consommation électrique au sein de nos habitats. Jamais autant qu’aujourd’hui le refus de l’acte d’achat n’aura revêtu une telle portée politique. Contre l’ambition démesurée du technolibéralisme à vouloir piloter le cours de nos vies, nous devons protéger la part inviolable de nous-mêmes, autant que notre autonomie de jugement et d’action.

Il est également temps de signifier aux responsables politiques que le soutien par des fonds publics à cet anarcho-libéralisme numérique n’est plus tolérable. En France, ce n’est pas à Axelle Lemaire, secrétaire d’Etat au Numérique et ardente propagandiste du siliconisme, de décider abusivement des choses à notre place en vue de satisfaire les tenants de l’économie de la donnée. Ni non plus au Conseil national du numérique : les deux tiers de ses membres sont des responsables d’entreprises internet et de la donnée, ce qui constitue exactement un «conflit d’intérêt». C’est pourquoi, nous devons, à toutes les échelles de la société - citoyens, syndicats, associations - défendre le bien commun et notre droit à déterminer librement du cours de nos destins. Si nous ne reprenons pas la main, c’est le technolibéralisme qui va diriger nos vies individuelles et collectives, et cela est inacceptable.

(1) La Silicolonisation du monde l’irrésistible expansion du libéralisme numérique, d’Eric Sadin, éd. l’Echappée, 256 pp., 17 €.