La bombe mathématique

Cathy O'Neil, mathématicienne, Les dangers des algorithmes, 2018

La bombe mathématique
Mark Hunyadi, le 21 déc. 2018 - Le Temps

Le recours aux algorithmes pour organiser des pans entiers de la vie s’impose à un rythme toujours plus soutenu. Bardés de toutes les qualités, ces outils recèlent pourtant des dangers insoupçonnés. Mathématicienne chevronnée, l’Américaine Cathy O’Neil en livre la démonstration implacable

Cathy O’Neil, «Algorithmes. La bombe à retardement», éd. Les Arènes, 2018

Lecture automatique de CV, détermination de primes d’assurance automobile personnalisées, estimation des probabilités de récidive d’un condamné, publicité ciblée, évaluation des universités, attribution d’un crédit ou communication politique: on ne compte plus les domaines gérés par les algorithmes. Ils sont pratiques, efficaces et meilleur marché que leur équivalent humain, ce qui explique leur incroyable extension ces vingt dernières années. Mais ceux qui y recourent brandissent un puissant argument supplémentaire en leur faveur: ils sont plus justes. Ils ne sont pas soumis aux préjugés et à toutes les déformations que l’esprit humain impose inévitablement à la réalité. Ils l’évaluent objectivement.

Lire aussi:  L’intelligence artificielle, elixir amer

Foutaise, réplique Cathy O’Neil dans son livre Algorithmes. La bombe à retardement. Le titre original était une trouvaille dont le français n’a pas su rendre l’équivalent: Weapons of Math Destruction. Mais ce qui est essentiel, c’est de savoir que l’auteure est une authentique mathématicienne qui, après son doctorat, s’est fait embaucher dans le monde de la finance, puis de l’assurance et du commerce, pour y faire valoir ses compétences scientifiques. Autrement dit, elle sait de quoi elle parle: le monde opaque des algorithmes, elle le connaît de l’intérieur. Elle fait partie de l’élite qui sait comment ça marche.

Sélection et préjugés
L’objectivité des algorithmes? Foutaise, donc. On sait qu’un algorithme est une suite d’instructions permettant d’obtenir un certain résultat: en ce sens, une recette de cuisine est un algorithme, comme l’est un mode d’emploi ou une partition musicale. En informatique, les algorithmes doivent être codés pour pouvoir être lus par l’ordinateur. Il faut les alimenter en données – qu’il faut choisir, donc – et décider du poids relatif de chacune d’elles dans le résultat final. C’est ce qu’on appelle, en mathématiques, un modèle: «Un modèle n’est après tout rien de plus que la représentation abstraite d’un processus quelconque […]. Nous avons tous dans la tête des milliers de modèles. Ils nous disent à quoi s’attendre et orientent nos décisions.»

Lire aussi:  Et si l’intelligence artificielle était déjà hors de contrôle?

Le ton est badin, mais tout est dit. Car le but, il faut le fixer; les données, il faut les sélectionner; la pondération, il faut la déterminer. Or, ce sont les concepteurs des modèles qui décident de tout cela! Ce sont donc leurs hypothèses, leurs interprétations, leurs préjugés qui s’y reflètent. D’où la thèse centrale du livre, dont tout découle et qui au fil des pages révèle sa puissance dévastatrice: un algorithme, c’est «une opinion formalisée en un code informatique».

Sous leur apparente objectivité, les algorithmes «sont le reflet d’une idéologie et d’objectifs bien précis». Ce sont des ADM: des armes de destruction mathématique, dont Cathy O’Neil montre à travers les exemples les plus concrets et quotidiens possibles comment, loin de corriger les injustices, elles les produisent. Ce n’est pas inévitable, mais c’est ce qu’ils font. La crise des subprimes en a été la conséquence la plus criante.

Injustices à la chaîne
La perversité des modèles gît dans la fameuse «boucle de rétroaction», où l’algorithme finit par produire la réalité qu’il a faussement modélisée. Un exemple saisissant parmi mille: un des critères pour déterminer la probabilité de récidive d’un condamné est de savoir à quel âge il a eu son premier contact avec la police. Or, on sait parfaitement qu’un jeune Noir aux Etats-Unis a beaucoup plus de risques de se faire interpeller même sans raison qu’un jeune Blanc; si l’âge du premier contact est un critère de décision pour le juge, alors il est clair que les Noirs seront jugés beaucoup plus susceptibles de récidiver que les Blancs. Cette «boucle destructrice» se répète indéfiniment, dans tous les domaines de la vie sociale.

Ce livre est un document essentiel sur notre temps. Si vous ne croyez pas être affecté par ce problème de récidive, lisez les chapitres sur les assurances automobiles, sur l’évaluation des écoles, sur la publicité prédatrice, sur les pratiques à l’embauche, sur l’utilisation des données par Facebook ou Google. Vous en ressortirez étourdis, fascinés, dégoûtés, peut-être incrédules devant tant de cynisme. C’est pourtant le monde qui vient, le monde auquel nous participons tous.

Singularité et transhumanité, ces fables de l’intelligence artificielle

MAJ de la page : Transhumanisme

Jean-Gabriel Ganascia , Le mythe de la Singularité - Faut-il craindre l'intelligence artificielle ? Ed. du Seuil, 2017
L'intelligence artificielle va-t-elle bientôt dépasser celle des humains ? Ce moment critique, baptisé " Singularité technologique ", fait partie des nouveaux buzzwords de la futurologie contemporaine et son imminence est proclamée à grand renfort d'annonces mirobolantes par des technogourous comme Ray Kurzweil (chef de projet chez Google !) ou Nick Bostrom (de la vénérable université d'Oxford). Certains scientifiques et entrepreneurs, non des moindres, tels Stephen Hawking ou Bill Gates, partagent ces perspectives et s'en inquiètent.
Menace sur l'humanité et/ou promesse d'une transhumanité, ce nouveau millénarisme est appelé à se développer. Nos machines vont-elles devenir plus intelligentes et plus puissantes que nous ? Notre avenir est-il celui d'une cybersociété où l'humanité serait marginalisée ? Ou accéderons-nous à une forme d'immortalité en téléchargeant nos esprits sur les ordinateurs de demain ?
Quatrième de couverture
Commande sur Amazon : Le mythe de la Singularité - Faut-il craindre l'intelligence artificielle ?



Les rendez-vous du futur - " Le robot n'est-il que de l'intelligence artificielle ? " (Rendez- vous du Futur, 2016)


Singularité et transhumanité, ces fables de l’intelligence artificielle
Par Marc Hunyadi, le 10 mars 2017 - Le Temps

Face à la possibilité de voir une intelligence artificielle rendre l'homme obsolète, Jean-Gabriel Ganascia, auteur de «L’Ame machine», appelle les enthousiastes du transhumanisme à plus de sobriété

Qu’est-ce que la «singularité»? C’est le nouveau mot à la mode qui désigne ce moment, qui se rapproche à grands pas nous dit-on, où les machines prendront le pouvoir sur l’homme. Dans un essai stimulant, Jean-Gabriel Ganascia répond aux transhumanistes, et plus particulièrement aux tenants de la «singularité technologique», Ray Kurzweil en tête, ingénieur en chef de Google et militant transhumaniste.

Cette «singularité», Kurzweil l’avait d’abord situé en 2031, puis en 2045, et les scénarios continuent de diverger selon les auteurs. Peu importe: ce qui compte, c’est que l’avènement de la Singularité n’est pas affirmé comme une probabilité, mais comme une prédiction: le moment arrivera inéluctablement où l’intelligence artificielle couplée aux nouvelles technologies rendra l’homme d’aujourd’hui anecdotique, inutile, superflu, dépassé. S’ouvrira alors l’âge de la transhumanité, ou de «humanity +».

Le soft-totalitarisme numérique

Jouets connectés : alerte sur la sécurité et les données personnelles ! (UFC-Que Choisir, déc. 2016)

A l’approche de Noël et face à la multiplication des offres de jouets connectés pour enfants dans les rayons de magasins ou sur Internet, l’UFC-Que Choisir dénonce aujourd’hui, sur la base d’une analyse technique, des lacunes quant à la sécurité et la protection des données personnelles des enfants utilisateurs de la poupée connectée ‘Mon amie Cayla’ et du robot connecté ‘i-Que’ disponibles chez de nombreux vendeurs en France. Sur la base de ces inquiétants constats, l’association saisit la CNIL et la DGCCRF.

L’étude technique commanditée par notre homologue norvégien, Forbrukerradet, souligne que Cayla et i-Que, en apparence inoffensifs, ne garantissent pas le respect de la vie privée et de la sécurité des données personnelles de vos enfants.
Source (et suite) du texte : Que Choisir

Small Sister

Is Watching Your Children

* * *

Eric Sadin, La silicolonisation du monde (TV5Monde, Grand Angle, novembre 2016)

Eric Sadin, La Silicolonistion du monde, Ed. L’Echappée, 2016
Berceau des technologies numériques (Google, Apple, Facebook, Uber, Netflix, etc.), la Silicon Valley incarne l'insolente réussite industrielle de notre époque. Cette terre des chercheurs d'or, devenue après-guerre le coeur du développement de l'appareil militaire et de l'informatique, est aujourd'hui le lieu d'une frénésie innovatrice qui entend redéfinir de part en part nos existences à des fins privées, tout en déclarant oeuvrer au bien de l'humanité.
Mais la Silicon Valley ne renvoie plus seulement à un territoire, c'est aussi et avant tout un esprit, en passe de coloniser le monde. Une colonisation d'un nouveau genre, portée par de nombreux missionnaires (industriels, universités, think tanks...), et par une classe politique qui encourage l'édification de valleys sur les cinq continents, sous la forme d'écosystèmes numériques et d'incubateurs de start-up.
Après avoir retracé un historique de la Silicon Valley, ce livre, à la langue précise et élégante, montre comment un capitalisme d'un nouveau type est en train de s instituer, un technolibéralisme qui, via les objets connectés et l'intelligence artificielle, entend tirer profit du moindre de nos gestes, inaugurant l'ère d'une « industrie de la vie ».
Au-delà d'un modèle économique, c'est un modèle civilisationnel qui s'instaure, fondé sur l'organisation algorithmique de la société, entraînant le dessaisissement de notre pouvoir de décision. C'est pour cela qu'il est urgent d'opposer à ce mouvement prétendument inexorable d autres modalités d existence, pleinement soucieuses du respect de l'intégrité et de la dignité humaines.
Quatrième de couverture
Commande sur Amazon : Silicolonisation du Monde (la)

* * *

Comment la Silicon Valley a inventé une nouvelle industrie de la vie
Par Marc Hunyadi, le 9 décembre 2016 - Le Temps

Eric Sadin, avec finesse et détermination, décrit la «silicolonisation du monde», désormais soumis à ce qu’il appelle le «soft-totalitarisme numérique»

Le monde que nous décrit Eric Sadin est effroyable, mais ne vous inquiétez pas: c’est le nôtre. C’est en effet sous nos yeux, en direct et avec notre complicité que se produit jour après jour la «silicolonisation» du monde, c’est-à-dire le façonnage de nos existences par un modèle imaginé par les ingénieurs de la Silicon Valley – ceux de Google, Amazon, Facebook et Apple, mais pas que. Leur idée générale, c’est que tout ira mieux quand tout sera numérisé, algorithmé, automatisé, connecté. Notre vie se déroulera dans un monde fluide où tout problème sera résolu par la gestion des données, et où nous n’aurons plus qu’à rétroagir aux signaux envoyés par les systèmes experts. Nous évoluerons alors dans l’univers ouaté des big data exploitant les flux ininterrompus des données extraites à partir de nos propres comportements.

Pilotage automatique

Il y a deux ans, Eric Sadin avait déjà publié un livre remarquable, La Vie algorithmique, chez le même éditeur (L’Echappée). Il y décryptait avec sagacité la logique qui présidait à la «raison numérique» qui s’étendait à travers le monde et qui désormais caractérisait la nouvelle modernité. Avec La Silicolonisation du monde, son nouveau livre, il poursuit dans cette veine, en mettant cette fois davantage l’accent sur l’impact anthropologique et politique de ce qu’il appelle «l’accompagnement algorithmique de la vie» ou «le soft-totalitarisme numérique», lesquels visent ultimement à nous dessaisir de notre jugement pour piloter automatiquement le cours de nos existences.