Interview de Gerd Leonhard par Emmanuel Garessus, le 21 août 2016 - Le Temps
Face aux suppressions massives d’emplois, le futuriste Gerd Leonhard, un des 100 leaders les plus influents en innovation technologique, craint que l’homme ne devienne de plus en plus une machine
Ancien guitariste professionnel en Californie, Gerd Leonhard, basé à Zurich, a très tôt anticipé la quasi-suppression de l’industrie de la musique. A l’inverse du futurologue, lequel prévoit l’avenir, le futuriste rassemble des informations sur l’avenir et conseille les entreprises, dont d’innombrables médias, comme le New York Times, sur la meilleure manière de se préparer à l’avenir. Le 8 septembre aura lieu, à Londres, le vernissage de son nouveau livre «Technology versus Humanity». Celui-ci plaide pour un comité d’éthique en technologie et la création de nouveaux droits humains comme le droit d’être inefficient et lent, le droit d’engager des hommes plutôt que des machines et le droit d’être déconnecté.
Le Temps: TripAdvisors, AirBnB, GoogleMap nous aident quotidiennement. Pourquoi craignez-vous que nous nous transformions en machine?
Gerd Leonhard: Ces instruments ne transforment pas l’homme en machine tant qu’ils sont extérieurs à nous. Mais s’ils sont non seulement meilleurs, plus rapides et présents sur notre corps, comme le sont les technologies portables, ils se substituent progressivement à notre propre cerveau. Le remplacement de la communication humaine par la machine est extrêmement rapide. Les apps de sites de rencontre évitent aux gens de faire connaissance directement, ce qui est compliqué et exigeant, et permettent d’aller droit au but. Comme le développement technologique est exponentiel, en vertu de la loi de Moore, nous nous comporterons progressivement comme des machines dans cinq ans.
- Nous pouvons nous adapter. Pourquoi ne pas adopter une stratégie de «laisser-faire»?
- Si la technologie se développe de façon exponentielle, les problèmes de sphère privée ou de protection des données seront remplacés par des débats beaucoup plus graves. Avec les futures technologies, dans les cinq ans à venir, dans les supermarchés, les taxis et les centres d’appel, 80% des employés seront licenciés et remplacés par des machines. Les effets secondaires seront d’autant plus forts en l’absence d’argent liquide, par exemple sur le traçage des individus, la protection des données et la surveillance. Les petits soucis actuels seront 1000 fois plus aigus. Pensez à la manipulation du public par les réseaux sociaux! Grâce a son algorithme, le plus grand média au monde, Facebook, ne dispose que d’une dizaine de rédacteurs. Mais on parle peu des aspects humains liés aux risques de manipulation à grande échelle. Aujourd’hui, les gens estiment prendre garde à leurs informations sur Facebook, mais ils n’ont aucune idée du «comment» et du «pourquoi» certaines informations arrivent sur leur fil d’actualités. Nous sommes au tout début de la courbe, mais nous externalisons déjà de plus en plus de décisions. Dans l’armement, des robots tuent des hommes sans intervention humaine. Nous sommes en train de transférer l’autorité aux machines. IBM dispose déjà d’une machine capable de décider s’il faut licencier des collaborateurs («people analytics»).
- La destruction créatrice s’est toujours traduite par une hausse nette de l’emploi. Pourquoi s’inquiéter?
- Cette fois, il en ira autrement à cause de la capacité d’apprentissage des machines. Elles n’ont plus besoin d’un homme pour les programmer. Dans la santé, des systèmes sont capables de lire toutes les analyses ayant existé sur une maladie, par exemple 500 millions d’informations, et d’en déduire une nouvelle règle thérapeutique. On crée une sorte de super-docteur qui remplacera 80% des processus utilisés par un médecin. Non seulement les machines apprennent d’elles-mêmes, mais elles sont connectées à d’autres machines. Elles peuvent rendre inutiles quantité d’emplois.
- Pourquoi lancez-vous un avertissement éthique?
- Nous devons accepter les nouvelles technologiques parce qu’elles nous rendent plus efficaces, heureux et rapides. Je suis fondamentalement positif à leur égard, mais nous ne devons pas devenir des machines. Si nous le devenions, nous serions amenés à préférer une relation avec une machine plutôt qu’avec un homme. L’application de rencontre me dit: «Ne fais pas ce travail, laisse-le moi». Il en va de même de l’apprentissage des langues, bientôt rendu inutile par les applications de traduction immédiate.
- En cas de doute, au niveau de la santé par exemple, l’homme ne préfère-t-il pas le conseil d’un autre homme?
- C’est souvent le cas lorsque la technique n’est pas encore assez au point, par exemple avec Google Translator. Mais ces technologies seront si extraordinaires que nous les adopterons. Elles seront toujours correctes, rapides et ne seront jamais fatiguées de nous conseiller.
- Comment rendre attentifs les groupes technologiques?
- Nous devrions rendre les entreprises responsables de leurs actes et de leurs conséquences, comme les groupes pétroliers à l’égard de leurs dégâts environnementaux. Je pense ici à la surveillance des données, à la sécurité, à la dépendance. Facebook dispose de 400 neurologues et autres scientifiques dont la mission est de trouver des moyens encore plus efficaces pour que vous soyez dépendants de ce réseau social et qui effectuent des recherches pour que vous ne quittiez pas le réseau social. Les entreprises doivent considérer ces effets comme des externalités négatives.
- Comment peut-on mettre en œuvre ce programme?
- Nous ne devrions pas accepter de créer les mécanismes qui nous rendent prisonniers et dépendants. Internet est en train de remplacer la cigarette. Je ne suis pas en faveur d’un interdit, mais d’un équilibre. Si je permets à une entreprise d’être si parfaite que l’utilisateur ne la quitte pas, alors on entre dans le même schéma que celui des fabricants de cigarettes.
- Qu’en est-il de la protection des données?
- Nous avons aussi besoin d’une protection globale des données. Les règles pour Internet sont américaines. Donc, de facto, il n’y en a pas. Aux Etats-Unis, depuis l’attentat du 11 septembre, il n’y a plus de protection des données pour des raisons de sécurité nationale.
- Quelle est la probabilité que les Etats-Unis cèdent leur droit à la définition du droit?
- Aux Etats-Unis, tout ce qui permet de gagner de l’argent et qui fonctionne passe avant d’autres considérations, par exemple éthiques. En Europe, c’est l’inverse. La sécurité collective, la culture, la tolérance importent davantage que les gains financiers éventuels. Si nous poursuivons sur la voie actuelle, l’avenir de l’humanité sera confié aux Américains et aux Chinois. Dans les deux pays, tout ce qui peut être fait le sera. Le processus devient dangereux à cause de trois domaines sensibles: la manipulation génétique, l’intelligence artificielle et l’ingénierie géologique (changer la météo). Mieux vaut ne pas s’y aventurer.
- Comment introduire des comportements éthiques dans ces trois questions?
- Face à la manipulation génétique, il faut adopter le principe selon lequel seules sont admises les technologies qui ne cherchent pas à changer l’Homme. Une technologie peut être bonne si elle permet d’éliminer le cancer, mais elle ne l’est pas pour programmer des surhommes. Une règle devrait exister qui autorise un traitement contre le cancer, mais interdit la création d’un homme de 3 mètres ou un homme hybride. Nous ne devrions pas accepter de modifier un homme, avec un implant par exemple ou une interface informatique, pour qu’il travaille mieux, plus longtemps et plus vite. Nous avons des règles de non-prolifération nucléaire qui sont respectées. Il faut les reproduire dans d’autres domaines, comme l’intelligence artificielle. Nous ne sommes pas au point de non-retour. Mais mieux vaut se décider avant le premier accident.
A lire aussi: Un futurologue demande de s’opposer à l’approche numérique américaine
- Vous évoquez dans votre livre l’inégalité croissante entre des riches qui pourront se payer une forte prolongation de leur vie et des pauvres qui ne pourront pas se protéger de la malaria. Est-ce la plus grande inégalité qui nous attend?
- Si cela se produit, effectivement. Cela signifierait la fin du capitalisme. Si la manipulation génétique permet de vivre 150 ans et devient accessible à tous, pourquoi pas. Mais il est impossible d’imaginer ce qui se passerait si elle était réservée à quelques-uns. J’ajoute qu’une manipulation ne nécessite que quelques secondes, même si le développement technologique promet d’être complexe et coûteux.
- Est-ce la reprise d’un rêve de scientifique de vaincre le cancer ou de vivre 150 ans?
- Cela ne sera pas aisé contre le cancer, mais nous n’en sommes pas loin contre le diabète. La technologie permet déjà un contrôle de glucose par des lentilles de contact. Sous l’angle éthique et politique, il faut savoir si nous autorisons une personne qui souffre de la maladie d’Alzheimer de recevoir un implant, et si nous interdisons à quelqu’un désirant réfléchir plus rapidement de recevoir le même implant. Nous arrivons en effet aux limites de l’économie de marché. Dans la manipulation génétique et l’intelligence artificielle, nous sommes engagés dans une course contre la montre.
- Est-ce que la politique peut prendre en main ces sujets?
- Oui. Ces nouvelles technologies créent un nouvel écosystème qui doit être accepté par chacun de nous. Sinon, on court à l’échec. Il n’est pas possible de n’utiliser que la main d’oeuvre la meilleur marché. Nous devons créer un système de valeurs. Google dit ne pas être responsable des conséquences de l’utilisation de sa plateforme. Il en va de même du lobby des armes aux Etats-Unis à propos des décès par balle. Ils doivent pourtant se considérer responsables. Nous devons mettre en avant la responsabilité individuelle face à ces technologies et faire appel à l’autorégulation. Mais nous devons aussi créer une éthique. Il faut interdire les armes qui tuent sans intervention humaine. Il faut interdire que les hommes soient constitués à 80% de technologies à la suite de modifications génétiques.
- Comment réagir à un monde sans emploi pour les médecins, taxis, chauffeurs de poids lourds, journalistes?
- Il faut créer des structures dont l’existence ne dépend pas de leur succès financier. Je suis favorable au revenu de base inconditionnel. Cela permet à la personne qui le désire d’écrire un livre, de s’occuper des enfants ou d’aider les voisins. C’est une activité non rémunérée. Le revenu de base inconditionnel est la seule solution face à cette évolution. Les produits et services seront toujours meilleur marché. Regardez les prix de la musique, des films, des informations, des hôtels, des taxis. A l’avenir, l’énergie sera bon marché, ainsi que l’alimentation et la médecine. Nous entrerons dans le post-capitalisme parce que la société de consommation arrive à ses limites.
- Les innovations n’ont-elles pas toujours été meilleur marché sans causer la fin du travail?
- L’homme, lui, devient cher. Les machines deviennent toujours meilleur marché, mais pas l’homme. C’est le point clé.
- Prévoyez-vous donc une longue déflation?
- Tout à fait. Par la loi de la rareté, l’homme, le temps, l’effort, la créativité sont rares et chères, à l’inverse des machines et de ce qu’elles produisent. Une machine peut produire de la nourriture très bon marché, mais une excellente cuisine sera toujours chère. On assiste à un effet de ciseaux.
- Quelle politique économique adopter face à ces changements?
- Nous devrions réinvestir les revenus tirés des technologies et des machines dans le système. Ces gains ne doivent pas uniquement profiter aux 0,1% les plus riches. Les entreprises qui disposent de ces technologies sont en effet extrêmement profitables. Mais si un groupe technologique supprime 50% des emplois d’un secteur à la suite de ses systèmes d’automatisation, il doit payer davantage d’impôts.
- Quels seront les deux domaines les plus sensibles?
- La santé et l’intelligence artificielle. Nous avançons à grands pas vers l’informatique quantique. Un super-ordinateur peut analyser mes gènes en 14 minutes et non plus une semaine, comme un ordinateur moyen. En 2025, sans doute avant, nous arriverons au point dit de singularité, lorsque le progrès est défini par une «supra intelligence» en constante progression. Le risque en est la perte de pouvoir humain sur le progrès. L’important consiste à penser aux conséquences de ce développement et à son contrôle. Google, Tencent, Alibaba, Amazon, Facebook contrôlent notre vie numérique.
- Est-ce que le monde sera plus prospère dans cinq ou dix ans?
- Si nous parvenons à créer les structures permettant aux bénéfices de ces technologies d’alimenter ce nouvel éco-système, et si l’homme réussit à rester humain, nous pourrons vivre mieux, plus sainement et plus longtemps. La faim, la pauvreté, la guerre peuvent être résolues. Mais il serait paradoxal qu’elles le soient parce que nous serions devenus des machines.
Profil
1961 Naissance en Allemagne.
1980 Philosophie et théologie à l’Université de Bonn.
1985 Musicien et professeur de musique.
1997 Entrepreneur internet.
2002 Futuriste et conférencier.
Aucun commentaire:
Enregistrer un commentaire