Humanisme et NBIC

Chaque génération, sans doute, se croit vouée à refaire le monde.
La mienne sait pourtant qu’elle ne le refera pas.
Mais sa tâche est peut-être plus grande.
Elle consiste à empêcher que le monde ne se défasse.

Albert Camus

L’emprise technologique

Après une ellipse Humanisme & NBIC reprend son questionnement sur l’emprise croissante des technologies sur nos vies.

A présent des seuils ont été franchis. L’heure n’est plus à la stigmatisation de prétendus technophobes face à de braves technophiles. Elle n’est plus non plus aux timorés  renvois dos-à-dos des uns et des autres par des chercheurs qui confondent neutralité et objectivité. Des seuils ont été franchis. On a manipulé le génome d’embryons¹. On a mis un peuple en coupe réglée à l’aide d’un système de surveillance d’une puissance inouïe². Des seuils d’alerte ont été franchis. L’intelligence artificielle peut menacer l’humanité d’extinction ont clamé Stephen Hawking, Elon Musk et Bill Gates. L’heure n’est plus à l’angélisme, elle est à l’élucidation des mutations en cours, qui seule peut ouvrir des perspectives de sortie rationnelles.

Que se passe-t-il ?

Il se passe qu’un gigantesque renversement est à l’oeuvre dans l’histoire de l’humanité. La technique, qui a permis à l’humanité de s’affranchir de sa soumission aux nécessités et contraintes naturelles, a désormais le pouvoir de l’asservir.

A quoi voit-on que le constat n’a rien d’exagéré ? Schématiquement, on peut distinguer trois phénomènes :

1 – La technique a peu à peu envahi tout l’environnement humain. L’informatique s’est rendue indispensable, puis a investi l’espace physique grâce aux capteurs, aux téléphones, aux caméras et autres objets connectés en un gigantesque réseau. La tendance est à la connexion en continu de tous les êtres et tous les objets, ce qui rend possible en pratique un contrôle des populations et des individus en temps réel.

2 – Les performances de la technique excèdent celles des humains y compris dans des domaines réputés inaccessibles à la machine. Les programmes Deep Blue, Watson, Alphago, Libratus battent les uns après les autres les champions des jeux d’échecs, de jeopardy !³ de go et de poker. Les IA d’Alibaba puis de Microsoft l’emportent même au test de compréhension de texte de Stanford.

3 – La technique tend à devenir indépendante de l’humain, au point de pouvoir elle-même prendre et mettre en œuvre des décisions. C’est l’exemple des SALA, systèmes d’armes létales autonomes ou « robots-tueurs », qui perdent en efficacité s’ils sont tributaires d’une autorisation donnée par un humain.⁴

Les technologies sont omniprésentes, performantes et peuvent être dotées d’un pouvoir d’action. On leur délègue toujours de tâches à exécuter et de décisions à prendre (pilotage automatique, opérations de bourse, recommandations de placements, diagnostics médicaux à partir d’examens médicaux) . Leur confiera-t-on un jour la résolution de problèmes politiques ? C’est un désir formulé par certains.

Ceux-ci objectent que ces évolutions n’ont rien de déshumanisant, car ni la technique, ni l’humanité ne sont figées. Toutes deux s’engendrent mutuellement, la technique née de l’intelligence humaine façonnant en retour l’humanité, qui réinvente la technique, dans une spirale sans fin. Aussi n’y a-t-il pas d’essence humaine, l’humanité continuera, comme depuis la nuit des temps à évoluer, à développer ses performances pour en venir à s’hybrider avec les IA.

Telle est la perspective transhumaniste. Mais quel monde nous réserve-t-elle ?

D’après le philosophe Jean-Michel Besnier « un monde dominé par les machines est un monde qui n’a plus besoin de langage humain »⁵. Tout serait signaux.

Prenons-nous la mesure de ce qui arrive ? Y a-t-il un bon usage des techniques ? Est-il possible de tirer parti de leurs multiples bienfaits sans leur être asservi ? Quelles perspectives s’ouvrent à nous ?

Les axes de recherche de ce blog sont les suivants :

I – Analyser les causes de la technicisation galopante de notre environnement.

II – Evaluer le risque de déshumanisation comme contrepartie des apports de la technique.

III – Répondre à l’objection transhumaniste qui justifie le recours à « l’augmentation » par l’absence de nature humaine.

IV- Interroger la possibilité d’un usage maîtrisé des techniques.

Au gré des semaines les publications prendront la forme de billets hebdomadaires, de recensions d’ouvrages, parfois de dissertations. Ils seront suivis de synthèses procédant de manière plus systématique.

Parce que la liberté commence avec la compréhension, je vous souhaite une lecture instructive de ces investigations.

Anna Falcone

anna.falcone@free.fr

 

1 Le chercheur He Jiankui modifie les cellules germinales – susceptibles donc d’être transmises à la descendance- de deux embryons qui ont donné naissance en octobre 2018 à deux jumelles.

2  Le crédit social chinois, qui note les individus à partir de milliers de données. Une simple pétition adressée au gouvernement vous vaut la note la plus basse. La fréquentation d’un ami mal noté fait chuter votre score. On fiche actuellement 700 millions de Chinois par leur ADN.

3Jeu télévisé dans lequel les joueurs doivent trouver la question correspondant à la réponse qui leur est proposée.

4Aussi les systèmes de défense anti-aériens sont-ils plus autonomes.

5« Comment dire « non » quand les machines triomphent ? », revue Esprit n°433 de mars-avril 2017