Comment se répartiront à l'avenir les compétences entre nous et les robots ?

                Nicholas Carr ausculte, dans ce livre bien documenté, la face sombre de l’automatisation.

«Nicholas Carr s’est rendu célèbre par sa dénonciation des effets d’Internet sur notre intelligence. Il récidive avec Remplacer l’humain, critique de l’automatisation de la société, paru aux Etats-Unis en 2014, qui vient d’être traduit en français aux éditions de L’échappée.

Une automatisation synonyme de déqualification

L’automatisation, explique-t-il, entraîne une déqualification qui se révèle particulièrement dangereuse lorsque l’homme doit reprendre la main dans des situations exceptionnelles. L’utilisation systématique du pilote automatique dans les avions prive ainsi les pilotes de la possibilité d’entretenir leurs compétences et compromet finalement la sécurité des appareils. La numérisation des dossiers médicaux se traduit par une inflation des coûts, y compris parce qu’elle favorise, semble-t-il, les considérations mercantiles, mais également une baisse de qualification des médecins et une dégradation de leur réflexion liée en particulier à la modification induite par l’automatisation de la prise de notes.

L’usage, désormais généralisé, des GPS affecte notre capacité d’orientation et partant le fonctionnement de notre mémoire, puisque les deux semblent très liés. Enfin, l’utilisation des logiciels de CAO par les architectes bride leur créativité. Tous ces constats sont largement documentés par Carr qui s’appuie sur les résultats de psychologues et de spécialistes des facteurs humains (ergonomes), mais également sur des entretiens avec des professionnels.

Pour un nouveau partage des tâches entre l’homme et la machine

Une solution pour éviter ces inconvénients pourrait être trouvée dans un autre partage des tâches entre l’homme et la machine. Dans l’automatisation dite adaptative, « l’ordinateur est paramétré pour surveiller l’activité du travailleur, adaptant en continu la répartition des tâches dévolues à chacun selon les circonstances. Si l’opérateur doit par exemple réaliser une manœuvre délicate, l’ordinateur assure la prise en charge de toutes les tâches secondaires pour lui permettre de se concentrer sur le problème principal. Dans des conditions normales, il peut décider à l’inverse d’augmenter la charge de travail de l’opérateur en lui assignant un plus grand nombre de tâches pour qu’il ait une bonne connaissance de la situation et exerce ses compétences. ». Ces réflexions, qui concernent pour l’essentiel la conception de systèmes complexes à haut niveau de risques (comme le pilotage des avions), sont toutefois peu développées s’agissant d’autres applications, malgré quelques tentatives d’adopter, dans certaines professions, une forme d’automatisation davantage centrée sur l’humain.

De la moralité des robots

Des développements attendus de l’automatisation, comme les voitures autonomes ou les robots tueurs sur les champs de bataille, vont désormais soulever la question du comportement moral des robots. La première loi de la robotique formulée par l’écrivain Isaac Asimov qui dit qu’« un robot ne peut porter atteinte à un être humain ni, restant passif, permettre qu’un être humain soit exposé au danger » n’est d’aucun secours dans un monde aussi imprévisible que le nôtre. La question des règles morales dont seraient doté ces machines, ou qu’elles pourraient en partie développer par elle-même, va ainsi devenir cruciale. Lorsqu’elle atteint un seuil critique, « l’automatisation fait évoluer les normes, les principes et les valeurs de la société, et par conséquent, l’ensemble des rapports sociaux et des relations humaines. Ce processus est renforcé par notre relation d’extrême dépendance à l’égard des réseaux informatiques qui […] façonnent le monde dans lequel nous vivons. ».

Du fait de l’automatisation, nous « avons de moins en moins les moyens d’exploiter nos compétences, de faire preuve d’ingéniosité, ou encore d’agir de façon autonome, ce qui fut pourtant longtemps considéré comme le propre de notre humanité. Et si nous ne commençons pas à réfléchir sérieusement à la direction que nous sommes en train de prendre, cette tendance ne fera que s’accentuer. ». Sauf à se résoudre à la fin de l’humanisme, comme certains l’évoquent désormais, comme Y. N. Harari dans Homos deus, par exemple.« A son meilleur niveau, la technologie rend le monde plus intelligible et plus conforme à nos intentions. Il devient un endroit où nous nous sentons chez nous.», résume Carr, en citant Merleau-Ponty. Faisons qu'il en soit toujours ainsi, nous dit-il, avant de conclure l’ouvrage sur un vibrant appel à limiter le pouvoir de la technologie ou tout au moins à en faire un usage discipliné en prenant conscience de la répercussion de son utilisation sur nos façons de travailler et de vivre.

On pourra reprocher à Carr d’instruire surtout à charge et de faire peu de cas des avancées réelles que l’on doit malgré tout à l’automatisation, et aussi d’en rester à une vision très classique des rapports entre la technologie et la société, quand les bouleversements qui s’annoncent appelleraient à les inscrire dans une perspective plus large. Il n’en énonce pas moins clairement un certain nombre de risques avec lesquels il faudra désormais compter. Le livre se lit très facilement, malgré quelques longeurs et répétitions.»

Jean Bastien, Nonfiction.fr