Partagez cet article :

Beaucoup n’ont que ce nom en bouche : intelligence artificielle. Mais les sociétés occidentales ont-elles tout à gagner à ne parier que sur la technologie ?

La technologie a été un moyen pour les sociétés occidentales d’imposer leur domination sur le monde et d’imposer un modèle de société.

Les habitants primitifs des Amériques ont vu leurs civilisations disparaitre sous les coups des conquérants. Pourtant ces sociétés avaient beaucoup de valeurs à nous apprendre: respect de la nature, consommation du strict nécessaire, forte communication et entraide entre les membres…

Les accidents du B737 MAX démontrent aujourd’hui les limites de la technologie et de l’intelligence artificielle. Ils posent surtout la question de l’utilité réelle des progrès technologiques: pourquoi remplacer une caissière par une machine? Créer toujours plus de consommation au détriment de l’environnement? Privilégier les interactions hommes-machines plutôt que la communication entre humains? Les avancées technologiques doivent-elles décider de la société que nous voulons ou devons-nous réfléchir et décider comment utiliser ou pas les avancées technologiques?

Dans le cas de Boeing, un système automatisé qui était censé être plus intelligent que les pilotes a causé la mort de plus de 300 personnes(189 pour Lion Air, 157 victimes pour Ethiopian). Ce n’est pas anodin : 346 vies ont disparu à cause d’un bug informatique. L’intelligence artificielle a tué.

La complexité : facteur d'accidents?

A vouloir mettre en place des systèmes trop complexes on finit par les rendre inopérants. On pourrait faire la même comparaison dans l’espace : alors que les américains ont choisi d’utiliser des systèmes toujours plus sophistiqués, les russes ont parié sur des systèmes Soyouz moins complexes mais fiables avant tout. Les lanceurs Soyouz sont ainsi devenus parmi les plus fiables de l'histoire. 

De quoi remettre en question l’automatisation de plus en plus importante de notre société ? Aujourd’hui l’intelligence artificielle veut s’immiscer dans tous les domaines de la santé, aux hypermarchés, aux autoroutes, aux voitures sans chauffeurs. Quelle sera alors la place de l'humain?

L'un des grand soucis reste la compréhension par l’humain de la complexité des interactions des algorithmes. Dans le cas du B737 MAX le système était conçu pour parer à un problème par lui même et il était très difficile pour les pilotes de le déconnecter. Les ingénieurs de Boeing ont donc plus fait confiance à la machine qu’à l’homme dans leur conception: est-ce une erreur de base?

Il s’agit de la même erreur que l’on voit aujourd’hui dans les entreprises: faire plus confiance aux machines qu’aux hommes, remplacer les hommes par des machines.

Est-ce le rôle des pilotes de devenir de simples des superviseurs de machines ultra-complexes? La sophistication toujours plus grande des systèmes des avions commerciaux pose un problème: le même que dans l’informatique. Peu de gens comprennent désormais l’intégralité d’un système et il faut désormais donc faire confiance à quelques spécialistes hyper formés dans un domaine. Et les mises à jour arrivent de plus en vite sans vérifications assez poussées comme si la nouveauté, les nouvelles fonctionnalités étaient plus importantes que la fiabilité!

Pour prendre l’exemple d’une voiture auparavant tout le monde avec un peu de connaissance savait réparer son moteur : aujourd’hui si vous n’avez pas le module de gestion électronique c’est impossible. Le moteur d’une voiture vous est devenu étranger. Vous devez donc avoir une confiance immodérée dans le constructeur qui vous garantit une bien plus grande fiabilité, mais est-ce toujours le cas?

 Beaucoup de crashs liés à l'automatisation ces dernières années

Ainsi si les crashs d’avion sont devenus plus rares et que la sécurité s’est globalement améliorée, les crash dus à des problèmes de surprise liés à l’automatisation sont devenus plus fréquents en proportion du total des accidents des dernières années estime Steve Casner, chercheur en physiologie à la NASA cité par le Financial Times.

L’exemple du crash de l’A330 d’Air France lors du vol Rio-Paris est marquant. Même si l’on a finalement conclu que l’accident était en partie lié à une faute des pilotes, il est du originellement à une faille d’un capteur,  à une mauvaise réaction d’un système et à l’incompréhension des pilotes suite à cette faille (Airbus avait d’ailleurs apporté un correctif logiciel suite à l’accident). Il a coûté la vie à 228 personnes.

Ainsi Steve Casner indique que la première chose qu’il dit à ses pilotes lorsqu’il les forme est : « ce système va tenter de vous tuer de temps en temps mais la bonne nouvelle c’est qu’il va tenter de vous sauver la vie 10 fois plus ».

Les humains restent ainsi incomparables pour s’adapter à de nouvelles situations grâce à leur sens : l’amerrissage d’un A320 en perdition à New York par le Capitaine Sully en 2009 l’a démontré. C'est grâce à ses talents de pilotes qu'il a pu poser l'avion sur l'Hudson (mais aussi il faut le reconnaitre grâce aux systèmes de stabilisation de l'A320 d'Airbus). 

On doit demander à un pilote de savoir piloter pas d’être un expert en informatique d’autant que les postes de techniciens ont été supprimés dans les cockpits par mesure d’économie.

Il est d’ailleurs à noter que les crashs des B737 MAX et de l’A330 d’Air France étaient dus à des capteurs défaillants, comme si un système informatique privé de l’un de ses sens, de ses yeux ou de ses oreilles, ne savait plus comment réagir.

Ne pas habituer les pilotes à être moins vigilants?

Par ailleurs un autre problème se pose : en donnant trop de tâches aux ordinateurs dans les avions par exemple les pilotes s’habituent à être moins vigilants. et qui dit perte de vigilance dit perte de sécurité.

Dans le monde de l’aérien comme notre société il convient donc de redéfinir le rôle de l’humain et de la technologie. A l’heure où une partie de la société aspire à un autre mode de vie, la technologie ne doit pas régner sur nos vies. On l’a vu pour l’exercice de la démocratie récemment avec les fakes news diffusées pendant le Brexit.

En affaiblissant la presse, les grandes sociétés d’Internet aspirent tous les budgets publicitaires et les journaux se meurent et licencient des journalistes.

Hors au final ce sont les journalistes qui font la richesse de l’information en démocratie : ce sont eux qui doivent vérifier les informations, écrire des textes de qualité, proposer des avis, expliquer, démontrer. Si on laisse ce travail aux machines, seuls quelques riches spécialistes orienteront l’avenir des sociétés à leur guise. Rien ne peut remplacer l’homme pour l’homme. L’automatisation et la technologie doivent avoir des limites : un point auquel doivent s’attacher à réfléchir Boeing et Airbus.

Les ingénieurs développent des systèmes mais au final ce sont les pilotes qui les utilisent et doivent donc être plus étroitement associés au développement des avions en prenant en compte leurs réactions, leurs comportements, leurs humeurs et leur avis en tant qu’homme.

Mais au delà c’est toute la société qui doit réfléchir sur les rôles réciproques de l'homme et de la technologie pour remettre en avant l’éthique par rapport aux machines, le sens par rapport au progrès et la morale face aux algorithmes…

Partager cet article sur Facebook, Twitter ou Linkedin en cliquant sur les icônes ci-dessous:

Submit to FacebookSubmit to TwitterSubmit to LinkedIn
  

NEWSLETTER

Cet article, ce site vous a plu? Recevez chaque semaine les news de Business Traveler France : actualités, reportages, tests, ...


NIKKO : une région japonaise à découvrir

Le Guide vert Michelin a recensé de nombreux sites à ne pas manquer dans le parc national de Nikko. Une région à découvrir facilement au départ de Tokyo avec Tobu Railways.

Cliquez ici pour lire le reportage.

tobu

NEWSLETTER

Cet article, ce site vous a plu? Recevez chaque semaine les news de Business Traveler France : actualités, reportages, tests, ...

SONDAGE

Avez-vous déjà acheté un billet en classe économique premium ?
Aller en haut