L’éthique autonome

Par Samuel Greco, dit Le Belge. Récemment, la voiture autonome est sorti du cadre du petit monde automobile pour faire, tristement, la une des médias traditionnels. Je veux bien sûr parler du premier accident mortel dans un véhicule placé sous le contrôle d’un système de conduite autonome (ou, à tout le moins, utilisé comme tel par son « conducteur »).

Soudain, les mêmes qui, hier, se voyaient déjà entièrement pris en charge par leur véhicule, veulent baliser, ralentir, voire stopper, le développement de cette technologie.   Et de fustiger Tesla, l’accusant de traiter ses clients comme des « cobayes »... Curieux revirement !

Et cependant, nous nous accordons tous sur une proche généralisation de la voiture autonome. Constructeurs, assureurs, législateurs... Tous n’y voient qu’un gain de confort et de sécurité. Bon gré, mal gré, notre propre autonomie (auto-mobile) sera bientôt prise en charge par... une forme d’intelligence artificielle. Tout un paradoxe !

Et toujours revient la question de la responsabilité a posteriori. Il s’agit dès lors d’une problématique davantage financière que morale. Cet accident tristement historique soulève en moi une question d’ordre éthique.

Dernièrement, j’ai (re-)visionné l’interview de ce pilote de ligne par Mister Fréour. Spontanément, ne fait-on pas d’ores et déjà pleine confiance à une machine pour prendre les commandes d’une enclume de plus de 200 tonnes à vide croisant à des milliers de mètres d’altitude... ? Par ailleurs, nous plaçons notre vie entre les mains de parfaits inconnus que sont les conducteurs de taxis (et autres VLC), de bus, de train,... N’est-ce pas au moins aussi risqué que de la confier à une machine ? Rien n’est moins sûr.

Cependant, pour en revenir au pilote automatique, je pense sans trop m’avancer que la comparaison avec la voiture autonome fait long feu. Pilotes (et copilotes) apprennent, au cours de leur formation et de leur expérience, à travailler de concert avec Georges (avez-vous bien regardé le reportage ?!). Ils connaissent ses capacités, ses limites, ses failles et pannes potentielles.

Lorsque le commandant de bord et son second sont dans le cockpit, ils ne partent pas en retard au boulot, ils ne rentrent pas chez eux après une longue journée de travail, ils ne se rendent pas au supermarché, ne récupèrent pas les gosses à l’école... Ils travaillent.

Contrairement à notre (futur proche) voiture autonome, moyen de déplacement, de loisir, d’évasion, de détente,... Georges est, lui, constamment surveillé, sondé, encadré par des professionnels dont c’est le métier. Et c’est précisément la nuance essentielle !

Pour en revenir à la question éthique, sans pour autant aborder le délirant (mais passionnant) sujet de l’intelligence artificielle et d’accuser Skynet et autre Matrice de vouloir anéantir ou moissonner l’humanité, je m’interroge sur les conséquences qu’impliquent de laisser la machine me conduire et décider pour moi...

Le meilleur exemple à mes yeux est l’ambition assumée de Volvo : « Zéro mort ou blessé grave dans une Volvo » à partir de 2020... Au-delà du coup marketing, cette volonté de protéger à tout prix conducteur et passagers, passant sous la lunette de ce que j’appelle l’autonomie assistée, présente des implications pour le moins inquiétantes...

En effet, qu’on le veuille ou non, confier les commandes de notre véhicule à un descendant de Georges, signifie accepter de sauvegarder à tout prix les occupants au détriment des autres usagers. Un précipice ou un cycliste ?

Un enfant courant derrière un ballon ou le 38 tonnes arrivant en face ?

Et nous ? Ferions-nous le même choix ? Avec femme/mari et enfants, peut-être... Et seul dans la voiture ? Pourrons-nous assumer a posteriori ce « non-choix » ? Deviendrons-nous demain à ce point déresponsabilisés, insensibles, que nous n’y accorderons plus d’importance ?

Volvo (et autres marques) choisira d’assurer la vie de ses utilisateurs, avant tout. C’est un fait. La machine protégera d’abord ses passagers, l’entreprise ses clients, l’assureur ses assurés... Sans état d’âme. Au détriment du libre arbitre. L’actualité nous prouve que chaque liberté amputée donne lieu à une dramatique déresponsabilisation. Elle nous rappelle aussi qu’un véhicule peut devenir une arme dans les mains d’esprits malades. Et dans les mains d’un programme (peu protégé) conçu par des entreprises qui n’hésitent pas à rogner les coûts, dissimuler, mentir,... pour protéger leurs intérêts... ?

Enfin, pour nous, bagnolards invétérés que nous sommes, l’étape suivante ne me semble guère plus réjouissante. Aujourd’hui, la liberté auto-mobile est chassée peu à peu des centres urbains. Demain, se pourrait-il que l’humain soit privé de sa propre capacité à conduire, sacrifiée sur l’autel de la sécurité et de la fluidité du trafic routier... ?

Alors, Bagnolards, Bagnolardes, restons vigilants, restons unis et, ensemble, traçons joyeusement la route tant qu’il est encore temps !