Une conférence, organisée par la Faculté de droit en lien avec le 89^th Global Forum for Road Safety Traffic à l’ONU, s’est récemment penchée sur ces questions. Le professeur de l’Université de Bologne Enrico Al Mureden, spécialiste du domaine, et la professeure de l’UNIGE Doris Forster, historienne du droit privé et comparé, y ont plaidé en faveur d’une approche des problématiques soulevées par les véhicules autonomes centrée sur l’humain.

Pour illustrer son raisonnement, Doris Forster s’est appuyée sur un dilemme étudié bien avant l’avènement de l’IA: le conducteur ou la conductrice d’un véhicule, incapable de freiner à temps pour éviter des piétons, se trouve confrontée au choix de foncer soit sur un groupe de plusieurs piétons soit sur un piéton isolé. L’arithmétique semble imposer le choix du moindre mal, en minimisant le nombre de victimes potentielles. Ce mode décisionnel devrait-il pour autant être intégré à l’IA contrôlant le véhicule? Pour la juriste, la réponse est beaucoup moins évidente qu’il n’y paraît.

«Cela impliquerait que le choix de mettre en péril la vie d’une personne a fait l’objet d’une programmation, explique Doris Forster. Or l’idée qu’une telle programmation puisse attenter à la vie de quelqu’un est contraire aux droits fondamentaux qui sont au cœur de notre système éthique et juridique.»

Que faire, dès lors? La juriste pointe une loi allemande édictée en 2021 prévoyant, pour les véhicules autonomes sans conducteur/trice, un dispositif de contrôle du trafic à distance où un humain peut, en cas de dilemme, prendre une décision. «Il s’agit d’un élément important, relève Doris Forster, car il souligne que seul un sujet humain est doté de la capacité de prendre une décision pouvant faire l’objet d’une évaluation morale, contrairement au résultat auquel parvient une IA découlant d’un processus algorithmique. Ce n’est pas la première fois dans l’histoire qu’une avancée technologique fait ressurgir le mythe prométhéen d’une pseudo-figure humaine créée de toutes pièces. Or il s’agit bien d’un mythe et nous serions mal avisés de céder à la tentation de le raviver à propos de l’IA en lui conférant la capacité de réfléchir et d’éprouver des émotions humaines.»

Reste toutefois à savoir comment établir une responsabilité dans le cas d’un accident survenant hors de tout contrôle humain. Enrico Al Mureden préconise, lui aussi, une approche centrée sur l’humain en conférant cette responsabilité aux fabricant-es des véhicules. Les industries contribueraient ainsi à un fonds de compensation commun proportionnellement au nombre de véhicules vendus et inversement proportionnel à leur coefficient de sécurité. Cela, dans le but de les inciter à mettre sur le marché des systèmes d’autoguidage de plus en plus perfectionnés.