Quand les algorithmes sauvent des vies L’intelligence artificielle ouvre de possibilités en matière de prévention des accidents. Les systèmes basés sur des données identifient les schémas de risque, analysent les données accidentologiques et soutiennent des mesures de prévention. Mais ils soulèvent aussi des questions éthiques et sociales en matière de responsabilité, d’assurance qualité et de contrôle. Le professeur Peter G. Kirchschläger et Stefan Siegrist, directeur du BPA, discutent des opportunités, des limites et de l’utilisation critique.

Plongeons dans le vif du sujet: qu’entend-on par intelligence artificielle? Quelles sont ses performances effectives et ses limites actuelles? 

Peter G. Kirchschläger: L’«IA» simule et assume des fonctions cognitives jusqu’alors réservées à l’être humain. Cela fonctionne si bien dans certains domaines qu’on peut effectivement parler d’«intelligence». Les machines nous dépassent nettement dès qu’il s’agit de traiter de grandes quantités de données, en particulier. Elles manquent toutefois d’intelligence émotionnelle et sociale. Lorsqu’il s’agit d’identifier des règles éthiques, ce qui est correct ou faux, bon ou mauvais, les machines atteignent également leurs limites. Je mets donc volontairement un point d’interrogation derrière le terme d’«intelligence». Par essence, ce qu’on appelle «IA» n’est rien d’autre que des formules mathématiques complexes associées à de grandes quantités de données, raison pour laquelle je propose d’utiliser le terme alternatif de «systèmes basés sur des données», qui décrit plus précisément ce que cette technologie offre réellement.

Stefan Siegrist: Je suis impressionné par la capacité de l’IA à combiner des données et des algorithmes existants avec une puissance de calcul énorme. Elle ne fait toutefois qu'imiter les processus de réflexion et de décision humains. La vitesse et la complexité nous font facilement oublier qu’en fin de compte, il ne s’agit que de perroquets intelligents, même si ChatGPT et Cie nous donnent l’impression de communiquer avec une personne réelle. Nous risquons ainsi de développer une confiance excessive qui influencerait inconsciemment nos opinions. 

P. G. Kirchschläger: Cet excès de confiance potentiel plaide précisément en faveur d’un terme aussi précis que possible. La notion d’«intelligence» favorise une confiance excessive, contrairement au concept neutre de «système basé sur des données». 

M. Kirchschläger, vous êtes théologien et éthicien, deux disciplines qui ne sont pas automatiquement associées à la technologie. Pourquoi vous intéressez-vous aux systèmes basés sur les données? 

P. G. Kirchschläger: Pendant mes études de philosophie, j’ai assisté à un cours d’introduction technique très passionnant sur les systèmes basés sur les données, qui m’a amené à me poser de nombreuses questions philosophiques et éthiques. Je suis resté fasciné par ce sujet, ce qui m’a également valu quelques critiques. À l’époque, ces systèmes étaient considérés comme secondaires par rapport aux questions éthiques vraiment importantes. Aujourd’hui, les choses ont radicalement changé et je ne suis plus critiqué pour mes recherches. Celles-ci montrent d’ailleurs les grandes opportunités, mais aussi les grands dangers des systèmes basés sur les données en matière d’éthique. Nous devons identifier ces deux aspects avec précision afin d’exploiter leur potentiel tout en évitant les écueils grâce à des mesures judicieuses. 

Le BPA a de tout temps basé son travail sur des données scientifiques. Il analyse les données accidentologiques, identifie des schémas et, sur cette base, élabore des mesures de prévention. Le développement de systèmes basés sur les données n’enfonce-t-il pas des portes ouvertes? 

S. Siegrist: Tout à fait. Un bon nombre de nos collaboratrices et collaborateurs sont très enthousiastes. J’en fais partie. Les systèmes basés sur des données peuvent éperonner notre travail de prévention. Pour le BPA, organisation du savoir axée sur la recherche, le conseil, la formation et la communication, tous les domaines se prêtent à leur utilisation ciblée: de la recherche dans les ouvrages scientifiques et l’analyse de données à la génération d’images et à la traduction automatique, en passant par l’assistant IA de notre site Internet. L’apprentissage automatique peut être entraîné de manière à identifier des schémas d’accident dans les descriptions rudimentaires. Il est toutefois essentiel que les résultats restent évalués par un être humain. 

P. G. Kirchschläger: Les systèmes basés sur les données nous permettent non seulement de mieux comprendre les choses, mais aussi de les aborder sous un nouvel angle. Nous pouvons ainsi identifier encore plus précisément les causes d’accident et définir de manière encore plus ciblée les moyens de prévention. Ces systèmes offrent par ailleurs un gain d’efficacité, ce qui revêt également une importance sur le plan éthique, car ils permettent une meilleure utilisation des ressources.

L’IA rend-elle donc notre monde plus sûr? 

S. Siegrist: Les avantages se manifestent aussi dans des applications très concrètes. Skitourenguru, un outil de planification des randonnées à ski, en est un bon exemple. Il combine les bulletins d’avalanche actuels avec des données topographiques détaillées et évalue chaque jour des milliers d’itinéraires de randonnée à ski à l’aide d’un algorithme sophistiqué. Les systèmes basés sur les données jouent également un rôle majeur dans la conduite automatisée. Mais plus le BPA s’y intéresse, plus des risques apparaissent clairement dans certains domaines. Nous le voyons notamment dans la phase de transition semée d’embûches vers une conduite partiellement automatisée, dans laquelle la responsabilité alterne entre l’être humain et le système. 

P. G. Kirchschläger: Nous supposons que l’automatisation complète de la mobilité se traduira par une nette baisse du nombre d’accidents. De nombreux facteurs de risque humains comme l’alcool, la distraction et la fatigue seront en effet éliminés. De nouvelles causes d’accidents, telles que les erreurs techniques ou la cybercriminalité, viennent toutefois les remplacer. Je vois également des défis dans la phase de transition. L’effet positif de la baisse du nombre d’accidents n’est pas encore atteint, et les nouveaux risques générés par la technologie ne sont pas encore maîtrisés. 

Les opportunités s’accompagnent donc de défis. Quels sont les risques éthiques et pratiques pour notre société comme pour le BPA?

P. G. Kirchschläger: En signalant de manière systématique et critique les dangers éthiques, j’aimerais contribuer à l’amélioration des systèmes basés sur des données à l’avenir. Pour ce faire, nous devons impérativement aborder dans leur globalité les questions relatives à la protection des données, à la vie privée et aux droits humains. Le problème des violations du droit d’auteur est tout aussi réel. Un autre danger réside dans l’impact environnemental. La consommation d’eau et d’électricité est énorme. Pour finir, nous ne devons pas déresponsabiliser l’être humain. Si nous nous fions trop à ces systèmes, nous n’en deviendrons pas nécessairement plus intelligents. Je plaide toujours en faveur de la réflexion personnelle, car sinon, nous risquons de régresser. Cela a également des conséquences négatives sur la prévention des accidents, car les gens ont alors davantage tendance à se tromper dans leurs évaluations. 

S. Siegrist: En recherche accidentologique, nous parlons d’illusion de contrôle. Nous percevons les situations comme contrôlables, mais surestimons souvent nos capacités, par exemple dans des configurations complexes comme un grand carrefour. Il en va de même pour les nouvelles technologies que nous pensons maîtriser. C’est pourquoi je trouve intéressant que vous parliez, Monsieur Kirchschläger, de systèmes basés sur des données et non d’intelligence, car le langage façonne la conscience. Nous avons besoin de cette prise de conscience pour interagir avec ces nouveaux systèmes qui prennent en charge nos processus de pensée. Nous devons examiner encore plus attentivement la qualité du résultat obtenu. 

Il s’agit au final d’une question de confiance envers des données et des systèmes qui deviennent de plus en plus complexes et dont nous comprenons mal le fonctionnement. 

P. G. Kirchschläger: Il s’agit essentiellement de pensée critique, d’aménagement et d’utilisation critique des systèmes basés sur des données. Prenons l’exemple des systèmes génératifs. La réponse fournie par un outil tel que ChatGPT peut être correcte ou non. Elle ne tient pas non plus compte de la hiérarchie qualitative des sources. En termes de pertinence, le New York Times et un tabloïd seront par exemple évalués de la même manière. Le système s’entraîne avec tout le contenu d’Internet. Dans un domaine très exigeant tel que la prévention des accidents, les systèmes experts ne devraient être entraînés qu’avec les meilleures publications spécialisées. Il n’y a qu’ainsi que nous pourrons faire confiance aux organisations qui les proposent. Il ne faut jamais se fier entièrement aux machines. 

Ces systèmes changeront considérablement notre monde du travail, y compris au BPA. Quelles sont les nouvelles exigences pour les professions, les entreprises et les organisations? 

P. G. Kirchschläger: Notre monde du travail est en pleine mutation. Il ne s’agit tout d’abord pas tant de la perte d’emplois que de tâches individuelles rémunérées. Contrairement aux bouleversements technologiques antérieurs, presque toutes les activités sont touchées, même les plus qualifiées. Sans compter que les systèmes basés sur les données continuent d’apprendre de manière autonome, sans apport humain. Leur but n’est plus de soulager l’être humain, comme les tracteurs ont réduit l’effort physique en remplaçant la charrue, mais d’assumer pleinement des tâches professionnelles rémunérées. D’un point de vue éthique, ce n’est pas une mauvaise nouvelle en soi. La situation devient problématique lorsque de nombreuses personnes ne peuvent plus s’offrir une existence digne. Nous sommes en train de renoncer à la poursuite du plein emploi dans notre système économique. Ces changements systémiques requièrent une approche également systémique. La formation continue ne suffit en effet pas si des personnes ne trouvent plus leur place sur le marché du travail malgré leurs qualifications. 

S. Siegrist: Notre monde du travail évolue au point que nous ne pouvons plus réagir avec les outils traditionnels. Dans ce contexte, une approche systémique et une gouvernance claire sont nécessaires. La conduite autonome illustre l’ampleur du défi. En pratique, les systèmes actuels présentent encore des défaillances. Si l’on extrapole aux kilomètres parcourus sur les routes suisses, des milliers de situations critiques apparaissent chaque année, avec un risque d’accident bien réel. Cet exemple montre que notre société doit apprendre à gérer les risques sans attendre que des dommages se produisent. Ces mutations nécessitent une sensibilisation, une réflexion stratégique et un vaste débat social.

P. G. Kirchschläger: Nous devons mener ce débat dès maintenant. Le temps presse. Des exemples comme la chirurgie robotisée montrent que de plus en plus de tâches peuvent être accomplies sans intervention humaine. Aujourd’hui, on rémunère encore les médecins dans l’espoir d’offrir plus de temps à la discussion avec les patient·es. Mais à un moment, la question de savoir si un chatbot ne serait pas moins cher finira par se poser. Je trouve important de souligner que cela peut entraîner une baisse de la qualité, en particulier dans les interactions humaines. Mais dans quels domaines nos sociétés sont-elles encore prêtes à dépenser de l’argent? 

À l’instar du BPA, qui place la santé et l’intégrité physique des personnes au centre de son action, notre société peut-elle utiliser l’IA de manière judicieuse sans en perdre le contrôle?

S. Siegrist: Le droit à l’intégrité physique est inscrit dans la Constitution fédérale. Et le BPA a pour mandat de prévenir les souffrances humaines. C’est précisément cette notion qui guide notre approche face aux nouvelles technologies. Nos principes de travail continuent d es’appliquer. Les mesures doivent être efficaces, proportionnées et fondées scientifiquement. En restant fidèles à notre ligne directrice, qui repose sur la recherche, des données probantes et des repères éthiques clairs, nous gardons le contrôle même avec les nouvelles technologies. 

P. G. Kirchschläger: Compte tenu l’évolution des systèmes basés sur les données, nous n’avons pas besoin de réinventer la roue. Les normes et principes éthiques et juridiques tels que la dignité humaine restent inchangés. Dans cette nouvelle réalité, nous avons besoin d’une réglementation mondiale basée sur les droits humains et de sa mise en œuvre par une agence internationale pour les systèmes basés sur les données au sein de l’ONU. Point réjouissant: cette idée a suscité un écho positif dans le monde entier et est soutenue, entre autres, par le secrétaire général de l’ONU António Guterres, le pape, le Dalaï Lama, Sam Altman et un réseau international et interdisciplinaire d’experts. 

Pouvons-nous donc nous réjouir d’un «beau nouveau monde»?

S. Siegrist: Avec chaque poussée technologique, il est normal que nous ne comprenions pas tout dans les moindres détails. Cela a été le cas pour le téléphone comme pour l’automobile. L’essentiel n’est pas que chaque individu comprenne la technologie, mais que la société dans son ensemble apprenne à l’utiliser de manière responsable. Cette approche a fonctionné par le passé, malgré des craintes initiales. Les systèmes basés sur les données offrent de grandes opportunités en matière de prévention des accidents. Ils viendront nous aider, pas nous remplacer. Un monde meilleur ne se construit pas tout seul. Mais nous pouvons le façonner. 

P. G. Kirchschläger: Dans mes recherches, j’essaie d’identifier les opportunités et les risques éthiques inhérents aux systèmes basés sur les données. L’objectif consiste à les concevoir et à les utiliser de manière à permettre un avenir digne et durable. L’innovation peut s’épanouir de manière optimale là où les droits humains sont respectés et où la liberté, l’accès à l’information et la pensée critique sont assurés. En garantissant ce cadre, nous obtiendrons un progrès éthique positif pour les êtres humains comme pour notre planète. 

Biographies

Peter G. Kirchschläger est professeur ordinaire d’éthique théologique et directeur de l’Institut d’éthique sociale ISE à l’Université de Lucerne, ainsi que professeur invité à la chaire de neuroinformatique et de systèmes neuronaux de l’ETH Zurich et à l’ETH AI Center. Il est notamment l’auteur des livres «Ethics and the Digital Transformation of Human Work» (2025), «Digitale Transformation und Ethik» (2024) et «Ethisches Entscheiden» (2023) et directeur d’études du nouveau master d’éthique à l’Université de Lucerne: unilu.ch/master-ethik

Stefan Siegrist est directeur du BPA et titulaire d’un doctorat en psychologie. Depuis trente ans, le Soleurois exerce une influence décisive sur les trois domaines d’activité du BPA: la circulation routière, le sport, ainsi que l’habitat et les loisirs. Les bases d’une prévention des accidents efficace et ciblée ont continué d’être affinées sous sa direction.