— Par Jean-François Mattei, membre de l’Institut de France et de l’Académie nationale de médecine —
Depuis quelque temps, un site Internet intitulé « Machine morale » (1) connaît un succès d’affluence qui témoigne de l’intérêt accru pour l’intelligence artificielle. Celle-ci est devenue un sujet de débats dont on aurait tort de minimiser la portée. Alors que le fonctionnement du cerveau humain est encore largement méconnu, la construction de l’intelligence artificielle avance à pas de géant et offre des possibilités dont on imagine mal les limites puisqu’on lui prête même la capacité de porter des jugements moraux.
Ainsi, la plateforme du site en question cherche à comprendre quelles « décisions qualifiées de morales » une machine intelligente comme les voitures autonomes devrait prendre selon les circonstances. Soit le cas simple de freins qui lâchent avec deux solutions possibles : l’une étant de précipiter la voiture contre un mur au risque de provoquer la mort de trois personnes dont une petite fille et l’autre de se résoudre à écraser un athlète avec son chien qui traverse alors que le feu est rouge. Quelle serait la décision morale ? Afin de proposer une réponse à cette question, les concepteurs de la plateforme ont interrogé plus de 1,3 million de personnes pour déterminer le choix que ferait le plus grand nombre (2). Dès lors, selon les méthodes de l’éthique utilitariste, c’est le choix majoritaire qui est retenu et considéré comme « moral ». Cette approche n’a donc rien à voir avec une décision morale car la morale ne dépend pas de l’opinion d’une majorité. En l’occurrence, il s’agit d’éthique dans sa conception utilitariste, loin de l’éthique essentialiste.
D’ailleurs, il serait intéressant de savoir quelle serait la « décision morale » d’une machine intelligente face au dilemme d’Antigone qui souhaite donner une sépulture digne à son frère qui pourtant, traître à sa ville, doit être jeté hors des murs, livré aux bêtes sauvages. La machine choisirait-elle de respecter la loi civile de Créon ou retiendrait-elle la loi morale d’Antigone ? Nul doute que la machine n’aurait aucune hésitation. Elle se conformerait à l’avis de la majorité des citoyens respectant à la lettre la loi du législateur et rejetterait le traître en méconnaissant le concept de dignité humaine ! Pour la machine, ni morale, ni tragédie !…
Lire la Suite & Plus => LaCroix.fr