aivancity Paris-Cachan

Éthique et intelligence artificielle

Publié le
woman brain

L’intelligence artificielle n’échappe pas au questionnement éthique. Comme toutes les technologies elle fait naître tous les fantasmes, elle suscite des espoirs comme des inquiétudes. Si elle peut être la promesse d’une vie facilitée par les objets connectés, d’une vie plus longue et allégée de certaines souffrances, d’une productivité accrue bénéficiant à l’humanité ou encore d’un meilleur contrôle des risques qu’ils soient conflictuels, sanitaires ou même financiers, elle peut aussi représenter une menace existentielle pour l’être humain, une voie potentielle vers une nouvelle guerre mondiale, une menace contre nos libertés fondamentales, une technologie aliénante et incontrôlable sur le long terme.

Néanmoins, elle est devenue un objet de relations internationales, considérée comme un facteur de puissance indispensable, et les enjeux politiques qu’elle recouvre induisent des choix dont l’acceptabilité éthique est constamment questionnée. Peut-on commercialiser les données personnelles ? Doit-on en équiper des robots de combats ? Est-il acceptable de reproduire le cerveau humain ? Peut-on jouer au démiurge ? Quelle est notre responsabilité à l’égard des générations futures ?

 

Qu’est-ce que l’éthique ?

L’éthique, domaine de la philosophie visant à l’évaluation de l’acceptable et de l’inacceptable, du bien et du mal, est une matière qui nécessite un savoir de base sur les différentes approches qu’elle recouvre. Dans un monde globalisé aux cultures diverses qui s’entrecroisent et souvent s’entrechoquent, l’éthique devient un moyen de communication, un langage commun qui favorise la collaboration.

Elle exige donc des connaissances qui dépassent les a priori culturels ou les perspectives limitées. Faire de l’éthique aujourd’hui c’est maîtriser les bases des trois grandes approches continentales que sont l’éthique de la vertu, la déontologie et le conséquentialisme, mais c’est aussi être capable de s’ouvrir à d’autres approches fondées sur des traditions, des croyances, des histoires, des sagesses différentes. On ne peut ainsi comprendre la relation à la technologie en Chine en l’approchant au travers d’un prisme exclusivement occidental et en occultant son fondement confucéen. On ne peut échanger efficacement avec le continent asiatique, pas plus qu’avec l’Afrique ou le Proche-Orient, sans connaitre les ressorts éthiques sur lesquels reposent les pensées des peuples qui y vivent, sans être ouverts à la différence. L’éthique n’est pas le droit, elle n’est pas du « simple bon sens » et elle n’est pas de la politique. Matière à part entière, elle requiert des connaissances et des méthodes. Elle impose une réflexion au-delà de nos convictions particulières. Elle invite à une réflexion approfondie et globale sur le vivre ensemble, un vivre ensemble qui ne se limite désormais plus à une communauté nationale, mais dépasse les clivages arbitraires des frontières ou des catégories socio-culturelles.

 

L’avenir de l’éthique dans le domaine de l’IA

L’éthique et l’intelligence artificielle sont des domaines complexes. Leur articulation accentue cette complexité. La course à l’IA qui se joue aujourd’hui sur la scène internationale induira des décisions de la part d’acteurs privés et publics, dont l’acceptabilité sera à tout le moins discutable. La globalisation vient ajouter un degré supplémentaire de complexité en imposant une collaboration entre des cultures souvent très différentes, entre des éthiques très différentes. Notre capacité à comprendre, à écouter, à mobiliser nos savoirs pour tolérer ces différences et à les exploiter utilement sera la garantie d’échanges constructifs sur l’avenir de nos sociétés. L’éthique appliquée à l’IA est un enjeu sociétal qui dépasse donc largement les frontières. Elle se confronte à des perspectives différentes, elle cherche à réguler des pratiques diverses, à aplanir des intérêts souvent divergents. Elle est un défi qui ira grandissant et que seuls pourront relever ceux qui en comprendront les nuances, les subtilités et seront capables d’en appréhender la diversité. L’éthique appliquée à l’IA est ainsi une promesse faite à celles et ceux qui s’inquiètent des potentielles dérives quant à son utilisation. Elle garantit une réflexion qui représente un garde-fou, certes imparfait, mais indispensable.

 

L’éthique un enjeu sociétal

Éthiques de la finance, de l’environnement, politique, médicale, de la guerre, éthique de la recherche, autant de champs d’application, parmi de nombreux autres, d’une matière qui a lentement envahi notre quotidien. L’éthique est désormais au cœur des discours privés comme publics, utilisée et surutilisée majoritairement par des non spécialistes bénéficiant d’une médiatisation excessive qui a contribué à faire de ce champ de la philosophie une banalité langagière.

On le sait nos sociétés sont en quête de sens. Inquiets face à un monde dont la complexité nous écrase, nous cherchons dans un mot l’espoir d’un avenir meilleur, une raison d’avoir confiance et ainsi de réduire la complexité du monde en limitant le besoin de savoir. L’éthique est bien plus qu’une simple branche de la philosophie. Elle est un enjeu sociétal, la promesse d’un mieux à venir, la garantie de relations sociales apaisées, l’assurance d’une maîtrise de risques prévisibles. Elle est devenue un médiateur rassurant, un outil communicationnel visant à embellir le laid, à maquiller une réalité inquiétante pour la présenter sous un jour appétant : une « cosm-éthique ». Confrontés à l’inertie du droit et à la difficulté à l’adapter en temps réel aux évolutions rapides du monde, nous nous tournons vers l’éthique pour normer nos comportements. Flexible, aisée à manier, l’éthique parle à tout le monde et compense souvent la faiblesse ou le défaut de normes juridiques. Malléable, elle est utilisée dans tous les domaines de l’activité humaine et présentée comme une panacée, un remède miracle à une certaine forme de dérégulation portée par la globalisation.

L’éthique appliquée à l’IA, pour être constructive, doit se rapporter au monde réel, à des problématiques du quotidien. Elle requiert des savoirs fondamentaux, souvent passionnants, permettant une réflexion rigoureuse sur les enjeux du développement et de l’emploi de l’IA. Elle doit être approchée comme toutes les autres matières académiques : avec rigueur. aivancity a donc naturellement choisi de s’intéresser à l’enjeu de la formation à l’éthique appliquée à l’intelligence artificielle : fournir des outils fiables pour réfléchir efficacement aux défis de demain.

Emmanuel Goffi
Directeur de l'Observatoire Éthique & Intelligence Artificielle de l'Institut Sapiens