Summit of the G7 science academies

Version de courtoisie

Intelligence artificielle et société

Résumé et recommandations

L'intelligence artificielle (IA) est l'une des technologies qui transforme notre société et de nombreux
aspects de notre vie quotidienne. L'IA a déjà procuré de nombreux avantages et elle pourrait être une
source de prospérité économique considérable. Elle soulève également des questions sur l'emploi,
la confidentialité des données, la vie privée, la violation des valeurs éthiques et la confiance dans les
résultats.

Les décideurs politiques devraient encourager la prise en compte des points suivants qui devraient
également mobiliser les scientifiques :

n Une gestion prudente est nécessaire pour aider à partager les bénéfices de l'IA dans
l'ensemble de la société. Pour cela, il faudra porter une attention particulière à l'impact de l'IA sur
l'emploi, qui sera à son tour influencé par une série de facteurs, notamment des aspects politiques,
économiques et culturels, ainsi que par les progrès des technologies d'IA.

n Les systèmes et les données d'IA doivent être fiables. Cela devrait être facilité par des mesures
portant sur la qualité, l'absence de biais et la traçabilité des données. Bien que cela puisse être
encore facilité en rendant les données plus accessibles, les données à caractère personnel ne
devraient pas être mises à la disposition de tiers non autorisés.

n Les systèmes et les données d'IA doivent être sûrs et sécurisés. Ceci est essentiel dans le cas
d'applications qui impliquent une vulnérabilité humaine et qui peuvent nécessiter des systèmes
dont il est prouvé qu'ils sont corrects.

n Des recherches sont nécessaires pour aider à mettre au point des systèmes d'IA explicables.
Lorsque des décisions importantes suggérées par l'IA ont une incidence sur des personnes, les
individus concernés devraient recevoir une information suffisante et être autorisés à contester ces
décisions (par exemple refuser un traitement ou faire appel d'une décision).

n Des connaissances dans de nombreux domaines sont nécessaires pour tirer le maximum de
bénéfices sociétaux de l'IA. La recherche interdisciplinaire devrait porter sur divers domaines tels
que les sciences de la nature, les sciences de la vie et les sciences médicales, l’ingénierie, la
robotique, les sciences humaines, les sciences économiques et sociales, l'éthique, l'informatique
et l'IA elle-même.

n Les citoyens doivent être prêts à l'IA. Un éventail de possibilités de formation et d'information sur
l'IA devrait être mis à leur disposition et un dialogue bien fondé avec les citoyens devrait être engagé
pour démystifier ce domaine.

n Un débat de politique publique portant sur l'utilisation destructive/militaire de l'IA devrait

être encouragé. Les engagements internationaux limitant les risques liés aux armes autonomes
devraient être examinés par les organes compétents de l'ONU.
n Les échanges de talents et la coopération entre la recherche publique et le secteur privé
devraient être encouragés. Ils faciliteraient le déploiement sûr et rapide d'applications dans des
domaines présentant un grand intérêt pour l’homme. La collaboration est importante pour la collecte
à grande échelle de données essentielles au développement de systèmes d'IA.

Introduction

L'IA fait référence à un ensemble de méthodes et de technologies visant à faire fonctionner

intelligemment des ordinateurs ou d'autres dispositifs. L'IA consiste essentiellement en un ensemble
d'algorithmes fonctionnant sur des données (généralement volumineuses). L'apprentissage machine
(ML) est un sous-ensemble de l'IA qui traite des algorithmes d'extraction d'informations utiles, à partir
de données complexes. Les applications de l’apprentissage machine ont eu récemment un impact
inattendu dans de nombreux domaines de la science et de la technologie. Il existe un large consensus
sur la progression régulière de la recherche sur l'IA et sur l’augmentation probable de son impact sur
le futur de la société.

Le développement de systèmes algorithmiques sophistiqués, combiné à la disponibilité des données

et à la puissance de traitement, a conduit à des résultats remarquables pour une série de tâches
spécialisées telles que la reconnaissance vocale, la classification d'images, la détection de défauts,
les véhicules autonomes, les systèmes d'aide à la décision, la robotique, la traduction automatique,
la locomotion de robots humanoïdes, et les systèmes automatiques de réponse aux questions.
Certaines de ces applications fournissent des outils de soutien extrêmement précieux pour les
personnes handicapées. Grâce à des interfaces cerveau-machine, les individus paralysés peuvent
interagir avec leur environnement au moyen d’un ordinateur.

Dans le domaine des sciences de la nature et dans celui des sciences sociales, les algorithmes
d'apprentissage machine permettent des progrès et fournissent de nouveaux outils pour le traitement
et la modélisation de données et de processus complexes, avec d'énormes avantages potentiels.
Étant donné qu'une grande partie de ce que la civilisation a à offrir est issue de l'intelligence humaine,
nous ne pouvons qu'imaginer ce qui pourrait être accompli lorsque cette intelligence sera amplifiée
par les outils que l'IA peut fournir.

Il y a toutefois un certain nombre de questions et d’inquiétudes sur des écueils potentiels qui méritent
un examen plus approfondi.

Les progrès de la recherche sur l'IA permettent de concentrer les efforts non seulement sur
l'amélioration des capacités de l'IA, mais aussi sur la maximisation de ses bénéfices pour la société
tout en respectant les valeurs éthiques. Le déploiement et l'évolution technique de l'IA devraient donc
être guidés par des considérations éthiques. On craint de plus en plus que des biais puissent être
générés par les systèmes d'IA fondés sur l'analyse de données statistiques et l'apprentissage
automatique.

Dans ce contexte général, on traitera en premier lieu les problèmes posés par l'impact économique
transformatif de l'IA. Puis, dans un deuxième temps des propriétés générales dont les systèmes d'IA
devraient disposer pour interagir de façon satisfaisante et éthique avec les humains. On abordera
ensuite des questions plus spécifiques liées à l'utilisation des systèmes d'IA dans le domaine de la
santé, des questions soulevées par d'éventuelles applications de l'IA à des systèmes d'armes
autonomes, et on considèrera le potentiel de l'IA intégrée dans les systèmes robotiques. Cette
analyse conduit à un ensemble de recommandations rassemblées dans le résumé de ce document.

1. Gérer et optimiser l'impact de l'IA sur nos sociétés

Les économistes et les informaticiens s’accordent généralement pour dire qu'il faut faire de la
recherche afin de maximiser les bénéfices économiques de l'IA tout en en atténuant les effets
négatifs. A ce stade, il est important de considérer l'impact possible de l'IA en termes d’accroissement
des inégalités, de chômage et de comportements non éthiques. Ces questions en suspens sont
examinées plus en détail dans ce qui suit.

2
1.1 Prévisions du marché du travail
L'IA pourrait apporter des avantages économiques importants : dans tous les secteurs, les
technologies de l'IA offrent la promesse d'accroître la productivité et de créer de nouveaux produits
et services. Ce potentiel soulève des questions sur l'impact de l'IA sur l'emploi et la vie
professionnelle.

L'IA aura probablement un effet perturbateur considérable sur le travail, certains emplois seront
perdus, d'autres seront créés et d'autres enfin seront en mutation. Les études de projections sur
l'impact de l'IA sur l'emploi comportent un degré élevé d'incertitude quant à la vitesse des
changements et à la proportion des tâches ou des emplois susceptibles d'être automatisés.
A plus long terme, les technologies contribueront à accroître la productivité et la richesse de la
population. Toutefois, ces avantages peuvent prendre du temps à se manifester, et on peut vivre des
périodes au cours desquelles une partie de la population n'éprouvera que les inconvénients. Cela
donne à penser que des effets transitoires importants pourraient apparaître et entrainer des
perturbations pour certaines personnes ou certains lieux, et potentiellement aggraver les inégalités
sociales à court terme. Il est clairement nécessaire de mener des recherches pour anticiper l'impact
économique et sociétal d'une telle disparité, en tenant compte de la vulnérabilité des emplois à
l'automatisation. Il sera plus facile d'analyser l'impact des systèmes d'IA sur divers types d'emplois,
ceux qui nécessitent des travailleurs peu qualifiés et ceux qui ont besoin de professionnels hautement
qualifiés, que de prévoir les emplois qui pourraient être créés à l'avenir dans le cadre de politiques
diverses.

Il existe un certain nombre de pistes plausibles pour le développement futur des technologies de l’IA.
Une série de facteurs joueront un rôle dans la détermination de l'impact de l'IA sur l'emploi, y compris
des éléments politiques, économiques et culturels, ainsi que les capacités des technologies de l'IA.
L'utilisation des meilleures données de recherche disponibles dans toutes les disciplines peut aider
à élaborer des politiques qui feront partager les avantages de ces changements technologiques à
l'ensemble de la société.

1.2 Politiques de gestion et d'intégration du développement de l'IA dans la société

L'IA aura un impact important sur toute une série de secteurs de la société, en augmentant ou en
remplaçant le travail humain. Le défi consiste à anticiper ces changements et à élaborer des politiques
qui limiteront les effets négatifs et permettront une meilleure intégration de l'IA. L'éducation est
essentielle à la fois pour favoriser l'adoption de l'IA et pour lutter contre les inégalités.

Une compréhension de base de l'utilisation des données et des technologies d'IA est nécessaire à
tous les âges, non seulement pour les producteurs et les utilisateurs professionnels de l'IA, mais
aussi pour tous les citoyens. L'introduction de concepts clés dans les écoles peut aider à y parvenir.
L'adoption d'un programme d'études large et équilibré pour l'éducation des jeunes dans les domaines
des sciences, des mathématiques, de l'informatique, des arts et des sciences humaines pourrait leur
permettre d'acquérir un large éventail de compétences et fournir une base plus solide pour
l'apprentissage tout au long de la vie.

Il y a aussi une forte demande de recrutement de personnes hautement qualifiées. De nombreux

secteurs et de professions nécessiteront des compétences pour utiliser de l'IA d'une manière qui leur
soit utile. De nouvelles initiatives peuvent aider à créer un ensemble d'utilisateurs avertis des
systèmes d'IA. Il est également nécessaire de soutenir de nouvelles filières d'apprentissage et des
infrastructures pour développer des compétences avancées en IA qui permettront de nouvelles
applications et la création en nombres de nouveaux emplois.

Ces questions faisaient déjà partie de la déclaration d'Ottawa rédigée lors du dernier sommet du G7
« Réaliser notre avenir numérique et façonner son impact sur le savoir, l'industrie et la main-d'œuvre ».
Les gouvernements sont encouragés à mettre en œuvre des politiques qui seront inclusives et
capables de fournir à chaque citoyen un accès équitable aux prestations de l’IA. Cela suppose que
la qualité, la sécurité et la résilience de l'information soient également garanties, de même que la
transparence, l'ouverture et l'interopérabilité des systèmes d'IA.

3
Dans les domaines où les capacités de l’IA ont dépassé la réglementation actuelle, il pourrait être
nécessaire d'adopter de nouvelles approches de gouvernance qui tiennent compte des questions
éthiques soulevées par l'interaction humaine avec des machines intelligentes. Il convient de souligner
le rôle des sciences humaines et sociales en général et du partenariat avec les concepteurs et les
utilisateurs pour explorer les façons dont l’IA peut remettre en question les normes éthiques existantes
ou pour identifier les nouveaux défis éthiques de l'intelligence artificielle.

2. Caractéristiques des systèmes d'IA qui devraient être encouragées

2.1 Données
Notre capacité à tirer pleinement parti de la synergie entre l'IA et les données massives dépendra en
partie de notre capacité à acquérir, évaluer de façon critique et gérer les données. Une grande partie
de la technologie actuelle de l’IA nécessite l'accès à d'énormes volumes de données. Pour tirer
pleinement parti de ces technologies, de nouveaux cadres réglementaires peuvent être nécessaires
pour que les données soient disponibles. C'est notamment le cas des données ouvertes et des
données privées d'intérêt public, pour lesquelles de nouvelles normes pourraient s'avérer nécessaires
afin de garantir une utilisation efficace des données. Il faudra par exemple, s'efforcer de rendre
explicite la signification des données, ainsi qu'une représentation du contexte dans lequel elles ont
été obtenues et des informations sur leur origine et leur traitement. Toutes ces questions peuvent être
abordées par des techniques d'IA, qui peuvent donc être importantes pour tenir les multiples
promesses des données ouvertes et assurer l'interopérabilité entre différents types, par exemple,
sociaux, économiques, organisationnels et techniques.

Dans le même temps, l'accès à des ensembles de données de haute qualité devrait respecter la vie
privée et la confidentialité des données personnelles et répondre aux préoccupations concernant les
biais injustifiés et le respect des droits individuels. Tout doit être mis en œuvre pour que l'accès aux
données confidentielles par des tiers tels que les banques, les compagnies d'assurance, les
employeurs potentiels soit régi par des réglementations. Les ensembles de données doivent être
protégés contre les attaques malveillantes. Des politiques régissant la collecte, le partage et l'accès
aux données devraient être en place non seulement pour les grandes entreprises, mais aussi pour
les initiatives « open source ».

2.2 Rendement et possibilité d'explication

Certains des développements les plus réussis et les plus populaires de l'IA - notamment l'apprentissage
approfondi - souffrent actuellement de faibles niveaux d'explicabilité et différentes méthodes d'IA
demandent divers types d'explicabilité, ce qui pourrait, dans certains cas, réduire la confiance que les
utilisateurs accordent à de tels outils. Certains domaines requièrent des explications : dans les
applications médicales, un diagnostic sans explication a peu de chances d'être acceptable. Les
compromis entre la performance et l'explicabilité devraient être explicités tout en visant à développer
des modèles plus explicables. Les limites des algorithmes implémentés doivent être décrites pour
permettre aux utilisateurs de comprendre les raisons des décisions proposées par les systèmes d'IA.

L'amélioration de l'explicabilité de l'IA peut aider à s'assurer que le système d'IA n'introduit pas de
biais. L'impact différencié (« disparate impact ») est apparu comme étant le concept juridique et
théorique prédominant utilisé pour désigner la discrimination involontaire produite par l'application
d'algorithmes lorsqu'un attribut personnel (comme l'origine ethnique, sociale, le sexe et l'âge) a un
effet direct sur les décisions prises par l'algorithme. Les systèmes d'IA utilisés pour prendre des
décisions qui ont un impact profond sur la vie quotidienne des gens ne devraient pas générer un
impact différencié indésirable.

2.3 Vérification et validation des systèmes évolutifs en ligne

Les systèmes en ligne évoluent dans le temps en fonction des données qu'ils traitent en permanence.
Il est récemment apparu clairement qu'un système d'IA peut s'éloigner de son état initial d'une
manière non souhaitée, par exemple pour le genre et la race. L'évolution des systèmes en ligne
nécessite donc une surveillance de leur production pour éventuellement détecter des évolutions
indésirables.

4
3. Domaines d'application exemplaires et conséquences sociétales

3.1 Applications dans le domaine des soins de santé

L'IA offre des avantages potentiels importants dans les systèmes qui étayent la prise de décisions en
matière de santé et de soins. Les problèmes structurels dans ce domaine peuvent conduire à des
erreurs de diagnostic, à une défaillance éventuelle de l’expertise et à une communication inefficace
de l'information entre le monde de la recherche, de l'ingénierie et le monde clinique. L'IA peut aider
à évaluer d'énormes quantités de publications de recherche, à repérer les corrélations improbables
et faibles dans d'énormes ensembles de données, à analyser les images et autres données produites
par les systèmes de santé et à développer de nouvelles technologies. En raison de l'importance
vitale de l’amélioration des systèmes d'aide à la décision clinique, l'IA peut contribuer de manière
significative à aider les cliniciens en leur fournissant une gamme d'outils et de dispositifs pour les
assister et compléter la prise de décision concernant le diagnostic et les options thérapeutiques.
L'objectif consiste à améliorer l'interprétation des observations et des mesures, de produire des
diagnostics et de rendre les soins de santé plus précis, efficaces et accessibles. Cela nécessite une
conception soignée du système, en tenant compte de la manière dont l’IA peut fonctionner aux côtés
des utilisateurs humains, du type d'interprétabilité qui pourrait être nécessaire dans différents
contextes, et des façons dont ces systèmes peuvent être vérifiés et validés. Il sera important que les
médecins et les patients puissent avoir confiance en de tels systèmes et que ces systèmes
fonctionnent bien pour divers groupes d'utilisateurs.
Une gouvernance prudente des données est également nécessaire. Il est dans l'intérêt des citoyens
de tous les pays de collaborer entre eux pour accélérer les progrès grâce à l'IA.

3.2 Armes autonomes

L'IA ouvre de nouvelles possibilités d'applications militaires, notamment en ce qui concerne les
systèmes d'armes dotés d'une autonomie importante dans les fonctions critiques de sélection et
d'attaque des cibles. De telles armes autonomes pourraient conduire à une nouvelle course aux
armements, abaisser le seuil de déclenchement d’une guerre ou devenir un outil pour les oppresseurs
ou les terroristes. Certaines organisations appellent à l'interdiction des armes autonomes, à l'instar
des conventions dans le domaine des armes chimiques ou biologiques. Une telle interdiction
nécessiterait une définition précise des armes et de leur autonomie. En l'absence d'une interdiction
des systèmes d'armes létales autonomes (LAWS), la conformité de tout système d'armes avec le droit
international humanitaire devrait être garantie. Ces armes devraient être intégrées dans les structures
de commandement et de contrôle existantes de manière à ce que la responsabilité et l'obligation
légale de rendre des comptes restent associées à des acteurs humains spécifiques. Il y a un besoin
évident de transparence et de débat public sur les questions soulevées dans ce domaine.

3.3 Robotique
Les robots sont des machines dotées de senseurs et de moyens de déplacement qui incarnent l'IA.
Le contact physique de la machine avec l'environnement, y compris l'homme, est un défi. Les robots
doivent être sûrs, fiables et sécurisés. Jusqu'à récemment, les robots étaient principalement utilisés
dans l'industrie manufacturière et confinés à des situations spécifiques sans partager l'espace avec
les humains. Aujourd'hui, après la deuxième vague de développement de la robotique, les robots
peuvent de plus en plus partager le même espace et interagir avec les humains. Alors que les
applications d'intelligence artificielle se concentrent sur les technologies qui traitent les données pour
en tirer des connaissances utiles à la prise de décision, le but ultime de la robotique est de créer des
systèmes techniques capables d'interagir avec le monde physique.
Outre l'utilisation d'algorithmes d'apprentissage machine, la robotique est confrontée à des
contraintes fondamentales en termes de sécurité physique. La conception de la robotique nécessite
une certification logicielle et une vérification formelle pour maximiser la tolérance aux pannes, la
fiabilité et la capacité de survie.
Malgré les progrès récents, les attentes en matière de progrès surestiment souvent le rythme de
l'évolution technologique.
Enfin, dans l'imaginaire populaire, la robotique et plus généralement l'IA sont influencées par des
récits issus de la littérature fantastique plutôt que par des preuves scientifiques. Il est important de
démystifier et de diffuser la robotique et la science de l'IA en s'engageant dans l'éducation publique,
la discussion et le débat avec tous les citoyens. 5