23 Oct L’IA, la peur, la confiance et moi
Intelligence artificielle et confiance : comment dépasser la peur de l’IA ?
L’intelligence artificielle fascine autant qu’elle inquiète. Biais, désinformation, emploi, impact environnemental, perte de contrôle : les motifs de défiance sont nombreux. Mais faut-il chercher à supprimer la peur ou apprendre à mieux maîtriser la technologie ? La Cité de l’Économie et des Métiers de Demain explore les conditions nécessaires pour construire une intelligence artificielle digne de confiance.
« Il vaut mieux appréhender ces mutations difficiles que les subir », résumait Jalil Benabdillah, vice-président de la Région Occitanie, lors d’une rencontre organisée à la Cité de l’Économie et des Métiers de Demain (CEMD).
Une phrase qui résume bien l’enjeu.
Face à l’intelligence artificielle, deux attitudes sont possibles : regarder la transformation arriver avec inquiétude ou chercher à comprendre, expérimenter et développer les compétences permettant de mieux la maîtriser.
Mais comment construire cette confiance ?
Pour ouvrir la réflexion, la CEMD avait choisi de faire un pas de côté en invitant Laura André Boyet, formatrice d’astronautes à l’Agence spatiale européenne et instructrice chez Novespace.
Quel rapport entre l’intelligence artificielle et la préparation d’un astronaute ?
Dans les deux cas, il s’agit de se préparer à évoluer dans un environnement complexe, incertain et en partie inconnu.
Face à l’incertitude, développer les compétences plutôt que subir
Explorer l’espace implique de se préparer à des situations extrêmes.
Laura André Boyet identifie trois éléments essentiels dans cette préparation : les compétences, l’empathie et l’intégrité.
Les compétences, d’abord, doivent être développées de manière suffisamment transversale pour comprendre un environnement dans sa globalité.
L’empathie permet ensuite de prendre en compte l’expérience et les contraintes de l’autre.
Enfin, l’intégrité contribue à maintenir un lien de confiance lorsque les situations deviennent complexes.
Ces trois principes dépassent largement le secteur spatial.
Ils peuvent aussi éclairer la manière dont les entreprises abordent l’intelligence artificielle.
Car face à une technologie qui évolue rapidement, la confiance ne repose pas uniquement sur la performance des outils. Elle dépend aussi de notre capacité à comprendre leur fonctionnement, leurs limites et les conséquences de leur utilisation.
Comprendre l’intelligence artificielle pour mieux l’utiliser
Les échanges se sont poursuivis avec trois expertes : Anna Choury, mathématicienne, entrepreneure et conférencière spécialisée dans les relations entre IA et société ; Fabienne Amadori, coprésidente du Groupe Isia et cofondatrice de Kalya Santé ; et Anne Laurent, professeure en informatique et vice-présidente de l’Université de Montpellier.
Première étape pour dépasser la peur : comprendre de quoi nous parlons.
Anne Laurent définit l’intelligence artificielle comme l’automatisation de tâches relevant de capacités cognitives humaines, voire animales.
Percevoir. Reconnaître. Catégoriser. Interagir. Planifier. Décider.
Autant de capacités que les chercheurs cherchent, selon les systèmes et les usages, à reproduire ou à assister grâce aux machines.
Cette compréhension est essentielle.
Car une technologie que l’on comprend mieux devient aussi une technologie que l’on peut davantage questionner, encadrer et utiliser en connaissance de cause.
Pourquoi l’intelligence artificielle suscite-t-elle autant de méfiance ?
La diffusion de l’IA générative a rendu l’intelligence artificielle beaucoup plus visible.
Elle a également rendu ses limites plus concrètes.
Biais algorithmiques, reproduction de stéréotypes, désinformation, protection des données, impact environnemental ou encore conséquences sur certains métiers : les sujets de vigilance sont nombreux.
La question n’est donc pas de demander une confiance aveugle dans l’intelligence artificielle.
Elle est plutôt de déterminer dans quelles conditions un système d’IA peut devenir digne de confiance.
Cela suppose de savoir ce qu’il fait, pourquoi on l’utilise, quelles données sont mobilisées, quelles erreurs il peut produire et quelle place conserve l’humain dans la décision.
Encadrer les risques pour renforcer la confiance dans l’IA
La régulation constitue l’une des réponses à cette question.
L’approche européenne repose notamment sur une idée : tous les usages de l’intelligence artificielle ne présentent pas le même niveau de risque.
Un système intervenant dans un domaine sensible ne peut pas être appréhendé de la même manière qu’un outil utilisé pour une tâche sans conséquence importante sur les personnes.
Cette logique conduit à renforcer les exigences à mesure que les risques augmentent.
Derrière les règles apparaît donc un principe essentiel : la confiance dans l’intelligence artificielle suppose de proportionner les précautions aux conséquences potentielles de son utilisation.
Lors de la rencontre, Anna Choury résumait cette philosophie ainsi :
« Lorsqu’on regarde les règles mises en place par l’UE, on se rend compte que c’est 70 % de bon sens, 20 % de vision de société et seulement 10 % de contrôle technologique. »
Anna Choury
Une IA digne de confiance reste sous contrôle humain
Au-delà de la réglementation, plusieurs principes permettent de réfléchir à une intelligence artificielle plus responsable.
Contrôle humain, robustesse, sécurité, protection des données, transparence, non-discrimination, prise en compte des impacts sociaux et environnementaux ou encore responsabilité : tous posent finalement la même question.
Quelle place voulons-nous donner à l’humain dans les systèmes automatisés ?
Utiliser une IA ne signifie pas nécessairement lui déléguer la décision.
Selon les usages, l’humain peut conserver un rôle essentiel pour vérifier, interpréter, arbitrer ou assumer la responsabilité du résultat.
La confiance repose alors moins sur la croyance que la machine ne se trompera jamais que sur notre capacité à identifier ses limites et organiser son contrôle.
Avant d’utiliser une IA, poser la question de son utilité
Pour Fabienne Amadori, une autre condition est essentielle : une intelligence artificielle doit d’abord être utile.
Avec Kalya Santé, l’entrepreneuse et ses équipes ont développé une solution utilisant l’IA pour faciliter la recherche d’informations sur des thérapies étudiées dans le cadre d’essais cliniques.
L’intelligence artificielle permet ici de traiter un volume considérable d’informations.
Mais cet exemple soulève une question qui devrait précéder chaque projet : avons-nous réellement besoin d’IA pour répondre à ce problème ?
La technologie n’a pas nécessairement vocation à être utilisée partout simplement parce qu’elle est disponible.
Le premier critère d’une IA responsable peut donc être particulièrement simple : vérifier que son utilisation apporte une valeur réelle.
Intelligence artificielle et environnement : utile ou futile ?
Cette question devient encore plus importante lorsque l’on considère l’impact environnemental du numérique.
Entraîner, héberger et utiliser des modèles d’intelligence artificielle nécessite des infrastructures, des équipements et de l’énergie.
L’enjeu consiste donc également à mettre en regard les ressources mobilisées et la valeur créée.
Fabienne Amadori invite ainsi à examiner l’ensemble du cycle de vie des technologies et, surtout, à distinguer l’IA « utile » de l’IA « futile ».
Cette distinction peut devenir un principe intéressant pour les entreprises.
Plutôt que de se demander : « Où pouvons-nous mettre de l’IA ? », elles peuvent commencer par une autre question :
« Quels problèmes méritent réellement que nous utilisions de l’IA pour les résoudre ? »
La confiance passe aussi par l’esprit critique
Réglementer la technologie ne suffit pas.
Former celles et ceux qui l’utilisent est tout aussi important.
Plus l’intelligence artificielle entre dans les pratiques professionnelles, plus les collaborateurs doivent être capables d’identifier ses forces mais aussi ses limites.
Vérifier une information. Identifier une réponse douteuse. Comprendre qu’un résultat peut être biaisé. Savoir quelles données peuvent être partagées. Reconnaître les situations dans lesquelles une validation humaine est indispensable.
L’esprit critique devient ainsi une compétence professionnelle essentielle à l’ère de l’IA.
La confiance ne consiste donc pas à croire davantage la machine.
Elle consiste à être suffisamment compétent pour savoir quand lui faire confiance et quand la questionner.
De la peur de l’IA à l’expérimentation
L’intelligence artificielle continuera d’évoluer.
Chercher à prévoir précisément ce qu’elle sera capable de faire demain est donc particulièrement difficile.
En revanche, les organisations peuvent se préparer.
Former leurs équipes. Définir des règles d’usage. Identifier les risques. Choisir les tâches qu’elles souhaitent déléguer. Préserver une validation humaine lorsque celle-ci est nécessaire. Mesurer l’utilité réelle des outils.
Et surtout : expérimenter avant de généraliser.
C’est l’approche portée par la Cité de l’Économie et des Métiers de Demain face aux transformations du travail.
La confiance dans l’intelligence artificielle ne naîtra probablement ni de l’enthousiasme aveugle ni du rejet de la technologie.
Elle se construira plutôt dans notre capacité à comprendre, tester, encadrer et choisir collectivement les usages que nous voulons en faire.