Par Cecilia Garcia Podoley

Chère lectrice, cher lecteur,

Voici encore un moment de réflexion sur l’éthique et l’IA. Mais, en fait, qu’est-ce que « l’éthique » ? Que comprend-on par éthique dans le champ des nouvelles technologies ? Explorons ensemble les défis de ce sujet.

L’éthique dans l’IA fait référence à l’ensemble des principes moraux et des valeurs qui guident le développement et le déploiement des technologies d’intelligence artificielle. Ce domaine multidisciplinaire traite de la manière dont l’IA devrait être conçue, créée et utilisée pour s’assurer qu’elle bénéficie à la société tout en minimisant les potentiels préjudices. L’IA doit respecter les droits de l’homme (et du vivant), promouvoir l’équité et la justice.

Les principes éthiques couramment discutés dans le contexte de l’IA incluent l’équité, la transparence, la responsabilité, la confidentialité, la sécurité, la bienfaisance et la non-malfaisance. Il faut remarquer que ces principes ne sont pas toujours uniformes dans tous les pays et cultures en raison des valeurs sociétales, des normes juridiques et des normes culturelles variées.

Alors, comment cela se passe-t-il “dans la vraie vie” avec ces principes ? Regardons un peu plus en détail :

Équité & Non-Discrimination : L’IA devrait être exempte de biais et fournir des résultats équitables. En pratique, les biais persistent souvent en raison de la qualité des données d’entraînement et de la conception algorithmique. Par exemple, l’outil utilisé par Amazon pour choisir des CVs discriminait les femmes.

Transparence : Les systèmes d’IA devraient être compréhensibles et leurs processus de prise de décision clairs. Hélas, les grandes entreprises technologiques (“big tech”) privilégient souvent les algorithmes propriétaires et les secrets commerciaux, ce qui peut limiter la transparence (aussi connue sous le nom d’“explicabilité”). D’où le terme “black box” pour définir certaines IA.

Responsabilité : Des mécanismes clairs devraient être en place pour tenir les parties responsables des décisions de l’IA. En pratique, quelques législations proposent la responsabilité des développeurs pour les dommages causés par l’IA (par exemple, l’EU AI Act impose des pénalités financières importantes) mais les régulations sont en retard par rapport aux avancées technologiques et, sans transparence, il est très difficile d’assigner des responsabilités concrètes.

Confidentialité : Les systèmes d’IA devraient protéger les données personnelles et les gérer de manière responsable. Pourtant, la big tech collecte des vastes quantités de données, pas toujours avec l’accord de l’individu, ce qui affecte – en amont – les droits de la propriété intellectuelle.

Sécurité : Les systèmes d’IA devraient être sûrs à utiliser et sécurisés contre les attaques malveillantes. En réalité, il y a toujours des vulnérabilités potentielles car la technologie se développe à un rythme effréné et pas toujours de manière sûre. En plus, le risque d’utilisation abusive est toujours présent, comme pour tout autre outil. La big tech doit faire en sorte que la vitesse du développement n’affecte pas les mesures de sécurité nécessaires pour le déploiement de l’IA.

Bienfaisance et Non-malfaisance : L’IA devrait contribuer positivement et éviter de causer des dommages. Néanmoins, l’accent mis par la big tech est souvent orienté vers la maximisation des profits et la domination du marché, ce qui peut parfois éclipser les bénéfices sociétaux plus larges et conduire à des conséquences néfastes inattendues.

Pour conclure, même si les principes éthiques de base sont bien connus, leur application dans le développement de l’IA reflète souvent les intérêts des grandes entreprises tech. Pour que l’IA serve vraiment tout le monde, il faut équilibrer ces influences avec des normes éthiques solides et une bonne régulation. En gros, il s’agit de s’assurer que l’IA respecte les valeurs de la société et profite à toutes et à tous. Nous sommes déjà en chemin, mais il nous reste pas mal de chemin à parcourir.

Retrouvez l’ensemble de nos articles Inside