Hé, IA! Il faut qu’on parle…

Pourquoi vaut-il la peine de regarder «The End of Humanity»?

Le film montre un avenir dominé par l’IA dans lequel les êtres humains perdent le contrôle du monde. Le film incite ainsi à la discussion autour des limites de l’IA. Il pose des questions cruciales dans le contexte de l’IA:

Qu’attendons-nous, êtres humains, de l’IA? Et encore: que signifie être humain? «The End of Humanity» ouvre différentes perspectives – sombres pour la plupart – sur ces questions et donne la parole à des théologien-ne-s et des philosophes.

Qu’attendez-vous de la discussion sur le film?

Je m’intéresse aux motivations du réalisateur. Je veux savoir pourquoi il a produit ce film et ce qui est si fascinant dans une vision dystopique de l’IA. En effet, dans mon quotidien avec les professionnel-le-s des médias et les passionné-e-s de technologie, les gens n’évoquent pas la fin du monde, mais surtout les perspectives offertes par l’IA. Dans mon expérience, l’aspect ludique et l’enthousiasme prennent souvent le pas lorsqu’il s’agit d’IA.

Ce fossé entre la vision apocalyptique de «The End of Humanity» et le plaisir toujours nouveau à expérimenter de mon quotidien fait réfléchir. Tant l’utopie technologique à l’image de la Silicon Valley que la dystopie de l’IA montrée dans le film se réfèrent au futur. Or, en tant que société, nous devons absolument parler dès aujourd’hui de ce à quoi pourrait ressembler un avenir où il fait bon vivre avec l’IA.

Pourquoi?

C’est tout à fait banal. Pour l’instant, les promesses pleuvent sans déboucher sur grand-chose de concret. Mais bien sûr, il reste des questions à régler.

Alors, quelles questions devrions-nous traiter?

Il y en a beaucoup. Quelles sont les données auxquelles les IA sont autorisées à accéder et quelles sont celles qu’elles ont le droit de collecter? Comment pouvons-nous protéger les données face à l’IA? Comment lutter contre les utilisations non éthiques de l’IA, comme dans la pornographie enfantine? Comment pouvons-nous protéger les droits de l’homme dans le contexte de l’IA? Qu’est-ce que le corps humain?

On peut concevoir une utilité à la création de deepfakes par les IA – par exemple à partir de personnes décédées. Mais nous devons élargir notre vision de l’être humain à ses aspects numériques – et définir ce qui est permis dans ce cas. En effet, tous les principes définis dans les droits de l’homme ne sont pas, et de loin, appliqués à l’IA ou aux deepfakes.

Pourquoi, malgré ces questions brulantes, parlons-nous si souvent dans le présent de ce que l’IA pourrait signifier dans le futur?

Je vois deux raisons à cela. Premièrement, nous aimons les grands récits. Dans une utopie technologique, l’IA rend superflu tout travail que l’être humain ne veut pas faire; dans une dystopie hollywoodienne, l’IA détruit notre planète; comme religion de substitution, l’IA nous montre ce qui est bien et ce qui est mal: nous sommes friand-e-s de récits étiologiques, qui donnent ainsi du sens et créent en outre un sentiment d’appartenance à une communauté.

Et deuxièmement, il n’existe pas encore de récit adopté universellement pour expliquer l’IA. Au lieu de cela, on voit fleurir des récits concurrents. Toutefois, aucun de ces récits d’IA n’a de caractère plausible aujourd’hui. Nous ne savons pas encore comment un récit peut nous expliquer l’IA. Cette ouverture du champ des possibles crée un effet d’attraction et assure des approches concurrentes. Ce qui n’est pas forcément une mauvaise nouvelle.

Que voulez-vous dire?

Aujourd’hui, une caste de spécialistes de la technologie donne l’impression que l’IA est indispensable au progrès humain et à la résolution de tous les grands problèmes. Dans le même temps, l’avance dont ils et elles disposent en termes d’informations crée un écart avec une grande majorité de la population.

Cet écart dans les connaissances ouvre la porte à un récit quasi religieux (comprenez «les voies de l’IA sont impénétrables») qui leur permet de repousser les critiques et de rejeter la responsabilité. Instrumentalisé sous cette forme, un récit se révèle plus que douteux.