Vers un Web des IA [Partie 4] : Politique et société à l’ère des assistants IA personnels

4. Un contrôle social et politique accru ?

La généralisation des assistants personnels pourrait également amplifier les mécanismes de contrôle social et politique sur les individus. Le contrôle social et politique de l’individu n’a jamais atteint un tel niveau. Il suffit que chacun de nous examine de combien de temps cerveau libre dont il dispose réellement au cours d'une journée. Nous sommes tellement habituées à ne plus en disposer que nous avons peur d'en disposer, on se sent perdu si un vide mental vient à se présenter. Après l’ère de la biopolitique, marquée par le contrôle du corps et de l’esprit, nous entrons potentiellement dans une ère où le contrôle numérique des citoyens pourrait atteindre un niveau sans précédent et tout cela naturellement avec notre bienveillance.

Chaque assistant IA deviendrait alors un vecteur potentiel de surveillance, volontaire ou involontaire, augmentant la pression sociale et politique sur les individus. Le temps mentale libre de l'individu se réduit au point que l'individu semble pris d'un vertige pascalien en cas de vide mental. Dans cette perspective, le défi principal consistera à préserver des espaces de liberté cognitive et personnelle.

1. Des assistants omniprésents et omniscients

Demain, nous pourrions tous avoir recours à des assistants IA capables de nous assister efficacement dans de multiples interactions avec notre environnement numérique et physique. Naturellement, nous allons déléguer à ces agents un nombre croissant de tâches, tant personnelles que professionnelles. Cette délégation, initialement informelle, sera tôt ou tard rattrapé par le droit pour définir clairement les limites des actions possibles des assistants IA.

2. Un nouveau défi politique : contrôler la délégation

Toute politique vise fondamentalement à encadrer et contrôler le champ des possibles des citoyens. Or, les assistants IA étendent considérablement notre champ d’action personnel. Ce nouveau pouvoir de délégation perturbe nécessairement l’ordre établi et l’emprise politique classique sur les individus.

Les gouvernements chercheront donc probablement à encadrer strictement ce pouvoir émergent. Ils devront clarifier :

• Quelles tâches peuvent être légalement déléguées à un assistant IA ?

• Sous quelles conditions une délégation est-elle valide ?

• Comment assurer une responsabilité claire en cas d’erreur ou d’abus commis par un assistant IA ?

3. Questions de souveraineté numérique

Un autre enjeu critique est celui de la souveraineté numérique. Imaginons un citoyen résidant en France, dont l’assistant IA opère techniquement depuis la Chine, avec des données stockées aux États-Unis, et réalisant des actions en Suisse. Une telle situation semble difficilement envisageable au niveau politique pour des raisons de souveraineté qui peuvent paraître évidentes mais qui soulèvent des questions philosophiques.

Dit autrement, si nous partons du postulat d'une souveraineté nationale (une invention politique relativement récente) alors ces assistants IA risquent de poser de nombreux défis aux politiques. Malgré le renouveau d'une forme de nationalisme, qui d'ailleurs s'alimente du nationalisme du voisin d'en face, il est également possible de reposer la question du fondement de la souveraineté nationale et jusqu'où celle-ci est en droit de s'étendre.

5. Quelle société voulons-nous construire ?

Finalement, l’émergence des assistants IA pose une question sociétale majeure : quel équilibre souhaitons-nous établir entre commodité technologique et liberté individuelle ? Souhaitons-nous vivre dans une société où les interactions humaines et numériques sont constamment médiées par des assistants IA, ou préférons-nous préserver une autonomie cognitive et personnelle claire, quitte à renoncer à certaines facilités technologiques ?

Cette réflexion collective sera déterminante pour façonner notre avenir numérique, politique et social, définissant les limites entre humain et technologie pour les décennies à venir.