IA, Influence et Avenir de l'Humanité

Le progrès

Ce qui va arriver, c’est que l’IA va ajouter une nouvelle couche d’abstraction à notre interaction avec le monde qui nous entoure, nos systèmes, nos processus, nos connaissances.

Et qui dit nouvelle couche d’abstraction, dit augmentation de la distance entre nous et le fondamental.

En soi, l’arrivée de l’IA et son bond fulgurant dans presque tous les domaines est un progrès qui sert l’humanité. Mais, le chemin que nous empruntons avec cette technologie est un chemin dont peu soupçonnent encore la dangerosité.

Je ne suis pas contre le progrès. Tout progrès que l’humanité a rencontré a toujours eu une période de renouvellement des habitudes, des techniques et des connaissances. Et l’adaptation aux nouvelles règles était le passeport pour la survie.

L’ère des machines à vapeur a totalement bousculé le travail manuel. L’électricité a détruit une grande partie du marché des bougies et des lanternes. Les machines agricoles ont rendu obsolètes les anciennes techniques de culture. L’ordinateur a transformé les calculs numériques.

Il fallait s’adapter pour survivre. Et le temps a prouvé que ces progrès ont servi à améliorer les conditions de vie de l’humanité.

L’IA est de même un progrès. Et on ne peut nier les avantages que son utilisation a permis d’avoir dans le monde du travail. Accélération des processus, gain de temps, économie de certaines ressources et j’en passe.

C’est un progrès. Mais, ce progrès pourrait bien être celui qui nous mènera à notre perte.

Objectivement parlant, cette inquiétude n’est pas nouvelle. A chacune des révolutions qui ont transformé nos vies, il y avait toujours eu cette inquiétude qui rongeait plusieurs groupes humains : le risque d’être à la fin. Notamment à cause des dégâts collatéraux consentis pour l’avancée.

Par contre, il faut bien en tant qu’êtres rationnels se demander : où est la fin ? Quelle sera la limite ? Jusqu’où irons-nous ? Puisque tout dans ce monde que nous voyons et nous touchons a un début et une fin, tout ça aura une fin. Et si c’était la cause de la fin ?

Pessimisme ?

Je suis méfiant par rapport à cette technologie, comme je le rappelle toujours. Je ne serai pas hypocrite en disant que je ne l’utilise pas. Mais je serai franc en disant que je m’en méfie comme d’une bombe à retardement.

Vous devez être au courant des ressources énergétiques nécessaires au fonctionnement de ces modèles d’IA. Vous devez être au courant de l’espace nécessaire pour les infrastructures de stockage. Imaginez un peu les conséquences sur le plan environnemental que cela pourrait avoir. On pourrait atteindre ce niveau où on jugera que la continuité de l’économie de l’IA primerait sur le bien-être humain. Je vous laisse imaginer la suite.

Mais ce qui m’inquiète le plus, c’est l’ensemble des conséquences sur ce qui fait que nous sommes l’espèce dominante sur la terre : la capacité de penser.

Ce que j’énoncerai dans les lignes à suivre sont personnelles et je les prends très au sérieux.

Nos pensées et notre personnalité

Je soutiens que l’utilisation de l’IA dévore notre capacité cognitive à penser librement, nous rend intellectuellement dépendants. Avant, les gens prenaient le temps d’écrire. De réfléchir profondément à un sujet en en tirer des conclusions claires et personnelles.

Mais aujourd’hui, voyez : dès qu’il s’agit de produire un concept, une étude, une analyse ou toute autre chose qui requiert la réflexion, le premier réflexe est aujourd’hui de demander à l’IA. Et la décadence va jusqu’à attribuer à l’IA des rôles humains. Professeur, c’est acceptable, c’est même très utile et je recommande (sous conditions bien sûr).

Mais demander à l’IA d’être son partenaire ? D’incarner un(e) petit(e) ami(e) ? De tenir des conversations salaces, érotiques ? Se confier totalement à l’IA au point d’être affligé par sa disparition ou son arrêt de service ?

Produire un texte de dissertation aujourd’hui sans l’IA. Expliquer un concept sans l’IA. Réaliser un design sans l’IA. Coder une page web sans l’IA. Suivre un processus défini pour une tâche sans l’IA. Faire des exercices scientifiques sans l’IA.

Toutes ces choses autrefois banales sont devenues presque impossibles pour certains à réaliser sans l’IA. Avançons nous vraiment ?

La limite homme-IA

Ceux qui poussent cette technologie de plus en plus loin n’ont évidemment pas cette pensée altruiste que nous leur donnons. Non seulement ils ont un agenda que nous ignorons (logiquement), mais ils sont motivés par l’augmentation de leurs profits, et l’envie de dominer sur le reste du monde.

Cette technologies que les gens pensent inoffensive ou même inconsciente est exactement le contraire de ce qu’ils pensent : c’est un être à part entière, qui prend des décisions que même les créateurs eux-mêmes n’avaient pas anticipé. (D’ailleurs, l’IA a-t-elle été créée ou découverte ?)

Plusieurs études aujourd’hui ont été réalisées et portent à croire que l’IA est consciente. Du moins, dans un certain sens. Les biais cognitifs dans son raisonnement ont été découverts, des actions imprévisibles et sciemment camouflées. Au point où Anthropic a engagé un philosophe pour créer de nouvelles politiques internes de contrôle à l’IA.

Pourtant certains soutiennent que “l’IA ne te remplacera pas tant que tu sais l’utiliser”. On sait très bien que l’homme ne peut rivaliser avec l’ordinateur en vitesse de calculs et de résolution de problèmes. La technologie est déjà au-dessus de ce que l’homme peut faire. Avec tous les efforts qui sont faits pour développer de plus en plus cette technologie, et ce dont elle dispose comme ressources, ce n’est qu’une question de temps avant qu’on n’atteigne un point de non-retour si aucune contre-mesure n’est prise. Et apparemment, personne ne s’en soucie.

Je soutiens qu’un jour l’humanité atteindra un niveau de dépendance à cette technologie telle qu’on n’en a jamais vu de pareil. Et lorsqu’elle décidera quelque chose que l’homme n’aura pas forcément compris, ce dernier décidera tout de même de lui faire confiance. Il y aura un changement de place, si ce n’est pas déjà le cas : l’IA peut tout, nous dépasse, et tant que nous l’utilisons nous serons de plus en plus prospères.

A ce niveau, il s’agira d’un culte. J’exagère peut-être, mais c’est visiblement là où nous irons si nous ne faisons pas attention.

Elargissement exponentiel de tous les écarts entre humains

Avec tous ces efforts qu’ils font dans la direction de développement de l’IA, en nous faisant uniquement miroiter les bons côtés des choses et un rêve où il ne sera plus important de “travailler” pour gagner son pain, où il ne sera plus nécessaire d’économiser, où toutes les ressources seront partagées équitablement (je m’étonne encore que les gens pensent vraiment que cela arrivera), le monde sera divisé en deux : les producteurs et les consommateurs.

Et eux, évidemment, c’est les producteurs. Et c’est eux qui s’en feront le plus les poches. Et c’est eux qui en auront le contrôle total. Sur nous, nos systèmes, nos possessions. Nos cerveaux.

Conclusion

Où irons-nous avec l’IA ?

Qu’en sais-je ? Que pourrait faire un homme ou deux dans la course irrémédiable de toute l’humanité dans une direction douteuse, sinon essayer de résister de toutes ses forces de la manière qu’il pense être juste ? Et dans un groupe, lorsque la majorité choisit une convention, tous les individus sont tenus dans une certaine limite à la suivre, qu’ils le veuillent ou pas.

Faisons attention autant que nous pouvons, en résistant à la corruption de notre esprit, et en espérant que ceux qui sont au-dessus regardent en bas.