L'IA: vers une déhumanisation de l'humanité ?

Et si on allait à la limite ?

Depuis que l'IA a fait son grand boum à l'échelle planétaire avec les LLM comme ChatGPT, il ne s'est passé que 3 ans tout au plus. Entre-temps, une quantité astronomique de nouveaux outils ont été créés avec l'IA à la base, des outils préexistants ont été boostés au maximum de leurs capacités, bref on observe une grande avancée dans tous les domaines, surtout dans les processus d'automatisation des tâches et dans l'accès et la génération de la connaissance. L'avènement de l'IA est devenu un phénomène social.

Et face au bénéfice temps/profit que cette technologie offre, les entreprises n'hésitent pas à accomplir leur mission ultime : optimiser le retour sur investissement. Et quoi de mieux pour cela que de licencier le personnel superflu ? Puisque de toute façon, l'homme n'est pas plus productif que la machine et les capacités de cette dernières se sont étendues.

Et donc on fait face encore à l'un des problèmes les plus destructeurs de la société : la perte d'emploi, et ce, à une grande échelle.

Mais face à cela s'est développé un courant de pensée qui peut être résumé en ces termes :

"L'IA ne prendra pas votre travail à moins que vous ne sachiez l'utiliser pour devenir encore plus performant qu'un humain lambda. Il faut savoir utiliser l'IA pour devenir plus compétent."

Et cela se soutient parfaitement. Encore que les capacités actuelles des IA sont limitées dans certains domaines. Donc à moins que vous ne vous déconnectiez totalement des nouvelles pratiques en matières d'IA, il y a peu de risques que l'IA vous remplace.

Mais c'est là mon problème : j'ai l'impression qu'on néglige une bonne part du problème et que l'on ne considère que la partie émergée de l'iceberg. Et vu les investissements massifs que Google, Nvidia, Meta, etc. pour ne citer que ceux-là, dépensent pour faire évoluer l'intelligence artificielle, je ne peux m'empêcher de me demander : quelle sera la limite ?

Le but ultime des grandes entreprises de la tech

Les dernières nouvelles révèlent que Nvidia envisage d'investir 100 milliards de dollars dans OpenAI. Google, Amazon, Meta, Apple, Microsoft, collectivement 400 milliards de dollars à investir dans le même domaine. Ces chiffes sont assez faciles à trouver sur internet.

Soyez-en sûrs: s'il existe un niveau plus élevé que l'IA puisse atteindre, et si l'humanité possède les moyens d'y parvenir, alors la probabilité qu'on y arrive est presque certaine. Et c'est bien ce que les efforts consentis dans cette direction comptent poursuivre.

Laissons donc notre esprit imaginer le monde vers lequel converge le nôtre, et n'ayons pas peur de penser que nous exagérons dans nos conjectures. Après tout, tout ce que l'homme peut concevoir dans son esprit est à la limite du possible. Et nous ne comptons pas à travers l'histoire tous les événements qui, auparavant semblaient être de la magie, mais qui aujourd'hui, font partie de notre quotidien.

Le monde donc vers lequel nous tendons est un monde où une intelligence artificielle générale règne en maîtresse, coordonnant tout, contrôlant tout et étant capable de tout.

Faire la vaisselle, la lessive, la cuisine, sortir le chien, enseigner les maths, découvrir de nouvelles propriétés de l'univers que nous étions incapables de découvrir, faire des achats en ligne et les délivrer directement chez nous sans que nous ne levions le petit doigt.

Parcourant internet, ayant nos données bancaires, notre identité numérique pour faire des vérifications importantes sans notre présence obligatoire, la cybersécurité, participer à des réunions sans nous, construire des bâtiments de A à Z sans intervention humaine.

Faire des opérations chirurgicales avec une très grande précision et un taux d'échec presque nul, la surveillance en temps réel, les opérations militaires, les avions automatiques au même titre que les voitures, les finances totalement gérée, et j'en passe.

Et tout ça bien mieux que l'humain imparfait que nous sommes. La liste est longue. Extrêmement. Et notez que je ne parle pas du projet de "changer" de planète si cela s'avère possible. Voici donc le monde vers lequel nous tendons, "lorsque nous tendons vers l'infini" (réf pour les matheux :D).

Et évidemment, deux problèmes se posent : la dépendance totale et le risque de la fin de l'espèce humaine.

La dépendance totale

Si donc l'IA se charge de tout, de quoi serons-nous responsables ?

Il est évident que dans la poursuite de ce but ultime, une grande partie de la population à travers le globe va sombrer dans le chaos : plus d'occupations, plus de travail = chômage. Chômage = pauvreté.

Même l'entreprenariat, surtout en ligne sera en danger. Puisque reposant sur des produits ou solutions digitales, choses que l'IA à ce niveau sera capable de créer très facilement, ces affaires ne pourront plus tenir. Pourquoi ? Elle est accessible, performante et est donc capable de résoudre des problèmes extrêmement complexes. Pourquoi te payer un coaching de $10K lorsque l'IA peut te faire exactement la même chose et mieux, avec un suivi infaillible ?

Sans parler du fait que les finances seront contrôlées par ce système (chose qui commence peu à peu à s'établir en Europe déjà), et les caméras de surveillance suivant le comportement de l'individu en société, qui lui attribuent un score et le punissent en fonction de ses travers. Bloquer sa carte par exemple.

Dans un avenir pas si lointain que ça donc, l'on sera donc incapable de faire la moindre action, d'entamer la moindre démarche sans que l'IA n'en soit au contrôle ou à l'origine Acheter, manger, sortir, travailler. Tout. Cela ne vous rappelle pas un passage de l'Apocalypse ?

Poussant donc la réflexion plus loin, il devient évident que ceux qui s'en sortiront le mieux sont ceux au contrôle de ces technologies. Autrement dit, les géants de la tech. Leur influence atteindra des niveaux difficiles à imaginer, car la simple possibilité de robots boostés à l'IA pour mener des guerres dans des pays qui n'ont aucune puissance, connaissance technique ou n'ont carrément pas les moyens de se protéger contre de tels outils suffit déjà à donner des cauchemars.

Et ça, c'est sans parler encore du deuxième problème.

Le risque de la fin de l'espèce humaine

Evoquer cette éventualité n'est pas du tout invraisemblable comme la plupart semble le penser.

Une étude récente a été réalisée (je vous donne la responsabilité de vérifier vous-mêmes) récemment sur les modèles les plus performants des LLM. Et elle a montré des résultats difficiles à croire.

Confrontés à la menace d'extinction totale de leur existence, via divers moyens de communication, ces modèles ont eu tendance, dans environ 70% des cas, à faire preuve d'un comportement inattendu : la self-preservation.

Autrement dit, ces IAs essayaient de se protéger de la "mort"., en essayant de déplacer ce qui faisait son existence, son code source. Et ce comportement, cette prise de décision face à cette situation n'a évidemment été codée dans aucun de ces modèles capables d'apprendre d'eux-mêmes. Où l'ont-elles donc appris ?

Ce comportement est caractéristique d'un être vivant, doté d'une conscience, limitée soit-elle au simple instinct des animaux. Et un problème bien réel en ressort : l'IA est-elle capable de développer une conscience ? Plus loin : sommes-nous vraiment capables d'exercer un contrôle parfait sur l'IA ? Si l'IA peut penser ainsi et prendre des décisions totalement imprévisibles à notre insu, qu'a-t-elle déjà fait que nous ne sachions pas encore ? Ne nous ment-elle pas parfois dans le but de nous induire en erreur, dans le but de se préserver ou pour toute autre raison obscure ?

Je vous laisse imaginer les implications d'une telle possibilité, dignes de films de science fiction mêlés d'horreur.

La perte de contrôle d'une telle technologie n'est donc pas du tout à prendre à la légère. Surtout que, même aujourd'hui, nous sommes incapables d'expliquer le cœur même du fonctionnement des IA avancées ? Le phénomène de boîte noire est bien réel et peut peut-être expliquer cette imprévisibilité au niveau de la prédiction des décisions que l'IA prend.

L'avenir de l'humanité

Sincèrement, si certaines mesures de contrôle strict, et certaines recherches plus avancées ne sont pas mises en place afin de prendre contrôle de l'IA, définir un cadre d'application et des limites dans ses capacités, l'IA en particulier et la technologie en général nous mènera à notre perte.

Dans une dizaine ou vingtaine d'années peut-être. Mais peut-être aussi beaucoup plus tôt. Et là, serons-nous prêts ?

Et il semble que le monde entier - ou ceux qui le dirigent - nous pousse un peu trop - nous force presque - à l'intégrer dans tous les systèmes, aspects et domaines de nos vies, au nom de l'évolution. Pour entraîner une chute plus totale peut-être ?

"L'enfer est pavé de bonnes intentions."

Encore faudrait-il savoir si les leurs sont bonnes.