Un écrivain israélien de renom compare ChatGPT...

Un écrivain israélien de renom compare ChatGPT à des armes de destruction massive

Posté 2023-05-02 12:16:07

Selon Yuval Noah Harari, les outils d'IA devraient être sous le contrôle strict des États, à l'instar des médicaments ou des technologies nucléaires.

L'humanité doit désormais "faire face à une nouvelle arme de destruction massive qui peut anéantir notre monde mental et social", a déclaré l'historien et écrivain israélien Yuval Noah Harari, évoquant les dangers de l'intelligence artificielle et de ses outils, dans un article publié vendredi dans The Economist.

"Alors que les armes nucléaires ne peuvent pas inventer des armes nucléaires plus puissantes, l'IA peut créer une IA exponentiellement plus puissante", note Yuval Noah Harari. Il estime donc qu'il est essentiel "d'exiger des contrôles de sécurité rigoureux avant que des outils d'IA puissants ne soient diffusés dans le domaine public".

Il estime que "tout comme une entreprise pharmaceutique ne peut lancer de nouveaux médicaments avant d'avoir testé leurs effets secondaires à court et à long terme, les entreprises technologiques ne devraient pas lancer de nouveaux outils d'IA avant qu'ils ne soient sûrs". Il appelle donc à la mise en place urgente d'une Food and Drug Administration (FDA) analogue pour réguler les nouvelles technologies.

"Lorsque les gens pensent à ChatGPT et à d'autres nouveaux outils d'IA, ils sont souvent attirés par des exemples tels que les écoliers qui utilisent l'IA pour rédiger leurs dissertations", rappelle M. Harari, mais il souligne qu'au-delà de ce domaine, il existe de multiples applications de l'IA qui comportent des risques plus importants, telles que la production de contenus politiques de masse, la production de fausses nouvelles et la rédaction pour de nouvelles sectes.

De même, l'intelligence artificielle peut "créer des idées entièrement nouvelles, une culture entièrement nouvelle", estime l'auteur du best-seller international "Sapiens : From Animals to Gods", soulignant que les internautes pourraient bientôt se retrouver engagés dans de longues discussions en ligne sur l'avortement, le changement climatique ou le conflit en Ukraine avec d'autres prétendus humains, qui seront en réalité des IA.

Harari ne doute pas que cette technologie puisse être utilisée à de bonnes fins, comme le traitement du cancer, et aider la société de multiples façons, mais il insiste sur la nécessité d'être vigilant quant à ses véritables capacités. Tout comme la technologie nucléaire a entraîné la refonte de l'ensemble de l'ordre international après 1945 pour protéger l'humanité, il est temps, selon lui, de faire de même pour se protéger des chatbots et les empêcher de détruire la civilisation.

L'historien a également récemment mis en garde contre les dangers de ce type de technologie pour la démocratie, ajoutant qu'elle pourrait réduire des millions de personnes au statut de "complètement inutiles".