Une équipe de scientifiques a dressé la liste de plusieurs de ses risques et proposé trois principes pour se défendre contre la "tyrannie de la technologie".

Une équipe internationale d'experts en sciences humaines a récemment analysé comment le jugement et les valeurs humaines sont souvent subordonnés à l'impératif d'efficacité de l'intelligence artificielle (IA) et pourquoi les coûts peuvent être élevés. L'équipe explique que si l'IA a un grand potentiel pour bénéficier à la société, il est nécessaire de savoir ce qui peut mal se passer lors de son utilisation, car il est important d'être conscient de son côté obscur.

Lorsque l'IA échoue, elle le fait "de manière assez spectaculaire", explique Vern Glaser, professeur à l'école de commerce de l'université d'Alberta, au Canada. "Si elle n'essaie pas activement de réfléchir aux implications en termes de valeur, elle finira par produire de mauvais résultats", souligne-t-il.

Les dangers se manifestent déjà

Dans leur étude, publiée récemment dans la revue MIT Sloan Management Review, les chercheurs ont argumenté leur point de vue en présentant plusieurs cas réels de résultats désastreux de la mise en œuvre de l'IA. Par exemple, lorsque le chatbot Tay a été introduit sur Twitter en 2016, il a été supprimé dans les 24 heures parce que des trolls lui avaient appris à développer un langage raciste.

Alors que l'IA promet d'apporter d'énormes avantages à la société, nous commençons également à voir son côté sombre, ont déclaré les analystes. Plus récemment, certains experts, comme Lawrence Martin, soulignent les possibilités dystopiques de l'IA, notamment les armes qui peuvent tirer sans supervision humaine, les cyberattaques, la contrefaçon et les campagnes de désinformation.

Des valeurs compromises pour des gains d'efficacité ?

Les experts ont étayé leur analyse en s'appuyant sur la notion de "technique" du philosophe français Jacques Ellul, exposée dans son ouvrage de 1954 intitulé "La société technologique", selon laquelle tous les domaines de l'activité humaine sont déterminés par des impératifs d'efficacité et de productivité. "Ellul était très prophétique", écrivent-ils. "Son argument est que lorsque vous passez par ce processus de technique, vous éliminez intrinsèquement les valeurs et créez ce monde mécanique où vos valeurs se résument essentiellement à l'efficacité", ont-ils noté.

Trois principes fondamentaux

Pour se protéger de la "tyrannie de la technique" de l'IA, les experts suggèrent d'adhérer à trois principes :

• Reconnaître que les algorithmes, parce qu'ils sont mathématiques, sont basés sur des représentations numériques de phénomènes réels. Par exemple, les réseaux sociaux mesurent l'amitié en fonction du nombre d'amis d'un utilisateur ou du nombre de "j'aime" qu'il reçoit de ses amis sur ses publications. "Est-ce vraiment une mesure de l'amitié ?" s'interrogent-ils.
• Les concepteurs d'IA devraient insérer stratégiquement des interventions humaines dans la prise de décision algorithmique et créer des systèmes d'évaluation qui prennent en compte des valeurs multiples.
• Enfin, l'IA qui incarne les valeurs humaines nécessite une surveillance vigilante et continue afin d'empêcher l'émergence de son horrible potentiel.

Les analystes soulignent que l'IA n'est que le reflet de ce que nous sommes, dans ce que nous avons de meilleur et de pire. "Si nous ne nous regardons pas attentivement dans le miroir, c'est cette dernière qui pourrait prendre le dessus", ont-ils déclaré. "Nous devons nous assurer que nous comprenons ce qui se passe, afin que l'IA ne nous contrôle pas", concluent-ils.

Publié le 7 Avril 2023 sur Actualidad RT

Lien :
https://actualidad.rt.com/actualidad/463206-revelan-lado-oscuro-inteligencia-artificial

Hashtag Libractus : 
#Canada #IntelligenceArtificielle #IA #Société #ActualidadRT
Hashtag Freedomm :