Selon un nouveau rapport du Centre de technologie financière de la Banque d'Angleterre, les algorithmes d'auto-apprentissage basés sur l'intelligence artificielle ne garantissent pas un traitement objectif des clients et des employés. Au contraire, l'utilisation de robots "racistes et sexistes" conduit parfois à des discriminations, écrit le Daily Telegraph. Les algorithmes ont notamment proposé aux femmes des limites de crédit inférieures à celles des hommes et leur ont attribué des notes négatives lors du recrutement. Cela pourrait créer des problèmes pour les banques, les assureurs et le système financier dans son ensemble, avertissent les experts.

La Banque d'Angleterre a averti que les algorithmes "racistes et sexistes" basés sur l'intelligence artificielle représentent un danger pour le système financier, car la discrimination potentielle qu'ils provoquent à l'encontre des clients et des employés pourrait exacerber les risques pour la stabilité économique, rapporte le Daily Telegraph.

Selon un nouveau rapport rédigé par des experts du Centre de technologie financière de la Banque d'Angleterre, les algorithmes d'auto-apprentissage basés sur l'IA ne garantissent pas un traitement impartial et objectif. Au contraire, ils sont capables de repérer et d'identifier des évaluations et des ensembles de données biaisés, qui peuvent ensuite être utilisés pour discriminer des clients ou des employés, explique l'article.

Selon Kathleen Blake, analyste à la Banque d'Angleterre, qui a contribué à ce rapport, cela pourrait créer de graves problèmes pour les banques, les assureurs et le système financier dans son ensemble. La discrimination potentielle que l'utilisation de ces algorithmes pourrait entraîner pourrait exacerber les risques pour la stabilité financière en sapant la confiance dans le système dans son ensemble, a-t-elle averti.

En particulier, l'utilisation d'un algorithme "partial ou injuste" pourrait entraîner des risques juridiques et de réputation pour les entreprises et déclencher une surveillance réglementaire, a également expliqué M. Blake, rappelant un certain nombre de bugs scandaleux qui ont été découverts ces dernières années.

Par exemple, un programme basé sur l'intelligence artificielle utilisé par Apple et Goldman Sachs pour prendre des décisions sur les demandes de cartes de crédit s'est avéré offrir aux femmes des limites de crédit inférieures à celles des hommes. Ce problème a donné lieu à un audit du département des services financiers de l'État de New York en 2021. Les experts ont conclu à l'époque qu'il ne s'agissait pas d'un acte intentionnel et que cela démontrait simplement des lacunes en matière de service à la clientèle et de transparence, selon l'article.

Un autre "piège" lié aux systèmes d'intelligence artificielle a été rencontré par Amazon, qui a utilisé un tel algorithme pour le recrutement. "Les candidates se sont vu attribuer une note négative parce que l'algorithme avait été formé à partir de CV que l'entreprise avait reçus sur une période de 10 ans et reflétait la domination masculine du secteur", a déclaré M. Blake.

En 2018, les dirigeants d'Amazon ont décidé de ne pas utiliser un tel système par crainte du sexisme après avoir découvert que le logiciel déclassait les candidats à l'emploi si le mot "féminin" - tel que "responsable d'un club d'échecs féminin" - apparaissait sur leur CV, explique l'article.

De telles lacunes pourraient créer des problèmes pour les banques, les assureurs et le système financier dans son ensemble, avertissent les experts. De son côté, le Premier ministre britannique Rishi Sunak a également exprimé des inquiétudes croissantes concernant les technologies d'intelligence artificielle, note le Daily Telegraph.

Le mois dernier, le gouvernement britannique a averti que ces technologies pourraient être utilisées pour créer des armes biologiques et que la situation pourrait devenir incontrôlable. Le ministère de la science, de l'innovation et de la technologie a publié une déclaration disant : "Nous sommes à un carrefour de l'histoire de l'humanité, et prendre la mauvaise direction serait une occasion colossale manquée pour l'humanité".

Publié le 13 Octobre 2023 sur russian.rt.com

Hashtag Libractus :  
#International #Apple #Banque #Angleterre #Discrimination #Occident #IntelligenceArtificielle #IA #Informatique #USA #Technologie #Finance #DailyTelegraph #RussiaToday #RT #Inotv
Hashtag Freedomm :