traduction
Imaginez un modèle d'IA capable d'utiliser un scanner cardiaque pour deviner la catégorie raciale à laquelle vous êtes susceptible d'appartenir, même sans connaître la nature de l'origine ethnique ni les critères à rechercher. Cela ressemble à de la science-fiction, mais c'est bien réel.
Mon étude récente, menée avec des collègues, a révélé qu'un modèle d'IA pouvait deviner si un patient s'identifiait comme noir ou blanc à partir d'images cardiaques avec une précision allant jusqu'à 96 %, malgré l'absence d'informations explicites sur les catégories raciales.
C'est une découverte frappante qui remet en question les hypothèses sur l'objectivité de l'IA et met en lumière un problème plus profond : les systèmes d'IA ne se contentent pas de refléter le monde, ils absorbent et reproduisent les biais qui y sont ancrés.
Tout d'abord, il est important d'être clair : la race n'est pas une catégorie biologique. La génétique moderne montre qu'il existe davantage de variations au sein de groupes raciaux supposés qu'entre eux.
La race est une construction sociale, un ensemble de catégories inventées par les sociétés pour classer les individus en fonction de leurs caractéristiques physiques et de leur ascendance perçues. Ces classifications ne correspondent pas parfaitement à la biologie, mais elles façonnent tout, de l'expérience vécue à l'accès aux soins.
Malgré cela, de nombreux systèmes d'IA apprennent désormais à détecter, et potentiellement à agir en fonction, ces étiquettes sociales, car ils sont construits à partir de données façonnées par un monde qui traite la race comme un fait biologique.
ce 2nd paragraphe c'est que dit le chercheur pour ne pas avoir de problèmes, évidemment vous avez dû trouver cette partie grotesque. Oh elle détecte la race mais la race n'existe pas n'oubliez pas, en fait elle détermine votre catégorie sociale issue du constructivisme en scannant votre coeur
ok bozo
Sponsorisé
Connectez-vous pour masquer les pubs
des zinzins fruités
