Dans une IA médicale, on cherche à minimiser les biais de plusieurs façons. Avant tout bien sûr en entrainant l’IA sur des données les moins biaisées possibles, c’est-à-dire les plus représentatives de la population que l’IA traitera une fois déployée. Ensuite en mettant en place des processus de validation sur des jeux de données externes (de sources différentes). Enfin l’évaluation des biais est une étape centrale dans les processus de certification.
Malgré tous ces gardes fous, il reste bien évidemment des biais. Bien sûr, on espére que le médecin en corrige certains … mais il en rajoute certainement d’autres aussi comme vous le faites remarquer. Ils ont peut être « l’avantage » (sur les biais de l’IA) de varier d’un médecin à l’autre et donc de ne être reproduits à l’identique à large échelle.