L’AI Act ( Loi sur l'intelligence artificielle de l'UE - Développements et analyses actualisés de la loi sur l'intelligence artificielle de l'UE ), impose à ce qu’il y ait toujours une « garantie humaine » à l’utilisation de l’IA en santé.
Dans l’attente de l’entrée en vigueur pleine et entière du RIA (AI Act) c’est la loi de bioéthique du 2 août 2021 qui encadre spécifiquement l’IA en santé et consacre un principe de garantie humaine impose une supervision humaine pour toute décision automatisée ayant un impact sur la santé des patients. Cette loi prévoit également une obligation d’information sur l’utilisation du dispositif ainsi que des exigences d’explicabilité de manière à permettre une compréhension claire des décisions prises par les utilisateurs finaux et affectant les patients dans leur santé.