Deux articles à ce sujet parus récemment (février 2022) :

1// L’OMS propose des stratégies pour prévenir l’âgisme dans l’intelligence artificielle

L’âgisme est une discrimination liée à l’âge touchant les jeunes (surtout en Europe) et les personnes vieillissantes. L’OMS, après avoir publié le “Rapport mondial sur l’âgisme”, dans lequel elle propose des stratégies pour prévenir et contrer l’âgisme, vient de publier une nouvelle note d’orientation, “L’âgisme dans l’intelligence artificielle pour la santé” qui souligne les avantages et les dangers de l’intelligence artificielle pour les personnes âgées.

L’âgisme est le fait de traiter les gens différemment suivant leur âge, ce qui entraîne des préjudices et des injustices. On peut le faire de façon totalement inconsciente et même se l’appliquer à soi-même (“tu es trop jeune pour”, “je suis trop vieux pour”). Ces préjugés et discriminations ressortent dans le débat public et sont diffusés via les médias sociaux. L’âgisme concerne aussi le genre, la race ou le handicap, avec des conséquences négatives sur la santé et le bien-être des personnes.

Dans notre société basée sur le culte de la performance, les personnes âgées sont particulièrement impactées par ce phénomène. Par exemple, bien qu’à la retraite, elles peuvent vouloir de continuer de travailler pour leur bien-être ou par besoin financier mais elles ont beaucoup de mal à obtenir un entretien d’embauche. Aux USA, Facebook ads empêcherait qu’elles aient accès aux offres d’emploi… Le sentiment de ne plus rien apporter à la société entraîne une baisse d’estime de soi-même, un isolement social voire une dépression… Un des préjugés touchant aux personnes âgées concerne leur rapport aux nouvelles technologies.

L’âgisme dans l’intelligence artificielle pour la santé

La gérontechnologie s’intéresse aux problèmes liés au vieillissement et à la recherche de technologies permettant de les résoudre. Ces dernières ne reposent pas toutes sur l’IA mais celle-ci offre un grand intérêt pour la surveillance à distance lors de soins de longue durée permettant le maintien à domicile et le développement de médicaments liés au vieillissement par exemple. Cet énorme potentiel que représente l’IA pour les soins de santé pour les seniors ne doit cependant pas introduire ou exacerber l’âgisme. Pourtant, les bases de données peuvent être biaisées et l’amplifier.. Ainsi, les hommes âgés bénéficieraient de soins plus poussés que les femmes du même âge. Pendant le Covid-19, l’âge a été un critère de sélection pour l’accès aux soins intensifs et la réanimation de l’âge, durant les phases les plus critiques de la pandémie de Covid-19

L’encodage de stéréotypes, préjugés ou discrimination dans la technologie de l’IA peut compromettre la qualité des soins de santé pour les personnes âgées, réduire les intergénérations. L’OMS déclare :

“Pour garantir que les technologies d’IA jouent un rôle bénéfique, l’âgisme doit être identifié et éliminé de leur conception, de leur développement, de leur utilisation et de leur évaluation.”

L’OMS présente huit considérations qui permettraient de garantir que les technologies d’IA pour la santé luttent contre l’âgisme et que les personnes âgées sont pleinement impliquées dans les processus, systèmes, technologies et services qui les affectent :

- Des technologies d’IA développées par et avec les seniors ;
- Équipes de datascientists d’âges divers : les équipes de data science chargées de sélectionner, valider et appliquer les données doivent inclure des personnes âgées et être bien équilibrées ;
- Collecte de données incluant l’âge : les développeurs devront s’assurer que les données d’IA sont exactes, complètes et représentatives de tous les âges ;
- Investissements dans l’infrastructure numérique et le numérique ;
- Droits des personnes âgées au consentement et à la contestation : les personnes âgées doivent décider des technologies d’IA à utiliser, de la manière dont elles le seront en complément ou à la place des soins et traitements prodigués par les soignants et le cas échéant, revenir sur leur consentement ;
- Des cadres de gouvernance et des réglementations pour autonomiser et travailler avec des personnes âgées ;
- Un processus d’éthique robuste, en particulier dans les universités, sans but lucratif.

---

2/ L’âgisme de l’intelligence artificielle menace la santé des aînés, selon l’OMS (Afp)

Les stéréotypes négatifs envers les personnes âgées inclues dans les systèmes d’intelligence artificielle (IA), de plus en plus présents dans le domaine de la santé, menacent directement...

Les stéréotypes négatifs envers les personnes âgées inclues dans les systèmes d’intelligence artificielle (IA), de plus en plus présents dans le domaine de la santé, menacent directement la qualité des soins aux aînés, met en garde l’OMS mercredi.

Dans le domaine de la santé, le potentiel de l’IA est énorme pour améliorer la qualité des soins mais "l’encodage de stéréotypes, de préjudices ou de discrimination dans l’IA ou leur manifestation dans la façon dont on l’utilise pourrait miner la qualité des soins pour les personnes âgées", souligne l’Organisation mondiale de la santé dans un nouveau mémoire sur le sujet.

L’IA repose sur l’utilisation de vastes bases de données qui sont souvent compilées, partagées et analysées de manière peu transparente.

Comme cela a déjà été démontré pour le genre ou l’origine, ces vastes bases de données peuvent être biaisées et reproduire voire amplifier des pratiques âgistes déjà largement répandues dans les systèmes de soins.

"Les hommes âgés bénéficient souvent d’examens plus poussés que les femmes âgées, ou ont plus de chances de recevoir certains traitements ou soins préventifs", souligne la docteure Vania de la Fuente-Nunez qui fait partie de la cellule "vieillir en bonne santé" de l’OMS, dans un entretien à l’AFP.

Elle pointe aussi du doigt les accès aux soins intensifs ou à de l’oxygène décidés sur la base de l’âge, durant les phases les plus critiques de la pandémie de Covid-19.

 Incrustation -

"Les algorithmes de l’IA peuvent incruster les inégalités existantes dans le domaine de la santé et avoir un effet systématiquement discriminant beaucoup plus large qu’un individu biaisé", souligne le mémoire.

Ces défauts peuvent encore être aggravés par la sous-représentation des personnes âgées dans les bases de données utilisées. En basant les algorithmes sur des données cumulées à partir des populations jeunes on prend le risque de manquer ce qui est spécifiques aux aînés en matière de santé.

Pour autant, le mémoire souligne aussi les bénéfices que la santé des personnes âgées peut tirer de l’IA, en matière de prévention des chutes ou d’autres urgences médicales, grâce à la collectes de données par le biais d’accessoires connectés par exemple.

L’IA peut ainsi aider à faire une médecine plus préventive en permettant de mieux prédire l’évolution d’une maladie ou les risques.

Mais si elle permet de compenser en partie un manque de personnel, l’IA risque aussi de réduire le contact physique entre soignants et patients âgés.

Et par conséquent "on limite les occasions de combattre l’âgisme à travers les interactions entre générations", souligne la docteure de la Fuente-Nunez.

 "Fossé numérique" -

Elle souligne un autre risque : "nous voyons cette tendance à créer (ces systèmes) pour les personnes âgées plutôt qu’avec elles".

Et il y a bien sûr "un énorme fossé numérique", prévient la docteure, lequel peut aussi isoler les aînés, moins enclins à adopter de nouvelles technologies, et les mettre en marge d’un système de santé où la numérisation s’impose à marche forcée.

Le mémoire recommande de remédier à ce problème en informant mieux les personnes âgées sur le numérique mais aussi de les impliquer dans tous les aspects qui peuvent affecter la façon dont on les soigne.

Il faut les associer non seulement à l’élaboration des algorithmes mais aussi les inclure dans des comités d’éthique par exemple ou s’assurer que les agences sanitaires les consultent pour détecter et éliminer les biais en amont.

"L’IA est porteuse de promesses, mais il faut être prudent parce qu’elle présente aussi des risques", a résumé la docteure de la Fuente-Nunez.