IA et accompagnement des vulnérabilités

📜🔗LIEN vers la source

1. Résumé analytique

Contexte et enjeux : IA, vulnérabilités et tension structurelle

La note part du constat d’une tension durable entre la montée des besoins sociaux et médico-sociaux et la raréfaction des ressources humaines et financières, générant surcharge cognitive, ruptures de parcours et non‑recours aux droits. L’IA est souvent évoquée comme solution, mais reste un « angle mort » : peu de publications concernent les vulnérabilités sociales, la majorité des travaux se focalisant sur les risques (biais, surveillance, déshumanisation) plus que sur des expérimentations positives. Entre mai et décembre 2025, le Cercle Vulnérabilités et Société a conduit une démarche en trois temps : cartographie de 150 cas d’usage internationaux, 8 entretiens d’experts, puis un workshop collaboratif avec 25 acteurs de terrain (professionnels, personnes accompagnées, aidants, décideurs). Cette démarche met en évidence un paradoxe central : l’utilité et la faisabilité technique des solutions sont élevées, mais l’acceptabilité reste fragile, la confiance devenant le principal facteur limitant. Elle aboutit à trois scénarios majeurs pour l’IA dans le secteur (métier augmenté, autonomie augmentée, inclusion augmentée) et à l’hypothèse de « Small Companions » IA ciblés plutôt qu’une méga‑plateforme généraliste.

Apports opérationnels : scénarios, « Small Companions » et feuille de route

Le document propose trois scénarios structurants, chacun détaillé en problèmes, usages prioritaires, fonctions attendues, bénéfices, risques et garde‑fous : métier augmenté (alléger la charge et sécuriser la continuité), autonomie augmentée (soutenir l’expression et le pouvoir d’agir) et inclusion augmentée (lutter contre le non‑recours et la complexité des droits). Ces scénarios se concrétisent dans trois Small Companions : Lucie (mémoire relationnelle pour les remplacements), Étienne (auxiliaire situationnel 24/7 pour clarifier les besoins), et Hector (agent inclusif territorial guidant les démarches et l’orientation). Pour chacun, la note précise les publics ciblés, les modes de fonctionnement, les indicateurs de succès et les principaux défis (interopérabilité, accessibilité, gouvernance éthique, mise à jour des bases territoriales). Une feuille de route en quatre phases (conception, développement des MVP, expérimentation terrain, déploiement/industrialisation) traduit ces cas d’usage en trajectoire de 12 à 24 mois, avec livrables, points d’attention et conditions de réussite. Le texte fournit ainsi à la fois des principes d’acceptabilité (confiance, consentement, droit de refus, validation humaine systématique) et des repères très concrets pour lancer des pilotes IA dans le médico-social.

2. Points clés du document

1. Un état des lieux international objectivé (p. 7–8)

   La cartographie de 150 cas d’usage IA dans 31 pays montre une forte concentration en Amérique du Nord et au Royaume‑Uni, une prédominance d’usages organisationnels (recommandation, détection, coordination) et un sous‑investissement sur les publics précaires, la santé mentale et les zones rurales. L’analyse des scores met en évidence un décalage marqué entre utilité perçue (93% de notes 4–5), faisabilité technique (71%) et acceptabilité (60%), ce qui justifie de centrer la démarche sur la confiance et la participation.

2. Six enseignements structurants issus de l’analyse et des experts (p. 7–9)

   Les experts soulignent que le secteur n’est pas prêt pour une IA industrielle à grande échelle (données de faible qualité, faible interopérabilité, culture de la donnée limitée), que l’IA met en visibilité le « travail réel » plutôt qu’elle ne remplace les métiers, et que l’adoption dépend avant tout de la confiance. Ils insistent aussi sur le potentiel de l’IA pour soutenir l’expression et la décision plutôt que la seule détection, sur la nécessité de commencer par des usages simples qui lèvent des irritants immédiats, et sur l’importance du coût et de la logique d’écosystème.

3. Trois scénarios d’usage : métier, autonomie, inclusion augmentés (p. 10–14)

   Le workshop de décembre 2025 valide trois scénarios : métier augmenté (préserver le temps relationnel et la continuité malgré le turnover), autonomie augmentée (faciliter l’expression des besoins, la compréhension des démarches) et inclusion augmentée (rendre les droits lisibles et accessibles). Pour chaque scénario, la note détaille les problèmes, la vision, les usages prioritaires, les fonctions attendues, les bénéfices attendus pour les personnes, les professionnels et les institutions, ainsi que les risques et garde‑fous.

4. Les Small Companions : Lucie, Étienne, Hector (p. 15–20)

   Face aux limites d’une méga‑plateforme, l’option retenue est de développer des assistants IA restreints fonctionnellement, autonomes techniquement, éthiques by design (validation humaine obligatoire, pas de scoring, données minimales, sobriété d’usage). Lucie sécurise la mémoire relationnelle pour les remplaçants, Étienne structure la parole des personnes avant un rendez‑vous en langage FALC, Hector traduit les démarches en parcours guidés avec bascule vers des ressources locales en cas de blocage.

5. Une feuille de route réaliste en quatre phases (p. 21–22)

   Le document propose un planning de 12 à 24 mois avec quatre phases : cadrage/conception (2–3 mois), développement de MVP (4–6 mois), expérimentation terrain (3–6 mois), puis industrialisation et déploiement (3–6 mois). Les conditions de réussite mettent l’accent sur la co‑construction avec les usagers et professionnels, l’exigence éthique dès l’amont, la progressivité des usages, la pensée en écosystème (SI, métiers, partenaires) et l’anticipation des coûts de fonctionnement.

3. Pistes d’action pour les acteurs locaux

1. Outiller les remplacements et la continuité des parcours (p. 12, 16–17)

   Un établissement ou service peut utiliser Lucie comme modèle pour concevoir une « carte de prise en charge » synthétique, mise à jour par dictée vocale ou notes restructurées, afin que tout remplaçant dispose en moins de deux minutes des informations essentielles (objectifs, points de vigilance, façons d’entrer en relation). À l’échelle d’un territoire, ce type d’outil peut être testé d’abord sur un public prioritaire (handicap psychique ou mental) avant une extension, avec indicateurs simples de succès (incidents de continuité, satisfaction des usagers et remplaçants).

2. Renforcer l’expression des besoins avant les rendez-vous (p. 13, 17–18)

   Les structures sociales (CCAS, centres sociaux, associations d’aide alimentaire, permanences sociales) peuvent s’inspirer d’Étienne pour proposer un outil de préparation de rendez-vous, accessible en ligne ou sur borne/tablette, permettant aux personnes de formuler en quelques minutes leurs besoins, priorités et limites. L’outil doit produire une « carte d’attentes » courte validée par la personne, utilisable comme support de l’entretien, ce qui peut être d’abord expérimenté dans une MDS ou une structure d’accueil de personnes en précarité.

3. Lutter contre le non‑recours par un agent territorial d’orientation (p. 14, 19–20)

   Une collectivité ou un groupement d’acteurs peut piloter un projet type Hector pour transformer les principaux parcours « piégeux » (RSA, APA, MDPH, aides au logement, aides à la mobilité, etc.) en guides pas‑à‑pas avec sorties actionnables (mails préremplis, check‑lists, scripts d’appel). L’enjeu est de coupler l’agent conversationnel à un référentiel territorial partagé, mis à jour par un comité multi‑acteurs, et de prévoir systématiquement une bascule vers des médiateurs humains en cas de blocage ou de fragilité.

4. Ancrer fortement l’éthique et la gouvernance dans chaque projet (p. 10–11, 15, 21–22)

   Tout projet IA local devrait intégrer dès l’origine des règles explicites : consentement éclairé, transparence sur le fonctionnement, droit de refus sans conséquence, validation humaine des décisions importantes et interdiction d’usage managérial de l’outil pour contrôler les professionnels. Une charte d’usage co‑construite avec les équipes et les représentants des personnes accompagnées, adossée au RGPD et au futur Règlement IA européen, est un livrable clé de la phase de cadrage.

5. Organiser une expérimentation progressive avec indicateurs simples (p. 6, 18, 20–21)

   Les acteurs locaux peuvent structurer leurs pilotes en respectant la séquence proposée : cadrage participatif, développement d’un MVP frugal, expérimentation sur un nombre limité de sites volontaires, puis extension graduée. Des indicateurs comme le temps de rendez‑vous, le sentiment de pouvoir d’agir, le taux d’orientation correcte ou de non‑recours, et la satisfaction des professionnels doivent être définis dès le départ pour ajuster les outils et objectiver les effets.

4. Références complémentaires 

🔍➕ Pour plus d'informations, voir les articles référencés par "Pratiques en Santé" sur le thème IA et numérique ➡️🔗 https://pratiquesensante.odoo.com/2-6-intelligence-artificielle-numerique

1. Règlement européen sur l’IA (« AI Act ») – texte consolidé et guide pratique

   Outil indispensable pour cadrer juridiquement les projets IA en contexte social et médico‑social (obligations pour les systèmes à haut risque, transparence, gestion des données).

   URL : https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=OJ:L_202401689

2. OCDE – « Governing with Artificial Intelligence : The state of play and way forward in core government functions » (webinaire et rapport, 2025)

   Propose des principes opérationnels pour un déploiement d’IA éthique, participatif et centré sur le service public, transposables aux politiques sociales et médico‑sociales. https://oecd.ai/en/ai-publications/governing-with-ai

3. Institut Montaigne – « Investir l’IA sûre et digne de confiance » (note d’action, 2024)

   Fournit des recommandations concrètes sur la robustesse, l’explicabilité, la transparence et l’alignement éthique des systèmes d’IA, utile pour outiller les phases de cadrage et de gouvernance.

   URL : https://www.institutmontaigne.org/publications/investir-lia-sure-et-digne-de-confiance-un-imperatif-europeen-une-opportunite-francaise

Toutes ces ressources sont accessibles en ligne, datées après 2023, et leurs URL sont actives à ce jour.

5. Foire aux questions (FAQ)

1. Le document s’adresse à quels types de structures et de professionnels ? (p. 2, 4–6, 10)

   La note vise en priorité les acteurs du secteur social et médico‑social : ESSMS, associations, fédérations, caisses, collectivités et partenaires institutionnels, ainsi que les professionnels de terrain (éducateurs, assistants sociaux, psychologues, cadres) et les décideurs. Les personnes accompagnées et les aidants sont également considérés comme parties prenantes de la co‑construction des usages IA.

2. Quels sont les principaux risques identifiés autour de l’IA pour les publics vulnérables ? (p. 5, 7–9, 11, 14–15)

   Les risques cités incluent les biais algorithmiques, l’accès inégalitaire, la perte d’autonomie, la déshumanisation, la surveillance ressentie, la capture extensive de données, l’opacité des algorithmes et les usages managériaux de contrôle. Pour y répondre, le document insiste sur le droit de refus, la validation humaine, la transparence et l’absence de scoring ou de décisions automatisées.

3. Comment la démarche a‑t‑elle été menée concrètement ? (p. 4–6, 21, 23)

   Entre mai et décembre 2025, une cartographie de 150 cas d’usage dans 31 pays a été réalisée, complétée par 8 entretiens d’experts et un workshop collaboratif réunissant 25 participants (professionnels, personnes concernées, aidants, experts IA, décideurs). La démarche combine analyse documentaire, expertise sectorielle et co‑construction terrain, avec une IA générative utilisée comme support d’animation lors du workshop.

4. Quelles sont les trois conditions non négociables pour des projets IA acceptables ? (p. 4, 8–11)

   Premièrement, placer la confiance avant la technologie : transparence, consentement éclairé, droit de refus, validation humaine, gouvernance claire. Deuxièmement, viser l’augmentation des capacités humaines (libérer du temps pour la relation, faciliter l’expression, rendre les démarches compréhensibles) plutôt que l’automatisation pure. Troisièmement, commencer par des usages simples, ciblés, coconstruits, sous forme de Small Companions.

5. En quoi consiste précisément le Small Companion « Lucie » ? (p. 15–17)

   Lucie est un assistant pour les professionnels qui doivent remplacer un collègue au pied levé, en leur fournissant une « carte de prise en charge » synthétique contenant la situation, les priorités, les modalités relationnelles et les points sensibles. Il s’appuie sur du NLP/LLM léger pour restructurer des notes ou dictées vocales, impose une validation humaine, et vise à réduire les ruptures de continuité et la fatigue des personnes accompagnées.

6. Comment les personnes sont‑elles impliquées dans les scénarios d’autonomie et d’inclusion augmentées ? (p. 10–14, 17–20)

   Dans le scénario d’autonomie augmentée, la personne pilote l’outil Étienne, valide la carte d’attentes, choisit ce qu’elle partage et garde la possibilité de revenir à une expression classique. Dans le scénario d’inclusion augmentée, Hector propose des parcours guidés et une bascule vers des acteurs locaux, sans jamais se substituer à la décision humaine, en respectant le choix de la personne sur le niveau d’accompagnement souhaité.

7. Quels sont les prérequis pour passer d’un pilote à une diffusion à plus grande échelle ? (p. 6, 20–22)

   Le passage à l’échelle suppose d’avoir validé l’utilité réelle en situation, l’acceptabilité des publics, et la robustesse technique, tout en travaillant l’interopérabilité avec les SI existants, la formation des équipes et le modèle économique (licences, hébergement, maintenance). Il exige également une gouvernance multi‑acteurs stabilisée autour de la gestion des données, de la mise à jour des référentiels et du suivi des effets.

6. Réécriture en FALC (résumé + points clés)

Titre du document

• Titre : « IA et accompagnement des vulnérabilités ».

• Le document parle d’intelligence artificielle.

• Il parle de personnes en situation de fragilité.

Résumé FALC – Contexte

• Aujourd’hui, beaucoup de personnes ont besoin d’aide sociale et médico‑sociale.

• Il n’y a pas assez de professionnels et les démarches sont compliquées.

• L’intelligence artificielle peut aider, mais elle fait aussi peur.

• Les auteurs ont étudié 150 projets d’IA dans le monde.

• Ils ont parlé avec des experts et avec des personnes concernées.

• Leur question est : comment utiliser l’IA sans abîmer la relation humaine.

Résumé FALC – Apports

• Le document propose trois grandes façons d’utiliser l’IA.

• Première façon : aider les professionnels à mieux suivre les personnes.

• Deuxième façon : aider les personnes à mieux dire leurs besoins.

• Troisième façon : aider à comprendre les droits et les démarches.

• L’IA reste un outil, la décision doit rester humaine.

• Il faut toujours pouvoir refuser l’IA sans conséquence.

Points clés FALC

Point 1 – La confiance est essentielle

• Les personnes ont peur pour leurs données personnelles.

• Elles ont peur d’être surveillées et jugées.

• L’IA est possible seulement si tout est clair et expliqué.

Point 2 – L’IA doit aider, pas remplacer

• L’IA doit faire gagner du temps aux professionnels.

• Elle doit aider à mieux comprendre les situations.

• Elle ne doit pas prendre les décisions à la place des humains.

Point 3 – Commencer par de petits outils

• Les auteurs proposent des « Small Companions ».

• Ce sont de petits outils IA pour un problème précis.

• Ils sont simples à utiliser et contrôlés par les humains.

Point 4 – Exemple : Lucie

• Lucie aide un nouveau professionnel qui remplace un collègue.

• Elle résume la situation d’une personne sur une page.

• Le professionnel peut agir vite sans faire d’impair.

Point 5 – Exemple : Étienne

• Étienne aide la personne à préparer un rendez‑vous.

• La personne répond à des questions simples.

• Étienne écrit une fiche claire avec ses besoins.

Point 6 – Exemple : Hector

• Hector aide à faire des démarches pour les droits.

• Il explique les étapes une par une.

• Il propose aussi des lieux d’aide près de chez soi.

7. Analyse transversale – Valeurs de Pratiques en Santé

• Littératie : Le document promeut des outils de simplification (FALC, traduction, reformulation) et cible explicitement les barrières linguistiques et cognitives, ce qui répond à des niveaux de compréhension variés.

• Empowerment : Les scénarios d’autonomie augmentée et les outils comme Étienne visent à renforcer le pouvoir d’agir des personnes en les aidant à formuler leurs besoins et à décider en connaissance de cause.

• Participation : La démarche repose sur un workshop de co‑construction avec des personnes accompagnées, des aidants et des professionnels, et recommande la co‑conception pour chaque cas d’usage.

• Santé communautaire : Hector s’inscrit dans une logique territoriale, en valorisant les ressources locales et en visant la réduction du non‑recours à l’échelle d’un territoire.

• Éthique : La note explicite des principes éthiques non négociables (pas de scoring, validation humaine, données minimales, hébergement sécurisé) et discute les biais et risques de déshumanisation.

• Droits humains : L’accent mis sur l’accès aux droits, la lutte contre le non‑recours, le respect du consentement et du droit de refus traduit une approche alignée sur l’équité et l’inclusion.

• Intersectorialité : Le texte insiste sur la nécessité de travailler en écosystème (structures, métiers, SI, partenaires, politiques publiques) pour la mise en œuvre de l’IA.

• Partenariat : Il décrit une gouvernance multi‑acteurs impliquant think tank, fédérations, mutuelles, associations, établissements, et recommande des comités locaux pour piloter les référentiels et l’éthique.

• Lutte contre les discriminations : Le document mentionne les risques de biais et de reproduction des inégalités, plaide pour des usages qui réduisent le non‑recours et améliorent la légitimité perçue des droits.

8. Évaluation de la fiabilité de la ressource

• Pertinence scientifique : La note s’appuie sur une base de 150 cas d’usage IA documentés selon une grille standardisée, sur des chiffres agrégés (scores d’utilité, faisabilité, acceptabilité) et sur des références internationales (OCDE, Commission européenne) cohérentes avec l’état des connaissances. Elle ne présente pas une étude expérimentale au sens strict, mais une synthèse méthodique et triangulée (cartographie, entretiens, workshop), clairement positionnée comme telle.

• Pertinence opérationnelle : Le document est très orienté vers l’action : scénarios détaillés, matrices problèmes/visions/usages/fonctions/bénéfices/risques, cas d’usage décrits du point de vue de l’utilisateur, indicateurs de succès, feuille de route temporelle avec livrables. Pour des acteurs de terrain ou des décideurs locaux, il offre une base solide pour construire un cahier des charges et organiser des expérimentations IA éthiques et progressives.

#pratiquesensante #IAethique #Prévention #InclusionNumérique #MedicoSocial #LittératieSanté #NonRecours #Empowerment #essms