#SIIAM#DatiSanitari#gendergap#femtech
Bias di genere nei modelli AI per la salute: SIIAM e Tech4Fem insieme ai SaniDays
di Olivia Riccomi
Sabato 23 maggio, alle Industrie Fluviali di Roma, insieme a Michele Ferramola e Alessandro Tosi abbiamo tenuto il workshop "Bias di genere nei modelli di AI per la salute", nato dalla collaborazione tra SIIAM e Tech4Fem nell'ambito della seconda edizione dei SaniDays.
Il workshop hands-on nasce su una domanda concreta: cosa succede a un modello clinico quando i dati su cui impara non rappresentano la popolazione che dovrà servire?
Perché ne abbiamo parlato?
Il bias di genere nei modelli AI per la salute ha una radice piuttosto precisa, e sta nel modo in cui abbiamo raccolto i dati clinici per quarant'anni.
Negli studi clinici, storicamente, i partecipanti sono stati per il 78% uomini. Tra il 2013 e il 2023, solo l'8,8% della spesa dei National Institutes of Health è andato alla ricerca sulla salute femminile. Le donne sperimentano effetti collaterali avversi dei farmaci con una frequenza doppia rispetto agli uomini.
Un modello impara da chi è presente nei dati, e quando il dataset eredita uno squilibrio storico tende a riprodurlo, spesso amplificandolo. Su un benchmark dedicato alla salute femminile, tredici LLM allo stato dell'arte falliscono in media nel 60% dei casi, con le performance peggiori proprio nel riconoscimento dei segnali d'urgenza. Manca ancora uno standard su cui misurarsi: nel vuoto normativo, quel bias diventa un output che sembra oggettivo, semplicemente perché è data-driven.
SIIAM e Tech4Fem
Il workshop è nato dall'incontro tra due realtà che guardano a questo problema da angoli diversi.
SIIAM riunisce medici, ricercatori, data scientist ed esperti del settore attorno all'intelligenza artificiale in medicina, e porta al tavolo la competenza su come i modelli clinici si costruiscono e si valutano. Tech4Fem, il network fondato e guidato da Valeria Leuti, è la prima realtà italiana dedicata al FemTech e all'innovazione nella salute delle donne, e porta la conoscenza del divario che quei modelli rischiano di ereditare.
Metterle nella stessa aula serviva proprio a questo: il gender gap nella salute non riguarda solo chi studia le patologie femminili, riguarda anche chi scrive il codice.
Che cosa abbiamo portato in sala
Siamo partiti da un concetto molto importante che spesso si equivoca: rappresentativo non vuol dire bilanciato. Un dataset può contenere lo stesso numero di uomini e di donne e restare comunque incapace di descrivere la popolazione a cui il modello si rivolgerà.
Abbiamo poi guardato il caso del gruppo sanguigno, una variabile biologicamente neutra rispetto al sesso che può diventare operativamente dipendente dal sesso per il solo modo in cui viene raccolta. Perché nasca un bias, a volte, basta una prassi clinica consolidata.
Siamo quindi passati al codice, con un Google Colab aperto dove abbiamo utilizzato il dataset NHANES 2013-2014, costruendo tre scenari dal vivo:
- cosa succede a un modello quando si varia il rapporto uomini/donne nel training;
- cosa succede quando i numeri sono perfetti ma il reclutamento è asimmetrico;
- se convenga davvero addestrare due modelli separati per i due sessi.
Da tutti e tre è emersa la stessa osservazione: le metriche che guardiamo per prime possono restare stabili anche in presenza di bias grave. E modelli più potenti non lo fanno sparire, perché la sua origine sta nei dati e non nell'algoritmo.
Il mercato si sta muovendo
Il mercato femtech valeva 60,9 miliardi di dollari nel 2025, con stime a 121 miliardi entro il 2033, e i grandi produttori di wearable stanno costruendo modelli dedicati alla salute femminile invece di adattare quelli generici. Il 12 maggio 2026 è nato il Women's Health AI Consortium, primo organismo di settore che prova a dare standard all'AI per la salute femminile: non ha potere normativo, punta sulla pressione reputazionale, come fecero a suo tempo le certificazioni B Corp.
Prese insieme, queste spinte cambiano l'orizzonte in cui chi sviluppa modelli clinici si troverà a lavorare nei prossimi anni.
Che take home messages abbiamo lasciato
La rappresentatività conta più della dimensione: un dataset grande ma sbilanciato vale meno di uno piccolo e ben rappresentativo. Le metriche aggregate ingannano, perché una buona performance media può nascondere un sottogruppo trattato male. E il bias vive anche dove non lo cerchiamo.
L'AI in sanità non diventa equa per il solo fatto di sembrare precisa. Diventa equa quando impariamo a leggere criticamente le metriche e le decisioni che produce, e a evitare gli errori partendo dai dati. Come ha detto Marissa Fayer, CEO di DeepLook Medical, con le cui parole abbiamo chiuso il workshop: AI does not take care of the bias for you. It scales it.
Ringraziamo Luigi De Angelis da SIIAM e Valeria Leuti da Tech4Fem per la fiducia, l'organizzazione dei SaniDays per averci dato spazio, e tutte le persone che hanno partecipato.
Fonti
I. Zucker, B. J. Prendergast, "Sex differences in pharmacokinetics predict adverse drug reactions in women", Biology of Sex Differences, 2020. https://pmc.ncbi.nlm.nih.gov/articles/PMC7275616/ (frequenza degli effetti avversi dei farmaci nelle donne)
World Economic Forum e McKinsey Health Institute, "Closing the Women's Health Gap: A $1 Trillion Opportunity to Improve Lives and Economies", gennaio 2024. https://www.weforum.org/publications/closing-the-women-s-health-gap-a-1-trillion-opportunity-to-improve-lives-and-economies/ (composizione di genere dei partecipanti agli studi clinici di fase 1)
"A Women's Health Benchmark for Large Language Models", arXiv:2512.17028, dicembre 2025. https://arxiv.org/abs/2512.17028 (13 LLM valutati su 96 casi clinici validati, tasso di errore attorno al 60%, con la categoria "missed urgency" tra i tipi di errore)
Geri Stengel, "60% AI Failure Rate In Women's Health. Standards Are Coming", Forbes, 13 maggio 2026. https://www.forbes.com/sites/geristengel/2026/05/13/60-ai-failure-rate-in-womens-health-standards-are-coming/ (assenza di standard sulla qualità delle risposte; nascita del Women's Health AI Consortium e suoi sei impegni di governance)
Precedence Research, "Femtech Market Revenue to Attain USD 121.33 Bn by 2033", ripreso dall'Osservatorio FemTech di Tech4Fem. https://www.precedenceresearch.com/press-release/femtech-market (valore e proiezioni del mercato femtech globale)
NHANES 2013-2014, National Health and Nutrition Examination Survey (dataset utilizzato nella parte hands-on del workshop)
0
Commenti (0)
Accedi per lasciare un commento