發表在24日《自然》雜志的一篇研究論文發現，如果個人數據被用于訓練醫療AI模型，那他可能面臨在網絡攻擊中被識別的風險，且代表性不足群體個人信息泄露風險更高。研究認為，當前的風險評估并未將這些群體納入考量，因此呼吁采取進一步措施以緩解并實施嚴格的訪問控制。
醫療AI模型有望改善全球健康狀況，特別是在缺乏專業人才的地區。然而，用于訓練這些模型的敏感數據可能面臨隱私攻擊。攻擊者利用成員推理攻擊（MIA）來確定個人的數據是否被用于訓練模型。通過此類攻擊，可以推斷出患者的醫療數據和私人信息。此前關于數據風險的研究主要基于整個數據集，并未考慮個體的風險。
德國慕尼黑工業大學研究團隊開展了一項隱私審計，重點關注個人隱私風險，發現醫療AI模型可能對個人數據貢獻者構成隱私風險。研究人員利用7個由真實臨床數據（包括醫學影像、心電圖和電子健康記錄）組成的大型數據集，確定了數據貢獻患者中最為脆弱的群體。
研究發現，在個人層面，MIA針對的目標幾乎毫無差錯地被成功識別出來。在群體層面，在數據集中被識別為代表性不足的群體包括罕見病患者、少數族裔或社會經濟地位較低的人群等。隨著被AI模型編碼的獨特數據增多，研究發現這些群體和個人更加脆弱，且面臨不成比例的隱私攻擊風險。研究同時發現，MIA攻擊的成功率，會隨著模型容量和規模的增加而上升。
研究人員表示，諸如MIA之類的隱私攻擊，在個體層面的精準打擊效果，比目前普遍認為的更為顯著。他們總結稱，隱私風險評估必須將個體風險納入考量，并對易受攻擊的模型提供進一步保護。（記者 張夢然）
轉自：科技日報
【版權及免責聲明】凡本網所屬版權作品，轉載時須獲得授權并注明來源“中國產業經濟信息網”，違者本網將保留追究其相關法律責任的權力。凡轉載文章及企業宣傳資訊，僅代表作者個人觀點，不代表本網觀點和立場。版權事宜請聯系：010-65363056。
延伸閱讀
