人工智慧（artificial intelligence, AI）正逐步將其應用擴展到醫療領域，尤其在醫學影像分析上展現出強大的診斷能力。然而，AI 本身的「黑箱」特性讓醫生難以完全了解其分析與決策邏輯，降低了診斷結果的透明度與可信度。這一挑戰的核心問題點在於AI採用的「深度學習」技術，藉由模仿人類大腦學習方式，使用人工神經網路從數據中進行自動學習模式。然而，由於無法得到神經網路如何進行決策推理詳細過程，這成為 AI 技術進入後續醫療應用的主要障礙。
由於深度學習模型的訓練過程完全依賴數據，無人為干預，卻也因此無法提供明確過程解釋。對生物學與醫學這些高度重視解釋性的領域構成重大挑戰，因為在這些應用中，解釋 AI 做出判斷的原因與其提供準確診斷的能力同等重要。為了解決這一限制，以色列內蓋夫本古里安大學（Ben-Gurion University of the Negev, BGU）的 Assaf Zaritsky 教授所帶領博士生 Oded Rotem 開發了一項名為 DISCOVER 的突破性技術，能對 AI 進行逆向工程，將醫學影像分析結果拆解出人工智慧決策時認定之具語言意義成分（semantically meaningful components），進一步揭示 AI 的決策邏輯。
研究團隊在與以色列新創公司 AIVF 合作下，成功展示利用 DISCOVER 技術來分析 AI 視覺判別體外受精胚胎的重要特徵。藉由 AIVF 公司所提供數千個胚胎顯微影像資料庫，搭配上該公司胚胎學家利用胚胎大小與滋養外胚層等特徵進行檢查排序之資料，研究團隊發現，利用 AI 可以達到近乎人類專家檢查排序胚胎品質的能力，但 AI 並不會提供如何導致成功預測的相關線索。
Assaf Zaritsky 教授表示：「深度學習可以識別生物醫學影像中難以辨識出的隱藏模式。但這樣還不夠，為了做出臨床與科學決策，我們必須破解人工智慧如何辨別、解釋生物或臨床重要性以及如何根據解釋做出下一步治療或研究決策。」
DISCOVER 技術重點依賴於使用深偽生成式 AI (deepfake generative AI)，原理如同利用另一個人臉來置換原圖人臉一般，藉由一次置換胚胎影像中單一具語言意義成分不斷深偽生成新胚胎 AI 影像。藉由人為放大特定成分後，將能夠解讀人工智慧決策模式，此客觀結果將能用來闡述每個具語言意義成分在決策中所扮演的角色與重要性。
藉助 AI 生成一系列胚胎深偽圖像，研究人員能夠根據胚胎學家給出的臨床決策來辨別胚胎大小及其周圍滋養外胚層變化。此外，藉由此技術，也找出了臨床學家並未指出的辨別胚胎品質的重要指標：「囊胚密度」。
AIVF 執行長兼臨床胚胎學家 Daniela Gilboa 表示：「胚胎學家非常清楚某些生物學特徵具備決定胚胎品質的重要性，但人眼準確觀測與評估特徵的能力往往受限。此研究發現的典型例子就是囊胚密度，這個特徵對於辨別胚胎品質非常重要，但在臨床上卻鮮少使用，因為目視檢查胚胎品質時，很難加以量化。現在，藉由 DISCOVER 技術的視覺解釋功能，將能夠更加準確客觀地辨別與分析重要的生物學特徵，因此我們得以精進在子宮中成功植入胚胎的揀選過程，增加生育治療成功率。」
資料來源：
https://www.bgu.ac.il/en/news-and-articles/aihelpdoctors/
