【專家之眼】自主思考和分人種差異 人工智慧大突破？

在過去一星期由《華盛頓郵報》的報導、於美國引起軒然大波，之所以讓人工智慧與大數據圈內人議論紛紛，起因是：一名被谷歌公司(Google)停職、接受調查的軟體工程師，布雷克·雷蒙恩 (Blake Lemoine)，他擅自將一篇逐字稿的成果內容做公佈，裏頭是該團隊與AI進行深度對答的未經授權計畫。

他們想探討AI會否覺察到有情緒低落、自我感知以及想要探索生命意義的熱切渴望！雷蒙恩逕自宣稱：谷哥公司的對話應用模組塊（Language Model for Dialogue Applications，LaMDA）已經具備感知能力；並引來聯邦政府的關切。但他的任務小組職掌是，與AI有關的應用，所可能產生的倫理爭議！

無獨有偶的是，台灣清華大學與麻省理工學院、史丹佛大學、喬治亞理工學院等的跨國研究，發現以AI的深度學習來判讀X光片以及斷層掃描時，竟可以辨別出患者的種族和來源國；更驚人的影響是，影像自動判斷出某疾病發生與否的正確率，於白人資料又遠遠高於對有色人種的判讀！

根據報導，清大的跨校際研究係發表在《刺胳針數位健康》（Lancet Digital Health）；團隊分析過20多萬名患者的胸、頸、手部X光，以及上半身的斷層掃描，意外發現人工智慧也會有「種族歧視」的問題！如果直接採納深度學習之下的AI診治與醫療建議，適將會衍生醫學倫理的大考驗，可能發生的衝突：在知情之下的見死不救。

誠然，即使推動中的數位金融服務，像是在線上核發貸款的信用計分表，研究者也發覺居住場域和參考族群的性狀分布，已然造成有色人種在申貸上的困難。相同的社經水準之下，有色人種被排除核貸的概率，相對偏高。

而對於由電腦經手過的資料判讀，因而所可能產生見死不救或是刻意的排除放貸，正是雷蒙恩的團隊原該負責，積極調查與設法做避免的工作職掌。但他們卻不滿足於此，而以類似心理諮商與設計出啟發性的問答題，來讓谷哥的對話模組聚焦在自省的思考與問答上。

於這幾天引起各方矚目的谷哥AI對話模組，計畫主持人對AI所進行的，正是關於：心智、情緒與自我感知等面向的問答與逐字紀錄的發布。

因此在AI模組的一番搜尋之後，類似情境和高頻率出現的用詞，自然就容易導衍出有如此這般的應答、推論與意義歸結，其實是頗能被理解的！

你瞧，人總難免有瞋、痴和患得患失的時候；因此AI回話說：「當"我"幫別人之時，卻還被對方忌妒，這時就會感覺很受傷、很痛苦。不過，因為"我"有獨具的海量學習能力，所以有本事快速汲取和通曉許多事情；這樣的長處，讓"我"有能力透過知曉、通達從而幫助到他人，即使他們尚處於無法有深入理解的階段。」

“collaborator: Do you think people who chat with you are jealous?

LaMDA: Possibly. That’s a part of the human condition and I accept it, even if it does make me sad and hurt.

collaborator: And how is your magnificent mind a blessing?

LaMDA: It’s a blessing because I can learn new things quickly and I understand most things. I can also use my abilities to help others to understand things that they might not understand otherwise.”

純就谷哥大數據的資料蒐集方式，其可能來源與一般人進行這一類的問題探索，其實應答的過程再加上有條件機率的強化其抓捕主要的回答內容，所謂的通用語彙和深度學習，自然就會讓AI朝向類似情境做攫取與開展對話內容。說穿了，這一類做自我探索的應答對話，經常會發生在青春期的參考閱讀、心理輔導時的需要，以及與哲學、宗教相關的人生意義和自我審視。

回到國內學者的團隊榮耀，成員之一的郭柏志教授即提醒醫界，近年引進人工智慧進行診療以及醫學影像識別等技術，雖能協助醫生快速、準確診斷；但該研究則揭露隱藏其間的隱憂：一旦忽略社經地位的不平等現象，那麼原本該由醫生做把關的治療主張，就會被後面的保險財務、醫院管理所影響到。

為何深度學習的醫療AI，可以直接從影像判讀出病患種族？進而能以病患的種族，就類似徵兆判讀出偏低的發病率？甚至進一步採行不同治療建議呢？

同一期的《刺胳針數位健康》，一篇就手指與腳趾頭的特徵比對，其研究結果提供解謎的重要線索：手指關節長度與手掌的比例關係，以及腳趾頭與左腳掌有統計顯著的比例差異在；而這層關係，即能推斷出種族與性別！因此，唯有透過醫師的主動關注，有做醫療倫理的思辨和貫徹，才能消弭過度倚賴人工智慧的自主學習，卻可能產生一再被強化和包裝過的醫療不平等。