聯邦與智庫共研AI 國會兩黨質疑不透明 常以保密做藉口

商務部轄下「國家標準與科技研究院」(NIST)計畫與智庫「蘭德公司」(RAND Corp)建立研究人工智慧(AI)的夥伴關係，結果遭到眾院科學委員會兩黨重量級成員提出缺乏透明化的質疑。蘭德公司具有龐大影響力，與科技圈億萬富豪、人工智慧產業及引發爭議的「有效利他主義」(effective altruism)運動均有密切關係。

Politico新聞網站報導，眾院科學委員會六名兩黨成員12月14日致函國家標準與科技研究院，除了譴責作業不夠透明化，還批評新成立的美國「AI安全研究院」(U.S. AI Safety Institute)競爭激烈的研究贊助申請過程竟然沒有公布。

眾院科學委員會兩黨成員對國家標準與科技研究院提出警告說，必須特別小心外部團體進行AI安全研究的品質，因為這些研究經常「用保密做為掩護藉口」、「沒有提供證據支持其說詞」，經常不符合基本定義或基本原。

眾院科學委員會共和黨籍主席魯卡斯(Frank Lucas)、資深成員民主黨籍加州聯邦眾議員羅芙根(Zoe Lofgren)等人在信中寫道，國家標準與科技研究院與蘭德公司之間的夥伴關係不應該倉促推出，卻犧牲了正確行事。

隸屬於商務部的國家標準與科技研究院是曝光率並不高的機構，在拜登總統的AI計畫裡卻扮演重要角色。白宮今年10月發布行政命令，授權國家標準與科技研究院成立「AI安全研究院」。

報導指出，國家標準與科技研究院資源相當有限的問題眾所周知，幾乎可以確定必須依靠外部研究人員承擔日漸成長的研究任務。

國家標準與科技研究院並未公開宣布將透過「AI安全研究院」發放研究贊助經費給哪些團體，但有研究人員及主要科技公司決策主管透露，蘭德公司是獲得研究經費的其中之一。

眾院科學委員會成員在信中指出，蘭德公司日前公布一項先進AI模型可能存有生物安全威脅的研究報告，但研究結果並未通過學術同僚審查。

許多AI及生物安全研究人員說，蘭德公司執行長馬西尼(Jason Matheny)與資深資訊科學家阿爾史托特(Jeff Alstott)都信奉「有效利他主義」，認為過度強調AI與生物科技，恐將引發災難危機。