「AI教父」將離開Google 向世界警告AI風險

CNBC報導，有「人工智慧（AI）教父」之稱的席爾頓（Geoffrey Hinton）在45年前取得AI博士學位，現在仍是最廣受敬重的AI專家。現在，他要離開Google，將向世界示警AI的潛在威脅，因這些威脅實現的時間比他之前預估還早。

席爾頓過去幾十年來都在Google兼差工作，往返Google的矽谷總部和多倫多之間，CNBC看到的內部文件顯示，席爾頓過去一年已減少花在Google的時間，去年3月變成全職的20%時間，稍後進入Brain Research內部的新團隊，最近的職位是副總裁與工程研究員，向Google Brain的狄恩（Jeff Dean）匯報。

他接受紐約時報訪問時表示，他將向世界警告AI的潛在威脅，「我原本覺得（威脅會）是30年～50年後，甚至更久之後出現」，「顯然現在我不再這麼認為」，而他會離開Google，是因為這樣他才能暢言AI的風險，

他1日在推特發文表示：「我離開，這樣我在討論AI的危險，才能不必考慮對Google的影響。Google的行為一直都很負責任。」

席爾頓2018年因為概念和工程的突破，贏得圖靈獎，但他說他現在對他一生的研究感到有點遺憾，點出AI的近期風險包括取代就業、還有生成看似真實的假照片、假影音及假文字。他說，「我用很常見藉口安慰自己，如果我沒做，別人也會做」。

他在提供給CNBC的聲明說：「我現在認為我們正在創造的數位智慧，和生物智慧（biological intelligence）非常不同」。

席爾對提到目前最先進大型語言模型（LLM）GPT-4的威力，以下是他描述的現況：「如果我有1,000相同權重且完全複製的數位代理人，只有有一個代理人學到怎麼做某事，其他代理人也會立刻知道，因為他們權重都一樣。生物代理人就辦不到這一點，所以完全相同數位代理人的集結，能獲取遠多於任何單一生物代理人的知識，這就是為什麼GPT-4的知識量會遠大於任何人。。」

席爾頓在離開Google之前，就已提出警示，他3月接受CBC新聞訪問時，被問到他認為「AI抹除人類的機率」有多高，回答「這不是不能想像的，我只能這麼說」。

Google執行長皮伽也已公開警告AI的風險，他上月在「60分鐘」節目上說，社會還沒準備好因應即將出現的事物，同時Google也在展示自己產品，例如自我學習的機器人和AI聊天機器人Bard，但皮伽淡化AI進步速度超越人類適應能力的風險。