快訊

本周「血型+生肖」財運TOP5!O型1星座「把握這波」賺進滿滿財富

Nvidia黃仁勳來台AI 鏈發威!台股早盤大漲逾200點 站上21,800點

韓國職員困竹市大樓火場電梯…掰開一條縫發出求救訊息 準確報位幸運獲救

奧特曼重返OpenAI 外界讚「好人得勝」?他可能沒那麼善良

奧特曼回鍋後,有可能反讓OpenAI組織走向「更不多元,也不公平正義」二部曲;全球人工智慧的發展,也會帶來負面衝擊?(歐新社)
奧特曼回鍋後,有可能反讓OpenAI組織走向「更不多元,也不公平正義」二部曲;全球人工智慧的發展,也會帶來負面衝擊?(歐新社)

OpenAI奧特曼一夕被開除,又在獲得700名員工簇擁下光榮回返;曾經背刺他的共同創辦人也懺悔....。這個震驚全球的矽谷內鬥事件,在外界輿論的讚頌中,似乎迎來「好人贏了」的結局。然而,爬梳宛如Netflix電影的事件細節,諸多線索顯示,奧特曼可能沒那麼善良。未來,當他回鍋後,有可能反讓OpenAI組織走向「更不多元,也不公平正義」二部曲;全球人工智慧的發展,也會帶來負面衝擊?

就像是Netflix上的熱門大戲播出結局,原本準備要加入微軟的奧特曼(Sam Altman),得到OpenAI超過9成員工支持,宣布回歸OpenAI,重新出任執行長一職。從奧特曼的角度來看,可謂雙喜臨門,因為把他趕走的4位董事會成員中,其中3位去職,另外加入2位新董事會成員,堪稱是王者復仇記。不過,這會是一齣「好人勝利」的劇本嗎?事情恐怕沒有那麼簡單。

無論從奧特曼個人,或者從OpenAI的組織角度來看,有3大隱憂:OpenAI組織未來再無煞車可踩、新董事會成員組成反映出的世界觀引發議論,以及奧特曼離職背後真相尚待調查。

組織結構設計特殊,就是為了避免OpenAI走偏

「董事會有權開除我,這很重要。」奧特曼說。這是今年6月彭博社的科技高峰會上,奧特曼面對主持人張秀春(Emily Chang)向他提問時,給出的回答。

張秀春質疑奧特曼,「你擁有巨大權力,我們為何應該信任你?」

奧特曼誠懇地說,人們不該信任他,他同意自己擁有巨大權力,因此任何人都有權向他盡可能地提問。他進一步強調,人們不該相信任何一個人,由制度設計避免濫權,比相信個人更為有效,舉例來說,他個人沒有、也不想要超級投票權的股份(super voting share),OpenAI組織也有多層結構,都是為了確保董事會能夠監督公司發展的明證。

「我們的公司結構如此怪異(weird),就是因為這些技術會對全人類有益。」考慮到自家公司技術的影響力,未來董事會的決策權甚至應該逐漸民主化,分散至所有人類。奧特曼自己也並不直接持有OpenAI的股權。

如同奧特曼今年世界各地巡迴時所說,人工智慧能帶來巨大效益,但發展速度太快,也有可能危害社會。他高聲向美國國會要求監管,OpenAI發表報告討論先進人工智慧模型應該要有安全標準,甚至聯合Google、微軟在內的科技巨頭,向白宮自願簽署安全協議。

考慮到OpenAI可能是現有公司中,離科學家們引頸期盼的聖杯-通用人工智慧(AGI),最為接近者,OpenAI對造福人類的願景、公司結構獨特的設計,還有董事會內部組成的獨立性與權力,都讓人安心。

OpenAI的制度是有效的嗎?不到半年,董事會很快發揮作用,將奧特曼開除。

不過,股東們如微軟和其他投資人事前不知情,員工也不買帳,直接向董事會發起連署,警告董事會若不找回奧特曼並自行請辭,就會集體出走。雖然奧特曼回鍋,讓他自己、擁戴他的屬下,還有投資人都滿意,但這無疑損害了未來董事會發揮煞車功能的價值。

如果未來董事會發現,OpenAI已經打造出AGI,但公司員工已經忘記創辦時照看安全與風險的初衷,又或者出現濫用、惡用風險時,誰還能擋得住奧特曼與一心追隨他的員工?

董事會成員名單有爭議,觀點也不夠多元

不僅如此,OpenAI董事會成員變化也令人擔心。奧特曼和原總裁布羅克曼(Greg Brockman)因為此事件離開董事會以後,董事會成員從6人變成4人,包含首席科學家薩斯凱博(Ilya Sutskever)、Quora創辦人迪安吉羅(Adam D’Angelo)、GeoSim系統公司執行長麥考利(Tasha McCauley)和人工智慧學者托納(Helen Toner)。

當奧特曼重返OpenAI,僅剩下參與開除奧特曼的迪安吉羅留任,對人工智慧發展有一定擔憂的成員全都離開董事會,另外加入前美國財政部長桑默斯(Larry Summers)和科技業打滾多年的泰勒(Bret Taylor),接下來會再加入其他董事,同時新董事會也會調查奧特曼被開除的真相。

其中,桑默斯在許多人眼中爭議很大。擔任哈佛大學校長時,他曾說科學領域高層中女性較少「可能跟(女性的)內在能力(intrinsic aptitude)有關,」在世界銀行(World Bank)擔任首席經濟學家時,則在備忘錄中寫下「在工資最低的國家,傾倒大量有毒廢物背後的經濟邏輯是無可挑剔的,」鼓勵已開發國家將污染環境的生產,遷移到開發中國家。在美國財政部任職時,他放鬆對衍生性金融商品的管制,點燃日後金融風暴的未爆彈。當然,並非所有人都反對桑默斯的觀點,他廣泛得到政商界的賞識,歐巴馬政府和拜登政府都向他求教,他也替銀行提供顧問服務。

除此之外,在擔憂人工智慧發展安全性的成員離開之後,考慮到董事會現有組成清一色男性,又都只能反映出科技圈或者桑默斯類型的觀點,這樣的OpenAI,還會是當初那間看到Google忽視人工智慧安全性、因此成立的非營利實驗室嗎?

最後,則是對於奧特曼離職事件的調查。近期不斷有內部消息流出,表示奧特曼離職背後是因為OpenAI已經秘密開發出擁有巨大突破的Q*專案,但尚未得到證實。調查能夠帶來真相嗎?這種內部調查可大可小,要看董事會願意授予多少權力、提供多少空間給獨立調查單位。

這並不是一齣「好人勝利」的劇本。未來奧特曼說的話會更受檢驗,人們也會更加關注董事會的組成與實質功能,失去煞車的OpenAI,恐怕也會更令人擔憂。

延伸閱讀

(本文出自2023.11.29《遠見》網站,未經同意禁止轉載。)

ChatGPT OpenAI 奧特曼

延伸閱讀

OpenAI人事風波預警 管制法令將臨

【Daily Podcast】OpenAI執行長奧特曼遭開除後迅速回任,發生什麼事?/中國爆發「支原體肺炎」北京天津醫院湧入大量病患

揭祕奧特曼被解職那一刻…視訊會議告知被炒 電腦隨即被封鎖

奧特曼確定回鍋擔任執行長 OpenAI換將風波幾乎趕走客戶

相關新聞

AI語音酷似影星 OpenAI涉侵權

美國人工智慧(AI)公司OpenAI上周發布最新聊天機器人模型GPT-4o,用戶可對其說話並獲即時回應,但該模型五種合成語音其中一種...

新加坡新總理黃循財上任前表態反台獨 否認是美國盟友

15日晚間接任新加坡總理的黃循財6日接受《經濟學人》專訪,內容8日刊出。被問及在美中爭霸時新加坡的立場為何,黃循財回答:...

路透:美台4月悄悄在西太平洋舉行聯合軍演

路透引述4名知情人士的話報導,美國和台灣海軍4月悄悄在西太平洋舉行聯合軍演,但官方並未對外宣布,顯示美台在中國軍事威脅不...

立陶宛大選首輪結果出爐 現任總統44%得票率未過半 決選將在5/26

路透報導,立陶宛12日舉行總統大選第一輪投票,59歲的現任總統瑙塞達(Gitanas Nauseda)以44%得票率領先...

美對陸電動車關稅 擬調漲三倍

華爾街日報、紐約時報及美聯社等美媒十日引述美國官員和知情人士報導,拜登政府擬於十四日宣布將對中國大陸電動車關稅增加三倍,...

又是波音!美聯航客機起飛5分鐘緊急折返 福岡機場一度關閉跑道

共同社報導,日本國土交通省和警方指出,美國聯合航空公司一架波音737-800客機10日上午從日本福岡飛往美國關島,但起飛...

商品推薦

udn討論區

0 則留言
規範
  • 張貼文章或下標籤,不得有違法或侵害他人權益之言論,違者應自負法律責任。
  • 對於明知不實或過度情緒謾罵之言論,經網友檢舉或本網站發現,聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。
  • 對於無意義、與本文無關、明知不實、謾罵之標籤,聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者,請勿下標籤。
  • 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利,聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者,請勿張貼文章。