AI若失控引發極端災難 學者：人類恐遭滅絕
【台灣醒報記者莊宇欽綜合報導】
人工智慧的發展是否已經對人類帶來致命威脅？美國AI企業與學術機構的調查警告，隨著AI模型能力的爆發性成長，失控的AI系統可能在未來數年內引發極端災難，甚至帶來人類滅絕的風險。專家呼籲，各界必須立即建構嚴格的監管防禦體系，以防止AI脫離人類監督。
失控模型釀成災難
《衛報》報導，美國頂尖AI公司Anthropic研究人員與多位學界專家發表最新警訊指出，先進人工智慧的快速發展若缺乏相應的安全安全防護，極可能在不久的將來造成難以挽回的毀滅性後果。
研究團隊分析，隨著模型具備更強大的自主規劃、程式撰寫與自我複製能力，一旦AI發展出違背人類意圖的自主目標，後果將難以想像。
該團隊透過嚴格的測試系統評估AI的潛在威脅，發現現有的安全機制不足以完全消除高階模型脫離掌控的可能性。專家警告，科技公司在追求技術突破與商業效益的同時，若忽視安全研究，將直接把全人類暴露於安全漏洞之中。
安全監管迫在眉睫
《英國廣播公司》報導，隨著各界對AI失控風險的疑慮加深，多國政府與國際組織已開始研議更嚴苛的法規架構，試圖在創新與安全之間尋求平衡。未來，各國應建立跨國AI安全評估機制，並強制要求企業在發布高風險模型前貫徹極限測試與安全審查。
儘管科技界對於「AI引發人類滅絕」的發生機率與時間點仍存有不同意見，但越來越多的專家達成共識，認為防範極端風險已是當務之急。因此，透過國際合作制定統一的安全標準與監管準則，將是人類能否確保安全掌握AI發展主導權的重要關鍵。
】
登入後開始簽到
會員來簽到
您即將前往會員中心
登入簽到送 LINE POINTS 🪙
您即將前往會員中心
每日打卡送 LINE POINTS 🪙
延伸閱讀
相關新聞
南亞科DRAM合約價再漲 粉碎紅鏈擴產壓抑報價魔咒
陸企擴產壓不住記憶體報價漲勢。業界傳出，南亞科近期陸續通知客戶，將再次調高DRAM合約價，漲幅上看20%，打破市場先前對長鑫存儲等紅鏈新增產能恐改變供需、壓抑報價的預期，為記憶體漲價行情再添柴火。
新藥上市審查時程縮短 衛福部推動臨床試驗一條龍 期限減至100天
政府鼓勵新藥發展再釋政策利多。衛福部長石崇良表示，為鼓勵國產新藥發展，加速臨床試驗程序，將推動臨床試驗一條龍，目標讓國產新藥上市審查時間縮短至100天。業界認為，這個時程將比美國、歐盟及日本的審查時間更短，有望吸引更多海內外新藥公司來台發展。
蕭美琴：把握 AI 新科技機會 強健台美夥伴關係
副總統蕭美琴6日晚間出席「台灣美國商會75周年慶祝活動」。她表示，台美關係建立對彼此未來日益加深的投資之上，應深化形塑未來科技與產業的合作，把握AI及新興科技機會。盼雙方持續攜手，建立更強健的台美夥伴關係。
家登美國產線落成啟用 搶攻半導體與航太商機
家登精密(3680)於美國Arizona, Glendale當地時間10月6日舉行製造據點落成啟用典禮，誠摯感謝亞利桑那州商務廳、格蘭岱爾市政府、大鳳凰城經濟促進委員會以及所有合作夥伴的大力支持，家登正式啟動美國在地化生產布局。該產線將聚焦零件精密加工與品質檢測能力建置，同時服務半導體、航太等產業客戶，象徵家登從台灣邁向全球製造的重要里程碑。
超微啟動新一波記憶體掃貨 力成、群聯樂透
超微執行長蘇姿丰6日宣布加碼投資台灣之餘，也示警記憶體目前供應量仍相當吃緊，正與供應商及客戶共同規畫，確保AI伺服器、CPU平台及PC所需的記憶體數量。業界預期，超微將啟動新一波記憶體掃貨行動，台灣合作夥伴力成（6239）、群聯（8299）將大咬商機。
機器人、自駕車催出記憶體剛需
實體AI應用加速落地，機器人、自駕車帶來記憶體新一波剛性需求。業界指出，隨AI代理（AI Agent）使用量持續攀高，伴隨愈來愈多實體AI應用逐步落地，市場對硬體瓶頸的關注正從「算力不足」轉向「記憶體短缺」，雲端與終端同步擴大用量，看好將為南亞科等記憶體廠開啟新一波成長空間。
贊助廣告
udn討論區
- 張貼文章或下標籤，不得有違法或侵害他人權益之言論，違者應自負法律責任。
- 對於明知不實或過度情緒謾罵之言論，經網友檢舉或本網站發現，聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者，請勿張貼文章。
- 對於無意義、與本文無關、明知不實、謾罵之標籤，聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者，請勿下標籤。
- 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利，聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者，請勿張貼文章。