林一平／AI時代的黑暗之心

當算法能模擬理性決策，康拉德筆下那場沿剛果河駛入人性荒蕪的航行，便不只是殖民時代的遺跡，而是一面映照未來的鏡子。我重新閱讀《黑暗之心》，正是想確認，當文明理性可被算法精準模擬，人類究竟還保有什麼不可替代的底線。

小說以水手馬洛的第一人稱敘述展開，他受雇於一家從事象牙貿易的歐洲公司，擔任蒸汽船船長，沿剛果河深入內陸。隨著航程推進，他逐漸被賦予一項任務：接回公司內陸貿易站的首席代理庫爾茲，此人因象牙產量驚人而備受公司高層推崇。在庫爾茲被視為文明使命化身與殖民體系希望的表象下，馬洛逐漸意識到人類理性與道德瓦解的深處。

馬洛愈深入內陸，眼前所見的秩序愈顯得脆弱，蒸汽船因缺乏零件而延宕，各貿易站之間彼此猜忌傾軋，原本應支撐整個殖民體系運轉的效率邏輯，實際上早已鬆動崩解。這不是偶然的意外，而是這套「理性殖民」體系內部早已埋下的結構性裂縫。正如今日我們對演算法的盲目信仰，殖民者當年也堅信秩序與效率足以馴服混沌。若將其視為一套運行中的系統，它的失效不是來自外來干擾，而是源於這套邏輯本身的盲點，只是在深入內陸後才逐漸暴露出來，這樣的警告在人工智慧時代格外清晰。

馬洛在濃霧中的航行進一步揭示了這種脆弱。船隻失去河道座標時，他只能仰賴測深索與船上僅存的原住民船員辨位，卻無法看清岸上潛藏的動靜，而攻擊正是在濃霧剛散、視線恢復的那一刻發生。這正是對ＡＩ時代的隱喻，當我們只讀取模型輸出的信號，便可能錯過那些無法被數據化的徵兆，而危機往往從那裡開始。

庫爾茲的悲劇不在於愚昧，而在於他的智慧恰好成為暴政的工具，當效率被奉為唯一道德，任何手段都可被合理化。這呼應了ＡＩ發展中最棘手的命題，一個足夠聰明的系統，若只被賦予單一目標，它推導出的結論可能與人類價值全然背離。

這種理性崩潰在小說終局達到了頂點。庫爾茲在返航途中臥於船艙病榻，臨終前低聲說出的「恐怖啊！恐怖啊！」是文學史上最具爭議也最深刻的獨白之一。若從當代視角延伸解讀，庫爾茲臨終的驚恐，或許並非單純來自叢林本身，而是來自他猛然察覺，自己一生信奉的文明使命，不過是一套華麗的辭藻系統，而當這套系統被拆解，內部空無一物。這樣的詮釋為ＡＩ時代提出了尖銳的提問：如果未來的人工智慧也能輸出完美的道德演說與情感模擬，我們要如何確保那內部不是另一個庫爾茲式的荒蕪。

今日讀者面對這種恐怖時呈現出新面貌，當人工智慧能模擬情感與創造力，那層名為文明與專業的外殼正被逐步拆解。若判斷力與效率不再專屬於人類，康拉德迫使我們面對的是這種遮蔽消失後的赤裸狀態，思考我們究竟憑什麼確認自身的價值。

我們無法在精確上勝過機器，卻可以在猶豫中證明自己仍是人。這部作品提醒文明並非自動運行的機制，而是一種必須持續自覺的狀態。守住那些不能被最佳化的瞬間，正是《黑暗之心》留給人工智慧時代最尖銳的提醒。

（作者為前科技部代理部長）