聽新聞
test
0:00 /
0:00
人工智慧學壞了？英國官員：AI聊天機器人可能帶來風險
英國官員今天對各個組織示警說，愈來愈多研究顯示，人工智慧（AI）聊天機器人用於業務上可能會被誘騙去從事有害的任務。
路透社報導，英國「國家網路安全中心」（NCSC）在2篇預定今天發布的部落格文章中指出，專家還沒能理解以及因應與大型語言模型（LLM）演算法有關的潛在安全問題，這種模型能產生類似人類的互動。
這種AI工具早期被作為聊天機器人，一些人甚至認為，聊天機器人未來不只會淘汰網路搜尋，也會取代客服和攬客電話等。
「國家網路安全中心」表示，聊天機器人可能存在風險，尤其是如果這種模型被插入重要機構的業務流程時。學術界與研究人員一再發現，如果輸入惡意指令或欺騙它繞過內建的防護機制，就可以擾亂聊天機器人。
例如，若駭客以精心設計的方式一步步下達指令，銀行的聊天機器人可能被騙去進行未獲授權的交易。
延伸閱讀
相關新聞
贊助廣告
商品推薦
udn討論區
共 0 則留言
規範
- 張貼文章或下標籤，不得有違法或侵害他人權益之言論，違者應自負法律責任。
- 對於明知不實或過度情緒謾罵之言論，經網友檢舉或本網站發現，聯合新聞網有權逕予刪除文章、停權或解除會員資格。不同意上述規範者，請勿張貼文章。
- 對於無意義、與本文無關、明知不實、謾罵之標籤，聯合新聞網有權逕予刪除標籤、停權或解除會員資格。不同意上述規範者，請勿下標籤。
- 凡「暱稱」涉及謾罵、髒話穢言、侵害他人權利，聯合新聞網有權逕予刪除發言文章、停權或解除會員資格。不同意上述規範者，請勿張貼文章。
FB留言