鑒美少年迷戀AI聊天致死 綠委籲兒少保護納人工智慧法核心

「人工智慧基本法草案」預計7月將再排審，民進黨立委張雅琳、林宜瑾今與民團開記者會，強調AI技術對未成年人有潛在危害，草案應將兒少保護納入核心架構，明定遵循兒童最佳利益原則，要求業者落實風險評估，避免倉促立法，導致無可挽回的狀況。

張雅琳表示，去年美國佛州一名母親控告AI公司Character.AI，指控該平台旗下聊天機器人引誘其14歲兒子賽澤（Sewell Setzer）陷入「情感與性虐關係」．最終導致賽澤自殺身亡，這起震驚全球案件，凸顯出AI技術對未成年人的潛在危害。

張雅琳表示，目前條文對於未成年人的風險評估與防護機制尚不完備，應以「兒少風險分級」為核心，建構完整的保護機制與配套措施，避免發生美國兒少使用AI造成的悲劇在台灣重演，AI產品若涉及與未成年人互動、可能引發心理操控或資訊誤導，便屬高度風險應用，政府應先行進行「兒少影響性評估」並設立分級標準，主管機關應建立「適齡使用指引」與「安全認證機制」，將「兒少最佳利益原則」明訂於法。

林宜瑾表示，人工智慧應及早落實各年齡層的教育，不管是使用教育、倫理教育等，有效讓未成年認識到人工智慧該如何被正確使用，是件相當重要的事情，不只數發部有責任，相關教育單位都應該要有基本知能，她提出的「AI基本法」草案版本，除了求各級單位要有人工智慧教育，「倫理教育」更不可或缺；政府應建立人工智慧濫用與危害的即時偵測、緊急應變與緊急處分的能力，如果人工智慧的使用可能致生兒少危害，應有相當機制阻止其發生。

台灣展翅協會秘書長陳逸玲表示，人工智慧雖帶來學習與創新機會，卻也衍生出深偽影像、誘拐聊天機器人、AI生成兒少性影像等風險，甚至在校園中出現兒少間以AI進行數位加害行為，呼籲應將兒少保護納入核心架構，明定遵循兒童最佳利益原則，要求業者落實風險評估、年齡適切及安全設計與分齡使用規範，並協助兒少辨識虛實、理解風險。

台灣放伴教育協會理事長謝忠瑋指出，學生早已仰賴生成式AI交作業，卻未曾接受資訊判讀與負責任使用的訓練；老師在現場看見這些變化，卻缺乏明確教學指引，AI教育不應只停留在操作層次，應將數位公民素養納入核心精神，並明確由教育體系負起教學責任，近年歐盟與OECD等國際組織，已將AI素養納入教育政策討論，台灣也應及早建立相關指引與規範。