加拿大擬禁16歲以下使用社群媒體、納管AI聊天機器人

加拿大政府今天推出《安全社群媒體法案》（Safe Social MediaAct），大幅收緊兒童及青少年使用網路平台的規範。原則上規定16歲以下青少年禁止擁有社群媒體帳號，並將AI聊天機器人納入監管範圍。

根據加拿大廣播公司（CBC）報導，新法案將監管臉書（Facebook）和X等傳統社群媒體服務、直播服務以及使用者可自行上傳內容的成人網站。除情色網站外，若平台能符合政府制訂的兒童安全標準，經審查後可享豁免資格，有機會讓16歲以下青少年繼續使用服務。

加拿大將成立獨立的「數位安全監管機構」（Digital Safety Commission），負責制定標準並審核豁免申請。

由於新監管機構預計約18個月才能完成設立，在此之前，受規範的平台很可能先面臨16歲以下用戶禁令，無法立即申請豁免。

根據法案內容，不遵守規定的平台將面臨嚴厲處罰，最高為全球營收的3%或1000萬加元（約新台幣2.27億元），以較高者為準。對大型科技企業而言，這可能代表數億甚至數十億美元的潛在罰款。

除了社群媒體外，法案也將AI聊天機器人納入規範。

雖然AI聊天機器人不受16歲年齡限制約束，但諸如ChatGPT、其他對話式人工智慧服務和AI虛擬助理平台等企業，都需承擔新的法律責任。

AI服務業者必須要設立危機通報和應對機制、要降低有害內容風險；若有用戶表達自殺意圖或傷害他人計畫，平台必須啟動危機介入程序；再者，AI聊天機器人不得鼓勵犯罪、教唆暴力或指導用戶傷害自己或他人。

今年2月，卑詩省坦布勒嶺（Tumbler Ridge）發生大規模槍擊案，警方調查發現18歲嫌犯曾於案發數月前與ChatGPT討論槍枝暴力議題，引發外界對AI安全性的關注。

值得注意的是，網路搜尋引擎和熱門遊戲平台Roblox未在此法案規範之列。

彭博社指出，新法案可能進一步加劇加拿大政府與美國科技巨頭之間的緊張關係，這些公司先前已對加拿大有關新聞內容和串流媒體服務的規定表達不滿，甚至Meta公司旗下的臉書和Instagram平台從2023年起就停止提供加拿大新聞內容。

美國貿易代表辦公室已將加拿大的數位法律列為貿易壁壘，表明這些法律可能成為即將進行的「美墨加協定」（USMCA）審查的爭議焦點。

澳洲已立法禁止16歲以下兒童使用社群媒體，以應對心理健康問題、網路霸凌和接觸有害內容等議題。