AI闖禍！蜘蛛人尿尿在冰雪奇緣艾莎身上 YouTube Kids有脫衣舞酒吧不雅片

2017年，《紐約時報》的一篇頭版文章詳細說明了YouTube Kids上令人不安的趨勢。那是廣受歡迎的影片分享服務的兒童版，每個星期的點閱次數超過一千一百萬次，絕大部分來自於幼兒。

影片隱藏詭異不當短片

因為家長相信，平臺提供的影片適合兒童觀看，能夠讓孩子轉移注意力，並且得到娛樂。但是在卡通與教育影片之下，隱藏了數量驚人的詭異且不當的短片，並且以適合闔家觀賞的內容，加以包裝。

那些影片通常是走紅卡通的廉價未授權仿冒品、備受喜愛角色的拙劣仿製品，做出了極度偏離期待的行動。《紐約時報》報導在其中一支影片中，以大受兒童喜愛的《汪汪隊立大功》角色的「粗俗」版本為噱頭，那些角色會在車子撞上燈柱並且著火時尖叫。其他的影片還包括「黏土蜘蛛人尿尿在《冰雪奇緣》的艾莎身上，以及小尼克兒童頻道中的角色出現在脫衣舞酒吧中。」

上一章提到，這些惡魔般的選擇壓力會鼓勵我們盡力完成狹隘的目標，並且以非常特定的方式進行評估。在這些惡魔的影響之下，我們採取的選擇與策略可能提高短期的生存機會，但同時也會以出乎意料的方式傷害環境。

複雜的演算法推薦

要瞭解這些目標狹隘的最佳化策略是怎麼嚴重傷害YouTube Kids，先得瞭解一下應用程式（App）強大的演算法。絕大部分的觀眾在使用YouTube時，一開始是搜尋特定的上傳者或是影片。但是在看完了想看的內容之後，YouTube希望你能夠留下來看更多影片。為了達成這個目的，網站利用了複雜的推薦引擎。

人類在推薦時，根據的是內容品質和原創性，但是YouTube的演算法則多少有點不受內容所限。YouTube是納入了其他許多因素，例如影片的標題，或是今天流行的話題，甚至是使用者以前看過哪些影片，就此來決定哪些影片要推薦上來，哪些要隱藏起來。

仿冒影片正中演算法紅心

也因此，許多專業的YouTube影片製作者，覺得被迫要為演算法飄忽的好惡來製作影片，畢竟演算法握有生殺大權，決定了影片是否能吸引到夠多的點閱，以便賺取那微薄的廣告收入。換句話說，觀看YouTube Kids的兒童並不是那些恐怖影片的目標受眾，演算法才是。

觀看YouTube Kids的兒童，可能一開始看的是合法的《汪汪隊立大功》，但是接下來，應用程式可能會開始給兒童觀看那些在演算法看來是相似的內容：表面上看起來和最初的影片相似，但實質上是不同的。

最後，兒童看到的可能是廉價的仿冒影片，其中假造的《汪汪隊立大功》角色遭受到嚴重車禍。與成人及青少年不同，幼兒可能無法區別這兩類影片的差異。也由於正牌影片和仿冒影片都正中演算法的紅心，YouTube Kids也無法區分這兩類影片。

所以想像一下，現在是2017年，你是上傳了影片到YouTube Kids的創作者，想要盡可能滿足演算法的需求，以便把獲利提到最高。在這種情況下，比較合理的方式是搞出高利潤、低成本的垃圾影片，而不是投入許多心力製作出原創影片。

AI軟體生成大量影片

事實上，一如作家布萊德爾（James Bridle）於2017年在網路平臺上發表過的文章所說，顯然許多造成問題的影片，根本是由AI軟體做出來的，生成方式是根據提示，產生了大量影片，其中某些便剛好有超出法律規範的內容。那些是AI軟體為了AI演算法所打造出來的內容，受到池魚之殃的是不幸看到影片而遭受心理創傷的兒童。

（本文出自《達爾文陷阱》作者：羅恩 譯者：鄧子衿)