華日：Instagram算法向青少年推送有害視訊(圖)
社交媒體（圖片來源：Matt Cardy/Getty Images)
【看中國2023年11月29日訊】《華爾街日報》最近的測試顯示，Instagram的Reels演算法對年輕體操運動員、啦啦隊隊員以及青少年帳戶提供大量色情內容，包括兒童的不當鏡頭，公開的成人色情視頻，以及一些美國最大品牌的廣告。
兒童保護組織加拿大兒童保護中心也進行了類似的測試，得到了類似的結果。
Instagram的Reels視訊服務旨在向用戶展示，系統認為他們感興趣的主題的短視訊串流，例如體育、時尚或幽默。
《華爾街日報》記者以成年人的身份在新購買的設備上設置了Instagram測試帳戶，並跟蹤了體操運動員、拉拉隊隊員和其他年輕影響者。測試顯示，僅關注年輕女孩就會觸發Instagram開始提供，來自宣傳成人性內容的帳戶的視頻，以及主要消費品牌的廣告，例如沃爾瑪的一個廣告，該廣告在一段女性暴露胯部的視頻後投放。
擁有Facebook和Instagram的Meta表示，《華爾街日報》的測試產生了一種人造的體驗，並不代表數十億用戶所看到的。該公司拒絕評論為什麼這些算法會編譯顯示兒童、性和廣告的單獨視訊串流。但一位發言人表示，該公司於10月推出了新的品牌安全工具，使廣告商可以更好地控制其廣告出現的位置，並且Instagram要刪除或每月降低400萬個涉嫌違反其標準的視頻。
《華爾街日報》6月報導稱，Meta的算法將大量對戀童癖內容感興趣的用戶社群聯繫起來。Meta發言人表示，該文發表後成立了特別工作組，擴大了用於檢測行為可疑用戶的自動化系統，每月關閉數以萬計的此類帳戶。該公司還加入了一個新的行業聯盟，以分享潛在的兒童剝削跡象。
在測試中，一些公司廣告旁出現了不當內容，公司包括迪士尼、Match、沃爾瑪和Bumble等。《華爾街日報》聯繫了這些公司後，一些公司表示Meta告訴他們正在調查並將支付公司的品牌安全審計費用。
Match於10月開始逐漸停止了所有Reels廣告，並停止在Meta的任何平台上推廣其主要品牌。Match發言人薩科(Justine Sacco)表示：「我們不想付費給Meta，來向掠奪者推銷我們的品牌，也不想將我們的廣告放置在此類內容附近。」
Bumble發言人麥凱（Robbie McKay）表示，該公司「絕不會故意在不當內容旁邊做廣告」，並且正在暫停在Meta平台上投放廣告。
迪士尼品牌管理副總裁Charlie Cain表示，該公司對可接受的廣告社群媒體內容，設定了嚴格限制，並敦促Meta和其他平臺改善品牌安全功能。該公司發言人表示，自從《華爾街日報》向迪士尼提交調查結果以來，該公司一直致力於在「Meta最高層」解決這一問題。
為了跟TikTok競爭，Meta創建了Reels。TikTok是北京字節跳動旗下的影片分享平臺。這兩種產品都會向用戶不間斷地播放其他人發布的視頻，並在其中插入廣告賺錢。兩家公司的算法都會根據用戶過去的觀看行為，向用戶顯示平臺計算出的最有可能保持參與度的影片。
Meta現任和前任員工在採訪中表示，Instagram算法傾向於聚合整個平台上的兒童色情內容，這在內部是一個問題。他們表示，一旦Instagram將用戶歸類為對任何特定主題感興趣，其推薦系統就會經過訓練，並向他們推送更多相關內容。
他們表示，為了防止系統向有興趣的用戶推送有害內容，需要對推薦算法進行重大改變。《華爾街日報》查閱的公司文件顯示，該公司的安全人員被廣泛禁止對平臺進行任何，可能減少每日活躍用戶數量的更改。
據前員工稱，甚至在2020年推出Reels之前，Meta員工就明白該產品會帶來安全問題。
據兩名前員工稱，在推出Reels前不久進行的一項分析中，Meta的安全人員指出了該產品將兒童影片和不當內容連結在一起的風險。Meta的前青年政策負責人Vaishnavi J將安全審查的建議描述為：「要麼我們加強內容檢測能力，要麼我們不推薦任何次要內容」，即任何兒童視頻。
當時，TikTok發展迅速，吸引了Instagram年輕用戶和針對他們的廣告商。因此，Meta當時沒有採納任何一項安全分析建議。
社群媒體平臺和數位廣告公司經常將不恰當的廣告投放描述為不幸的錯誤。但《華爾街日報》和加拿大兒童保護中心運行的測試帳戶表明，Meta的平臺似乎針對對性感興趣的用戶進行一些數位行銷。
Meta尚未提供解決該問題的時間表，也沒有解釋未來將如何限制推廣涉及兒童的不當內容。
加拿大兒童保護中心通過測試得出結論，Instagram定期提供穿著衣服的兒童的影片和照片，這些兒童也出現在國家失蹤和受虐兒童中心的數位資料庫中，該資料庫中的圖像和影片被確認為虐待兒童的性材料。該組織表示，虐待兒童者經常使用女孩的圖像在暗網論壇上宣傳非法內容並出售。