隨著網路霸凌問題日益受到關注，美國擁有10億用戶、青少全球最大的通報照片分享社群Instagram今（10）日宣布，將透過人工智慧掃描照片和文字，線上來審查不當內容，霸凌為對抗網路霸凌增添更多利器。找出

《中央社》報導，事件才剛剛上任不久的美國Instagram新任執行長莫瑟里（Adam Mosseri）表示，他們利用人工智慧來偵測霸凌徵兆，青少接著讓管理人員審查進行最後定奪。通報

莫瑟里表示，線上「這項改變將有助我們確認並大幅移除更多霸凌內容。霸凌由於許多曾遭霸凌或目睹相關情事的找出人並未通報，因此這是事件至關重要的下一步。」

《Unwire.pro》報導，美國這個新功能是繼去年Instagram在留言過濾器中使用機器學習AI技術，找出「冒犯言語」以進行封鎖之後，再一次打擊網路霸凌行為。Instagram 表示，這個功能將會在未來幾星期正式推出，時間上剛好配合在英國和美國舉辦的反欺凌宣傳週。

這個功能可以直接掃描照片，例如如果照片中有一人明顯比較處於負面狀態，則很可能是在霸凌事件之中，不過Instagram方面並未有詳細解釋分析的基準，Instagram也承認這個技術雖然可以在大規模應用時節省資源，但面對真實的情況，仍然未能完全掌握，因此最後仍然需要有「真人管理員」去作最後檢查，而非全權讓系統作出決定。

《Wired》報導，該工具除了可以掃描照片外，也包括文字，包括「攻擊一個人的外表或性格，以及對一個人的健康威脅」。在幾個月前Instagram曾經擴展其攻擊性評論過濾器，以自動刪除針對個人用戶的攻擊或威脅的評論。從今天開始，Instagram還會將該功能擴展到直播，自動隱藏不當的留言。

除了過濾器之外，Instagram還推出了一種新的「善良相機」效果，它在自拍模式下會用愛心填滿螢幕，並邀請用戶標記支持的朋友，讓用戶使用愛心圖樣或用各國語言寫下「友善」（kindness）文字，「雖然制止惡霸很重要，但我們還必須做更多的事情來慶祝並激發Instagram上的善意」莫瑟里如此表示。

《GlobeNews》報導，Instagram的發言人David Troya-Alvarez則補充，Instagram已經使用人工智慧的自動化技術，來阻止垃圾郵件攻擊，色情內容和恐怖主義內容。「我們將繼續仔細研究其他使用自動化的方法。」

• 用大數據分析潛藏的情緒：人工智慧可以幫助被霸凌的人嗎？
• 網路霸凌與「匿名發言」制的兩難：助長言語暴力 vs. 守護民主價值

網路霸凌在青少年越來越普遍，臉書也推反霸凌工具

《中央社》報導，根據皮尤研究中心（Pew Research Center）9月公布的調查結果，過半數美國青少年說自己曾淪為線上騷擾或霸凌的受害者，其中最常見的是留言侮辱。研究顯示，59%的美國青少年曾通報線上霸凌，63%的人說，在他們這個年齡層，這是個嚴重問題。

Instagram的母公司臉書（Facebook）先前也同樣推出反騷擾措施，主要是有鑒於調查顯示，遭遇網路霸凌的年輕受害者認為，社群媒體公司在對抗這項問題方面做的不夠多。

莫瑟里說：「線上霸凌的情況很複雜，我們知道自己要做的還很多，以進一步限制霸凌和在Instagram散播良善氛圍。」

《iThome》報導，臉書上週（2日）才剛剛宣布一項新的反霸凌工具，這項新工具會出現在貼文選單中，允許使用者一次隱藏或刪除多個留言，該功能將率先出現在桌面版與Android版的臉書app，未來幾周即會擴張到iOS版上，還更新了上訴功能。

此外，為了那些可能因壓力或其它原因而不自行檢舉霸凌事件的用戶，臉書則允許用戶的親友代為檢舉，臉書將會把檢舉人匿名化，再檢查該貼文是否違反了臉書的《社群守則》（Community Standards）。

現在不管是檢舉裸露照片或仇恨言論，被檢舉人都有上訴的權利，臉書將把此一權利延伸到霸凌或騷擾的內容上，倘若使用者的內容因涉及霸凌或騷擾而遭臉書移除，未來可提出上訴要求臉書重審，同樣地，若所檢舉的霸凌或騷擾內容未能被撤下，檢舉人也能要求重新審核。

臉書已與耶魯大學的情緒智能中心共同創立了「霸凌防制中心」，以協助青少年、家長或教育工作者以正確的心態來面對並處理霸凌問題。

• 用鍵盤摧毀一條人命：「網路霸凌」現象與防制策略建構
• 反網路霸凌就該監控網路言論？這是解決問題還是製造更大的問題

新聞來源：

• Instagram 將應用 AI 分析照片和標題 找出潛在欺凌事件（Unwire.pro）
• Instagram採納人工智慧技術 對抗網路霸凌（中央社）
• 臉書釋出新的反霸凌工具，可一次隱藏或移除多個留言（iThome）
• HEY BULLIES, INSTAGRAM'S NICENESS COPS ARE COMIN' FOR YOU（Wired）
• Instagram to use machine learning to detect signs of bullying in photos（GlobeNews）

核稿編輯：楊士範