用技術手段識別網絡種族主義言論
來源:中國社會科學報 更新時間:2022-02-25

本報綜合外媒報道 一項新研究顯示,社交媒體平臺應憑借其擁有的資源和影響力,有效識別網絡中的種族主義言論。

2月17日,美國密歇根大學官網發文介紹了該校信息學院副教授利比·亨普希爾(Libby Hemphill)參與的一項研究。該研究考察了白人至上種族主義言論與普通言論之間的區別、社交媒體識別白人至上言論時的難點、白人至上主義者是否以及怎樣躲避平臺檢測,并就如何改善針對種族主義言論的自動化識別方法提供建議。

研究人員使用機器學習算法、動態主題建模等方法,分析主流社交媒體平臺和極端主義社交媒體平臺的數據,發現白人至上言論的幾個特征。第一,頻繁使用顏色名詞(如“白色”)指代不同膚色的種族/族裔人口。第二,將“白色”與其他不會被檢測系統標記出來的詞語(如“權力”)一起使用。第三,對不文明語言的使用少于社交媒體常見水平,以便躲避基于“冒犯性語言”的檢測機制。第四,在主流平臺和極端主義平臺上表現一致。第五,發布的消息和怨言在多年里始終如一。第六,以種族詞匯而非宗教詞匯描述猶太人。

研究人員表示,鑒于上述特征以及越發先進的計算機技術、日益豐富的數據,白人至上言論是可識別的。但是,社交媒體平臺在這方面仍存在很大缺陷,且難以區分用語文明的種族主義言論與用語不文明但危害性較低的言論。研究人員為平臺提供了幾點建議:執行自己的規則;使用極端主義網站的數據創建檢測模型;尋找特定的語言標志;在識別仇恨言論時,減少對不文明語言的關注;訓練仲裁者和算法,使其認識到白人至上言論是危險的。(劉暢/編譯)



铁牛视频app下载苹果-铁牛视频app下载地址-铁牛视频app破解版ios