整治網(wǎng)暴等網(wǎng)絡(luò)不良行為亂象，需要行政監(jiān)管、互聯(lián)網(wǎng)平臺(tái)、網(wǎng)民等多方主體共同參與。我們應(yīng)該合力凈化網(wǎng)絡(luò)生態(tài)，營(yíng)造積極健康、清朗有序的網(wǎng)絡(luò)環(huán)境。

　　陳磊 首都經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院訴訟與司法制度研究中心主任

　　這幾天，網(wǎng)名為“春游哥哥”的汶川地震幸存女孩遭遇網(wǎng)絡(luò)暴力一事持續(xù)發(fā)酵。她公開的私信記錄顯示，部分網(wǎng)友對(duì)其進(jìn)行了言語(yǔ)侮辱及惡意騷擾。

　　近年來(lái)，網(wǎng)絡(luò)在人們的生活中發(fā)揮著越來(lái)越大的作用。在給人們帶來(lái)便利的同時(shí)，網(wǎng)絡(luò)也帶來(lái)了網(wǎng)絡(luò)暴力這一讓無(wú)數(shù)人聞之色變的“洪水猛獸”。隨著網(wǎng)絡(luò)暴力行為危害的加大，治理網(wǎng)絡(luò)暴力愈發(fā)受到人們的關(guān)注。

　　3月28日上午，國(guó)務(wù)院新聞辦公室舉行新聞發(fā)布會(huì)。會(huì)上，國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人介紹了2023年“清朗”系列專項(xiàng)行動(dòng)的相關(guān)情況，其中包括“清朗·網(wǎng)絡(luò)戾氣整治”這一與網(wǎng)絡(luò)暴力治理有關(guān)的專項(xiàng)行動(dòng)。

　　網(wǎng)絡(luò)暴力的危害究竟有多大？如何更好地認(rèn)定網(wǎng)絡(luò)暴力行為？應(yīng)該采取何種措施治理網(wǎng)絡(luò)暴力？記者針對(duì)上述問(wèn)題采訪了有關(guān)專家。

　　網(wǎng)絡(luò)暴力危害巨大

　　“一般來(lái)說(shuō)，個(gè)人或群體有意識(shí)地通過(guò)網(wǎng)絡(luò)傳播攻擊性言論，以針對(duì)某一明確的個(gè)人或團(tuán)體反復(fù)、持續(xù)實(shí)施侵害的行為，就是網(wǎng)絡(luò)暴力行為。”首都經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院訴訟與司法制度研究中心主任陳磊指出，“網(wǎng)絡(luò)暴力的侵害形式主要包括威脅、騷擾、侮辱和社會(huì)性孤立等，行為通常伴有侵犯他人名譽(yù)、披露他人隱私等。”

　　類似汶川地震幸存女孩遭遇的網(wǎng)絡(luò)暴力事件并非孤例。近年來(lái)，劉學(xué)州事件、粉發(fā)女孩事件等均涉及網(wǎng)絡(luò)暴力。這些事件造成了極其不良的后果，引起了社會(huì)的廣泛關(guān)注。

　　其中的部分網(wǎng)暴受害者或陷入長(zhǎng)期的消沉與自我懷疑，或成為抑郁癥等嚴(yán)重心理疾病的受害者，有些甚至選擇了結(jié)束自己的生命。

　　面對(duì)網(wǎng)絡(luò)暴力帶來(lái)的危害，科學(xué)認(rèn)定、有效治理網(wǎng)絡(luò)暴力勢(shì)在必行。

　　在日前舉行的新聞發(fā)布會(huì)上，國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，近年來(lái)，國(guó)家網(wǎng)信辦持續(xù)開展“清朗”系列專項(xiàng)行動(dòng)，重拳整治包括網(wǎng)絡(luò)暴力在內(nèi)的網(wǎng)絡(luò)生態(tài)突出問(wèn)題，壓緊壓實(shí)網(wǎng)站平臺(tái)主體責(zé)任，積極回應(yīng)人民群眾關(guān)心關(guān)切，有力維護(hù)了網(wǎng)民的合法權(quán)益。

　　其中，“清朗·網(wǎng)絡(luò)戾氣整治”專項(xiàng)行動(dòng)主要從嚴(yán)管評(píng)論區(qū)信息內(nèi)容，督促網(wǎng)站平臺(tái)加強(qiáng)評(píng)論區(qū)管理等方面發(fā)力，努力鏟除網(wǎng)絡(luò)暴力等網(wǎng)絡(luò)生態(tài)突出問(wèn)題的滋生土壤。據(jù)了解，2022年開展的13項(xiàng)“清朗”系列專項(xiàng)行動(dòng)，累計(jì)清理違法和不良信息5430余萬(wàn)條，處置賬號(hào)680余萬(wàn)個(gè)，下架App、小程序2890余款，解散關(guān)閉群組、貼吧等26萬(wàn)個(gè)，關(guān)閉網(wǎng)站超過(guò)7300家，在治理網(wǎng)絡(luò)暴力，盡可能地減輕甚至避免網(wǎng)絡(luò)暴力帶來(lái)的危害上取得了一定的成效。

　　人工智能助力認(rèn)定網(wǎng)絡(luò)暴力

　　要治理網(wǎng)絡(luò)暴力，首先要準(zhǔn)確、高效地認(rèn)定網(wǎng)絡(luò)暴力行為。

　　相對(duì)于傳統(tǒng)語(yǔ)言暴力行為，網(wǎng)絡(luò)暴力行為因?yàn)椴捎昧颂摂M化、模糊化的互聯(lián)網(wǎng)語(yǔ)言而更加難以識(shí)別，其與正常的調(diào)侃、玩笑、戲謔等行為較難區(qū)分。與此同時(shí)，由于網(wǎng)絡(luò)傳播的特點(diǎn)，網(wǎng)絡(luò)暴力的傳播速度遠(yuǎn)遠(yuǎn)快于傳統(tǒng)語(yǔ)言暴力，其傳播范圍也遠(yuǎn)遠(yuǎn)廣于傳統(tǒng)語(yǔ)言暴力。因此，僅僅采取傳統(tǒng)的人工識(shí)別方式認(rèn)定網(wǎng)絡(luò)暴力，不僅費(fèi)時(shí)費(fèi)力、效率低下，而且容易因?yàn)樽R(shí)別者的主觀原因出現(xiàn)誤判甚至錯(cuò)判，總體效果不夠令人滿意。

　　“社交平臺(tái)、短視頻平臺(tái)等公共網(wǎng)絡(luò)空間，已經(jīng)成為網(wǎng)絡(luò)暴力行為的高發(fā)地。互聯(lián)網(wǎng)因其虛擬化、零成本、低代價(jià)等特點(diǎn)，對(duì)網(wǎng)絡(luò)暴力的產(chǎn)生起到了巨大的推波助瀾作用，也給網(wǎng)絡(luò)暴力的認(rèn)定帶來(lái)了極大的困難。”北京理工大學(xué)網(wǎng)絡(luò)與安全研究所所長(zhǎng)閆懷志表示，“在認(rèn)定網(wǎng)絡(luò)暴力行為上，人工智能技術(shù)可以發(fā)揮很大作用。”

　　據(jù)介紹，采用人工智能識(shí)別技術(shù)，能夠有效地在公共網(wǎng)絡(luò)空間中將各種惡意語(yǔ)言、圖片、視頻等網(wǎng)絡(luò)暴力“源頭”識(shí)別出來(lái)。這種識(shí)別基于人工智能技術(shù)的先進(jìn)算法，相比于人工識(shí)別，具有更加高效、準(zhǔn)確、客觀等優(yōu)勢(shì)。

　　“人工智能技術(shù)對(duì)于遏制網(wǎng)暴的最大作用，在于其強(qiáng)大的自然語(yǔ)言理解能力。”閆懷志指出。針對(duì)評(píng)論、彈幕等典型的非結(jié)構(gòu)化語(yǔ)言數(shù)據(jù)，人工智能可以利用情緒解析、文本觀點(diǎn)提取、詞法分析、文本相似度識(shí)別等技術(shù)，實(shí)現(xiàn)對(duì)網(wǎng)暴的全量、多維度、快速分析，并進(jìn)一步在此基礎(chǔ)上，弄清楚相關(guān)受眾在看待相關(guān)話題時(shí)的想法、情緒與核心觀點(diǎn)，從而阻斷網(wǎng)暴傳播鏈的環(huán)節(jié)，最大限度地降低網(wǎng)暴帶來(lái)的負(fù)面影響和危害。

　　“必須指出的是，人工智能識(shí)別技術(shù)不能完全代替人工識(shí)別，應(yīng)該把二者結(jié)合起來(lái)，發(fā)揮各自的優(yōu)勢(shì)，確保網(wǎng)絡(luò)暴力行為的認(rèn)定準(zhǔn)確可靠。”閆懷志說(shuō)。如果僅僅依靠人工智能識(shí)別技術(shù)，可能會(huì)因?yàn)槠錂C(jī)械性、固定性等缺陷，造成一些令人啼笑皆非的認(rèn)定錯(cuò)誤，陷入過(guò)猶不及的境地。

　　雙管齊下治理網(wǎng)絡(luò)暴力

　　有效制止網(wǎng)絡(luò)暴力行為，除了技術(shù)手段，還需要法律的參與。

　　網(wǎng)絡(luò)平臺(tái)可普及評(píng)論智能過(guò)濾、評(píng)論或私信動(dòng)態(tài)關(guān)閉、識(shí)別屏蔽惡意用戶等功能，有效遏制網(wǎng)絡(luò)暴力問(wèn)題。同時(shí)，還可以利用人工智能識(shí)別技術(shù)，在對(duì)評(píng)論進(jìn)行大數(shù)據(jù)模型匹配和校驗(yàn)后，向違規(guī)發(fā)言者做出言論提醒，及時(shí)制止網(wǎng)絡(luò)暴力行為。

　　記者了解到，針對(duì)網(wǎng)暴治理，國(guó)內(nèi)多個(gè)網(wǎng)絡(luò)平臺(tái)正在展開行動(dòng)。

　　北京愛(ài)奇藝科技有限公司有關(guān)人士向記者介紹，他們上線了私信防范網(wǎng)暴的功能，可以便利地使用一鍵舉報(bào)網(wǎng)絡(luò)暴力行為、關(guān)閉消息功能，以減少網(wǎng)絡(luò)暴力內(nèi)容對(duì)用戶造成的負(fù)面影響。該公司還積極引導(dǎo)用戶發(fā)布正向內(nèi)容，對(duì)存在潛在網(wǎng)絡(luò)暴力內(nèi)容的信息做出提示，引導(dǎo)發(fā)布者進(jìn)行善意的表達(dá)，助力營(yíng)造健康的網(wǎng)絡(luò)環(huán)境。

　　“網(wǎng)絡(luò)暴力行為實(shí)施者依其行為的惡劣程度，可能要承擔(dān)民事、行政和刑事責(zé)任。”陳磊指出。根據(jù)我國(guó)民法典的相關(guān)規(guī)定，網(wǎng)絡(luò)暴力實(shí)施者造成他人損害的，應(yīng)承擔(dān)侵權(quán)責(zé)任；如果其行為較為惡劣或者情節(jié)較為嚴(yán)重，則需要承擔(dān)相應(yīng)的行政責(zé)任；如果其以肉體暴力或者其他極端方法進(jìn)行網(wǎng)絡(luò)暴力，情節(jié)特別嚴(yán)重的，就需要承擔(dān)相應(yīng)的刑事責(zé)任。

　　陳磊進(jìn)一步指出，任何個(gè)人和組織使用網(wǎng)絡(luò)都應(yīng)當(dāng)遵守憲法法律，遵循公共秩序和社會(huì)公德，不得利用網(wǎng)絡(luò)從事侵害他人合法權(quán)益等活動(dòng)。整治網(wǎng)絡(luò)暴力等網(wǎng)絡(luò)不良行為亂象，需要行政監(jiān)管、互聯(lián)網(wǎng)平臺(tái)、網(wǎng)民等多方主體共同參與。我們應(yīng)該合力凈化網(wǎng)絡(luò)生態(tài)，營(yíng)造積極健康、清朗有序的網(wǎng)絡(luò)環(huán)境。（實(shí)習(xí)記者 李詔宇）