近日，新型開放式社交平臺Soul App（下簡稱“Soul”）發布《2024年第二季度Soul生態安全報告》。報告顯示，該季度平臺重點動作在詐騙治理、網絡暴力治理、未成年保護、完善社交禮儀體系等方面展開。
隨著近年來“清朗”系列專項行動全面深化，Soul始終將企業責任放在首位，積極響應有關部門提出的網絡安全問題及其他潛在風險，堅決遏制不良行為對網絡環境的負面影響，同時關注未成年人用戶網絡安全。
期間，Soul 持續上線反詐新策略，前置攔截高危風險；建設完善社交禮儀體系，加強對違規內容識別能力；聚焦網絡暴力治理，分辨打擊站內網暴問題；筑牢未成年人保護防線，完善相關保護體系。
持續上線新策略 賦能反詐工作
Soul一直致力于采用先進的技術手段，打造了一個全面而高效的反詐風控體系。在本季度，Soul引入了多種創新的風險預警機制，包括"鎖定對話框"、"對話框橫欄強提醒"和"客服電話強提醒"等，根據用戶面臨的風險等級，實施了分級預警策略，并取得了顯著的成效。
數據顯示，本季度Soul利用其強大的大模型和內容理解能力，成功識別并甄別超過3000個“假軍警”人設案例，同時對超過2萬起網絡乞討行為發出預警。
此外，Soul還積極與全國各地的執法機構合作，協助調查了37起案件，并向司法機關提供了近千條涉及黑灰產業鏈的線索，為從根本上打擊網絡犯罪活動做出積極貢獻。
建設完善社交禮儀體系 打造文明友善社交環境
第二季度中，Soul在違規行為和低質內容的治理、社區的共同建設和治理、群聊管理以及私聊社交生態的構建等方面持續發力，不斷完善社交禮儀體系，致力于打造一個積極健康的社區環境，確保用戶在無壓力的氛圍中享受社交樂趣。
Soul將群聊治理作為工作重點之一。通過技術手段，Soul在本季度成功識別超過1.5萬條疑似違規的消息流內容，并攔截了2.8萬條違規文字消息；采用人工審核、用戶舉報審核和自動化策略相結合的方式，對7800名違規用戶實施了梯度處罰，以維護平臺的秩序和安全。
同時，Soul也在積極推動私聊社交生態的建設。其中“消息盒子”和“守護彈窗”功能，每天平均保護超過1萬名用戶免受騷擾，為用戶營造更加健康、友好的社交環境。
此外，Soul一直在鼓勵和邀請用戶參與到社區的共治共建中來。截至2024年第二季度，已有超過3萬名用戶擔任站內內容推薦官。他們積極參與平臺對爭議性動態的評審工作，幫助篩選和推廣健康優質的內容，為打造一個更加積極、優質的社區環境做出貢獻。
聚焦網絡暴力治理 讓不文明社交“止于微末”
2024年6月12日，國家互聯網信息辦公室正式出臺《網絡暴力信息治理規定》，體現了監管機構對網絡暴力零容忍的態度和保護網民權益的堅定意志。Soul 緊跟步伐，不斷優化群聊和公共互動區的反網絡暴力措施，通過報警和自動處罰機制，最大限度地減少用戶遭受的網絡暴力和騷擾，確保網絡空間的清朗與文明。
在本季度，Soul積極引導用戶在私聊中文明發言，提醒次數超過20萬次，日均發送友善評論提醒6088次。網絡暴力的整治，需要每位網民用戶的身體力行，Soul鼓勵用戶參與到抵制網絡暴力的行動中，共同營造一個文明的社區環境。截至第二季度，已有超過17萬用戶簽署了友善互動聲明，顯示了Soul社區成員對建設積極網絡文化的高度認同。
此外，Soul的官方"風紀球長"在本季度發布了多條關于生態安全的重要信息，信息觸達63萬用戶，進一步強化了Soul對網絡文明的承諾和對用戶安全的保障。
筑牢未成年人保護防線 保障青少年網絡安全
Soul App始終把未成年人網絡安全作為重中之重，不斷完善身份認證、防沉迷、隱私保護等措施，構建了全面的未成年人網絡保護體系。
在本季度，Soul對未成年用戶識別模型進行了重要迭代，從單一消息識別擴展到復雜場景下的多維度識別，顯著提高了識別潛在未成年用戶的能力。
目前，Soul平臺不允許18歲以下的用戶注冊賬號。對于可能存在的少數未成年存量用戶，Soul通過實施一系列保護策略、先進的年齡識別技術和有效的舉報系統，迅速識別并引導這些賬號切換到專為青少年設計的"青少年模式"。此外，我們平臺還提供了隱私保護和陌生對話過濾等功能，以最大限度地保障未成年用戶的網絡安全。
在數據方面，本季度Soul推出了40多項未成年識別和保護策略，這些策略在識別虛假成年人身份方面取得了高達98.0%的貢獻率，進一步證明識別策略的有效性和精確性。
維護網絡生態是項長期的社會工程。Soul 利用自身的技術專長和全面的管理策略，全力以赴地參與到這一進程中——通過嚴格查處違規現象、拓展宣傳網絡、豐富積極內容，并與用戶、行業和執法部門等進行廣泛協作，不斷加強平臺的自我監管，力求提高治理效能，助力構建一個健康、有序的網絡環境，推動網絡生態的持續進步。
(新聞稿 2024-08-06)
