第三媒體軟件中心軟件網絡資訊互聯網資訊 → Soul App交出第二季度生態安全治理成績單:識別“假人設”案例超3000起 TTL

Soul App交出第二季度生態安全治理成績單:識別“假人設”案例超3000起

上傳:shapone     來源:信息存儲服務     日期:2024-08-06

[摘要]  
   近日,新型開放式社交平臺Soul App(下簡稱“Soul”)發布《2024年第二季度Soul生態安全報告》。報告顯示,該季度平臺重點動作在詐騙治理、網絡暴力治理、未成年保護、完善社交禮儀體系等方面展開。
 
[正文]    
   近日,新型開放式社交平臺Soul App(下簡稱“Soul”)發布《2024年第二季度Soul生態安全報告》。報告顯示,該季度平臺重點動作在詐騙治理、網絡暴力治理、未成年保護、完善社交禮儀體系等方面展開。

   隨著近年來“清朗”系列專項行動全面深化,Soul始終將企業責任放在首位,積極響應有關部門提出的網絡安全問題及其他潛在風險,堅決遏制不良行為對網絡環境的負面影響,同時關注未成年人用戶網絡安全。

   期間,Soul 持續上線反詐新策略,前置攔截高危風險;建設完善社交禮儀體系,加強對違規內容識別能力;聚焦網絡暴力治理,分辨打擊站內網暴問題;筑牢未成年人保護防線,完善相關保護體系。

Soul App交出第二季度生態安全治理成績單:識別“假人設”案例超3000起

持續上線新策略 賦能反詐工作

   Soul一直致力于采用先進的技術手段,打造了一個全面而高效的反詐風控體系。在本季度,Soul引入了多種創新的風險預警機制,包括"鎖定對話框"、"對話框橫欄強提醒"和"客服電話強提醒"等,根據用戶面臨的風險等級,實施了分級預警策略,并取得了顯著的成效。

   數據顯示,本季度Soul利用其強大的大模型和內容理解能力,成功識別并甄別超過3000個“假軍警”人設案例,同時對超過2萬起網絡乞討行為發出預警。

   此外,Soul還積極與全國各地的執法機構合作,協助調查了37起案件,并向司法機關提供了近千條涉及黑灰產業鏈的線索,為從根本上打擊網絡犯罪活動做出積極貢獻。

Soul App交出第二季度生態安全治理成績單:識別“假人設”案例超3000起

建設完善社交禮儀體系 打造文明友善社交環境

   第二季度中,Soul在違規行為和低質內容的治理、社區的共同建設和治理、群聊管理以及私聊社交生態的構建等方面持續發力,不斷完善社交禮儀體系,致力于打造一個積極健康的社區環境,確保用戶在無壓力的氛圍中享受社交樂趣。

   Soul將群聊治理作為工作重點之一。通過技術手段,Soul在本季度成功識別超過1.5萬條疑似違規的消息流內容,并攔截了2.8萬條違規文字消息;采用人工審核、用戶舉報審核和自動化策略相結合的方式,對7800名違規用戶實施了梯度處罰,以維護平臺的秩序和安全。

   同時,Soul也在積極推動私聊社交生態的建設。其中“消息盒子”和“守護彈窗”功能,每天平均保護超過1萬名用戶免受騷擾,為用戶營造更加健康、友好的社交環境。

   此外,Soul一直在鼓勵和邀請用戶參與到社區的共治共建中來。截至2024年第二季度,已有超過3萬名用戶擔任站內內容推薦官。他們積極參與平臺對爭議性動態的評審工作,幫助篩選和推廣健康優質的內容,為打造一個更加積極、優質的社區環境做出貢獻。

Soul App交出第二季度生態安全治理成績單:識別“假人設”案例超3000起

聚焦網絡暴力治理 讓不文明社交“止于微末”

   2024年6月12日,國家互聯網信息辦公室正式出臺《網絡暴力信息治理規定》,體現了監管機構對網絡暴力零容忍的態度和保護網民權益的堅定意志。Soul 緊跟步伐,不斷優化群聊和公共互動區的反網絡暴力措施,通過報警和自動處罰機制,最大限度地減少用戶遭受的網絡暴力和騷擾,確保網絡空間的清朗與文明。

   在本季度,Soul積極引導用戶在私聊中文明發言,提醒次數超過20萬次,日均發送友善評論提醒6088次。網絡暴力的整治,需要每位網民用戶的身體力行,Soul鼓勵用戶參與到抵制網絡暴力的行動中,共同營造一個文明的社區環境。截至第二季度,已有超過17萬用戶簽署了友善互動聲明,顯示了Soul社區成員對建設積極網絡文化的高度認同。

   此外,Soul的官方"風紀球長"在本季度發布了多條關于生態安全的重要信息,信息觸達63萬用戶,進一步強化了Soul對網絡文明的承諾和對用戶安全的保障。

Soul App交出第二季度生態安全治理成績單:識別“假人設”案例超3000起

筑牢未成年人保護防線 保障青少年網絡安全

   Soul App始終把未成年人網絡安全作為重中之重,不斷完善身份認證、防沉迷、隱私保護等措施,構建了全面的未成年人網絡保護體系。

   在本季度,Soul對未成年用戶識別模型進行了重要迭代,從單一消息識別擴展到復雜場景下的多維度識別,顯著提高了識別潛在未成年用戶的能力。

   目前,Soul平臺不允許18歲以下的用戶注冊賬號。對于可能存在的少數未成年存量用戶,Soul通過實施一系列保護策略、先進的年齡識別技術和有效的舉報系統,迅速識別并引導這些賬號切換到專為青少年設計的"青少年模式"。此外,我們平臺還提供了隱私保護和陌生對話過濾等功能,以最大限度地保障未成年用戶的網絡安全。

   在數據方面,本季度Soul推出了40多項未成年識別和保護策略,這些策略在識別虛假成年人身份方面取得了高達98.0%的貢獻率,進一步證明識別策略的有效性和精確性。

Soul App交出第二季度生態安全治理成績單:識別“假人設”案例超3000起

   維護網絡生態是項長期的社會工程。Soul 利用自身的技術專長和全面的管理策略,全力以赴地參與到這一進程中——通過嚴格查處違規現象、拓展宣傳網絡、豐富積極內容,并與用戶、行業和執法部門等進行廣泛協作,不斷加強平臺的自我監管,力求提高治理效能,助力構建一個健康、有序的網絡環境,推動網絡生態的持續進步。

Soul App交出第二季度生態安全治理成績單:識別“假人設”案例超3000起

   (新聞稿 2024-08-06)

頻道首頁 】【 評論 】 【 打印 】 【 字體:
   上一篇:天貓精靈高端新品「哇哦閨蜜機」發售,隨時隨地開啟影院級視聽體驗
   下一篇:唯快不破!UC網盤暑期開啟全新不限速挑戰
導航:報價 | 大全 | 排行榜 | 產品大全 | 參量 | 訂閱 
 Advertisement
 十大最受關注的新聞
1  亞運一周年|杭州電競如何重塑行業格局與未來趨勢?
2  受邀參加云棲大會,Soul App構建人與AI共存的社交網絡
3  上UC瀏覽器十一快樂供給站,輕松去班味,福利免費領
4  WRCA世界紀錄認證官馬克西姆宣布德施曼GPTfinger技術獲世界紀錄認證
5  從“毛坯打工人”到職場精英,愛企查助你一鍵升級
6  戰略簽約 美云智數助力安徽家電企業數字化轉型升級
7  華碩重炮手主板雙11裝機必選 輕松備戰《龍騰世紀4》
8  定金膨脹 華碩X870E、X870系列主板火熱預售中!
9  三星推出990EVOPlus固態硬盤,支持PCIe4.0性能出色
10  聯想ThinkPad與英特爾攜手亮相2024抖音創作者大會,加速生成式AI創作
 十大熱門驅動/軟件下載
1  [手機驅動]手機usb萬能
2  [熱門常用軟件]QQ2008正式版下載【騰訊QQ2008官方版Beta1】
3  [熱門常用軟件]E話通下載【E話通4.5 正式版】
4  [手機驅動]Samsung三星 手機USB驅動1.0版For Win98SE/ME/...
5  [手機驅動]Microsoft微軟 ActiveSync同步軟件4.5中文版Fo...
6  [攝像頭驅動]萬能攝像頭 FOR Windows
7  [熱門常用軟件]皮皮播放器下載【PPFilm皮皮播放器 2.1.0....
8  [手機驅動]諾基亞 PC套件下載
9  [熱門常用軟件]面對面游戲下載【面對面視頻游戲大廳】
10  [手機驅動]Microsoft微軟 Windows Mobile Device Center ...
 十大最受關注的品牌
1  三星手機(SAMSUNG)
2  諾基亞手機(NOKIA)
3  華碩筆記本(ASUS)
4  摩托羅拉手機(MOTOROLA)
5  英特爾CPU(Intel)
6  華碩主板(ASUS)
7  LG手機(LG)
8  索愛手機(Sony Ericsson)
9  聯想筆記本(lenovo)
10  宏碁筆記本(acer)
 十大熱門常用軟件下載
1  QQ2008正式版下載【騰訊QQ2008官方版Beta1】
2  E話通下載【E話通4.5 正式版】
3  皮皮播放器下載【PPFilm皮皮播放器 2.1.0.2版】
4  面對面游戲下載【面對面視頻游戲大廳】
5  DVD解碼器下載【NVIDIA DVD Decoder 1.02】
6  迅雷5下載【迅雷5.8.1.507官方版】
7  QQ2007 II正式版下載【騰訊QQ2007官方版本】
8  QQ2006正式版下載【騰訊QQ2006官方版本】
9  聯眾世界游戲大廳下載【聯眾世界2.7.0.8官方版】
10  MTV下載器【MTV下載精靈 8.31版】
11  pplive最新版下載【PPLive網絡電視V1.9.35版】
12  迅雷(Thunder)下載【迅雷v5.7.12.493官方版】
13  騰訊QQ2008下載【騰訊QQ官方版2008極速賀歲版KB1】
14  Total Video Converter下載【Total Video Converter v3.1...
15  QQ拼音輸入法下載【騰訊QQQQ拼音輸入法V1.4.1版】
16  皮皮高清影視播放器下載【PIPIPlayer 2.7.0.3版】
17  eMule下載【電驢eMule官方v0.49a正式版】
18  極點五筆輸入法下載【極點五筆6.1標準版】
19  QQ2009正式版下載【騰訊QQ2009 SP4官方版】
20  Vagaa哇嘎畫時代版下載【哇嘎 2.6.5.10】
   >> 查看評論   
 
   >> 查看更多評論   [共有0條評論]
發表評論
        
        
   點評:
   姓名:  
            字數: 0
     
新聞精選
·Arm Tech Symposia 年度技術大會即將啟幕,報
·AI 大模型邁向多模態,助力具身智能與機器人
·RTX 加速AI 創作,開啟AI 商業設計速度革命
·平安產險持續開展百場直播助農行動,助力優質
·高通史詩級驍龍上線,安蒙說時代變了,AI Fir
·補齊拼圖后,高通終于猛推“三端歸一”
  ·自研Oryon CPU登陸手機、汽車丨驍龍8至尊版、
·平安產險:一家養殖戶的翻身仗
·平安產險浙江分公司開展公益毅行活動
·中國平安蟬聯2024“金融業先鋒30”第一名 獲
·平安產險:從“靠天吃飯”到“知天而作”
·科大訊飛AI文娛論壇,為文娛產業注入新活力