隨著移動互聯網的發展,網絡社交成為青少年生活中的重要一環。據《2020年全國未成年人互聯網使用情況研究報告》,超過一半的未成年人使用互聯網聊天,逛社交網站、逛微博、逛論壇的未成年人也占據相當大的比例。
圖片來源:《2020年全國未成年人互聯網使用情況研究報告》
社交軟件、即時通訊工具為我們的生活提供了巨大便利,然而一些社交平臺的“不設防”也使得未成年人沉迷網絡、接觸有害信息的幾率大大增加。有的社交平臺打著即時通訊的旗號大肆構建內容平臺,但其系統缺乏相對應的防沉迷和審查機制,導致大量低俗、獵奇內容在平臺中隱蔽傳播。
目前,很多網絡游戲、短視頻、直播平臺都施行了防沉迷舉措,但針對網絡社交平臺的防沉迷手段卻相對薄弱,相關領域也成了監管的真空地帶。
保護未成年人,使其能夠充分享受移動互聯網所帶來的便利,避免網絡不良信息侵蝕,是社交平臺的社會責任所在。但現實存在的未成年用戶識別困難、不良信息難以根除,也給社交平臺的未成年用戶保護工作出了一道道難題。
問題1 防不住,未成年用戶難識別
對于未成年用戶,有的社交平臺暫未形成系統的防護方案,有的設置了青少年模式,卻頻頻被未成年人想方設法繞過。未成年人跟成年人一樣長時間使用社交媒體,有可能導致未成年人沉迷于社交軟件,影響正常的學習生活和健康成長。
保護未成年人的第一步是精準識別未成年人。數美科技面向社交平臺提供了一套全棧式、全周期、非侵入的未成年人保護解決方案,從用戶的全周期行為(文字聊天、語音、動態、發帖、評論、提問等)產生的內容入手,為社交平臺提供用戶年齡標簽,幫助社交平臺有針對性地篩選未成年人用戶并提供相應的服務。
文本層面,數美科技具備強大的語義分析能力,能夠全面分析賬號發出的文本類內容,精準捕捉“我十二了”、“明年上高中”這類直接或間接暴露使用者年齡特征的信息。
音頻層面,數美科技對社交賬號的語聊、語音自我介紹等內容進行聲學特征識別,未成年人的嗓音往往更加稚嫩,聲調更高,這些特征將作為判定賬號年齡的依據。
圖像層面,數美科技能夠對不同年齡段的人像畫面做到智能識別,精準區分0-3歲的嬰兒、3-8歲的兒童、8-18歲的青少年以及18歲以上的成年人形象,從賬號發布的涉及人像的圖片和視頻入手,分析賬號真實使用者的年齡階段。
對社交賬號產生的文本、音頻、圖像內容進行全方位分析后,數美科技后臺形成賬號使用者的綜合畫像,并據此輸出“未成年人”、“疑似未成年人”標簽,對這類用戶的充值行為、使用時長進行一定限制,以達到保護未成年人的目的。
問題2 清不凈,內容監管遇難題
在某些社交平臺龐大的公共空間中,虛假廣告、色情露骨、迷信恐怖、賭博引流等不利于未成年人成長的信息瘋長泛濫,一方面,讓未成年人及其家長防不勝防,深受其害;另一方面,平臺中的不良信息如雜草一般屢禁不止,也讓社交平臺管理者深惡痛絕。
社交平臺未成年人交友信息
清朗未成年用戶內容環境,迫切需要社交平臺加強和完善自身內容審核攔截系統。
數美科技依托旗下全棧式智能內容識別產品——天凈,打造了專門針對社交場景的內容識別功能,從文本、圖片、音頻、視頻中全方位精準過濾社交平臺中不適合向未成年人展示的色情、血腥、違禁、暴恐、炫富拜金等風險內容,凈化未成年人社交網絡空間。
數美科技的三級風險內容標簽體系下共設置1000多個細化標簽,幾乎覆蓋了監管對社交平臺內容的所有要求,助力平臺精細化內容運營。并且能夠依據平臺個性化需求,建立起兒童、青少年、成年人內容分級管理制度,向不同年齡階段的用戶提供智能內容推薦服務,尤其是為未成年人提供適合的精選內容。
社交平臺的未成年人防沉迷和內容保護工作任重道遠。數美愿與社交平臺攜手,共同為未成年人打造一片綠色清朗的網絡社交空間。