近日，一款名為“小肚皮”的App軟件在眾多家長之間引起了軒然大波。起因是一名家長發現家教機里這款定位為“超好玩的00后小窩”的社交聊天軟件里竟含有不適合孩子觀看的“成人內容”。
目前“小肚皮”軟件已經緊急下架，開發者表示問題“可能是審查疏忽導致”，受制于機器識別的算法水平，難免有內容的“漏網之魚”，而人工處理又需要時間。從安卓系統的應用商店顯示，該App下載量為657.3萬，面對如此龐大的用戶群體，“審查疏忽”的解釋顯得過于蒼白無力，針對未成年群體的內容審核，我們更應該破除技術依賴，協同多方力量，打造風清氣正的內容生態。
據共青團中央維護青少年權益部、中國互聯網絡信息中心(CNNIC)聯合發布的《2019年全國未成年人互聯網使用情況研究報告》顯示，2019年我國未成年網民規模為1.75億，未成年人互聯網普及率達到93.1%。互聯網對于低齡群體的滲透能力持續增強，32.9%的小學生網民在學齡前就開始使用互聯網。
目前市場上針對未成年人的網絡信息產品和服務越來越多，包括早教、游戲、社交等等不一而足，此類網絡信息范圍廣、種類多。由于目標群體的特殊性，相關網絡內容監督管理和針對性保護機制應具有更高的要求。
杜絕違禁內容的出現是未成年人網絡生態治理的首要要求。未成年人正處在探索世界的關鍵階段，充滿了十足的好奇心，而且辨別能力不足，甚至因為“不禁不為”“愈禁愈為”的逆反心理，對此類違禁內容具有更多的探索欲望。這些內容往往因為刺激、獵奇，能夠對孩子們產生一定的吸引力和感召力。自我約束能力在面對這些信息時，有時較難起到作用。如果在同伴之間傳播開來，衍生的話題性和分享感更是會加速傳播的進程。只有從根本上斬斷違禁內容生產和傳播的鏈條，才能更好地保護未成年人免受毒害內容的侵蝕。
人工審核的協同是處理違禁信息的關鍵。機器識別作為一種更高效、成本更低的審核方式，已經成為互聯網內容安全審核的主力。但我們無法否認的是，目前的機器識別水平對于很多內容來說審核難度過大，且識別效果不準確：如文字中攜帶的形變、音變與直接赤裸顯示粗陋內容;圖片中常見的血腥、帶有諷刺性、暗示性的內容導向，等等。這些內容恰恰是不良內容的“重災區”，因此，我們不能對機器算法抱有過高的期待，必須要加強人工審核力度、提高審核標準。
家庭的引導和監督是內容安全防護不可或缺的一環。作為網絡原住民的00后一代幾乎可以無師自通地學會上網，但他們缺少的是必要的網絡風險識別能力。很多父母經常用一部手機來讓“熊孩子”們安靜下來，但是也很容易讓他們暴露于網絡空間的危險之中。因此，即使是玩手機，父母的陪伴和引導也同樣不可缺席，家長需要合理引導孩子的興趣點，及時規避不健康內容。
正在審議中的未成年人保護法特別提出了針對未成年人的網絡保護，專家建議在第六十四條中增加完善針對未成年人的網絡信息產品和服務的準入制度，加強對網絡信息產品和服務的監管。我們也期待，在頂層設計之下，能夠切實多方合力，營造健康、文明、有序的網絡環境，抵御不良侵害，為未成年人提供更多的成長力量。