鑒黃、認臉、看字,小程序內容審核的新“幫手”來了!

分享到:
 序多多 ? 2018-05-25 09:02:26 E1149


小程序因為內容違規被下線?想審核識別違規內容卻不知如何入手?


上周,我們上線了內容安全接口,用這個“神器”幫助大家解決困擾。


今天,我們來詳細了解一下這個“神器”,幫助大家更好地解決上述的各種問題。


這個幫手幫你做內容審核


用戶通過小程序發布的內容,數量大、種類多,逐個校驗幾無可能。


小程序內容安全接口能夠輔助開發者精準快速地校驗小程序的文本、圖片內容是否含有淫穢色情、涉違法犯罪、涉政有害等內容,抵御不良信息混入,維護小程序內容健康。


溫馨提醒,開發者就算有了內容安全接口這個稱心的“好幫手”,也不能對違規內容掉以輕心。


三大能力,快速發現并處理違規內容


能成為“好幫手”,當然是有“超能力”。小程序內容安全接口提供三大能力,從圖片到文本,精準識別違規內容。


圖片智能鑒黃

無論是用戶通過拍照上傳的內容、自定義頭像,還是文章評論的圖片,圖片智能鑒黃接口都能夠進行主動識別及獲取色情量化程度信息,實現精準快速的色情傾向判斷。


智能人臉識別

絕不“眼盲”的面部識別能力能夠提取圖中的人臉信息,進行相似度判斷,包括重要政治人物、公眾人物等圖片人臉識別,幫助開發者避免業務的違規和侵權風險。


惡意文本檢測

文本包含著很多潛在違法元素,內容安全接口提供了更高級智能的惡意文本檢測能力,能夠精準識別文本內容中的違規文字信息,輔助發現違規和惡意內容。


這些場景已經能實際使用了


目前,內容安全接口已經能夠運用在小程序的文本、圖片等內容校驗中。


用戶的個人資料、媒體類用戶發表的文章及評論、游戲類用戶編輯上傳的素材等,開發者都能借助內容安全接口進行文字檢測。


此外,內容安全接口還能對用戶拍照上傳、電商類商品上架圖片、用戶頭像、媒體類用戶文章配圖、社交類用戶上傳的圖片進行檢測。


更多你關注的Q&A


了解完小程序內容安全接口的基礎信息,也許你還會有一些疑問:這個接口到底適合誰?有什么效果?Q&A了解一下——


Q1: 開放內容安全接口能為開發者帶來什么好處?


A:我們注意到,近年來,由于產品中存在違規內容而被處罰,甚至關停下架的事情時有發生,開發者的內容審核工作刻不容緩。因此,我們推出了內容安全接口,希望幫助開發者及時發現并處理圖片、文本內容里的違規信息,讓開發者能夠將精力更集中于高質量的小程序開發當中。


Q2: 哪些小程序可以使用內容安全接口,有使用要求嗎?


A:目前,內容安全接口面向所有的小程序開發者免費提供一定額度的接口調用量,主要為小程序內容審核工作提供幫助,平臺不會留存小程序開發者提交的檢測數據。如果調用量需求超出上限,開發者可以通過業務邏輯整站營銷、自行開發內容審核手段、調用其他第三方內容審核接口等方式開展內容審核。


Q3: 有了內容安全接口,開發者是不是就能省略內容審核工作?


A:目前,內容安全接口只提供內容審核的基礎能力,輔助開發者發現有害內容,但對于內容的檢測結果,以及其他違法違規內容(如暴力、恐怖、血腥),開發者仍然需要履行好管理職責,自行開展審核并對有害內容進行刪除等處理,并不能忽視內容審核工作。


同時,開發者可以通過《文本內容安全接口》《圖片內容安全接口》詳細了解小程序內容安全接口的更多信息,共同打造更加綠色健康的小程序生態。     

p0

分享:

相關閱讀RELEVANT

今日推薦

w 最新商家帖子 +更多

美女私密写真集_免费的很黄很污的视频_爽到高潮漏水大喷视频