(資料圖片)
AI生成違法違規內容、AI換臉詐騙、AI錯誤信息誹謗、AI侵權……如何應對AIGC時代的內容安全風險?
6月19日,騰訊云披露行業大模型方案進展,正式公布MaaS(Model-as-a-Service)能力全景圖,助力企業打造專屬的行業大模型。在安全保障方面,騰訊云在問題側、模型側、答案側三個層面進行敏感信息過濾和規避。同時,依托騰訊二十余年的安全經驗和天御大數據能力,提供AIGC全鏈路內容安全解決方案,確保大模型可信、可靠、可用。
AIGC帶來豐富創造力的同時,也帶來了全新的內容安全挑戰。相對過去以PGC、UGC為主的內容,AIGC時代的內容安全內涵與外延均有顯著變化。今年4月,國家網信辦發布的《生成式人工智能服務管理辦法(征求意見稿)》在黃暴政恐違禁、防止歧視、版權保護、虛假信息防范、個人隱私保護等方面均有明確要求。
據了解,騰訊安全AIGC全鏈路內容安全解決方案,提供包含審校服務、安全專家服務、機器審核服務、版權保護服務四大能力板塊,覆蓋AIGC類應用從模型訓練到內容生成再到事后運營全過程的內容安全建設。
AIGC內容安全新挑戰不僅體現在“天文級”的數據體量,處理的內容也更加復雜。以模型階段為例,除了典型的特征標注外,對標注文本的通順度、邏輯性、連貫性也有較高要求。在內容生成階段,新型AI偽造、虛假、違背倫理、不適內容、未成年人等違規內容,以及AI問答產生專業性內容,都超出傳統內容風控的范疇。
騰訊安全依托過去20多年的安全運營經驗,積累了萬億級的違規樣本以及十幾種定制識別服務,可以結合行業場景,為企業的內容安全建設“量體裁衣”。此外,騰訊安全天御風控還和對象存儲、云直播、云點播、實時音視頻等云上工具打通,企業在云上一次接入,即可完成全套內容安全審核,大幅提升效率。
AIGC的快速發展也引發了黑灰產的新一輪的攻擊,利用AI換臉、批量生成版權內容套現獲利。對此,騰訊安全做了專項優化,在AIGC引發的版權保護難題上,騰訊安全基于版權資產統一ID庫,助力企業進行版權原創性篩查;此外,騰訊安全還提供“檢測、比對、維權”的全鏈路版權保護服務。騰訊安全從2019年9月起,對B站平臺上UP主上傳的原創視頻進行版權監測服務,累計監測作品500余萬部,累計發現侵權鏈接近3000萬條,發起維權近百萬次,維權成功率達98%。
目前,騰訊安全在AIGC內容安全領域已有多個場景實踐落地,為生產文生文、文生圖、醫療級視頻內容、長小說文本等類型內容的企業提供內容安全服務,護航生成式人工智能健康發展。
(免責聲明:此文內容為廣告,相關素材由廣告主提供,廣告主對本廣告內容的真實性負責。本網發布目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責,請自行核實相關內容。廣告內容僅供讀者參考。)
(責任編輯:劉暢 )下一篇:最后一頁