人民網(wǎng)發(fā)布“天目”智能識(shí)別系統(tǒng)利用AI治理AI
別系統(tǒng)1/520.jpg)
12月9日，人民網(wǎng)正式發(fā)布“天目”智能識(shí)別系統(tǒng)，探索“用AI治理AI”的內(nèi)容風(fēng)控新模式。（體驗(yàn)入口：http://117.80.234.9:5080/welcome）。
“天目”由傳播內(nèi)容認(rèn)知全國(guó)重點(diǎn)實(shí)驗(yàn)室（人民網(wǎng)）研發(fā)，能夠?qū)θ斯ぶ悄苌蓛?nèi)容進(jìn)行識(shí)別，對(duì)深度偽造內(nèi)容進(jìn)行檢測(cè)，對(duì)合成手段進(jìn)行追根溯源。公開(kāi)測(cè)試數(shù)據(jù)顯示，“天目”對(duì)國(guó)內(nèi)外主要人工智能大模型生成中文文本的識(shí)別準(zhǔn)確率達(dá)到93%。系統(tǒng)支持單次最多10萬(wàn)字的數(shù)據(jù)檢測(cè)，對(duì)疑似AI生成句段明確標(biāo)識(shí)，一鍵生成檢測(cè)報(bào)告。同時(shí)，系統(tǒng)不留存、不轉(zhuǎn)用任何檢測(cè)數(shù)據(jù)，充分保護(hù)用戶的數(shù)據(jù)隱私與安全。
傳播內(nèi)容認(rèn)知全國(guó)重點(diǎn)實(shí)驗(yàn)室首席科學(xué)家張勇東表示：“我們以語(yǔ)言模型的困惑度、詞頻特征為切入點(diǎn)，研究發(fā)現(xiàn)AI生成模型傾向于采用高頻詞，而人類寫作的選詞則更具有隨機(jī)性。”基于此，人民網(wǎng)研發(fā)了語(yǔ)義與風(fēng)格特征融合的語(yǔ)言模型評(píng)價(jià)方法，推出“天目”系統(tǒng)，用于快速區(qū)分機(jī)器生成內(nèi)容與人工創(chuàng)作內(nèi)容。
“我們肯定AI的技術(shù)價(jià)值，積極研發(fā)，主動(dòng)運(yùn)用。我們也同樣重視人的創(chuàng)新創(chuàng)作創(chuàng)意?！比嗣窬W(wǎng)內(nèi)容風(fēng)控負(fù)責(zé)人辛瑞佳表示，人類的靈感和創(chuàng)造力無(wú)法被機(jī)器替代，也不應(yīng)被機(jī)器替代，過(guò)度依賴AI可能會(huì)削弱人的獨(dú)特性?！白R(shí)別AI生成的信息，從更深層講，也是保護(hù)人類的創(chuàng)造價(jià)值?！?br /> 此外，人民網(wǎng)內(nèi)容風(fēng)控的另一個(gè)智能產(chǎn)品“人民審?！?，于近期同步升級(jí)4.0版本，新增了標(biāo)識(shí)審校、地標(biāo)審校、商標(biāo)審校、版式審校等能力，優(yōu)化自定義詞庫(kù)功能，在涉政信息表述審校精度和廣度方面實(shí)現(xiàn)全面提升。
下一步，人民網(wǎng)將加大力度研發(fā)建設(shè)主流價(jià)值語(yǔ)料庫(kù)，幫助國(guó)產(chǎn)AI系統(tǒng)建設(shè)安全合規(guī)的語(yǔ)料體系，更好實(shí)現(xiàn)價(jià)值觀對(duì)齊，助力AI產(chǎn)業(yè)健康安全發(fā)展。