應(yīng)對(duì)AI論文造假 不妨“以AI檢測(cè)AI”

■ 視點(diǎn)

論文代寫，一直是學(xué)術(shù)作弊黑灰產(chǎn)中的隱疾。而隨著人工智能時(shí)代到來，AI又成了其中得力的生產(chǎn)工具。近日，據(jù)新京報(bào)臥底調(diào)查，在論文代寫產(chǎn)業(yè)鏈中，黑灰產(chǎn)團(tuán)隊(duì)已經(jīng)開始通過AI工具來批量編造論文，并在各大平臺(tái)接單生產(chǎn)售賣。

報(bào)道中值得注意的細(xì)節(jié)是，有代寫團(tuán)隊(duì)成員向暗訪記者表示，因?yàn)锳I代寫工具的出現(xiàn)，使得論文代寫的門檻降低，甚至出現(xiàn)了“職高生用AI工具幫博士生代寫論文”的現(xiàn)象。

在AIGC（人工智能生成內(nèi)容）工具出現(xiàn)之初，行業(yè)普遍認(rèn)為人工智能將能夠提升內(nèi)容生產(chǎn)效率，但或許令人意想不到的是，AI工具暫時(shí)還沒有來得及在嚴(yán)肅的學(xué)術(shù)研究生產(chǎn)中得到廣泛應(yīng)用，卻率先成為了黑灰產(chǎn)業(yè)提高產(chǎn)量的工具。

而要對(duì)抗“AI代寫”的黑灰產(chǎn)，需要監(jiān)管者更快升級(jí)技術(shù)工具，同時(shí)，建立更加嚴(yán)格的行業(yè)性規(guī)范。一方面，用“AI來檢測(cè)AI”；另一方面，要對(duì)“AI工具如何使用”建立明確的標(biāo)準(zhǔn)。

當(dāng)前，國(guó)內(nèi)外已經(jīng)開始研發(fā)專門針對(duì)“AIGC內(nèi)容”的檢測(cè)工具。在部分內(nèi)容平臺(tái)上，已經(jīng)開始對(duì)疑似“AI生成內(nèi)容”進(jìn)行了異常標(biāo)注。從數(shù)據(jù)檢測(cè)識(shí)別的邏輯看，這類AI造假內(nèi)容的特征相對(duì)更加明顯，通過對(duì)文本結(jié)構(gòu)、用詞與語言模型等進(jìn)行檢測(cè)，應(yīng)當(dāng)可以識(shí)別察覺出AI的創(chuàng)作痕跡。

因此，在傳統(tǒng)的抄襲查重系統(tǒng)之外，至少目前，可以盡早將針對(duì)“AI內(nèi)容”的檢測(cè)工具也應(yīng)用到學(xué)術(shù)論文的檢測(cè)流程之中，并對(duì)疑似AI造假的內(nèi)容進(jìn)行標(biāo)注，輔助審核人員進(jìn)行判斷。

在技術(shù)性防范手段之外，針對(duì)AI論文造假，學(xué)術(shù)界也可以迅速行動(dòng)起來，為AI工具的應(yīng)用設(shè)定清晰的邊界。例如，可以使用AI輔助制作插圖，但不得進(jìn)行任何文本、數(shù)據(jù)生成。

當(dāng)然，隨著AI被應(yīng)用于檢測(cè)預(yù)警，以及行業(yè)共同規(guī)范的建立與調(diào)整，AI造假的漏洞終將被迅速填平。從長(zhǎng)期來看，人工智能仍然會(huì)是創(chuàng)新的朋友，而不是造假的同伙。