騰訊上線(xiàn)大模型檢測工具可用AI辨別AI生成圖像打“假”力度拉滿(mǎn)

體育資訊1月17日報道宣稱(chēng) 隨著(zhù)文生文、文生圖、文生視頻等領(lǐng)域應用成熟，隨之而來(lái)的信任危機也同步爆發(fā)。為此，騰訊今日宣布推出 AI 生成文本檢測 / AI 生成圖像檢測工具。

騰訊官方稱(chēng)，雖然 AI 生成的圖像在細節紋理上越來(lái)越逼真，但依然有跡可循，朱雀實(shí)驗室研發(fā)了一款 AI 生成圖片檢測系統，將圖片上傳 —— 等待驗證 —— 判斷是否由 AI 生成，整個(gè)過(guò)程只有幾秒鐘，就能用魔法打敗魔法 —— 用 AI“檢測”AI 生成。

究其背后的檢測邏輯，主要是捕捉真實(shí)圖片與 AI 生圖之間的差異來(lái)進(jìn)行區分，例如 AI 生圖有時(shí)不符合常識邏輯、AI 生成圖片需要“加水印”、AI 生成圖片包含隱層特征。

騰訊指出，鑒別 AI 生成往往不能依靠單一依據。因此，AI 生成圖片檢測系統需要利用 AI 模型來(lái)捕捉真實(shí)圖片與 AI 生圖之間各類(lèi)特征的差異，包括圖片的紋理、語(yǔ)義及隱形特征。

為了提升系統的檢測效果，其使用了 140 萬(wàn)份正負樣本進(jìn)行模型訓練，考慮了多種生成內容場(chǎng)景，如人體、人像、風(fēng)景、地標、植物、電影、游戲、新聞等，最終測試檢出率達 95% 以上，還在持續優(yōu)化提升中。