騰訊推出大模型檢測工具 可通過AI識別AI生成的圖像 增強打擊假冒偽劣的能力

1月17日訊 隨著文生文、文生圖和文生視頻等技術的不斷成熟，隨之而來的信任問題也開始顯現。為應對這一挑戰，騰訊今天宣布推出針對 AI 生成文本和圖像的檢測工具。

騰訊官方表示，盡管 AI 生成的圖像在細節表現上愈加真實，但仍然存在可追蹤的痕跡。為了應對這一現狀，朱雀實驗室研發了一套 AI 圖像檢測系統，用戶只需將待檢測圖片上傳，經過幾秒鐘的驗證，即可得出判斷結果——這是一項通過 AI 技術判斷 AI 生成作品的創新。

該檢測系統的工作原理在於識別真實圖片與 AI 生成圖像之間的差異。例如，AI 生成的圖像有時會違反常識，或者可能需要加水印以示區分，此外還可能包含某些隱層特征。騰訊指出，判別 AI 生成內容通常不能僅依賴於單一的判斷標準，因此該系統結合了多種 AI 模型，以便綜合識別真實圖像與 AI 生成圖像的多項特征差異，包括紋理、語義及其他隱形特征。

為了提升檢測的準確性，騰訊在模型訓練過程中使用了多達140萬份的正負樣本，並考慮了多種不同的生成內容場景，例如人體、肖像、風景、地標、植物、影視、遊戲和新聞等。這一系統的最終測試檢出率已超過95%，同時騰訊仍在不斷優化和提升檢測效果。