本報記者 賀俊 見習記者 劉霄引
5月16日，美亞柏科公告發布了一則投資者關系活動記錄表。記錄表顯示，在AI監管產品方面，公司已經發布了AI-3300“慧眼”視頻圖像鑒真工作站，可以對深度合成偽造的視頻圖像、AIGC生成視頻圖像進行監測鑒定。公司推出的AIGC檢測平臺支持AIGC生成文本的檢測識別。
隨著AIGC內容大量涌現，相關應用在提升人們生產效率的同時，也有不法分子利用其生成虛假內容，擾亂社會運行的正常秩序，比如美亞柏科在投資者關系活動記錄表中提到的，中國廣東某地利用AI人工智能技術炮制虛假不實信息非法獲利的案件。
美亞柏科AI安全首席科學家金輝曾在民生AI峰會上的發言中表示，AIGC生成式人工智能的內容確實讓人很難辨別真假，造成很多虛假的新聞，讓人顛覆了眼見為實的認知。犯罪分子也會利用生成式人工智能進行新型網絡犯罪手段的詐騙，這都對人工智能安全帶來一定的挑戰。
對此，薩摩耶云科技集團首席經濟學家鄭磊在接受《證券日報》記者采訪時表示：“為了避免這種情況的發生，必須研發相應的逆向鑒別技術和產品，作為人們日常防范這類違法犯罪活動的輔助工具，也為司法機關提供了執法證據和依據。”
此前，谷歌CEO桑達爾·皮查伊也曾表示，隨著人們不斷投入能力越來越強大的模型，谷歌也在深入研究AI應當肩負的責任，這包括讓用戶擁有可識別生成式內容的工具。
浙江大學國際聯合商學院數字經濟與金融創新研究中心聯席主任、研究員盤和林在接受《證券日報》記者采訪時表示：“此類工具未來在B端和G端有一定應用場景，尤其是當前生成式AI大行其道之時，圖像鑒真將在未來成為剛需。”
美亞柏科表示，后續將持續圍繞包括反生成式AI在內的AI安全及監管領域進行研究，并根據業務需要適時布局相關產品。
頂象技術安全專家田際云向《證券日報》記者介紹：“按照安全行業的說法，反生成式AI就是防范生成式AI濫用帶來的風險。”
鄭磊表示，反生成式AI依靠AIGC的逆向工程原理開發的人工智能產品，本身也屬于人工智能，相當于對生成式AI輸出的結果進行逆向解碼，給出鑒別判斷，或恢復到之前的原形狀態。由于生成式AI輸出的結果與人類制作的內容高度相似，如果不用逆向技術手段，難以和人類生成的內容區分開。在一些應用場景中，需要進行這樣的鑒別，因此是有現實需要的。
盤和林認為，生成式AI能以假亂真，反生成式AI可以去偽存真，未來自覺標注AI生成將是免責和防偽的關鍵，而反生成式AI則是技術上的重要補充。
“對于AI監管，我們需要從多個方面入手，包括數據集獲取的安全合規性、人工智能模型的可解釋性和透明性、人工智能生成內容的識別和審核、建立相關的監管機制和法律法規。”中國移動通信聯合會元宇宙產業委執行主任于佳寧在接受《證券日報》記者采訪時表示，“美亞柏科在反生成式AI產品的研發和應用方面的布局和探索是非常值得肯定的，希望更多的企業和機構加入AI監管和安全方面的研究應用中，加強對AI濫用和AI作惡的打擊力度，形成人機合作、共同治理的良好局面。”
（編輯 汪世軍 喬川川）
京公網安備 11010202007567號京ICP備17054264號
