聚焦人工智能安全：榮耀Magic V5反詐能力再升級，破除生成式AI陷阱

近日, 2025世界人工智能大會暨人工智能全球治理高級別會議在上海開幕,“AI+安全治理”議題引發(fā)全球熱議,生成式AI技術(shù)濫用帶來的深度偽造、詐騙風(fēng)險成為焦點議題。作為全球領(lǐng)先的AI終端生態(tài)公司,榮耀在AI安全應(yīng)用領(lǐng)域持續(xù)技術(shù)研發(fā)與投入,近期發(fā)布的AI折疊旗艦新品榮耀Magic V5,基于全新AI應(yīng)用場景和使用體驗升級,帶來AI反詐應(yīng)用的再次升級,為用戶構(gòu)建起安全防線,為產(chǎn)業(yè)提供了可落地的技術(shù)樣本。

生成式AI濫用成全球挑戰(zhàn),終端防護成治理關(guān)鍵環(huán)節(jié)

伴隨AI應(yīng)用的井噴式爆發(fā),生成式AI技術(shù)在近年來開始被用于各類新型欺詐。印度借“量子AI”概念騙取以色列5億美元軍購定金;科研界出現(xiàn)AI代寫論文并隱藏指令誘導(dǎo)審稿系統(tǒng);再到批量生成虛假歌曲騙取版權(quán)分成,技術(shù)濫用已跨越行業(yè)邊界。

在這一背景下,榮耀Magic V5的技術(shù)突破頗具針對性。2024年,榮耀發(fā)布了行業(yè)首個端側(cè)AI反詐技術(shù),并在榮耀Magic V3上搭載,實現(xiàn)直播、短視頻、離線視頻場景的覆蓋。如今,榮耀Magic V5則基于生成式AI應(yīng)用場景的升級,將防護能力延伸至更復(fù)雜的實時交互場景。

全場景防護織密安全網(wǎng),技術(shù)創(chuàng)新直擊詐騙痛點

面對AI驅(qū)動的詐騙手段持續(xù)升級,榮耀Magic V5在家庭、消費、職場、社交等高頻場景構(gòu)建起全鏈路防護。

在家庭溝通中,AI換臉冒充親屬詐騙頻發(fā)。榮耀Magic V5可以通過端云協(xié)同多模態(tài)識別,一旦檢測特征偏差,立即彈窗提示,從源頭阻斷詐騙。

在消費場景中,面對屏幕對面的所謂專家、網(wǎng)紅帶貨,即便是再有眼力也會有被詐騙風(fēng)險。榮耀Magic V5能夠進行實時監(jiān)測與動態(tài)攔截,能夠有效降低被詐騙概率。

在職場多人會議中,冒充領(lǐng)導(dǎo)詐騙風(fēng)險被精準防控。系統(tǒng)同步分析參會者面部、聲紋及IP,避免陌生人通過線上視頻的換臉技術(shù),更換自身面容進行詐騙、偽裝等行為,防止緊急轉(zhuǎn)賬。

在社交場景中,離線視頻AI合成的完美形象也難遁形。榮耀Magic V5對圖庫中的離線視頻進行深度檢測,讓AI合成的“完美形象”無所遁形,避免用戶因情感誘導(dǎo)而遭受財產(chǎn)損失。

以AI智能體重構(gòu)體驗,折疊旗艦彰顯技術(shù)硬實力

榮耀Magic V5的AI反詐能力升級,源于其領(lǐng)先的AI智能體技術(shù)持續(xù)進化與突破。榮耀Magic V5能夠?qū)崿F(xiàn)八大一語AI功能,真正實現(xiàn)了從功能響應(yīng)到場景應(yīng)用的落地。

在AI隱私保護與安全方面,榮耀在積極推動AI安全治理體系的完善。近日,在中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟第十五次全會上,榮耀攜手中國信息通信研究院、阿里、百度等行業(yè)領(lǐng)軍企事業(yè)單位,共同發(fā)布了《人工智能安全承諾》實踐披露成果。聯(lián)盟圍繞風(fēng)險管理、模型安全、數(shù)據(jù)安全等6大核心內(nèi)容,提煉了20項關(guān)鍵安全標簽,公開了43項企業(yè)典型實踐,致力于推進我國人工智能安全治理邁入體系化、透明化、實操化新階段,為全球貢獻“以人為本、智能向善”的中國方案。榮耀MagicGUI大模型此次開源,正是踐行該理念的典范。

此次,在WAIC人工智能標準化國際合作論壇上,榮耀作為首批單位將與中國電子技術(shù)標準化研究院、阿里、百度等百余家行業(yè)企業(yè)共同發(fā)布《智能體協(xié)議共建共享聯(lián)合倡議》,以進一步推動人工智能技術(shù)、標準的國際交流合作以及產(chǎn)業(yè)發(fā)展。截至今年6月,榮耀也已聯(lián)合20余家企業(yè)推動終端智能化分級指南標準落地,并聯(lián)合中國信息通信研究院等牽頭10余個AI終端的標準立項及起草,為AI終端技術(shù)產(chǎn)品應(yīng)用普及和產(chǎn)業(yè)發(fā)展提供中國方案。