近日,在中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟第十五次全會(huì)上,工業(yè)和信息化部科技司、網(wǎng)絡(luò)安全管理局相關(guān)領(lǐng)導(dǎo)與中國(guó)信息通信研究院副院長(zhǎng)魏亮,攜手零一萬(wàn)物、阿里巴巴、百度、火山引擎、第四范式、科大訊飛、螞蟻集團(tuán)、奇安信、榮耀、商湯、MiniMax、深信服、騰訊、vivo、中國(guó)電信、中國(guó)移動(dòng)、中興通訊等行業(yè)領(lǐng)軍企業(yè)代表,共同發(fā)布《人工智能安全承諾》實(shí)踐披露成果。
作為首個(gè)系統(tǒng)性人工智能安全實(shí)踐公開(kāi)行動(dòng),實(shí)踐披露致力于推進(jìn)我國(guó)人工智能安全治理邁入體系化、透明化、實(shí)操化新階段,為全球貢獻(xiàn)“以人為本、智能向善”的中國(guó)方案。
2024年12月,中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟積極踐行《全球人工智能治理倡議》,發(fā)布《人工智能安全承諾》,持續(xù)開(kāi)放自愿簽署通道并鼓勵(lì)企業(yè)自律披露安全實(shí)踐。截至目前,已有22家企業(yè)簽署承諾,18家企業(yè)積極響應(yīng)、主動(dòng)披露安全措施。
作為積極響應(yīng)《人工智能安全承諾》的行業(yè)領(lǐng)軍企業(yè)之一,零一萬(wàn)物自2023年成立以來(lái),便高度重視模型安全能力建設(shè)。經(jīng)過(guò)為期兩年多的技術(shù)探索,零一萬(wàn)物已經(jīng)積累了涵蓋模型安全在內(nèi)的大模型端到端技術(shù)棧。
聚焦于產(chǎn)業(yè)落地場(chǎng)景,零一萬(wàn)物深知,產(chǎn)業(yè)大模型在企業(yè)場(chǎng)景中的深度應(yīng)用,必須建立在安全合規(guī)、自主可控的底座之上,只有這樣才能實(shí)現(xiàn)可持續(xù)發(fā)展與業(yè)務(wù)價(jià)值的長(zhǎng)期釋放?;谶@一理念,零一萬(wàn)物已將模型安全能力融入自身業(yè)務(wù)實(shí)踐,推出安全可控的大模型 ToB 解決方案。
以零一萬(wàn)物近期正式對(duì)外推出的零一萬(wàn)物萬(wàn)智企業(yè)級(jí) Agent 智能體(以下簡(jiǎn)稱“萬(wàn)智 Agent”)為例,萬(wàn)智 Agent 能夠理解企業(yè)實(shí)際業(yè)務(wù)場(chǎng)景,結(jié)合企業(yè)知識(shí)庫(kù)和任務(wù)需求以交付結(jié)果為目標(biāo)靈活生成執(zhí)行計(jì)劃,精準(zhǔn)地調(diào)用企業(yè)內(nèi)、外部工具,實(shí)現(xiàn)跨部門、跨組織的多工具串聯(lián),跑通完整任務(wù)的交付閉環(huán),勝任復(fù)雜多變的企業(yè)級(jí)任務(wù)?;跀?shù)據(jù)反饋的強(qiáng)化學(xué)習(xí),萬(wàn)智 Agent 還能在企業(yè)專業(yè)生產(chǎn)流程不斷學(xué)習(xí)正負(fù)反饋,不斷迭代。
更重要的是,萬(wàn)智 Agent 在安全可控方面同樣可圈可點(diǎn),以私有化部署+結(jié)果校驗(yàn)為企業(yè)構(gòu)筑雙保險(xiǎn),真正實(shí)現(xiàn)“能力外包,但業(yè)務(wù)數(shù)據(jù)與安全無(wú)憂”。
在私有化部署方面:支持企業(yè)私有化部署,同時(shí)基于安全沙盒技術(shù)隔離運(yùn)行環(huán)境,確保AI在調(diào)用外部系統(tǒng)時(shí)不會(huì)對(duì)原始數(shù)據(jù)和核心系統(tǒng)造成風(fēng)險(xiǎn)。零一萬(wàn)物萬(wàn)智平臺(tái)還將面向企業(yè)客戶開(kāi)放Agent開(kāi)發(fā)框架與配置平臺(tái),支持企業(yè)基于自身場(chǎng)景下需求快速定制專屬Agent。
在結(jié)果校驗(yàn)方面:基于任務(wù)和目標(biāo),結(jié)合Guardrails能力,萬(wàn)智 Agent 會(huì)對(duì)每個(gè)環(huán)節(jié)進(jìn)行結(jié)果校驗(yàn),保障結(jié)果的準(zhǔn)確性和創(chuàng)意性,真正實(shí)現(xiàn)能力外包,但業(yè)務(wù)數(shù)據(jù)與安全無(wú)憂。
目前,零一萬(wàn)物大模型 ToB 解決方案,因其優(yōu)秀的產(chǎn)品力和可靠的安全性,已在通信、金融、游戲、法律等多個(gè)行業(yè)智能化場(chǎng)景落地,獲得中國(guó)移動(dòng)、中國(guó)電信、阿里云、華為、世界最大的五家鐵礦公司之一、順豐科技、百望股份、星競(jìng)威武、中細(xì)軟集團(tuán)、飛書(shū)等頭部客戶的認(rèn)可,也獲得了新華社、新華網(wǎng)、央視、中新網(wǎng)等核心央媒的報(bào)道。
此次《人工智能安全承諾》實(shí)踐成果的披露,標(biāo)志著《人工智能安全承諾》從自律共識(shí)走向?qū)嵺`落地邁出了關(guān)鍵一步,為構(gòu)建共建共享的人工智能產(chǎn)業(yè)安全生態(tài)奠定基礎(chǔ)。
未來(lái),零一萬(wàn)物將繼續(xù)圍繞《人工智能安全承諾》,繼續(xù)攜手中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟,以實(shí)際行動(dòng)推動(dòng)人工智能安全治理走深向?qū)崱M瑫r(shí),也歡迎更多企業(yè)加入《人工智能安全承諾》的行列,共同推動(dòng)人工智能技術(shù)朝著安全、可靠、可控的方向發(fā)展。
(主辦方供圖)
友情鏈接: 政府 高新園區(qū)合作媒體
Copyright 1999-2025 中國(guó)高新網(wǎng)chinahightech.com All Rights Reserved.京ICP備14033264號(hào)-5
電信與信息服務(wù)業(yè)務(wù)經(jīng)營(yíng)許可證060344號(hào)主辦單位:《中國(guó)高新技術(shù)產(chǎn)業(yè)導(dǎo)報(bào)》社有限責(zé)任公司