2025年4月19日下午，中國(guó)計(jì)算機(jī)用戶協(xié)會(huì)信息安全分會(huì)在北京成功舉辦了“人工智能大模型在特定場(chǎng)景中的風(fēng)險(xiǎn)分析及安全應(yīng)對(duì)研討會(huì)”。
研討會(huì)聚焦于最新熱點(diǎn)的人工智能技術(shù)，尤其是以DeepSeek為代表的通用人工智能在特定場(chǎng)景中的應(yīng)用風(fēng)險(xiǎn)與安全問題。會(huì)議邀請(qǐng)了相關(guān)領(lǐng)域?qū)＜壹把雵?guó)企、涉密單位相關(guān)部門負(fù)責(zé)人，他們分別來自上海、成都、重慶、深圳、綿陽、廣州等多地企業(yè)，共計(jì) 50 余人共同探討人工智能在特定場(chǎng)景下的應(yīng)用風(fēng)險(xiǎn)與安全應(yīng)對(duì)策略。
中國(guó)計(jì)算機(jī)用戶協(xié)會(huì)信息安全分會(huì)副理事長(zhǎng)兼秘書長(zhǎng) 鄭濤
研討會(huì)由中國(guó)計(jì)算機(jī)用戶協(xié)會(huì)信息安全分會(huì)副理事長(zhǎng)兼秘書長(zhǎng)鄭濤主持。中國(guó)計(jì)算機(jī)用戶協(xié)會(huì)（總會(huì)）監(jiān)事、名譽(yù)副理事長(zhǎng)、信息安全分會(huì)名譽(yù)理事長(zhǎng)施峰到會(huì)致辭，他強(qiáng)調(diào)，要凝聚行業(yè)智慧，系統(tǒng)性分析大模型技術(shù)應(yīng)用潛在風(fēng)險(xiǎn)，構(gòu)建科學(xué)安全應(yīng)對(duì)體系，為行業(yè)規(guī)范化發(fā)展提供支撐，期待參會(huì)代表貢獻(xiàn)建設(shè)性方案。
中國(guó)計(jì)算機(jī)用戶協(xié)會(huì)名譽(yù)副理事長(zhǎng)、總會(huì)監(jiān)事 施峰
會(huì)上多位安全領(lǐng)域的專家發(fā)表了精彩演講，分會(huì)理事長(zhǎng)李技全面梳理人工智能技術(shù)演進(jìn)脈絡(luò)，預(yù)測(cè)未來應(yīng)用趨勢(shì)，提出技術(shù)創(chuàng)新與安全防護(hù)需雙向驅(qū)動(dòng)。
信息安全分會(huì)理事長(zhǎng) 李技 AI 戰(zhàn)略布局：錨定核心賽道 驅(qū)動(dòng)創(chuàng)新發(fā)展
北京北信源軟件股份有限公司董事、副總裁高曦介紹，公司圍繞國(guó)家重大安全戰(zhàn)略規(guī)劃進(jìn)行創(chuàng)新和布局，加大了人工智能領(lǐng)域投入力度，打造了“密信AI基座”，開發(fā)了多種AI能力，包括多模型混合駕駛艙、AI即時(shí)問答、教AI、語音助手等。目前“密信AI基座”已經(jīng)集成市面主流的多種大語言模型，如DeepSeek、Kimi、千問、文心一言等，并正在融合多功能智能體和多種開源大模型，具備AI辦文、辦事、辦會(huì)的綜合能力。通過“密信AI基座”不僅可以為第三方應(yīng)用提供大模型的統(tǒng)一標(biāo)準(zhǔn)化接口，減少應(yīng)用的適配開發(fā)工作量，而且還能通過AI基座監(jiān)控、過濾、審計(jì)不合理的AI訪問行為。可滿足黨政機(jī)關(guān)、軍工單位、金融機(jī)構(gòu)等高安全需求場(chǎng)景下的端到端安全通信與數(shù)據(jù)防護(hù)需求，在黨政軍企等領(lǐng)域取得顯著市場(chǎng)認(rèn)可。
北信源董事、副總裁 高曦
另一方面，北信源積極探索AI技術(shù)并進(jìn)軍國(guó)際市場(chǎng)，2024年推出了AI即時(shí)母語傳譯功能。通過替代人工翻譯和傳統(tǒng)同傳服務(wù)，有效打破語言壁壘，顯著減少跨國(guó)會(huì)議、商務(wù)談判中的語言服務(wù)成本，極大提升了全球溝通效率。在第21屆中國(guó)—東盟博覽會(huì)上發(fā)布的愛傳APP更是能幫助企業(yè)突破小語種人才短缺瓶頸，快速觸達(dá)新興市場(chǎng)。目前已成為文旅部“你好！中國(guó)”入境旅游活動(dòng)語言翻譯服務(wù)唯一指定應(yīng)用。
通過持續(xù)創(chuàng)新，北信源為政府、軍隊(duì)、軍工、金融、能源、交通等重要單位提供行業(yè)領(lǐng)先的網(wǎng)絡(luò)與信息安全解決方案，彰顯出其在網(wǎng)絡(luò)安全領(lǐng)域的強(qiáng)大競(jìng)爭(zhēng)力和良好發(fā)展前景。 接下來，與會(huì)專家也分享了各自領(lǐng)域的一些情況。 中航工業(yè)集團(tuán)成飛公司總監(jiān)、信息安全分會(huì)副理事長(zhǎng)董武高結(jié)合實(shí)際業(yè)務(wù)，分析實(shí)踐應(yīng)用中的風(fēng)險(xiǎn)類型，總結(jié)出五個(gè)方向的應(yīng)對(duì)思路。 成飛公司保密總監(jiān)、信息安全分會(huì)副理事長(zhǎng) 董武高
中國(guó)長(zhǎng)城互聯(lián)網(wǎng)信息中心總工程師賈利濱，就“新興領(lǐng)域中人工智能（DeepSeek）技術(shù)應(yīng)用的挑戰(zhàn)和實(shí)踐”進(jìn)行經(jīng)驗(yàn)介紹，分享中國(guó)長(zhǎng)城互聯(lián)網(wǎng)在新質(zhì)戰(zhàn)斗力建設(shè)中的應(yīng)用場(chǎng)景與解決方案。
中國(guó)長(zhǎng)城互聯(lián)網(wǎng)信息中心總工 賈利濱 場(chǎng)景實(shí)踐：AI安全應(yīng)用的典型案例與行業(yè)啟示 在案例分享環(huán)節(jié)，北信源央企行業(yè)總監(jiān)郭軍廷針對(duì)AI在內(nèi)網(wǎng)安全工作中的應(yīng)用場(chǎng)景及安全實(shí)踐，介紹了兩個(gè)典型場(chǎng)景，信源密信AI能力平臺(tái)和商業(yè)秘密及工作秘密防護(hù)方案。信源密信是北信源歷時(shí)十年耗資十多億打造的高安全即時(shí)通信平臺(tái)，服務(wù)于國(guó)家重點(diǎn)工程和重點(diǎn)單位，其在國(guó)產(chǎn)化環(huán)境適配、服務(wù)器私有部署、技術(shù)自主可控以及多產(chǎn)品形態(tài)構(gòu)建等方面成果顯著，能夠充分滿足不同客戶的多樣化需求。 信源密信系列產(chǎn)品憑借其在安全性、技術(shù)創(chuàng)新、市場(chǎng)認(rèn)可度以及政策支持等方面的優(yōu)勢(shì)，為用戶提供高效服務(wù)，帶動(dòng)公司實(shí)現(xiàn)快速增長(zhǎng)；商業(yè)秘密及工作秘密一體化解決方案為用戶解決了商密和工作秘密不同防護(hù)要求的難題，一體化防護(hù)方案既解決了大型央國(guó)企敏感數(shù)據(jù)防護(hù)的難題，又滿足了相關(guān)指引指南政策的要求，同時(shí)兼顧了高效便捷且不影響用戶辦公習(xí)慣的需求，而且方案引入AI在輔助定密、判密、分析決策等方面的能力，幫用戶實(shí)現(xiàn)效率提升、價(jià)值創(chuàng)造和風(fēng)險(xiǎn)對(duì)沖。 北信源央企行業(yè)總監(jiān) 郭軍廷 郭軍廷的分享，引發(fā)了與會(huì)領(lǐng)導(dǎo)嘉賓對(duì)行業(yè)未來發(fā)展的深度思考與廣泛共鳴，為推動(dòng)我國(guó)信息安全產(chǎn)業(yè)高質(zhì)量發(fā)展提供了極具價(jià)值的實(shí)踐范本與創(chuàng)新思路。 協(xié)同創(chuàng)新：共建 AI 應(yīng)用與安全平臺(tái)實(shí)驗(yàn)室
隨后，戰(zhàn)略合作正式啟動(dòng)，信息安全分會(huì)副理事長(zhǎng)蔣成彬宣布“信息安全分會(huì)與北信源共同建設(shè)人工智能（DeepSeek）應(yīng)用與安全平臺(tái)實(shí)驗(yàn)室”。他介紹，實(shí)驗(yàn)室將充分整合信息安全分會(huì)與北信源的資源優(yōu)勢(shì)，凝聚雙方在信息安全領(lǐng)域和人工智能領(lǐng)域的專業(yè)力量，形成協(xié)同創(chuàng)新的工作機(jī)制，共同開展相關(guān)研究與實(shí)踐。實(shí)驗(yàn)室圍繞著核心目標(biāo)開展AI應(yīng)用安全風(fēng)險(xiǎn)研究，為制定針對(duì)性的解決方案提供理論支持。實(shí)現(xiàn)對(duì)AI應(yīng)用的安全監(jiān)測(cè)、評(píng)估與防護(hù)，提升AI系統(tǒng)的安全性能。向往更多單位積極加入實(shí)驗(yàn)室團(tuán)隊(duì)，共同分享研究成果和經(jīng)驗(yàn)，推動(dòng)AI在安全領(lǐng)域的做深做實(shí)。
信息安全分會(huì)副理事長(zhǎng) 蔣成彬 在研討交流環(huán)節(jié)，參會(huì)代表圍繞會(huì)議主題與實(shí)際需求展開深入討論，從風(fēng)險(xiǎn)分析、技術(shù)應(yīng)用、安全應(yīng)對(duì)、保密合規(guī)等多元視角分享觀點(diǎn)和實(shí)踐路徑。信息安全分會(huì)李技理事長(zhǎng)在總結(jié)中提到，期待各方以此次研討為契機(jī)，將討論成果轉(zhuǎn)化為實(shí)際行動(dòng)，共同構(gòu)筑大模型安全發(fā)展的堅(jiān)實(shí)屏障，推動(dòng)人工智能技術(shù)在安全、可控的軌道上賦能社會(huì)。 下一步，信息安全分會(huì)將持續(xù)搭建技術(shù)交流平臺(tái)，聚焦信息安全領(lǐng)域前沿問題，通過政策研究、技術(shù)研討、標(biāo)準(zhǔn)建設(shè)等多元形式，助力行業(yè)構(gòu)建安全可控的人工智能應(yīng)用生態(tài)
