数字化转型浪潮下，网络空间已成为国家安全、经济发展和社会生活的重要基石，而随着人工智能渗透各行各业，网络安全领域的发展面临着前所未有的挑战与机遇，深入研讨人工智能与网络安全融合发展的可能性迫在眉睫。
9月12日上午，由中国人工智能产业发展联盟(AIIA)安全治理委员会、中国信息产业商会信息安全产业分会指导，《中国信息安全》杂志社、中国信息通信研究院（以下简称“中国信通院”）人工智能研究所、中国移动通信集团信安中心联合承办的2024 CCS成都网络安全大会“AI+网信安全”技术交流会在成都顺利召开。交流会以“让安全更智能、让智能更安全”为主题，聚焦人工智能（AI）技术在网络安全领域的创新应用与深度融合，通过分享前沿研究成果、实践案例与趋势洞察，探讨AI如何赋能传统网信安全防护体系，提升其智能化、自动化水平，有效应对日益复杂多变的网络威胁。同时，会议还同步探讨了AI技术应用在智算基础设施、模型算法、应用服务等方面的安全风险与应对方案，促进AI技术的安全应用。
中国信息安全测评中心副主任温哲、中国信通院党委副书记王晓丽、中国移动集团信安中心副总经理袁捷出席会议并致辞。
中国工程院院士黄殿中进行了《网络空间安全大视野新观察》的主旨发言。黄殿中院士的演讲深入探讨了网络安全领域的三大视角：国际网络战略新动向、网络安全威胁新特点与智能安全技术新热点。特别聚焦于全面剖析AI与网络安全的双刃剑效应，阐述了人工智能如何提升威胁检测与响应能力，增强网络安全态势感知，但也指出了AI降低网络攻击门槛的风险，如自动化漏洞利用、智能生成恶意软件及伪造网络内容等。同时，强调了人工智能安全治理的紧迫性，提出了对模型、数据、技术及应用安全的多维度要求。
随后，安全大模型标准参编与测评证书、《AI+智慧城市安全白皮书》、《关基网络及信息系统作业可信与安全白皮书》、《高效安全管理体系白皮书》等进行了重磅发布。
华为、奇安信、绿盟、斗象、联通数科、启明星辰七家企业的安全大模型产品通过中国信通院首批安全大模型基础网络安全能力评估。
中国移动、华为、中国联通、奇安信、启明星辰、绿盟、斗象、360、中国电信、蚂蚁集团、新华三、智谱、蜜度、长安汽车、马上消费、安恒信息、山东鲁软数字、中邮保险、西安电子大学、中孚信息、杭州半个宇宙21家企业获得《安全大模型能力要求与评估防范 第1部分：总体框架》参编单位证书。
主题分享环节。AIIA总体组组长、中国信通院人工智能研究所所长魏凯进行了大模型安全技术研究与实践分享。魏凯所长从行业的视角分析了大模型在基础设施层、数据要素层、模型算法层和应用服务层存在的典型安全风险，并分别提出相应的应对思路。同时，魏凯所长还分享了大模型安全风险监测及防控平台建设、大模型基准评测、AI应用服务评测、安全大模型评测等方面的实践，为行业整体提升大模型安全保障能力和安全大模型产品能力指明了方向。
北京邮电大学网络安全学院执行院长李小勇、华为中国区网络安全与隐私保护CTO冯运波、启明星辰集团技术副总裁李陟分别围绕生成式AI大模型安全与技术赋能研究、AI安全治理的实践与思考、打造以智能体为核心的安全防护体系进行了分享。李小勇介绍了国内首款全流程人工智能安全攻防靶场、创新的诱导式生成式人工智能模型测评平台、国内首款基于零信任的人工智能安全防火墙等三个研究成果。冯运波表示，人工智能应该促进人类、社会和环境的福祉，安全可控、保护隐私、透明可解释、与人协作，且可持续。李陟认为，人工智能为网络攻防带来了新变化。当前以单点能力提升为目的的人工智能算法已经在网络安全领域得到了广泛的应用，在大模型时代需要充分利用技术红利，构建全流程的智能防护体系。
成果解读环节。中国移动集团首席专家、信安中心网络安全研发中心经理张峰、华为全球技术服务部合规官段学鹏、北京金铝芯科技有限公司总经理邱亮分别对《AI+智慧城市安全白皮书》、《关基网络及信息系统作业可信与安全白皮书》、《高效安全管理体系白皮书》进行了解读。中国信通院人工智能研究所安全与元宇宙部研究员静静介绍了《安全大模型能力要求与评估方法》系列规范。该系列规范第1部分总体框架中将安全大模型分为基础设施层，通用安全能力层和安全原子能力层。第2部分基础网络安全部分对安全知识问答、安全任务编排等8个通用安全能力要求和恶意流量检测、钓鱼邮件检测、漏洞挖掘验证等12个安全原子能力要求给出了定义。最后静静对于安全大模型产品的测试情况进行了总结分析。
大会最后，围绕人工智能安全技术发展趋势展开了圆桌对话，AIIA安全治理委员会安全组组长、中国信通院人工智能研究所安全与元宇宙部高级主管陈文弢、奇安信科技集团股份有限公司副总裁张卓、绿盟科技集团创新研究院总经理、星云实验室负责人刘文懋、360安全科技股份有限公司集团副总裁余凯、科来网络技术股份有限公司副总经理孟召瑞、成都思维世纪科技有限责任公司总经理钟志成、上海斗象信息科技有限公司CTO徐钟豪等参与讨论。中国信通院陈文弢表示，人工智能技术的快速进展不仅加剧了传统安全风险，也催生了新的风险类型。这些风险主要包括AI自身的风险，涉及基础设施、数据、模型算法和服务平台等方面的安全问题，以及AI应用过程中因技术滥用而产生的风险。目前，我国已初步建立人工智能治理体系，出台了相关法律法规。同时，产业界也在技术端加大力度，相继研发安全大模型。中国信通院不断关注AI技术安全问题，通过开展大模型安全能力评估，增强大模型的安全防护。同时，近期推出了“智盾”解决方案，用模型微调和外接知识库的形式，提升模型自身的安全能力，以解决模型易被攻击越狱的问题。
本次大会切实立足人工智能迅速发展的背景，邀请来自政府部门、学术机构、安全企业和相关行业的院士专家，聚焦总体国家安全观贯彻指引，围绕人工智能技术发展带给网络安全的新风险、新态势与新机遇，综合防范与应对、统筹发展与安全等议题进行深入研讨，通过汇集各方智慧，为行业发展提供了新的启示与引导。（惠拢金）
