网络空间安全面临哪些挑战？国家级专家学者齐聚松山湖畅所欲言

网络安全是数字经济和智能化产业发展的基础保障，人工智能技术在网络空间安全领域具有重要的保障和促进作用。12月29日下午，2023全国人工智能应用场景创新峰会之网络空间安全创新应用论坛在东莞松山湖召开，来自全国知名高校、科研机构的院士专家优秀学者们汇聚一堂，围绕移动安全、物联网安全、数据安全、无人集群应用安全、网安智能对抗、大模型安全等重要场景及关键议题进行观点碰撞，共同探讨、分享人工智能的关键技术、创新难点及发展趋势。

广州大学党委常委、副校长田志宏与广州大学教授仇晶担任本次论坛的联合主席。东莞市副市长、市公安局局长乔雷，松山湖党工委委员、公安分局局长陈雪君出席论坛。

人工智能迅速发展，多领域多角度推动网络空间安全

中国科学院大学、中关村实验室教授、国家计算机网络入侵防范中心主任张玉清带来了《马奇诺防线：评估中国市场移动应用PII-as-Factor认证面临的跨应用安全威胁》专题报告，该报告以手机丢失后的信息安全为切入点，用实证的方式，分析在同时使用多个应用程序的情况下，是否会影响目标应用程序的PaFA机制，建立了一个半自动工具并测量了234个应用程序，发现APP广泛使用的PaFA不能如设计的那样有效地保护用户，并向相关方报告了研究发现，提出了一些缓解此类问题的建议。

广州大学网络空间安全学院副院长殷丽华以《广域网中的物联网僵尸网络检测》为题，向大家讲述了以及在物联网环境下的发展现状和危害，详细分析了其传播、感染、控制、攻击4个阶段的特点及弱点。“在大规模网络上，物联网僵尸网络最大的特点是数量多，而且网络流量中涉及IP地址数量是百万级别的，我们生成了一个具有不同混合控制僵尸网络拓扑结构，大概有1万个肉机节点，我们把生成的僵尸网络混合进了实际的Netflow数据里，大概有100万IP地址，我们和其他三种模型进行对比，我们的模型都有最高的准确度，训练层数可以达到16层，而时间消耗并没有显著提升，说明我们的算法可以捕获更远距离的关联性。”殷丽华介绍。

北京师范大学（珠海）人工智能与未来网络研究院教授王田带来《传感云与边缘计算现状与展望》报告，他对目前传感云存在的热点问题进行了调研，指出传感云存在底层能力太弱，无法提供计算能力、存储能力和能量支撑，缺乏对底层节点和数据的直接管理等问题，并在边缘计算中寻找“破题点”。“关于边缘计算能去中心化、低延迟、降低能耗、减少带宽成本，安全性和隐私性更高，基于这些特性，我们的研究基于边缘计算来做，解决传感云存在的问题。”王田介绍，他们已开发了“AI云边协同平台”一体机样机，服务器中有众多通信接口以提供算力的支撑，并重点研发了基于分布式边缘智能的合作视频监控项目，并应用到高栏港边检智慧码头监控中。

暨南大学生命科学技术学院莫测辉教授报告主题为《利用机器学习算法精准预测植物对全氟化合物的吸收累积》，他对四种机器学习算法进行建模，最终采取效果最好的GBRT模型进行研究，实现了在土壤-作物-PFASs系统各因子复杂交互作用下RCFs的精准预测，阐明了影响根系富集PFASs的关键因子及其作用区间，实现非靶标PFASs的预测评估，实现机器学习算法的符号化应用拓展，为研究植物吸收转运新污染物提供了范式。

深圳大学特聘教授毛睿分享了《AIMS：场景与需求驱动的AI应用开发引擎》专题报告，他认为AI领域存在“AI业务需求复杂，场景定制化需求高——软件贵”“实时、高并发的计算需求，开发门槛高——人力贵”“异构硬件资源，混合调度效率低——硬件贵”三个痛点，并从数据流的角度分享了AI应用和计算的支撑。“我们研究的目标是充分了解场景需求和用户需求交织，能满足复杂需求要求，而且会做软硬件一体，目标是大幅度降低AI应用落地的门槛”毛睿表示。

华中科技大学人工智能与自动化学院副院长张海涛给大家带来了《海洋自主无人艇-机集群跨域协同、网络安全及对抗博弈》专题报告，围绕群体智能机无人系统两个内容，讲解了“突变式调控是艇群协同高性能根本保证”的研究背景，“集群突变快速应对水域突发”的总体思路，无人艇集群的内生安全保障体系等内容，并展示了在松山湖建设的无人艇基地。“‘未来，自主化、智能化、集群化、内生安全’将是无人系统未来发展的四大趋势。”张海涛表示。

浙江大学计算机科学与技术学院求是特聘教授纪守领以《Large Model Security and Its Security Impact》为题，为大家介绍了大模型安全。纪守领认为“大模型安全不能集中只看大模型本身，还应该看大模型在实际应用中有什么安全的问题。”基于此，其团队从数据、模型、应用等层面对大模型及传统模型的安全性进行了对分析。“随着大模型及人工智能的发展，各种应用会越来越复杂，已经成为现实。”纪守领表示。

围绕问题与挑战，纵论人工智能与网络空间安全

随后，在圆桌对话环节，专家学者们围绕“人工智能与网络空间安全—挑战与机遇”这一主题，对网络安全应用场景活网安技术急需突破的重点难点，大模型失控可能会给领域、行业或人类带来的灾难、大模型与群智在网络安全领域相结合的可能性等话题进行探讨。广州大学党委常委、副校长田志宏主持圆桌对话。

“现在网络安全方面强调使用AI技术，特别是大模型帮助他们处理海量安全事件，如何降低运维复杂程度，如何去打补丁，是在实际应用中需求较强烈的问题，同时AI的攻防两端也较为困难。”西安电子科技大学网络与信息安全学院执行院长李晖表示。

“机器人改变了战场，网络安全越来越军事化发展，这里面就需要人工智能以及协同，不管是在靶场还是在现实中，网络攻防还需要人工智能。我的想法是通过人工智能来强化攻击和防守，实现秒级防御，有了攻击不怕，一秒钟就可以防御，全靠人工智能来做，这样感觉比较适合。” 绿盟科技集团平行实验室主任肖岩军表示。

“当前，舆论宣传对于AI的强大进行了较多的描述，但实际AI能不能实现端到端的东西，一次性解决一个问题，或直接输出想要的结果，我认为应当考虑哪些场景适合AI，哪些场景不适合AI。其次，AI和安全也有一个有趣的现象，从攻击的角度来说，用AI是相对简单的，但从防御手段来说用AI既不可信，也不可解释，仍需要一段时间来探索与发展。”浙江大学计算机科学与技术学院求是特聘教授纪守领表示。

“当前人工智能的定制化程度太高了，缺乏广泛的通用性，其次，可靠性及可解释性也较低，很多时候说不清楚什么时候会出错，甚至说不清楚说出错是为什么，在安全层面大家的心里就特别没底，这一个很大的瓶颈。”南方科技大学计算机科学与工程系教授唐珂表示。

“群智从网络角度来说可以把东西快速地分发出去，从大模型的角度来说只是实现了想法和决策，两个结合起来有可能把一些信息能够快速地通过各种方式分散分布出去。但要考虑到法律风险的问题，原来的责任相对比较好定义，现在通过群智的方式，大规模分发出去会涉及法律问题就会更加复杂一点。”香港科技大学（广州）协理副校长伍楷舜表示。

2023首届全国人工智能应用场景创新挑战赛总决赛暨全国人工智能应用场景创新峰会由中国人工智能学会、科技部新一代人工智能发展研究中心、东莞市人民政府主办，由广东省科学技术厅、广东省教育厅、广东省科学技术协会支持，由全国人工智能应用场景创新挑战赛办公室、广东院士联合会、广东院士专家科技成果转化服务中心、东莞松山湖高新技术产业开发区管理委员会等承办。

活动邀请了国内外人工智能领域近20名院士以及超百名顶尖学者和企业专家汇聚一堂，以“场景驱动·数智强国”为主题，围绕“以赛助研、以赛促评、以赛定标、以赛引才、以赛创业、以赛招商、以赛办展”的使命任务，采用“1+1+8+6+N”模式，即1场展览展示、1场开幕式暨主论坛、8场总决赛项目路演、6场专题论坛和N场特色活动（项目对接会、走读松山湖等）。

专题论坛活动中，与会院士专家、产业界代表就大模型范式的人工智能应用向全场景渗透，交流国内制造业等实体产业在无人驾驶、智能装备、网络安全、生物医药等领域的应用场景开放，探讨生成式人工智能等前沿技术挑战和AGI生态的商业模式，展望具身智能、脑机接口等通用人工智能发展趋势，围绕我国人工智能发展机遇、痛点与未来展开观点碰撞，构建促进人工智能更美好和可持续发展、支持启发性合作的高端平台，搭建全栈人工智能场景应用落地、创新创业、招商引资、成果转化的产业化合作交流平台。

【撰文】刘珊彤 陈启亮

【作者】 陈启亮；刘珊彤

【来源】 南方报业传媒集团南方+客户端