工业级大模型应用是一把“双刃剑”？

近日，一股“大模型热”正在延伸到工业领域。中工互联智工·工业大模型、思谋科技工业多模态大模型IndustryGPT V1.0、海尔卡奥斯工业大模型COSMO-GPT、科大讯飞羚羊工业大模型等大模型创新应用为智能制造提供了新的方向和思路。

但是，记者在采访时却了解到，工业企业利用分布式云将大模型引入到生产管理流程中是未来趋势，但也会带来越来越多的安全问题。工业级大模型应用可解决安全生产力短缺问题，但大模型技术是一把“双刃剑”，需要以大模型应用安全为前提。

工业云已成网络攻击主要对象

腾讯研究院和腾讯安全联合发布的《2023上半年云安全态势报告》显示，由于各行业用户群体和业务需求不同，行业遭受攻击的次数呈现出明显差异，其中互联网（通用工具、技术服务、通用SaaS）、工业云、金融是遭受攻击最多的三大行业。

2023年上半年各行业用户平均被攻击次数

数据来源：2023上半年云安全态势报告

据国家工业信息安全发展研究中心统计，2022年公开披露的工业信息安全事件共312起，行业分布覆盖十几个工业细分领域，制造、能源领域成为网络攻击重点目标攻击。攻击方式包括恶意软件、分布式拒绝服务（DDos）攻击、网络钓鱼等，呈现出目标多元化、手段复杂化、影响扩大化的攻击趋势。

值得关注的是，制造业已成为勒索攻击主要目标。其中，电子制造行业遭勒索攻击最多，占比约23%。汽车制造行业成为仅次于电子制造行业的重点攻击目标，占比约13%。

据Verizon统计的数据显示，全球多国大型制造企业关键工业数据遭泄露，造成的经济损失和影响持续加大。比如，韩国三星电子190GB机密数据和源代码被泄露。德国电子制造商赛米控遭数据勒索攻击，2TB重要文件被窃取。

此外，供应链也是网络攻击的一个重点。由于工业供应链攻击具有隐蔽性、威胁对象多、涉及维度广等特点，利用上游企业的安全薄弱环节实施攻击能达到“突破一点，伤及一片”的效果，工业供应链已成为网络攻击最佳切入点。

此前，丰田汽车就曾因主要零部件供应商遭受网络攻击，导致其不得不关闭在日本的全部14家工厂和28条生产线，影响约1万辆汽车的生产，经济损失严重。

腾讯安全副总经理董文辉在接受记者采访时表示：“上云是必然趋势，我们看到现在越来越多的工业企业是在上云的。他们会选择优先把自己原本就有的服务器等利用起来，进行本地化部署。像宁德时代、三一重工等比较典型的工业企业就采用的是本地云、专有云。”

在他看来，这些工业企业利用分布式云将AI的能力逐渐引入到整个生产、管理流程中，这是一个数字化的过程，也是未来的趋势。不过也正因如此，他们面临的安全威胁也越来越多了。

“一方面，传统工业企业在专业技术人才储备方面存在短板。另一方面，工业制造业涉及的特殊工艺、技术以及工业知识，给攻防端都带来了很大的技术挑战。”董文辉说道。

大模型与安全行业结合成新趋势

在工业领域，制造企业的安全体系面临挑战。蔚来汽车信息安全基础设施负责人马磊表示，对于汽车制造业而言，传统的云上DDOS、CCI以及爬虫风险持续存在，而智能网联时代，整个汽车生产制造，包括服务都跑在云上，车载应用迭代和更新的速度不断加快，这样也会加大安全漏洞的风险。此外，汽车制造业还面临关键基础设施的合规风险及供应链风险，必须从传统的被动防御转化成主动。

“长期以来，我们一直在思考一个问题——安全运营提效的终局会是怎样，安全运营未来会是怎样？”腾讯云安全产品负责人周荃说道，“如今，大模型来了。我们做了很多探索和尝试，发现通用的语言模型如果没有专门针对于垂类行业进行训练，就无法在指定领域里成为一个可对话式、生成式AI专家角色。为此，腾讯云安全在通用模型基础上投喂安全知识语料库二次训练出了一个安全大模型，并基于安全大模型打造了一款腾讯云AI安全助手，覆盖告警解释、漏洞修复、日志处理、智能客服等四大能力，产品将会在2024年1月全量正式上线。”

腾讯云安全年度产品发布会现场

不止是腾讯，微软的Microsoft Security Copilot、阿里云安全大模型、360安全大模型、深信服安全GPT、安恒科技AI恒脑、奇安信Q-GPT安全机器人等产品的涌现，足以说明大模型与安全行业的结合已经成为一个新趋势。

据奇安信集团总裁吴云坤介绍，目前奇安信推出的Q-GPT安全大模型已经在安全运营、事件响应、攻防演练等场景中进行大量实践验证，大幅度提升了相关应用场景的安全能力和效率。比如在安全运营场景下，经过初步测算，Q-GPT大模型每分钟可以研判16条告警，是安全专家平均水平的16倍；年运营效率可以达到人工运营的70倍。

“安全大模型的不断进化将驱动安全运营从人工时代进入全自动运营时代。”周荃表示。不过从现阶段来看，工业领域安全交互产品本质上仍停留在信息交换层面。很多工业设计包括产品体验设计更多都是提高信息反馈的及时性、准确性、丰富度，帮助安全运营人员拿到信息以后能够快速准确地做出下一步决策和判断。

他指出，下一步，如果能把安全大模型应用在产品交互、安全能力建设、安全服务等各个方面，将大大提升安全运营效率。比如，基于大模型，让用户通过更简单的操作，甚至对话的形式直接使用安全产品。再比如，尝试利用大模型对安全规则进行泛化和变种，提升安全漏洞的检出率。安全大模型最终演化为一个真正的安全智能体后，安全运营人员使用安全产品时只需针对确定性的事情提出一个目标，AI就能完成余下的工作。

工业大模型要遵循安全原则

工业场景有其特殊性，一方面工业制造业关乎国计民生，是经济和产业发展的基本盘。另一方面，这个领域极其复杂且细碎，目前国内规模以上工业企业数量超过40万家，覆盖41个工业大类、207个工业中类、666个工业小类，其中存在着大量的场景和业务痛点。工业安全的重要性毋庸置疑。

尤其是经过多年的发展，工业企业加速上云，完成了不少场景的智能化升级。大模型的到来，在为这个领域带来新机遇的同时也带来了更多安全挑战。

“工业级大模型应用可以解决安全生产力短缺的问题，但大模型技术是一把‘双刃剑’，需要以大模型应用安全作为生产力输出的前提和基础。然而，当前大多数大模型应用无法真正解决网络安全生产力问题。”吴云坤表示。

他建议，安全大模型达到工业级应用，需要满足三个关键条件。一是需要高质量知识数据、专家队伍、实战经验和场景支撑；二是必须基于多种安全任务的强化学习和顶尖专家的反馈训练；三是要面向安全生产场景中的任务和应用强化实战能力。像奇安信推出的大模型卫士，便可以防范大模型应用中数据投喂造成的敏感数据泄露、避免触发数据跨境安全监管红线、建立身份识别与溯源机制，对企业的大模型应用进行安全管控。

奇安信集团总裁吴云坤在2023世界互联网大会乌镇峰会上发表演讲

制造业是一个高度专业化的领域，且细分行业众多，不能简单地将一个通用大模型应用于生产环境。即便是引领技术潮流的GPT-4，也由于缺少专业知识、无法理解工业场景的具体需求，而无法准确回答制造行业的相关问题、识别常见的工业缺陷，或生成相关的业务流程和代码。

在工业安全场景中，更是需要有全面的工业知识和安全知识的结合，这对安全大模型本身也提出了更高的要求。腾讯安全科恩实验室高级安全研究员唐祺壹表示：“要跟实际的业务场景去做结合，通过场景数据微调的方式，以更低的训练适配成本和插件化的灵活性，去将大模型应用到不同的场景当中，发挥真正的价值。”

360创始人周鸿祎认为，大模型很热，但绝不是风口和泡沫，而是代表了一次工业革命的机会，将大幅提高生产力和生产效率。在构建企业级大模型的时候一定要遵循“安全原则”。安全是大模型发展的底线，也是未来大模型的核心竞争力。