智通财经APP获悉，发布研报称，生成式人工智能技术在网络安全领域是一把“双刃剑”，AI新技术的脆弱性也使得应用自身面临安全风险。随着全球AI安全市场规模预计在2030年达到1340亿美元(CAGR 27.6%)。AI大模型安全监测评估产品或迎发展先机。AI衍生安全问题加剧，AI监管势在必行，建议关注深度伪造视频、图像、文本等检测产品。

“AI+安全”主要包括AI赋能网络安全、AI内生安全和AI衍生安全

大模型快速发展给人们带来便利的同时，其引发的网络安全问题也值得重点关注。以ChatGPT为代表的生成式人工智能技术在网络安全领域是一把“双刃剑”，一方面，AI可以赋能网络安全，提升风险检测与防护能力;另一方面，AI的滥用将对国家、社会、公众带来负面影响，同时，AI新技术的脆弱性也使得应用自身面临安全风险。

AI在赋能传统网安产品与提升网安运营效率方面展现出极大潜力

根据Statista预测，2023至2030年全球AI安全市场规模CAGR将达27.60%，2030年市场规模将飙升至1340亿美元。AI赋能传统安全产品主要包括威胁检测产品(恶意软件检测、攻击流量检测、用户和实体行为分析、以及加密流量分析)、数据安全和防火墙等;AI大模型在网络安全运营中的产业实践，尤其是在告警降噪、攻击研判、自动响应与处置方面，展现出了显著的优势和潜力，安全运营是安全行业最需要AI深度改造的环节。

AI内生安全构筑网安新赛道，AI大模型安全监测评估产品或迎发展先机

人工智能技术的崛起依托于AI模型、AI数据以及AI承载系统。1)AI模型安全：主要包含模型训练完整性威胁、模型测试完整性威胁和鲁棒性欠缺威胁等。2)AI数据与隐私安全性：主要包括模型窃取、隐私泄露和基于梯度更新的数据泄露等威胁。3)AI系统安全性问题：主要包括硬件设备安全和系统与软件安全，AI系统安全性问题与传统计算机安全领域中的安全问题类似，威胁着AI技术的完整性、保密性、可用性。

AI衍生安全问题加剧，AI监管势在必行，建议关注深度伪造视频、图像、文本等检测产品

人工智能衍生安全指人工智能系统因其自身脆弱性被利用而引起其他领域的问题，AI衍生安全影响AI的合规使用，还涉及人身安全、隐私保护等。AI衍生安全包括：人工智能系统失误引发的安全事故、大模型广泛应用带来的滥用风险和人工智能武器研发可能引发国际军备竞赛。各国针对AI滥用情况纷纷发布相关监管政策，我国发布《生成式人工智能服务管理暂行办法》和《人工智能生成合成内容标识办法》等办法，体现了风险防范、风险应对和风险管理的基本思路。

风险提示：人工智能、网络安全和AI安全行业发展不及预期。