CIEC 2023 | 启明星辰发表《人工智能安全大模型的应用架构与方案》主题演讲
发布时间 2023-12-1512月14日，2023计算产业生态大会（CIEC 2023）计算安全分论坛在北京成功举办。启明星辰北冥AI实验室负责人李陟发表《人工智能安全大模型的应用架构与方案》主题演讲，围绕人工智能与网络安全之间的关系，以及安全大模型解决方案技术路线、场景应用等进行分享。
李陟指出，人工智能与网络安全之间存在着人工智能赋能安全和人工智能伴生安全两个方面的关系。
在小模型时代，人工智能赋能安全的实例包括加密恶意流量检测模型、DGA恶意域名检测模型以及工控场景异常流量检测等。这些模型通过利用人工智能技术，能够更加高效地识别和防御网络攻击，提升网络安全水平。
大模型时代，人工智能的应用类别分为对话模型、代码模型、AI Agent。在安全领域，大模型的应用主要是通过对话窗口的形式，由人和大模型进行交互，实现告警解读、调查取证等功能。整体技术路线主要以大模型为底座，通过理解人的意图之后，调用Lang Chain等Al Agent框架，实现各种各样的安全场景应用和安全操作。
“人工智能并不会真正取代传统安全系统，而是和传统安全系统融合在一起，成为安全分析人员的智能助手，提升安全运营工作效率。”李陟表示。
李陟分享了启明星辰安全大模型解决方案技术路线图。以中国移动九天大模型为基座，结合启明星辰丰富的安全数据集，进行全量预训练和微调，打造安全大模型。同时，通过安全大模型、专用小模型、安全产品的智能组合，提升产品能力和运营服务效率并应用到威胁检测、安全运营、开发安全等安全场景中。
演讲中李陟还详细介绍了人工智能安全大模型的工程实践方案，并通过具体的实例展示了安全大模型在网络安全知识问答、安全检测分析、分析报告生成、代码分析和生成、安全运营自动化五个场景中的应用。
最后，李陟表示：“人工智能模型在高速发展，除人工智能安全应用外，我们还需关注人工智能模型自身的安全问题。期待未来人工智能安全大模型的应用取得更丰硕的成果，为网络安全事业的发展做出更大的贡献。”
关于“启明星辰北冥AI实验室”
北冥AI实验室是启明星辰专注于“人工智能赋能安全”和“安全的人工智能”技术研究的团队，致力于构建人工智能和网络空间安全交叉领域的专业技术能力，打造人工智能和安全双向赋能的技术体系。目前团队成功研发并发布了包括人工智能安全建模和赋能平台、X-Copilot智能告警分析取证系统、机器视觉物理对抗攻击检测系统、盘小古安全大模型系统等多个人工智能安全产品。
京公网安备11010802024551号