在ChatGPT呈现全球现象级热度时,通用大语言模型技术已成为推动创新和变革的关键驱动力,对安全厂商以AI赋能安全,推动产业自动化、智能化发展持续提出更高的要求亚新体育网站亚新体育网站。
近日,绿盟科技300369)基于“人工智能+安全”多年积累的安全专业经验和高质量数据,正式推出《安全行业大模型 SecLLM技术白皮书》,分享其在安全行业大模型研发过程中所积累的最佳实践与经验教训,以期为安全行业提供“量身定制”的大模型解决方案。
以下为对线、ChatGPT在安全应用上的“适配性”如何?会遇到哪些问题?
ChatGPT给我们技术上带来很大的吸引力,但依旧有很多问题需要我们解决,如安全专业知识的缺乏、新型威胁和热点事件无法响应、数据隐私和安全性问题,大模型不可解性等等。安全专业知识的缺乏:例如当我们问海莲花时,chatGPT会告诉你是一种水生的植物,而安全人员的意图是想要了解海莲花是APT32攻击团伙的别名。
数据隐私和安全性:3月份行业动态,ChatGPT发生了数据泄露事件,暴露了部分ChatGPT使用者的个人信息,也就是chatGPT保留和处理了用户个人数据。而某公司员工通过ChatGPT泄露了公司的绝密数据,包括半导体设备测量数据等,都值得我们重视。
安全行业大模型从构建到应用这过程中涉及多方面的关键技术,总结为 “易”“快”“准”“安”四个方面。
提供一个便捷的人机交互接口。用户最容易感知的是用户接口,通过自然语言提问“如何保护我的网络免受DDoS攻击?”;大模型需要能够理解用户意图并给出相应的回答,包括相关的安全知识、建议和决策支持等。
客户有私有的安全数据,同时也需要考虑最新热点攻击事件等分析数据,这需要大模型服务提供可靠的实时数据和专业领域知识。
安全领域已有很多小模型、安全专家手上还有很多安全工具,不同安全产品和平台、云端服务等,这些是否可以和大模型协同工作来一起解决安全问题。
安全行业大模型从构建到应用这过程突破很多关键技术同时,解决了很多难点问题。其中如安全训练数据的准备,应该说高质量安全语料的准备。1)安全领域安全事件、攻击记录和安全专家分析经验的数据非常有限。
2)同时安全数据包括结构化的日志信息、非结构化的文本、图片、网络流量等不同,面临解决数据来源多样化、数据格式不一致等难题。
绿盟安全行业大模型一开始实验室研究,就和公司运营团队和安全战队捆绑在一起,研究内容直接应用实践,构建迭代优化的闭环,让模型可以自我学习和自我演进。主要应用包括:安全知识库,不仅训练的安全法律法规、安全技战术,还接入了安全知识图谱和实时热点等,尽可能做到知识库内容的准确和实时。
多源情报分析,高价值情报挖掘:整合多个不同来源的安全情报信息,对提供更准确、全面的威胁情报,帮助组织更好地应对安全威胁是非常有必要的。
在安全攻防中,通过大模型构建智能体,从历史数据和实时反馈中不断优化和更新攻击和防御技术,利用自身学习能力提高攻防智能化和适应性。
目前最多的就是作为安全运营助手 copilot,辅助安全运营人员,提升工作效率。为安全团队提供实时的辅助决策,推荐最佳响应方案,实现人机协同亚新体育网站,进一步增强安全防御的智能化和及时性。
安全行业大小模型会并行很长一段时间,两者相辅相成,逐步提升。目前安全行业大模型关键技术研究和应用实践还处于早期阶段,未来值得学术界和工业界进一步的研究与探索,需要共同构建安全行业大模型技术生态,促进相关标准的制定和人才的培养,营造“人工智能+安全”智能安全融合的技术氛围,推动网络攻防的智能化和自动化,为安全保护带来了新的突破。
惠誉评级将信用挂钩票据(CLN)的11个评级从“AAAsf”下调至“AA+”
已有95家主力机构披露2023-06-30报告期持股数据,持仓量总计2.99亿股,占流通A股40.51%
近期的平均成本为9.65元。该股资金方面呈流出状态,投资者请谨慎投资。该公司运营状况尚可,多数机构认为该股长期投资价值较高,投资者可加强关注。亚新sports