当前位置:首页 > 资讯中心

ChatGPT给网络安全行业带来的“矛”与“盾”

2023-06-01242次

​“ChatGPT是个好东西,在特定场景下是一种颠覆性的创新,但是它不是万能的,需要知道适用哪些场景。如何找到合适的场景去利用ChatGPT这样的新技术,这一点至关重要”,这是虎符网络创始人、CEO在近日举行的ChatGPT安全研讨会上,对ChatGPT技术发展和未来应用前景的预测。


本次研讨会由云安全联盟大中华区主办,虎符网络等企业共同协办,于5月30日通过线上会议形式成功召开。研讨会期间,云安全联盟大中华区正式发布报告《ChatGPT的安全影响》。该报告重点关注ChatGPT在网络安全领域的影响,强调其在提升生产力和改变软件开发实践上的潜力,同时也指出了区分其合法和非法使用的挑战。报告由CSA工作组专家编写,虎符网络安全专家参与中文版的翻译和审校工作。

报告指出,ChatGPT的火爆,将AI的安全与隐私又一次置于聚光灯下,高智慧AI如果产生对人类的不良意识更将是全新的巨大威胁。安全从业者想了解ChatGPT能否有助于自己的工作,企业的管理者想了解能否使用ChatGPT带来业务优势,并规避风险,甚至大众也有AI时代安全与隐私的顾虑和担忧。《ChatGPT的安全影响》能以专业的视角,清晰和准确的描述ChatGPT的安全影响,给读者信息、思考和启发。



研讨会期间,虎符网络创始人、CEO王伟受邀参加“ChatGPT及其安全影响”圆桌讨论,与多位业界专家共同探讨ChatGPT技术的未来发展趋势,带来精彩的分析与专业解读

01 ChatGPT技术的优劣势

ChatGPT是一种生成式AI,在特定的领域具有颠覆性。ChatGPT中的“Chat”具有交互特性,这个特性决定了能做什么不能做什么,它的能力需要不断跟用户交互学习提升。ChatGPT擅长做海量数据的搜索,具备一定的加工、分析和推理能力,但是对于答案的正确性不高,容易“一本正经的胡说八道”。所以从应用来看,对答案准确性有较高要求的场景,ChatGPT技术显得力不从心。

02 ChatGPT在网络安全领域的应用

ChatGPT本身是一个人机交互场景,可利用其技术做运营辅助,预测网络攻击,提升运营效率。如果需要将ChatGPT技术运用到更深的领域中,需要利用深度学习模型,生成对话或者模拟用户行为,与恶意软件和攻击行为做互动,进一步诱捕攻击者行为,用于提升蜜罐工作效率或者优化防御体系,让ChatGPT技术应用的广度和深度都得到提升。这就好比战争中的“矛”与“盾”,一方面ChatGPT降低了攻击者的技术门槛,简化了攻击流程;另一方面安全从业者也可以利用ChatGPT的交互、智能等特性实现更深层次的对抗和防御。

03 ChatGPT带来的综合影响

首先,ChatGPT是一个很好的降本增效工具,企业要积极拥抱编程助手、写作助手等新技术,降低运营成本。其次,ChatGPT作为大语言模型技术提高了人机交互体验,从整个网络安全角度来讲,要考虑好场景应用,再引入这类新技术。例如,在安全托管运营场景下,可以利用ChatGPT技术对安全事件快速做出响应并且进行溯源和情报分析,这可以大幅提升运营效率和体验效果。