9 月 18 日,2018世界人工智能大会·人工智能安全高端对话在上海召开,活动由上海赛博网络安全产业创新研究院和中国信息通信研究院安全研究所承办,腾讯公司安全管理部、上海社会科学院互联网研究中心和《探索与争鸣》杂志社共同协办。本次对话汇聚了全球人工智能安全领域的重量级学者、专家和产业精英,共同探讨“AI+安全”领域的安全挑战及应对之道。

上海社会科学院副院长王振主持论坛开幕式。中国互联网发展基金会理事长马利、上海市经济和信息化委员会巡视员陈跃华、中国信息通信研究院副院长王志勤以及腾讯信息安全执行委员会主任、腾讯公司安全管理部副总经理杨鹏出席活动并致辞。杨鹏表示腾讯一直致力于用“互联网+”连接一切,强调科技应当为我所用,造福于人类,AI+安全的加号代表着一种“赋能”和“助力”的理念,要求其更好地利用人工智能,保障、维护好人工智能的安全问题,实现健康有序的发展。

腾讯公司安全管理部副总经理杨鹏致辞

会议重磅推出了三份人工智能安全专题报告,其中腾讯公司安全管理部和上海赛博网络安全产业创新研究院联合重磅推出《人工智能赋能网络空间安全:模式与实践》。该报告聚焦 AI 在安全场景的应用模式与案例,从风险演进和技术逻辑的视角阐述了网络空间安全的内涵和趋势。引入安全防护范式,梳理出网络系统、网络内容和物理网络系统 3 个层面 14 个安全领域的 AI 应用情况,其中包括要解决的安全威胁,AI 技术如何应用的模式和具体实例 30 多个。

人工智能打击黑产初具成效

随着网络信息技术全面普及以及数据价值的持续增长,网络空间安全威胁持续严峻,且呈现出智能化、隐匿性、规模化的特点,这让网络空间安全的防御、检测和响应面临更大的挑战。人工智能以其独特的优势,正在各类安全场景中形成多种多样的解决方案。

腾讯在运用人工智能打击黑产方面,已经有诈骗信息打击、新型身份认证和网络安全态势感知等方面的应用。

在诈骗信息打击方面,腾讯公司基于其黑产对抗经验技术和反欺诈 AI 模型建造能力,打造“宾果反诈骗防控系统”,通过大数据分析和机器自我学习总结、预测警情中作案手法、通信行为、网络特征、资金流向等特点规律,从而能在诈骗事前、事中、事后等环节起到预警、分析作用。与警方开展合作,通过对合法获取的警情、通信、网络、金融等领域大数据的深度学习,宾果系统具有三项“自动能力”。一是可自动发现电信网络诈骗犯罪行为并自动预警,配合警方开展预防劝阻措施提供助力;二是自动关联作案工具,对有害账户进行自主收敛,宾果系统能够充分依托腾讯公司安全体系和机制,在最短时间内作出限权、封停等措施;三是可实现对电信网络诈骗窝点、人群的智能聚类,为警方开展刑事打击提供线索参考。

宾果反诈骗防控系统投入使用以来,全国重点诈骗区域诈骗号码大幅下降接近70%,有效遏制了诈骗态势蔓延;3月上线以来,预警超过50000起,准确率超过99%,覆盖全国31个省区市,累计为民众避免损失20亿元。

新型身份认证的应用方面,基于数据挖掘和人工智能技术的新型身份认证综合运用了数字签名、设备指纹、时空码、人脸识别等多项身份认证技术,目前在金融、社保、保险、电商、O2O、直播等行业均已有广泛应用。腾讯守护者计划基于长期积累的 AI 人工智能和神经网络的分析能力,引入多维度的动态验证机制对抗相关黑产。

新型网络安全态势感知,是利用数据融合、数据挖掘、智能分析和可视化等技术,从宏观角度实时直观显示网络安全状态,并对网络安全趋势做出预测,为网络安全威胁预警和防护提供参考。

腾讯守护者计划研发的智能金融安全感知系统“灵鲲”力争对非法集资、金融传销等涉众型金融犯罪“打早打小”,识别覆盖率可达90%以上;腾讯反传销态势感知系统通过海量数据的合法采集、自然语言处理等人工智能技术,全面分析汇总传销态势,该系统目前已协助公安机关破获了善心汇、五行币、云在指尖、星火草原等涉嫌网络传销案件。

人工智能也已经广泛应用于不同形态的网络信息内容治理中,腾讯研发的冰鉴系统引擎借助深度学习算法,开发应用了提供端到输出端全链条鉴黄检测服务,对于色情图片的识别准确率达99.9%以上,并可通过不断学习让模型更加智能,大大提高不良信息内容治理的效率。

人工智能助力车联网 安全先行