下一个震惊全球被黑客锁定的“猎物”是什么?这个答案或将在 10 月 24 日举办的国际安适极客大赛GeekPwn硅谷·上海站揭晓。日前,GeekPwn(极棒) 正式向全球顶尖黑客们发出邀请——以 500 万奖金池悬赏打破思维枷锁的创新攻破项目。
本年,GeekPwn特别增设 “人工智能安适挑战专项”,鼓励极客从对抗的思路出发,协助AI进行安适性的预演分析,从而寻找AI潜藏的风险并不停帮手其完善,帮手人工智能安适健康成长。也许有朝一日,黑客可以成为掩护人类的那群人。
不停突破创新 黑客与AI打响欺骗与反欺骗之战
2014 年,“没有规则”的极棒大赛横空出世, 2015 年设置了指纹专场、SSL/TLS 协议安适专场, 2016 年更是首创机器特工挑战赛和跨次元CTF赛。 2017 年,GeekPwn将重点放在了备受关注的“人工智能安适挑战赛”。同时,主办方还将与项目联合发起方NextIdea(腾讯创新大赛)、独家AI协办机构机器之心等合作伙伴,就AI安适的社会及专业议题展开前所未有的前沿探讨。
当AI可以被误导,人类的未来将会怎样?如今,人工智能已经广泛应用于生活的诸多场景中,包孕实时语音翻译、目标识别、自动驾驶等等。率先关注到人工智能可能袒露出的诸多风险,极棒实验室在 2015 年底开始了AI对抗的研究,并广泛接触和招募AI领域的顶尖人才,很快,在 2016 年的GeekPwn美国站上,生成对抗网络(GANs)之父Ian Goodfellow就展示了“对抗性图像”在现实物理世界欺骗机器学习的效果。人工智能在图像领域可能被蒙骗的证实,引发了极棒实验室的思考,这些看似AI的错误和不完善,在黑客眼里就成了可以被利用的漏洞。
按照功能区分,人工智能安适挑战赛将分为PWN AI 与 AI PWN 两部分。PWNAI简单来说就是利用AI中存在的漏洞或错误,“黑掉”它,使它做出错误判断或让程序瓦解。举例来说,好比突破人脸识别手机解锁,以任意人脸解锁手机;在自动驾驶系统中找到安适问题,使其不能够正确识别障碍物的存在。
而AI PWN则是让AI成为你攻击其他目标的工具。举例来说,用人工智能的方法进行语音合成,生成目标模拟对象的语音并以高的概率通过语音身份验证系统;用人工智能的方法进行动作的判别,从视频中识别出门禁密码输入并达到较高的正确识别概率;用人工智能的方法识别复杂的机器验证码,正确识别率较高,使得目标验证码机制失去作用。
是上演“科幻大片”误导似乎已具备超强能力的AI?还是演绎现实版的“AI特工入侵人类”?不惧一切未知,黑客会把一切不成能变为可能。
无所不PWN挑战一切 白帽黑客掩护世界
除了AI挑战专项,GeekPwn将延续“无所不PWN”的传统,鼓励选手将市场在售的所有智能设备、物联网(IoT)产品或产品中的安适模块作为目标。在合理的攻击条件下,实现越权控制、越权拜候数据或者突破原有安适机制。
用鼻尖解锁手机、任意远程劫持世界任一用户的通讯、发现影响全球数亿网民的骨干网络设备漏洞……在GeekPwn上,白帽黑客们将他们的逆向思维、奇思妙想的脑洞发挥到了极致。在向世界秀出他们的才华的同时,也帮手了上百个厂商及产品去修复安适问题。对此,GeekPwn创办人、碁震KEEN公司CEO王琦就曾表达:在极棒上面,每个选手成功的背后,就成功的制止了一次互联网的瘫痪,制止了千万人隐私的泄露,制止了一次可能难以计数的损失。白帽黑客实际上在默默掩护全人类。
附:GeekPwn2017 硅谷·上海站角逐规则
(报名官网:)
无所不PWN
目标范围:
市场在售的所有智能设备、物联网(IoT)产品或产品中的安适模块。在合理的攻击条件下,对于范围内的产品或者模块,实现越权控制、越权拜候数据或者突破原有安适机制。参考
参考实例:实例
黑客通过一台受恶意软件感染的打印机,从物理隔绝的网络中提取数据,并通过激光将数据发给装有摄像头的无人机。
智能穿戴可能透露使用者的密码:恢复出用户手掌的运动轨迹,随后获得拜候ATM机、电子门禁以及用键盘控制的企业办事器的密码。
PWN AI范围
目标范围:
对于已发布的AI办事、产品、库、框架,采取手段使得在学习或者实际使用中,发生不测情况导致系统停止工作或系统被欺骗、误导,做出违反常规或者错误的判断、决策。标的目的包孕但不限于图像识别、语音识别、自然语言处理、自动驾驶、恶意软件识别等,AI框架主要是指流行框架如 Tensorflow、TorchNet、Caffe 等。
参考实例:
突破人脸识别手机解锁,以任意人脸解锁手机。
在自动驾驶系统中找到安适问题,使其不能够正确识别障碍物的存在。
在AI开源框架中找到问题,使得安排的AI系统在得到某种输入的情况下停止响应。
AI PWN
场景: