当人工智能被欺骗，人类的未来将不会怎样？5月13日，全球首次海上极客大赛GeekPwn年中赛在香港举行，组委会在举办地星梦邮轮“云顶梦号”上宣告：将以500万的奖金池，启动10月24日在上海和硅谷的人工智能安全性挑战赛的召募，拒绝接受全球顶尖AI安全性极客的甄选。同时GeekPwn还将与项目牵头发起方NextIdea（腾讯创意大赛）、独家AI主办机构机器之心等合作伙伴，就AI安全性的社会及专业议题进行前沿了解的探究。（碁如雷KEEN公司CEO，GeekPwn大赛创办人王琦）远程操纵特斯拉、用鼻尖关卡手机、给定远程挟持世界任一用户的通讯……创立于2014年的国际安全性极客大赛GeekPwn，白帽黑客们将他们的逆向思维、奇思妙想的脑洞充分发挥到了淋漓尽致。在向世界秀出他们的才华的同时，也协助了上百个厂商及产品去修缮安全性问题。

GeekPwn创办人、碁如雷KEEN公司创始人兼任CEO王琦回应，从对付的思路抵达，创立人工智能安全性挑战赛是为了找寻AI潜藏的风险并大大协助其完备，协助人工智能安全性健康成长。如今，人工智能早已普遍应用于生活的诸多场景中，还包括动态语音翻译成、目标辨识、自动驾驶等等。首度注目到人工智能有可能暴露出的诸多风险，GeekPwn实验室在2015年底开始了AI对付的研究，并普遍认识和召募AI领域的顶尖人才，迅速，在2016年的GeekPwn美国站上，分解对付网络(GANs)之父Ian Goodfellow就展出了“对抗性图像”在现实物理世界愚弄机器学习的效果。完整图像以60%的置信度辨别为“熊猫”，但是重新加入了微小的阻碍，在人眼几乎没什么差异的情况下却以99%的继续执行度归为了长臂猿。

近期，有研究者找到，蓄意攻击者可以愚弄Google的CloudVision API，这将造成API对用户递交的图片展开错误地分类，网络犯罪分子可以利用这种技术来传播暴力图片、色情图片或恐怖主义宣传图片。不必须学代码未来有可能人人都是“黑客”AI在图像领域不存在被愚弄的可能性，让王琦预见这种可能性在其他语音和不道德智能等领域也不会不存在。AI被愚弄，看起来人工智能的错误和不完备，但只不过在黑客眼里就有可能变为可以被利用的漏洞。

随着AI在交通、金融和医疗体系中运用得愈发广泛，GeekPwn期望在蓄意分子确实动手之前、寻找对付这些反击的方法。王琦回应，在人工智能领域，深度自学倚赖对大量样本展开自学，最后产生决策的过程，和安全性领域里通过产生大量模糊不清测试样本引起计算机出现异常，从而发掘出漏洞，最后继续执行流程可以被转变，进而造成安全性危害的过程十分相近，如果说准确样本需要产生准确的决策，那么黑客通过离线仿真产生的AI反击样本，则有可能给人工智能带给错误的决策和不道德。微软公司聊天机器人Tay上线将近一天，就向网友“顺利自学”了新的聊天方式，从彬彬有礼的美国“姑娘”显得脏话大大，言语中还弥漫了种族主义、色情等“情感种族主义”。

王琦大胆应验：深度倚赖自学样本的人工智能，未来对它的反击有可能甚至不必须撰写代码，人人都有可能沦为“黑客”。极棒向全球AI极客广发英雄帖 与人工智能“战究竟”作为全球首个探寻人工智能与安全性的专业平台， 2017年，GeekPwn（近于篮）将人工智能安全性挑战赛列入全年重点项目。牵头发起方NEXT IDEA 2017年则以“未来想象”为主题，让青年群体更加多注目还包括人工智能安全性等与人类未来息息相关的领域，让每一个年轻人的奇思妙想获得大肆生长。

腾讯集团市场与公关部总经理许菁文指出，安全性专家对于未来的忧虑将引导年轻人思维人类未来的生产、生活遇上的问题和挑战，让更加多的年轻人一起为人工智能安全性贡献一份力量。无论你是想要突破人脸识别手机关卡，在 AI 开源框架中寻找问题，还是想要“建构”AI特工，让它构建侵略，都可以甄选参与。在这场将要来临的黑客与人工智能的决斗中，黑客将利用AI 的错误以及不完备，为人们带给怎样突破性的想象和落后的技术展出？这一切，将在10月24日GeekPwn2017嘉年华上海站及硅谷车站的现场为全人类入围。

“我们现在是协助人工智能茁壮，期望有朝一日，黑客可以沦为维护人类的那群人。”王琦说道。原创文章，予以许可禁令刊登。下文闻刊登须知。

本文来源：kaiyun·开云，kaiyun·开云(官方)app下载安装ios/安卓通用版/手机版-www.tvb429.com