http://www.googleyouhua.net

酒泉新媒体营销看走眼人工智能图像

网络推广
酒泉新媒体营销威廉·吉布森(William Gibson)写于 2010 年的小说《零历史(Zero History)》中有这样一个场景:一个角色穿着迄今为止「最漂亮的T-shirt」展开了风险的突袭,T-shirt 可使其对闭路电视(CCTV)隐身。在尼尔·斯蒂芬森(Neal Stephenson)的小说《雪崩(Snow Crash)》中,一个位图图像被用来传递可扰乱黑客大脑频率的病毒,借助计算机加强的视觉神经以腐蚀目的者的心智。诸如此类的故事构成了一种循环往复的科幻比喻:一张普通的图像具有摧毁计算机的才能。

威廉·吉布森(William Gibson)写于 2010 年的小说《零历史(Zero History)》中有这样一个场景:一个角色穿着迄今为止「最漂亮的T-shirt」展开了风险的突袭,T-shirt 可使其对闭路电视(CCTV)隐身。在尼尔·斯蒂芬森(Neal Stephenson)的小说《雪崩(Snow Crash)》中,一个位图图像被用来传递可扰乱黑客大脑频率的病毒,借助计算机加强的视觉神经以腐蚀目的者的心智。诸如此类的故事构成了一种循环往复的科幻比喻:一张普通的图像具有摧毁计算机的才能。

不论怎样,这个概念并非完全虚拟。去年,研讨者仅仅带上花式眼镜(patterned glasses),一个商用面部辨认零碎就做出了错误辨认。花式眼镜就是在镜框上贴上迷幻颜色的贴纸,花式的歪曲和曲线在人看来是随机的,但计算机却要在带有花式眼镜的人脸上分辨出五官,而且这些人脸的轮廓很类似。花式眼镜不会像吉布森「最漂亮的 T-shirt」那般将其从闭环电视中抹去,但是它可使人工智能错以为你是教皇,或许其别人。

带有花式眼镜的研讨者以及人脸辨认零碎的对应辨认后果。

这些类型的袭击包括在被称为「对立机器学习(adversarial machine learning)」(之所以如此称谓是由于对手之类的存在,在该状况中,对手是黑客)少量网络平安类别中。在这一范畴,「最漂亮的 T-shirt」以及腐蚀大脑的位图的科幻比喻表现为「对立性图像」或许「捉弄式图像」,但是对立性袭击具无形式,如音频甚至是文本。2010 年晚期,少量的团队各自独立发现了这一景象的存在,他们通常把可对数据停止分类的机器学习零碎「分类器」作为目的,比方谷歌图片中的算法可为你的照片打上食物、假期和宠物等标签。

关于人而言,捉弄式图像就像是一个随机的扎染图案或许突发的电视噪点;但是对图像分类器而言,它却可以自信的说出:「看,那是一只长臂猿」或许「一个如此亮眼的白色摩托车」。就像花边眼镜使人脸辨认零碎发作了错误辨认,分类器处置了混乱到人类永远无法辨认的图像视觉特征。

这些图案可以各种方式绕过人工智能零碎,并对将来的平安零碎、工业机器人和自动驾驶汽车等需求人工智能辨认物体的范畴有严重意义。2015 年有关捉弄式图像论文的结合作者 Jeff Clune 通知 The Verge:「想象一下你身处军队,正在运用一个自动锁定目的的武器零碎,你绝不希望朋友把一张对立性图像放在了医院的楼顶,零碎锁定并攻击了医院;或许你正在运用同一个零碎追踪朋友,你也绝不喜欢被捉弄式图像骗了,[并] 开端用你的无人机紧盯着错误的目的车辆。」

捉弄式图像以及人工智能辨认的对应后果。

这些情节是假定的,但却十分具有可行性,假如持续沿着以后的人工智能途径开展。Clune 说:「没错,这是一个研讨社区需求共同面对的大成绩。」进攻对立性攻击的应战有两方面:我们不只不确定如何无效地还击现有攻击,而且更多高效的攻击变体在继续增长。Clune 及其结合作者 Jason Yosinski 和 Anh Nguyen 描绘的捉弄式图像容易被人类发现,它们就像是视觉幻觉或许晚期的网络艺术,满是斑驳的颜色与图案堆叠,但是有更为奇妙的办法运用它们。

摄动可像 Instagram 滤镜普通被用于图像

有一类被研讨者称为「摄动(perturbation)」的对立性图像简直对人眼不可见,它作为照片外表上的像素涟漪(ripple of pixels)而存在,并可像 Instagram 滤镜普通被用于图像。这些摄动发现于 2013 年,在 2014 年一篇名为「解释和应用对立性实例(Explaining and Harnessing Adversarial Examples)(链接:https://arxiv.org/abs/1412.6572)」的论文中,研讨者演示了摄动的灵敏性。摄动有才能捉弄一整套不同的分类器,即便没有被训练来攻击的分类器。一项名为「通用对立性摄动(Universal Adversarial Perturbations)(链接:https://arxiv.org/pdf/1610.08401v1.pdf)」改良研讨经过成功地在少量不同的神经网络上测试摄动,使得这一特征明白起来,上个月惹起了众多研讨者们的关注。

右边是原始图像,两头是摄动,左边被摄动的图像。

运用捉弄式图像黑进人工智能零碎有其局限性:第一,需求破费更多工夫制造加扰的图像,使得人工智能零碎以为其看到的是一张特殊的图像而不是发生了随机错误。第二,为了在后来生成摄动,你常常——但不总是——需求获取你要操控的零碎的外部代码。第三,攻击并不是一向高效。就像论文「通用对立性摄动」所述,在一个网络中成功率为 90% 的摄动也许在另外一个网络之中只要 50-60% 的成功率。(也就是说,假如一个存在成绩的分类器正在指引一辆自动驾驶半式卡车,甚至 50%的错误率都是灾难性的。)

为了更好地进攻捉弄式图像,工程师开端了「对立性训练」。这需求为分类器输出对立性图像,从而让分类器可以学习辨认并疏忽它们,就像保镖经过脸面照片辨认酒吧制止入内之人。不幸的是,正如宾夕法尼亚州立大学毕业生 Nicolas Papernot(关于对立性攻击他写了少量论文)所解释的,在「计算密集型战略」面前,即便这种训练也很软弱(即,向零碎输出足够的图像,它最终仍会出错)。

被摄动的图像,以及对应的人工智能辨认的后果。

更困难的是,这类攻击见效或失败的缘由并不明晰。一种解释是对立性图像应用一种被称为「决策边界」的特征,其在很多人工智能零碎中都存在。这些边界是不可见的规则,它们调控了零碎如何判别,如,狮子和豹子之间的不同。一个很复杂的只区分这两类植物的人工智能项目将最终发明出一个意地步图。想像在一个 X-Y 立体内:右上角散布着一切该人工智能零碎见过的豹子,而左下角散布着狮子。将这两个局部分开的直线——狮子变成豹子,豹子变成狮子的边界——称作决策边界。

Clune 说道,关于分类来说,决策边界办法的难题是它太相对,太武断。「你对神经网络所做的一切事情仅仅是训练它们在各类数据间画线,而不是对它们建模以辨认出它们代表了豹子还是狮子。」像这样的零碎可以经过一个确定的、用各种方式操作。为了捉弄狮子-豹子剖析器,你可以拍一张狮子的照片并把它的特征推到奇特的极端,但依然让它变现为正常的狮子:给它好像发掘配备的,和校车普通大小的爪子,以及好像熄灭的太阳普通的长鬃毛。对人类来说,这是无法辨认的,但对一个反省决策边界的人工智能零碎来说,这只是一只极端的狮子罢了。

据我们所知,对立性图像从未在真实世界构成过危害。但谷歌大脑的研讨迷信家,结合著作了《解释和应用对立性实例》的 Ian Goodfellow 以为这种潜在的要挟从未被无视。「研讨社区,尤其是谷歌,正在严肃地看待这个成绩,」Goodfellow 说道。「并且我们正努力努力于开展更好的进攻措施。」少量组织,如伊隆·马斯克创建的 OpenAI,目前正在停止或发起关于对立性攻击的研讨。目前的结论是暂时没有新技术,但关于这些攻击在真实世界中能形成多大要挟,研讨者们并未达成共识。例如,已存在少量攻击自动驾驶汽车的办法,它们并不依赖于计算复杂的摄动。

Papernot 以为,普遍存在于人工智能零碎中的缺乏并不令人诧异——分类器被训练成「拥有好的均匀表现,而并不总是针对最坏状况的表现——这是典型的从平安角度动身的观念。」也就是说,比起它的均匀表现,研讨者较少担忧零碎发作灾难性的错误。「一种处置顺手的决策边界的办法,」Clune 说道,「是使得影像分类器知晓它们无法分类什么目的,而不是试图将数据拟合进某一类。」

与此同时,对立性攻击也激起了更深层与概念化的考虑。相反的捉弄式图像可以扰乱谷歌、Mobileye 或 Facebook独立开发的人工智能零碎的「心智」,全体上提醒了当代人工智能特有的缺乏。

「似乎一切这些不同的网络围坐一同,相互诉说为什么这些愚笨的人类看法不到这个噪点图里实践上是一个海星,」Clune说道。「那相当风趣且奥秘;一切这些网络都赞同这些疯狂和非自然的影像实践上属于同类。那种水平的收敛真让人诧异。」

对 Clune 的同事 Jason Yosinski来说,在捉弄式图像上的研讨标明人工智能和自然界发明的智能之间存在令人诧异的共同点。他留意到人工智能及它们的决策边界所犯的同类错误也存在于植物世界中,在这里植物们被「超凡安慰」所捉弄。

这些安慰是自然界景象的人工版,鼓动植物违犯它们的天分。这一行为首先于二十世纪五十年代被发现,事先研讨者们用它使得鸟类无视它们本人的蛋而更偏爱颜色更艳丽的赝品,或许使得红肚棘鱼将渣滓当作竞争对手而停止争斗。只需有大的红肚绘在渣滓下面,鱼就将与其争斗。一些人曾以为人类成瘾行为,如快餐和色情文学,也是超凡安慰的例子。鉴于此,人们可以以为人工智能犯的错误是自但是然的。但遗憾的是,我们需求人工智能有才能防止这些错误,表现得更好。


酒泉新媒体营销看走眼人工智能图像

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。

标签:

相关文章阅读

蚌埠网络推广严肃思考编辑媒体于新蚌埠网络推广严肃思考编辑媒体于新
酒泉整合营销基本功这么做过亿活动酒泉整合营销基本功这么做过亿活动
常州线上推广深度解读取消公告新闻常州线上推广深度解读取消公告新闻
凯里新媒体营销公司如何实现运营用凯里新媒体营销公司如何实现运营用
QQ
QQ在线咨询
SEO优化热线
15302721387
手机扫一扫 与博主直接沟通