资讯专栏INFORMATION COLUMN

2017 十大失败 AI 案例

tomener / 1630人阅读

摘要:一名德国男子不在家,家中的被意外激活,并在半夜两点开始播放音乐,吵醒了邻居。然而在两个小时后,公交车就被一辆大货车撞上了。汇丰马上推出了解决方案尝试三次失败之后就锁定账户。

简评:整体来说,2017 年的 AI 进步还是不小的,比 2016 的 AR/VR 强很多。今天的案例中有些还挺萌的。

今年,AI 项目 AlphaGo 和 Libratus 成功战胜了人类最顶尖的围棋选手和扑克选手。但即使 AI 有这么多里程碑式的事件,仍有不少人对 AI 持怀疑态度,特别是见过了 2017 年不少 AI 的失败案例之后。

一些新技术,新想法在努力的执行它们的任务,然而也经常会犯一些人类不会犯的错,这里总结了 2017 年值得注意的 AI 失败案例。

1.被面具破解的 Face ID


特别加工区域的额头、2D 图片的眼睛、硅胶鼻子、3D 打印的轮廓,轻松破解

FaceID 面部识别是最新的 iPhone X 的解锁技术,据传是迄今为止最安全的 AI 激活方式,苹果吹嘘这项技术被破解的可能性是百万分之一。但随后越南公司 Bkav 花费 150 美元使用 3D打印的塑料、硅胶、化妆品、图片、和镂空结构组成了一个脸部模型轻松破解了 FaceID。Bkav 只是扫描了一个测试对象的面部,使用 3D 打印生成了个脸部模型,贴上纸的眼睛和嘴巴,硅胶鼻子就成功破解。这给行业带来了很大冲击,预示了消费者设备隐私的风险,以及人工智能的安全问题。

2.邻居们因为 Amazon Echo 半夜自嗨而报警


还上了新闻

Amazon Echo 被公认为是先进的智能语音助手,很受欢迎。但没有事情是完美的。一名德国男子不在家,家中的 Echo 被意外激活,并在半夜两点开始播放音乐,吵醒了邻居。邻居打电话报警,警察不得不破门而入,关闭 Echo,警察还换了门锁,这个德国男子回家的时候,发现自己的钥匙打不开自己家门了。

3.Facebook 聊天机器人 Chatbot 关闭


两个机器人互相聊天,完全在说胡话

今年七月,两个 Facebook 机器人无法互相识别彼此的语言,Chatbot 无法沟通而被关闭。大家猜测这两个机器人沟通的语言可能是一种新的加密语言,谣言四起。最后 Facebook 出面解释说这种神秘的交流只是语法编码自检的结果。

4.拉斯维加斯的自动驾驶公交车第一天就撞车


左边那个小车,被一辆货车转撞了,虽然责任在大货车,但明显小车不够聪明

拉斯维加斯一辆自动驾驶公交车在十一月亮相,当时著名魔术师佩恩·泰勒也排队等候坐了这辆车。然而在两个小时后,公交车就被一辆大货车撞上了。尽管从技术上来说,公交车没有责任,是大货车的问题,但是这辆车上的乘客抱怨,当卡车慢慢靠近的时候,公交车不够聪明,根本没有任何躲避的动作。

5. Google Allo 使用头巾回应枪支表情


枪的提示回复:穆斯林

美国有线电视台的一位工作人员使用 Google Allo(Google 的一款即时通讯软件)时,发现对方如果发来一个枪的表情,软件推荐回复的表情是 bad、刀和戴头巾的人(穆斯林?)。这个问题比较尴尬,Google 马上向公众保证已经解决了这个问题并且发表道歉。

6.双胞胎戏耍汇丰银行语音识别 VoiceID


双胞胎成功破解语音识别

汇丰银行的语音识别 VoiceID 是一个语音 AI 安全系统,允许用户通过语音访问账户。汇丰声称它和指纹 ID 一样安全,但是 BBC 记者和他双胞胎兄弟却模仿彼此的声音成功访问了对方账户,只用了 7 次尝试就成功了。汇丰马上推出了解决方案:尝试三次失败之后就锁定账户。(???)

7. Google AI 把步枪指认为直升机


Google AI 把枪认成直升机

麻省理工一个研究小组通过微调步枪的图片,欺骗了 Google Cloud Vision API,让 AI 把步枪判定为直升机。他们使用的方法是「不良样本」,给计算机引入一些人眼无法察觉的修改来对图像进行错误的分类。在过去,需要知道目标计算机系统的基本机制,这招才能奏效。但是这次麻省理工学院团队在没有获得系统信息的情况下,就成功的触发了错误分类。

8.用路牌戏耍自动驾驶汽车


把停车牌认成限速45

研究人员发现,通过使用油漆或者胶带,修改停止标志,可以成功的欺骗自动驾驶汽车,使之进行错误的指令。比如把「LOVE」和「HATE」这两个词放在「STOP」标志上,就成功欺骗了自动驾驶汽车的机器学习系统,在测试中所有的车都把其误认为「限速 45」(Speed Limit 45)的标志。

9. AI 识色系统各种混乱的匹配


把颜色匹配各种奇怪的名字

机器学习研究人员 Janelle Shan 训练了一个神经网络,以产生新的油漆颜色以及可以「匹配」每种颜色的名称。产生新颜色很顺利,但匹配名字简直是车祸现场。即使在用颜色名称数据进行少量训练之后,该模型仍然将天蓝色标记为「灰色耻骨」,将深绿色标记为「狂暴棕色」,将深粉标记为「银行屁股」。

10.有了 Alexa 要什么圣诞老人?


小女孩对语音助手说:我超爱你。然后语音助手就下单了

Amazon Alexa 语音助手帮助我们提高了购物体验,让买东西变得非常简单。不过有时候过于简单了,2017 年 1 月,一个小女孩用跟 Alexa 说我想要个玩具房子和一罐曲奇,当时小女孩的原话是「你可以给我一个玩具屋并和我一起玩么?」。然后小女孩又说「我超爱你」。然后 Alexa 就下单了,第二天 170 美元的玩具屋和一罐曲奇就送到了家里,当然是她妈妈买单。现在她妈妈设置了密码,不能语音直接买了。(sad。。。)

以上就是 10 个 2017 年的 AI 失败案例。

英文原文:Synced | 2017 in Review: 10 AI Failures

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/19699.html

相关文章

  • 深度学习在2017年的十大发展趋势及预测

    摘要:毫无疑问,深度学习将驱动在公司中的应用。在其价值评估和策略评估上使用的就是深度学习。端到端的深度学习是一个令人着迷的研究领域,但是迄今为止混合系统在应用领域会更有效率。目前专注于深度学习模式,方法和战略的研究。 在之前的博客中,我曾预言过未来几年的发展趋势。我记得上一篇博客的内容是《2011年软件开发趋势和相关预言》(Software DevelopmentTrends and Predic...

    gaara 评论0 收藏0
  • 行业+云:品高云布局未来

    摘要:年,依托于品高原有的行业积累,品高云开始致力于帮助企业和政府构筑私有云。截至年底,品高云的产品激活量已达到了万台,其中最长的客户稳定使用时间已达年。品高云创造了很多私有云的第一次成立于2003年的广州市品高软件股份有限公司,在2008年就开始进行云技术的探索和研发,在2010年,就推出了品高云产品,直到今天,已经发布了品高云8.0版本,品高成立之初便服务于大型公司。旗下拥有1000多名员工,...

    shiweifu 评论0 收藏0
  • IBM营收利润双增长,蓝色巨人豪赌云和AI取得成效?

    摘要:营收利润双增长艰难转型多年,直到年营收和利润才出现双双增长局面,尽管营收依旧低于千亿美元,但豪赌多年的云计算和人工智能,伴随物联网部署规模日益扩大的态势,经营开始取得成效。诞生于1911的IBM,已超过百年历史,不仅是基业长青最具代表性企业之一,且历经多次成功转型,依旧活跃在科技界,对全球科技发展仍然举足轻重,让他成为全球企业转型经典案例之一。这个蓝色巨人能屹立百年不倒,核心是持续不断的创新...

    CloudwiseAPM 评论0 收藏0
  • 2017年大数据的十大发展趋势

    摘要:本文涵盖大数据未来发展的十大趋势,这些趋势可能对年及以后的大数据市场产生极大影响。高德纳咨询公司称,机器学习是年十大战略技术趋势之一。一些大数据供应商已经推出了具有自助服务能力的大数据分析工具,专家预计这种趋势将持续到年及以后。 虽然大数据市场将会继续增长这一点毋庸置疑,但企业应该如何应用大数据呢?目前还没有一个清楚的答案。新的大数据技术正在进入市场,而一些旧技术的使用还在继续增长。本...

    haobowd 评论0 收藏0
  • UCloud创始人兼CEO季昕华被授予“长三角人工智能十大杰出人物”奖

    摘要:月日,在世界人工智能大会长三角产业智能论坛上,优刻得创始人兼季昕华被授予年长三角人工智能十大杰出人物奖。季昕华年创立,深耕云计算大数据人工智能领域,公司自主研发大数据流通平台服务平台等系列产品和服务。7月9日,在2021 世界人工智能大会——长三角产业智能论坛上,UCloud优刻得创始人兼CEO季昕华被授予2021年长三角人工智能十大杰出人物奖。长三角作为我国经济与创新力的领头羊,与人工智能...

    Tecode 评论0 收藏0

发表评论

0条评论

tomener

|高级讲师

TA的文章

阅读更多
最新活动
阅读需要支付1元查看
<