• 沿河景观带成了菜地 乐安城管局已派执法队清除 2019-06-29
  • 传Switch即将支持媒体应用 看电影听音乐不是梦传Switch即将支持媒体应用-行情资讯 2019-06-25
  • 【高档豪华车】最新汽车报价 2019-06-12
  • 重庆市2018年初中学业水平暨高中招生考试顺利结束 2019-06-12
  • 邓超陈冠希焦恩俊,刷新娱乐圈女儿奴新高度 2019-05-23
  • 高清:快船队召开发布会 宣布2016年选秀球员 2019-05-19
  • 《大轰炸》亮相上影节 历时8年导演曾四处举债 2019-05-17
  • 【理上网来辉煌十九大】不忘初心,续写民族复兴新辉煌 2019-05-17
  • 十二届全国人大常委会第十次会议 2019-05-01
  • 歌曲《梨花又开放》将由中马歌手共同演唱 亮点提前看 2019-05-01
  • 合肥市庐阳中学启动“教师成长工程” 2019-04-19
  • 信用卡刷卡手续费上不封顶 被多收钱应该如何投诉 2019-04-19
  • 联合国副秘书长盖图中国是全球减贫典范 2019-04-16
  • 阿呆,你终归还是一只猴子,翻,接着翻![哈哈] 2019-03-25
  • 规模化生产或为AI发展方向 2019-03-25
  • 安防-资讯

    湖北11选5推荐 > 资讯 > 视点跟踪 > 正文

    2018彩票软件排行榜:把松鼠当海狮 蜻蜓当井盖 为什么图像识别AI会犯这些“低级错误”?

    2019-07-11 09:17:10 前瞻网 点击量:22319
      【安防展览网 视点跟踪】目前的人工智能技术已经非常擅长识别图像中的物体,但仍然很容易犯些“低级错误”。
     
      在部分情况下,只需在人眼不可见的静态噪声中添加一些可选的笔触或图层,就可以“愚弄”AI图像识别系统,这有时甚至会造成致命的后果。
     
      例如,曾有研究人员将打印的涂鸦贴在路牌上导致AI自动驾驶系统将限速标志识别为禁行,腾讯科恩实验室也曾发布报告称路面上难以注意到的小贴纸就能误导特斯拉错误判断并驶入反向车道。
     
      这些误导标志被称为“对抗补丁”,研究人员现在正忙于开发?;と斯ぶ悄芟低巢皇苷庑├佑跋斓姆椒?。
     
      但在去年的一篇论文中,Google Brain和普林斯顿大学的一组研究人员,包括该领域最早的研究人员之一Ian Goodfellow,认为这些新研究过于理论化,没有抓住重点。
     
      他们说,虽然大部分研究的重点是?;は低趁馐芴乇鹕杓频谋曛镜母扇?,但黑客可能会选择一种更直接的方法:使用一张完全不同的照片,而不是在现有照片上叠加噪音图案。这也可能导致系统误判断。这一批评促使加州大学伯克利分校的博士生Dan Hendrycks编写了一个新的图像数据集。
     
      这个数据集中包括一些容易被误判的图像,比如松鼠(它们通?;岜晃笕衔呛J?或蜻蜓(它们会被误认为是井盖)。他表示:“这些例子似乎更难防范。”
     
      人工合成的对抗标志需要知道所有的人工智能系统是如何防范误判的。但相比之下,即使人工智能系统各自的防范措施不同,这些自然的例子也能很好地发挥作用。
     
      Hendrycks上周在国际机器学习会议上发布了该数据集的早期版本,包含大约6000幅图像。他计划在几周内发布最终版本,其中包括近8000个图像。他打算让研究团体使用该数据集作为基准。
     
      换句话说,与其直接在图像上训练图像识别系统,不如将其保留下来只用于测试。他说:“如果人们只是用这些数据集训练系统,那么系统仅仅只是记住了这些例子。这样虽然系统已经解决了误判这些图像的问题,但它们对新图像的误判程度并没有得到改善。”
     
      破解这些令人困惑的误判背后的逻辑,可能会让系统的适应性更广。“为什么系统会把蜻蜓和鳄梨色拉酱搞混?”Hendrycks开玩笑道,“根本不清楚为什么会犯这样的错误。”
     
      为什么人工智能会误判?
     
      有些人工智能系统的底层计算机制是已知的,有些则不是,这被称为“黑箱”,即该系统的开发者可能都无法完全了解系统如何做出决策。
     
      对于图像识别技术来说,有时原因是因为给定的训练数据集出了问题。比如近日Facebook人工智能实验室的一项新研究就表明,科技巨头销售的物体识别算法在识别来自低收入国家的物品时表现得更差。
     
      据报道,研究人员测试了五种流行的现成对象识别算法——微软Azure、Clarifai、谷歌Cloud Vision、亚马逊Rekognition和IBM Watson。而测试的图像包括来自全球不同阶级的家庭的家中用品的图像。这些图像可能来自非洲布隆迪的一个月收入27美元的家庭,也可能来自乌克兰一个月收入1090美元的家庭。
     
      研究人员发现,与月收入超过3500美元的家庭相比,当被要求识别月收入50美元的家庭的物品时,物体识别算法的出错率要高出10%左右。
     
      而且在识别来自美国的照片时,算法的准确性也比识别来自索马里或布基纳法索的照片要高出15%至20%。
     
      研究人员称,在一系列用于图像识别的商业云服务中,这些发现具有一致性。
     
      人工智能算法的这种“偏见”还有很多别的例子,其中一种常见的推测原因是用于培训的数据有了偏颇——它们往往反映了相关工程师的生活和背景。由于这些人通常是来自高收入国家的白人男性,他们训练的算法所要识别的世界也是如此。
     
      研究人员称,视觉算法的训练数据主要来自欧洲和北美,“在人口众多的地理区域,特别是非洲、印度、中国和东南亚,对视觉场景的采样严重不足”。
     
      由于美国科技公司在人工智能领域处于世界领先地位,这可能会影响到从照片存储服务、图像搜索功能到更重要的AI安全摄像头、自动驾驶汽车等系统的方方面面。
     
      “评估人工智能系统并不一定容易,因为没有执行这类评估的标准基准。”帮助开展这项研究的Facebook人工智能研究科学家劳伦斯·范德马顿(Laurens van der Maaten)在接受采访时表示。
     
      “对抗这种偏见最重要的一步是,在培训AI系统之前的数据收集环节就要谨慎得多。”
     
      值得注意的是,科技公司们经常把自家人工智能产品宣传为“人人平等、人人可得”,但实际上,它们可能只是在按照自己的形象来评估、定义和塑造世界。

    声明:凡来源标明“安防展览网”的文章版权均为本站所有,如需转载请务必注明出处,违者本网将追究相关法律责任;所有未标明来源为“安防展览网”的转载文章目的在于传递更多信息,均不代表本网立场及观点,“安防展览网”不对这些第三方内容或链接做任何保证或承担任何责任;如涉及版权等问题,请在内容发表之日起一周内与本网联系,否则视为放弃相关权利。

    我要评论

    所有评论仅代表网友意见,与本站立场无关。


    厦门大手控制技术有限公司

    安防期刊

    更多
    湖北11选5推荐

    资讯视频会议协会

    咨询中心

    服务咨询QQ交谈

    在线客服QQ交谈

    媒体合作QQ交谈

    展会合作QQ交谈

    返回首页 湖北11选5推荐
  • 沿河景观带成了菜地 乐安城管局已派执法队清除 2019-06-29
  • 传Switch即将支持媒体应用 看电影听音乐不是梦传Switch即将支持媒体应用-行情资讯 2019-06-25
  • 【高档豪华车】最新汽车报价 2019-06-12
  • 重庆市2018年初中学业水平暨高中招生考试顺利结束 2019-06-12
  • 邓超陈冠希焦恩俊,刷新娱乐圈女儿奴新高度 2019-05-23
  • 高清:快船队召开发布会 宣布2016年选秀球员 2019-05-19
  • 《大轰炸》亮相上影节 历时8年导演曾四处举债 2019-05-17
  • 【理上网来辉煌十九大】不忘初心,续写民族复兴新辉煌 2019-05-17
  • 十二届全国人大常委会第十次会议 2019-05-01
  • 歌曲《梨花又开放》将由中马歌手共同演唱 亮点提前看 2019-05-01
  • 合肥市庐阳中学启动“教师成长工程” 2019-04-19
  • 信用卡刷卡手续费上不封顶 被多收钱应该如何投诉 2019-04-19
  • 联合国副秘书长盖图中国是全球减贫典范 2019-04-16
  • 阿呆,你终归还是一只猴子,翻,接着翻![哈哈] 2019-03-25
  • 规模化生产或为AI发展方向 2019-03-25
  • 透码精英 重庆百变王牌助手 单双中特中后付 手机怎么玩快速时时彩 福建31选7今晚开奖号码 3d之家彩经网 河北体彩福彩开奖结果今天开奖结果查询 幸运农场稳赚 河北11选5胆拖投注表 彩票22选5 精准一句特码诗 福彩中奖52亿领奖视频 排列五浙江十一选五开奖号码 天重庆时时彩开奖历史 中彩网擂台赛图表