s********t
发帖数: 4150 | 1 凤凰科技讯 北京时间7月2日消息，据《华尔街日报》网络版消息，谷歌在人工智能方
面一直处于领导地位，但本周其图片应用Google Photos的一处重大失误显示出，谷歌
的人工智能技术还有很长的路要走。
据一位名叫杰克·艾尔萨尼（Jacky Alcine）的程序员在Twitter上透露，Google
Photos将两位黑人标记成了“大猩猩”。
“Google Photos你完全搞错啦，我的朋友不是大猩猩”，他在Twitter上写道。
谷歌随后向艾尔萨尼表示了抱歉，并表示正调整算法以修复该漏洞。
“我们很震惊，对于此事我们表示由衷的道歉”，谷歌一位发言人表示。“很明显，对
于图片自动标记功能我们还有很多工作要做，未来我们会努力阻止此类事件再次发生。”
谷歌数周前刚刚推出Google Photos。当用户在该应用搜索图片时，谷歌会利用机器学
习技术将照片分类，从而实现自动为图片添加标签等功能。当谷歌移除大猩猩类别后，
该类别将不会再出现。
“我们虽然完成了很多，但还有很多工作仍待完成，不管怎样我们都会非常努力的”，
谷歌社交主管约纳坦·尊阁（Yonatan Zunge）在Twitter上回复艾尔萨尼时说道。谷歌
正努力提高肤色识别功能，将会更加注意对照片中人物的标签，他补充说。
这段小插曲显示出了人工智能和机器学习的不足之处，尤其是这些技术被运用于消费
者身上时。未来谷歌仍有可能发布存在潜在缺陷的软件，之后再更新修复。虽然这种模
式可以更快地向消费者推出产品，但如果漏洞比较严重的话，可能会使招致用户不满。
谷歌今年年初推出了YouTube儿童版应用，意图通过自动过滤、用户反馈可人工排查的
方式将成人内容排除在外。但该系统疏漏了一些不适当的内容在该儿童版应用上，引起
了用户的抱怨。谷歌发言人当时声称，要实现“100%的精确度是几乎是不可能的”。
当推出Google Photos时，谷歌承认该应用并不完美。但“大猩猩”标签事件让谷歌算
法系统的缺点暴露的更加明显。
“我们需要从根本上改变机器学习系统，为其加入更多语境以使其能够理解文化敏感性
”，人工智能初创公司Sentient Technologies的首席科学家巴巴克·浩德杰特（Babak
Hodjat）表示。
他表示，机器学习系统不明白黑猩猩和大猩猩的区别并没多大问题，但如果将人标记
为大猩猩则会显得非常无礼。
谷歌的系统可能并没有“浏览”足够的大猩猩图片以使其明白人和大猩猩的区别——
更不会明白这种错误对人类意味着什么，他说。
“人类对于文化方面的差异很敏感”，浩德杰特说。“机器做不到这一点，它们没法理
解这种类型的语境”。 |
s*********e
发帖数: 1814 | 2 结论：
那俩黑人就是像大猩猩，只能通过删除整个大猩猩类别的方法才能不把他们判为猩猩 |
a*********a
发帖数: 3656 | 3 no kidding, it is true and you can find it on yahoo!
https://www.yahoo.com/tech/google-photos-mislabels-two-black-americans-as-
122793782784.html
。”
【在 s********t 的大作中提到】
: 凤凰科技讯 北京时间7月2日消息，据《华尔街日报》网络版消息，谷歌在人工智能方
: 面一直处于领导地位，但本周其图片应用Google Photos的一处重大失误显示出，谷歌
: 的人工智能技术还有很长的路要走。
: 据一位名叫杰克·艾尔萨尼（Jacky Alcine）的程序员在Twitter上透露，Google
: Photos将两位黑人标记成了“大猩猩”。
: “Google Photos你完全搞错啦，我的朋友不是大猩猩”，他在Twitter上写道。
: 谷歌随后向艾尔萨尼表示了抱歉，并表示正调整算法以修复该漏洞。
: “我们很震惊，对于此事我们表示由衷的道歉”，谷歌一位发言人表示。“很明显，对
: 于图片自动标记功能我们还有很多工作要做，未来我们会努力阻止此类事件再次发生。”
: 谷歌数周前刚刚推出Google Photos。当用户在该应用搜索图片时，谷歌会利用机器学
|
T*********I
发帖数: 10729 | 4 但是黑人就是不能承认这点，非要想办法证明google里的白人通过种族歧视造成人猩类
似。
【在 s*********e 的大作中提到】
: 结论：
: 那俩黑人就是像大猩猩，只能通过删除整个大猩猩类别的方法才能不把他们判为猩猩
|
X***R
发帖数: 2410 | 5 As a matter of fact, there should not be a way to make it completely work.
如果写过AI算法的人，都知道那些特征向量，hyper parameter 的玩意儿。
这些东西的推导结果是个 probability。
其智能程度，远低于人类的识别系统，甚至动物的识别系统。
就拿这个 case 来说吧，可以改进算法和parameter,较为精确的认出黑人。
但问题来了，在新的算法下，可以尝试放一些真的大猩猩或者猴子图片，
看它到底能推出个什么结果来。。很大程度上会误判成黑人。这样就还是侮辱人了。 |
D**s
发帖数: 6361 | 6 呵呵，只有都标记为“无法识别”一条路了
[在 XeonR (Gun, Gold and Rose) 的大作中提到：]
：
：As a matter of fact, there should not be a way to make it completely work.
：........... |
X***R
发帖数: 2410 | 7 都能识别，你去问，肯定讲都能识别。
只是让这些算法出洋相的办法太多了，
比如 找个大猩猩剃个光头 。。
work.
【在 D**s 的大作中提到】
: 呵呵，只有都标记为“无法识别”一条路了
: [在 XeonR (Gun, Gold and Rose) 的大作中提到：]
: ：
: ：As a matter of fact, there should not be a way to make it completely work.
: ：...........
|
