通常，它非常聪明。 然而，使用深度神经网络对输入（图像或语音）进行分类的人工智能总会有一些“弱智”操作，而且它所犯的错误可能低得惊人。 这种情况就是科研人员经常提到的AI的脆弱性。
用更学术的方式解释人工智能的脆弱性：由于人工智能仍然缺乏像人类一样理解现实世界复杂性的能力，它有时会以意想不到的方式迅速崩溃。
让我们用最近发生的一个有趣的案例来真实感受一下AI的脆弱性。
足球和光头，愚蠢地无法区分
由于COVID-19大流行，大多数球迷无法前往场馆观看比赛。 为了给球迷提供更好的观看体验，苏格兰因弗内斯足球俱乐部启用了AI摄像师。 人工智能摄像师可以在比赛直播期间追踪足球的位置，确保观众持续获得最佳的比赛视野。
然而，在最近的一次比赛直播中，AI摄像师被裁判的光头搞糊涂了。 它无法正确确定哪个足球是真足球。 其多次将目光聚焦在裁判的光头上，甚至还进行了特写镜头，导致观众无法正常观看比赛。
图片| AI摄像师：这里这里
图片| AI摄像师：天哪，宝贝足球名裁判 光头，你怎么跑这么快？
图片| AI摄像师：反击，挖坑！ 所以你在这里。
图片| AI摄像师：太棒了。 为什么？我刚才追错了
图片| AI摄像师：是你吗？ 不，是你。 不好了！ 是谁！
有无可辩驳的证据表明足球名裁判 光头，AI摄影师无法区分足球和秃头。 比赛期间，事情一度变得如此糟糕，以至于比赛解说员不得不为摄像机故障道歉。 甚至有球迷表示，因为AI的不专心，错过了观看自己喜欢的球队得分的精彩时刻。
赛后，俱乐部使用的AI摄像头技术公司发表声明称足球名裁判 光头，该问题是由于裁判的头部和球的视觉相似度造成的。 而且，这场比赛使用的球是黄色的，这进一步迷惑了AI。
该公司发言人表示：“上个月我们在没有任何工作人员在场的情况下完成了 105,000 小时的直播。这大约是 50,000 场比赛。只有这一场确实出现了跟踪问题。现在是时候解决这个问题了。”
人工智能漏洞的危险
这是一个有趣的案例，展示了人工智能的脆弱性。 人类不会犯这个错误，但对足球和人体解剖学了解有限的机器学习系统很容易犯这种错误。
这个例子很特别，因为它让人觉得好笑，而且不会造成太大的伤害。 但事实上，任何人工智能系统都可能发生这种类型的错误。 产生误差的原因是，当环境数据与智能系统训练的环境有很大差异，或者实际应用场景发生变化，或者变化超出机器可以理解的范围时，AI可能会立即失去判断能力。
这种错误类似于自动驾驶汽车因视觉识别系统无法准确识别物体而导致致命事故的错误。 这在足球比赛中并不重要，但在自动驾驶汽车中却很重要。
图片| 特斯拉“自动驾驶”软件未能识别前方障碍物，导致驾驶员死亡
此外，人工智能的这一弱点还伴随着严重的网络安全问题。 如果攻击者对源数据添加人类难以通过感官察觉的微妙改变，并且这些改变可以让机器学习模型接受并做出错误的分类决策，那么攻击者就可以“乘虚而入”。
美国智库“新美国安全中心”发布的《人工智能：每个决策者需要知道的》报告显示，人工智能的一些弱点可能对国家安全等领域产生巨大影响。
如何让AI变得“更聪明”
人工智能的发展势不可挡，我们不能否认人工智能对人类做出的贡献。 尤其是在全球疫情大流行期间，当人与人之间的互动受到限制时，人工智能发挥了前所未有的作用。
科技的发展从来都不是一帆风顺的，人工智能技术亦是如此。 有弱点，被质疑是必然的过程。 所以我们需要的是面对它、接受它、解决它。
（来源：贾森·里德/The Daily Dot）
针对人工智能的脆弱性，一些专家提出了解决方案。 一种解决方案是为人工智能提供更多数据，反复向其展示有问题的示例，并不断纠正其错误。 在这种“对抗性训练”方法中，一个网络学习识别物体，另一个网络尝试改变前一个网络的输入以使其出错。 这样，对抗性例子就可以成为深度神经网络训练数据的一部分。
另一种解决方案是减少AI学习的数据，让它学会学习。 当训练一个新任务时，可以通过重用部分或整个预训练网络作为训练的起点来实现迁移学习，甚至进一步学习如何学习。
目前，尽管科学家们意识到人工智能的脆弱性，但没有人知道如何让它变得更好。 一切还在构想和尝试中。 然而，人工智能正在迅速发展，使用大量计算资源来训练神经网络，并在各行各业中取得了出色的成果。 因此，我们有理由相信，未来AI能够进一步完善，变得更加“聪明”。
参考：
/tldr/2020/11/3//ai----秃头--
//-019-03013-5
