深度学习总被忽悠清华AI院长张钹修修补补治不好

（原标题：清华人工智能研究院院长张钹：深度学习的钥匙丢在漆黑旮旯）

汹涌新闻记者 张唯

清华大学人工智能研究院院长张钹

“常常有比方说，钥匙并不丢在这个当地，咱们为什么都在这个当地找钥匙呢？由于这个当地灯亮看得见。真实的钥匙丢在漆黑的旮旯里，那里欠好找，一时半会写不了文章，所以好多人不愿意去找。”

近来，中国科学院院士、清华大学人工智能研究院院长张钹在一次学术活动中论述深度学习方法易受诈骗、易受进犯的底子原因。他提出，底子处理方法并不在“灯亮看得见”的深度学习模型的修修补补上，而应该向人类学习。学习的内容包含，一、改动深度学习网络的模型与结构；二、在数据驱动的根底上引进常识。

张钹，清华大学计算机系教授，中国科学院院士，1958年结业于清华大学主动控制系。他参加人工智能、人工神经网络、机器学习等理论研究，以及这些理论应用于模式识别、常识工程与机器人等技术研究。

从“让数据说话”到引进常识

数据、算法、算力通常被以为是深度学习年代驱动人工智能鼓起的三大要素。

但张钹以为，常识与这三者相同重要，一起组成人工智能的四大根底。“回忆人工智能的前史，能够正常的看到这四个要素不断地发挥效果。”

1月11日，张钹在清华-中国工程院常识智能联合研究中心年会暨认知智能高峰论坛上提出上述观念。

张钹介绍，第一代人工智能即符号主义主导的人工智能年代着重常识对智能的效果，由于其时受算法和算力的约束，常识表明依靠人工编程，因而以常识为根底的推理模型没有正真取得许多推行。

深度学习鼓起之后，学界将方针转移至数据，提出“让数据说话”。张钹以为，这种着重对深度学习的开展起到活跃的效果，但也有“很大的缺乏”：过火着重数量的重要性，片面以为“质量差不要紧，数据多就能处理问题”。

“这导致依照大数据建起来的人工智能体系面临不可信、不可靠、不安全、不易推行的应战”。

在他看来，处理这个应战的方法之一是引进常识。

“这也是咱们人工智能研究院所发起的第三代人工智能的路途——经过数据驱动和常识驱动的结合战胜第一代和第二代人工智能的缺乏。

“钥匙丢在漆黑的旮旯里”

深度学习应用于模式识别尽管能够在大数据的练习中学到正确的分类，却很简单遭到歹意搅扰、诈骗和进犯。将狮子识别为图书馆、把雪山认作一只狗、中止标志识别被当成限速标志……此类深度学习体系被“忽悠”的事例层出不穷，假如发生在主动驾驶场景，就可能发生严重后果。

面临深度学习的软弱性，单纯从深度学习网络上修修补补只能治标，不能治本。

张钹在答复现场观众发问时表明，“深度学习不能提取出语义层面的特征，只能提取底层特征，这是它软弱、易受进犯的底子原因。假如不处理这个问题，只靠修修补补，不能底子处理问题，现在的许多做法便是如此。”

怎么底子处理深度学习存在的问题？

张钹以为，有两个作业能够做：一是学习人类神经网络的结构，结合脑科学以改善深度学习模型，二是将常识驱动与数据驱动结合起来。“前者触及学科穿插更难一点，搞计算机的大多数挑选后一条路”。

走第二条路的要害问题是怎么从原始数据中主动提取常识。“这一向做欠好，由于常识很难主动获取，需求依靠人工，单纯依靠人工是走不远的”。他鼓舞人工智能研究者重点在常识获取方面做作业，“假如这样的一个问题处理了，许多问题将方便的解决。”