与会专家笑言，深度学习似乎是个推动众多“AI+”应用“遍地开花”的科技，不同于此前需要大量专家的经验推理，深度学习仿佛一个不反映根本因果关系、说不清道不明的“黑盒子”。不过，在欧洲科学院院士、上海交通大学教授徐雷看来，目前再把深度神经网络称为“黑盒”已不太合适。“过去两年，至少在三四个方向上，已经对深度学习有了一些解释。深度学习过程中，机器人认知的归纳性推理和人类总结的演绎性推理相互之间有固定关系，两者可以互相帮助。”

　　下一个“黑盒子”在哪里？“脑科学的发展，将来必定会引发下一波、或是更深层次的AI进步。”中科院上海微系统与信息技术研究所仿生视觉系统实验室主任张晓林研究员介绍，“我们正在尝试用人工智能的方法研究人类大脑皮层的各种功能信号。同时，我们目前也正在开展‘机器头脑’的市重大专项研究，与人脑对应的，它将具备视觉、听觉、嗅觉，希望它能在自然环境中逐渐能够学习。”

　　不过，负面影响已经开始显现。比如，伪造视频音频的门槛会降低，数据隐私难以保护。因此，政府与学术界应对人工智能发展可能产生的伦理、法律问题作出预防和应对。