数据安全不能掉以轻心

　　这款名为“Zao”的软件，只需用户上传一张个人照片，就能利用程序将脸移花接木到影视片段中，和明星们演起对手戏。它在其旧版的“用户协议”中，要求获得用户人脸照片“完全免费、不可撤销、永久、可转授权和可再许可的权利”，被指是存在隐私与安全风险的霸王条例。一些网友和法律人士认为，这款软件涉嫌非法收集用户面部信息，担心面部信息会被滥用，抑或被黑客盗用。不过，该软件已经悄悄修改了其用户协议内容，并在用户协议的开头部分增加了“特别提示”，“用户上传的短视频和人脸，将严格按照相关法律法规的规定保留在Zao上。除非为了改善Zao的服务或者另行取得用户的再次同意，Zao不会以任何其他形式或目的使用上述内容”，并新增了“删除面孔”选项。

　　有关“AI换脸”的担忧，并非危言耸听。前几年，就有人利用“换脸术”，制作淫秽视频。这个月初，3D人头模型还破解了刷脸支付，成功购买过车票。前几日的世界人工智能大会“AI TALK”上，汇付天下首席开发官裔隽曾提醒，3年前，黑客技术已可以在电脑上根据指令来呈现所需要的活体动作。“尽管目前已有保障技术抵御‘邪恶科技’，但也不能掉以轻心。”

　　技术与立法需齐头并进

　　伴随着人工智能的蓬勃发展，人工智能的算法、内容造假、虚假新闻、数据隐私等问题开始凸显，人工智能发展导致的劳动力替代等经济和社会伦理问题也值得重视。然而，光靠技术手段不足以解决问题，多位专家在人工智能大会上呼吁，当务之急应该立法立标准，让这个新兴行业有一个规范发展、透明公平的发展环境。微软全球执行副总裁沈向洋在大会开幕式发表演讲时说，今天我们是人工智能的发明者，我们绝对不可能也不应该等到80年以后才为人工智能补上一条“安全带”。

　　昨天，中国科学院院士褚君浩在人工智能大会商业分论坛上分享了关于“第四次工业革命与人工智能”的话题。“未来已来，人工智能不仅是一个技术问题，也是一道治理考题。”他在接受本报记者采访时表示，治理是个系统工程，需要IT技术、法律层面、社会各界等各个领域参与，理想状态是人工智能技术与立法齐头并进，甚至法律是否能做到未雨绸缪。

　　科技向善还靠行业自律

　　在本次大会开幕主题演讲环节，腾讯董事会主席兼首席执行官马化腾说，在AI的治理方面，要以“科技向善”引领全方位治理，确保AI“可知”“可控”“可用”“可靠”。

　　人工智能的“安全护航”，除了立法规范，还需行业自律。“如果，科学家在每一项新技术研发中能想一想其负面风险，如果，制造商在每一个新应用中构建风险管理办法，那么，科技向善、立法规范不难找到新路径。”今年5月，星环科技就曾发布大数据安全白皮书，强调产品设计中的大数据安全考量。《白皮书》根据星环科技多年的大数据安全实践经验，总结了一些企业在做企业级数据平台建设时应考虑到的安全规范，并为安全体系的设计、管理和规范提供一个衡量标准。深兰科技的手脉识别系统对采集的手脉信息进行了特殊加密技术。微软内部成立了人工智能伦理道德委员会，计划未来推出的每一个人工智能产品都要经过人工智能道德伦理审查。

　　不过，褚君浩也表示，人工智能是一项革命性的新技术，目前仍处于起步阶段，还没有人可以准确预测未来的结果，也难免会引起争议和怀疑。“治理的同时，也不要忘记保护科学家和企业家的创新积极性，尊重人的权利与尊严。”

　　本报记者 马丹 郜阳