从ZAO和Deepfake走红看AI伦理问题

　　来源：雪球App，作者： 大漠风飞沙，（https://xueqiu.com/4641014274/132444790）

　　8月31日，AI换脸软件ZAO突然走红网络。用户仅需上传一张个人照片，再选择软件中预置的影视素材，即可将影视中的明星面孔换成自己的脸。这款App在吸引了大量用户（目前中国App Store应用商店娱乐类下载量排名第一）的同时，也第一次引起了社会对AI可能造成的伦理问题的大规模讨论。正如我们在AI行业报告《AI+5G推动社会变革，关注十大投资机会》中指出的那样，影像合成是继人脸识别以后，计算机视觉技术的一个重要的技术突破，其在视频广告植入等领域有广阔的商业化机会，但如何防止AI侵犯个人隐私、防止出现伦理问题成为一个重要课题。

　　影像合成是继人脸识别后，计算机视觉领域的重要技术突破

　　人脸识别是计算机视觉技术较早商业化落地的场景之一，目前其准确率已接近100%，未来提升空间有限。我们认为，影像合成技术是继人脸识别后，计算机视觉领域的重要技术突破，应用前景十分广阔。我们看到，目前影像合成技术的主要应用场景包括：

　　1）Deepfake、ZAO等视频换脸应用。ZAO仅需数秒即可帮助普通用户实现与明星或者好友共同“出演”著名影视片段的愿望，满足了用户的猎奇心理或虚荣心。但这类换脸应用也带来了恶搞视频、甚至冒用身份的风险。

　　2）千人千面的广告植入。广告行业运用影像合成技术，可以实现千人千面的智能精准广告投放，大幅提高视频广告的投入产出比。我们认为，这项技术有可能颠覆广告行业的现有工作模式和竞争格局。

　　3）AR/VR、3D建模等领域。2019年8月，和MIT的研究团队发布关于视频到视频合成（Video-Video Synthesis）技术的论文，能够实现由人体轮廓生成逼真人像视频、将语义地图转换为真实世界视频等功能，未来有望在AR/VR、3D建模等领域得到商用。

　　语音/影像合成技术带来身份冒用风险，数据隐私问题升级

　　数据隐私泄露问题由来已久，较为典型的事件是Facebook将用户数据泄露给大数据分析公司Cambridge Analytica，从而根据个人特点投放广告资讯，间接影响美国大选。我们认为，过去数据隐私泄露后，主要造成个人习惯和偏好泄露的风险，而语音/影像合成技术将带来更为严重的身份冒用风险，可能被不法分子用于诈骗、伪造等犯罪事件。9月3日，英国即发生了一起犯罪分子冒用公司高层声音，欺诈24.3万美元的事件。此外，国外网友利用Deepfake技术制作了扎克伯格、特朗普、奥巴马等名人的假视频或恶搞视频，造成了恶劣的社会影响。

　　主要AI企业开始加强AI伦理管理

　　针对数据流通及隐私保护问题，全球监管已经有所动作，包括欧盟GDPR的实施、美国国会对大型互联网企业的反垄断调查等。GDPR中的一项重要规则是，数据主体可以要求公司删除、纠正个人数据，或者以文件形式查阅数据。主要AI企业已经开始加强AI伦理管理工作。2018年10月，Google完善了其用户数据管理功能，以便用户更好地控制各项产品的隐私数据，包括查看和删除搜索记录等。2018年11月，腾讯对外表示，为保护用户隐私，不会将用户在不同产品中的数据打通。在2019世界人工智能大会上，AI业务负责人沈向洋介绍了微软的六项人工智能伦理道德准则，该公司在每一个AI产品推出前都会经过道德伦理审查。2019年9月3日，Facebook宣布用户照片中的人脸识别功能改为默认关闭。我们认为，包括数据隐私保护在内的AI伦理管理工作，将成为AI未来发展的重要课题之一。