技术往往是一把双刃剑。人工智能在迅速发展的同时，也带来了一些困惑和挑战。虽然近段时间一直讨论的人工智能伦理规范问题离我们有些远，但现实中人工智能带来的其他困惑却在上演。
在信息爆炸的今天，你能相信你看到的消息是真实的吗？在过去多年中，由于算法聚合、缺乏监管导致假新闻在各种社交媒体中泛滥，Facebook、Twitter以及国内各种社交平台都深受其害，同时也给社会带来越来越多的负效应。Facebook日前推出了全新的地方新闻服务，以打击好友间传播假新闻。
除了假新闻，你能相信你看到的照片以及视频也有可能是假的吗？
有媒体报道，目前英伟达的一组研究人员最近创建了一个系统，可以通过分析成千上万真正的名人照片，并创建看起来相似，实则完全“无中生有”的“假照片”。此外，该系统还能创建马匹、公共汽车、自行车等常见物体的“假照片”。并且这些“假照片”，已经成功骗过了绝大多数人的眼睛。
该系统的目标是可以自动创建、生成令人信以为真的图像，或是以同样的方式改变已有的图像。在研究之初，英伟达打算将这种技术应用在游戏、电影和其他内容领域的创作上。英伟达研究人员利用称之为渐进式GAN的方法，建立了一个以低分辨率图像开始，然后逐渐进化到更高分辨率的系统。最终经过18天的时间，制造一张逼真的1024×1024像素，图像清晰、细节丰富“假照片”。
当然不仅仅是英伟达，其他一些科技巨头也在涉足这一领域。随着大数据分析，深度学习算法技术的不断成熟，GOOGLE和Facebook等企业都建立了相似的系统——以人眼识别的准确度来判断凭空制造人脸、普通物体的成熟度。
此外，英伟达的研究团队也于近日创建了一个系统——能够自动更改在夏季拍摄的街头照片，使其看起来像下雪的冬季场景。而加州大学伯克利分校的研究人员设计出能让普通马变成斑马、莫奈成梵高的系统，谷歌旗下的伦敦AI实验室DeepMind则是探索能够自动生成视频的技术。
目前，泛滥各大社交媒体的假新闻，已经给社会带来极大的困扰，并且无法进行根治。假图片的出现将会进一步放大这中困惑，同时也可能危机社会公共安全。然而更令人感到不安的是，假的视频已经出现。
据媒体报道，在去年8月份，华盛顿大学的一个研究小组创建了一个系统，生成了一段由奥巴马发布的视频“假新闻”。另外，去年科大讯飞2017年度发布会上，现场播放了“特朗普”对大会的祝福。而视频声音是通过科大讯飞的机器学习、合成技术，通过对特朗普大量语音的分析，从而实现任意字词的语音合成，达到近乎以假乱真的效果。
在人工智能技术不断成熟下，轻松地制造逼真的假图像或者假视频，或者冒充他人发布假视频似乎一夜之间成为现实。在目前社会诈骗案件高发的时期，如果这种技术被不法分子获取，其危害性将无法估量。
在目前公共安全管理中，图像以及视频信息已经成为各种身份认证、现场复核以及案件侦破的重要依据。然而基于人工智能下的假图像或者假视频的出现无疑会给公共安全管理带来很大的隐患，视频监控图像的真实性将受到质疑！
如何面对人工智能可能产生的负面影响？科技部副部长李萌曾经表示，人工智能是影响面广的颠覆性技术，其发展的不确定性将对就业、法律、伦理、隐私、国际关系等带来新挑战。国务院出台的《新一代人工智能发展规划》强调注重发展与规制平衡，把握人工智能技术属性和社会属性高度融合的特征，既要最大程度发挥人工智能潜力，又要加强前瞻预防与约束引导，确保走上安全、可靠、可控的发展轨道。
18221259202