科技观察丨人工智能威胁人类文明引担忧，AI将引发下一场金融危机？

　　封面新闻记者 燕磊

　　当地时间5月17日，路透社/益普索民调显示，大多数美国人认为，人工智能AI技术的迅速发展可能危及人类的未来。民调指出，有超过三分之二的美国人担心AI的负面影响，有61%的人认为它可能威胁文明。

　　人工智能或将威胁人类文明

　　自从OpenAI的ChatGPT聊天成为有史以来用户增长最快的应用程序以来，AI在日常生活中的广泛使用使得其成为公众讨论的重点。ChatGPT也开启了一场AI军备竞赛，微软和谷歌等科技巨头都推出了类似产品相互竞争。

　　国会议员和AI企业也对此表达了担忧。OpenAI的CEO山姆·奥特曼16日在国会作证，表达了对该技术可能被滥用的担忧并要求监管。

　　参加听证会的国会参议员科里·布克说，“没有办法把这个精灵关在瓶子里。在全球范围内，它正在爆炸式增长。”

　　民调发现，预期AI将带来不利后果的美国人人数是不这样预见的3倍，61%的受访者认为AI对人类构成风险，只有22%的人不同意，还有17%的人不确定。

　　在2020年投票给特朗普的选民表达了更高程度的担忧：70%的特朗普选民和60%的拜登选民认为AI可能威胁人类。

　　未来生命研究所的美国政策主任兰登·克莱恩表示，“这表明如此广泛的美国人担心AI的负面影响。”该组织此前曾发出一封公开信，要求暂停6个月的AI研究，特斯拉CEO马斯克联署了这封信。

　　虽然美国人普遍担心AI，但他们最担心的问题是犯罪和经济：77%的人支持增加警察拨款打击犯罪，82%的人担心经济衰退的风险。

　　路透社/益普索在线民调于5月9日至5月15日期间进行，访问了4415名美国成年人，可信度区间为正负2个百分点。

　　多方呼吁美国政府加强监管

　　5月16日，OpenAI公司首席执行官奥特曼首次在国会露面，呼吁政府加强对人工智能领域的监管。他说，如果有公司想开发强大的人工智能系统，该公司应该获得政府的相关许可。

　　OpenAI公司首席执行官奥特曼在参议院作证。

　　奥特曼与IBM首席隐私和信任官克里斯蒂娜·蒙哥马利，以及纽约大学心理学和神经科学荣誉退休教授加里·马库斯一起出席了参议院司法委员会举行的听证会，讨论对人工智能的监督问题。

　　像ChatGPT这样的人工智能系统的快速发展，促使许多顶尖的技术专家和学者呼吁该行业暂停一些开发，并要求政府对此进行干预。

　　但是，业内对于实施什么样的监管还没有达成共识，国会和联邦机构一直在努力弄清楚自己的角色。在作证前夕，奥特曼向大约60名参议员做了一次演讲，赢得了许多人的赞赏，并在之后花了近两个小时回答问题。

　　民主党国会参议员理查德·布卢门撒尔建议，可以要求人工智能模型披露它们训练的信息。奥特曼对这个想法做出了积极的回应。

　　共和党国会参议员约什·霍利指出人们可能会使用人工智能作为信息的来源之后，奥特曼再次表示，他认为政府在监管这项技术方面可以发挥作用。但他也表示，他相信公众将学会适应人工智能制造的虚假信息。

　　此外，还有一些业内人士呼吁政府将人工智能监管完全交给科技公司。对此，马库斯呼吁在美国建立一个内阁级别的组织来监管人工智能。

　　下一场金融危机或由AI引发？

　　据《华尔街日报》5月17日消息，美国证监会主席根斯勒表示，下一次金融危机可能出现企业对人工智能的使用上，他对该技术传播构成的潜在“系统性风险”发出警告。

　　当地时间16日，根斯勒在美国金融业监管局于华盛顿举办的一次会议上说，数据聚合器和人工智能平台可能成为未来金融系统“脆弱性” 的主要组成部分。

　　根斯勒表示：“多年后的观察家可能会回过头来说，2027年的危机是因为一切都依赖于一个基础层面，也就是所谓的生成性人工智能层面，而一堆金融科技应用都建立在这个基础之上。”

　　鉴于人工智能有望用更少人工完成更多工作，美国经济各领域的许多企业已经接受人工智能，即便在这种情况下，与根斯勒一样，许多政府官员也对这项技术持怀疑态度。

　　银行和另一些金融机构已经在各种功能中使用人工智能，包括通常涉及评估新客户或检查可疑交易的繁重合规工作。但根斯勒说，尽管有可能提高效率，但这些系统应受到严格审查。他表示：“你不必理解其中的数学，但你得真正理解风险管理是如何管理的。”