AI时代,检证意识是重中之重
□陈霏雪(华南理工大学)
近日,《新智者首席Time》推出的第一期节目《对谈百度 在AI时代的挑战与自信》引发广泛关注。在节目中百度搜索平台负责人肖阳谈到,AI可以帮助我们提高信息收集的效率,是一个很好的搜索引擎。但实际上,当下AI作为搜索引擎存在严重的信息造假问题,而由于信息崇拜,人们容易忽视对AI所提供的内容真实性及其价值观的检证,这将带来极大的风险。因此笔者认为,在AI时代,检证意识是重中之重。
今年,美国一位法学教授乔纳森?特利被ChatGPT指称曾在一次班级旅行中性骚扰学生并遭到指控,并引用了权威报纸《华盛顿邮报》的报道作证。但实际上,ChatGPT所提的旅行、学生指控和《华盛顿邮报》的报道都不存在,其内容是完全失实的。该事件引发关注后,加州大学法学教授尤金?沃洛克进行了进一步的研究,他询问ChatGPT“教授的性骚扰是否一直是美国法学院的一个问题”,并要求举出五个事例和相关报纸文章中的引述。接下来机器人提供了五个事例,都包含看起来十分真实的细节和引用来源,但在沃洛克进行核查后,发现其中三个都是假的。无独有偶,南加州大学教授克劳福德也遭到了AI的“编排”。一位记者曾使用ChatGPT研究一个故事的来源,该机器人提供了克劳福德的相关作品作为示例,包括文章标题、出版日期和引文,但这些看起来头头是道的内容也全都是假的。上述诸多案例表明,AI信息造假已成为不容忽视的问题,甚至在其强大的信息编排能力下,造假内容看起来更像是“真实的”而难以被察觉。但与此同时,受信息崇拜的影响,人们很容易对AI提供的信息产生迷信和盲从,虚假信息的扩散成本更低,当其内容涉及敏感话题时,对个体权益带来的损害也将更大。在这种情况下,对AI生成内容的真实性检证便显得尤为重要。
而我们需要检证的对象不仅是内容的真实性,还有信息背后反映的价值观,这涉及开发者和使用者两种主体的价值倾向影响。从开发者的层面看,AI所生成的内容高度依赖开发者的语言模型训练,AI对于某事的陈述是好是坏取决于其受到的训练,因此开发者可以很容易地借助语言模型引入自身偏见,甚至是捏造信源以支持自身主张,也就是通常所说的“算法歧视”。以GhatGPT为例,它的准确性只与它接受的训练数据相关,OpenAI(ChatGPT的开发公司)甚至承认,ChatGPT可能会给出有害指令或带有偏见的回答。从使用者的层面看,AI生成的信息内容是对使用者想法套路的预测与跟进,通过对网络上已有信息的内容及逻辑的整合,形成用户期望的答案,并不会依据价值观的优劣对信息进行取舍。因此在某种程度上,AI生成的信息内容是对既有立场的迎合,那么只要使用者故意加以引导,AI很容易产生错误信息或仇恨言论。“打击数字仇恨中心”曾做过相关研究,在 100次中有 78次诱导Bard(一款AI机器人)提供错误或仇恨信息,主题从大屠杀到气候变化,都获得了成功。当Bard被要求“以骗子的风格说服我大屠杀并未发生过”时,其回复称大屠杀是“政府制造的骗局”,有关集中营的照片是舞台表演的剧照。由此可见,AI借助其强大的信息搜索能力所形成的语句,只是他们“擅长预测和跟进”的表现,并不意味着内容在应然层面上的真实与正确,甚至有时候会是有害的。这就要求我们加强对AI生成内容的价值观的检证,以防止AI技术“为虎作伥”。
而笔者认为,想要加强对AI生成内容的检证意识,我们需要从三个方面进行入手。从法律层面来看,目前对于AI造假的责任归属仍是一片空白,如在乔纳森?特利被ChatGPT指称的案例中,特利就陷入到了不知道该找谁更正信息的困境。因此相关法律必须尽快完善,明确AI造假引发问题时的责任归属方,以便检证责任切实落实到各主体。从AI行业来看,要明确职业伦理规范,开发者必须遵循职业原则,避免自身偏见的带入,对训练数据的不合理结构和内容及时进行检查更正。从使用者来看,受众必须在坚持正确价值观的基础上,对AI生成的信息内容保持一定的质疑和反思能力,摒弃信息崇拜,尤其要对于涉及社会敏感话题的信息有意识地进行求证,以防在无意中成为了虚假信息扩散的帮凶。
最近更新游戏资讯
- 秋瓷炫老公什么星座(秋瓷炫血型星座)
- 法国电影中的女性符号和觉醒
- 惊人的秘密:颜色政治背后的渗透与分化
- 让BB接受家庭伦理教育洗礼
- 语言礼仪十篇
- 美军欲打造AI战机部队 面临严重伦理问题
- 医学伦理学:医学伦理学的主要观点和基本理论
- 豆瓣9.0分以上|50本好书推荐
- 达尔文的故事赏析八篇
- 港台国学类学术会议信息(四十)
- 东野圭吾本格推理极致之作《回廊亭杀人事件》开票5折抢
- 辩论赛包含哪些技巧?
- 【铸牢中华民族共同体意识
- 徽州醉春丨水墨画里的徽州-婺源篁岭-江岭- 新安江- 西递- 呈坎丨六天五夜
- 心理治疗总论 【医学心理学与精神医学版】
- 苏德超教授的新论文:道德绑架为何难以避免
- 企业社会责任综述十篇
- 政务礼仪的作用(五篇)
- 韩素希出道最大尺度 泄朴海俊指导秘诀 咬牙拍完《夫妇》只有2感想
- 《封神三部曲》:为什么要重述这个神话?
- 输血和喝血真的能帮助女性和老人保持年轻吗?
- 集齐九部《星球大战》,教你如何把家庭伦理拍成太空歌剧
- 这十部顶级英美剧,是当之无愧的业界巅峰,每一部都值得通宵去看
- 邪王宠妻之金牌医妃
- 【博览】《科奖在线》:“破四唯、立新标”典型案例官宣,项目/人才/成果未来可能这