AI生成的内容真假难辨,缺乏审查将助长新一批虚假新闻以及内容

近几个月来,生成式人工智能(Generative AI)对网络经济模式和网络内容产出的冲击越来越明显。首先是购物平台亚马逊(Amazon)的“垃圾化”(junkification),接着是社交网络服务公司 TikTok 的“狗屎化”(Enshittification),以及人工智能(以下简称 AI)产生的虚假信息和内容农场(Content farm)数量大幅增加。甚至连 OpenAI 开发的 AI 聊天机器人程序“ChatGPT”,也被部分人用来生成假信息。

AI 生成的内容真假难辨,缺乏审查将助长新一批虚假新闻以及内容

据美国科技新闻平台《The Verge》报道,2023 年 3 月甚至出现了科技巨头 Google 和微软(Microsoft)的 AI 聊天机器人互相引用彼此错误信息的尴尬局面。

《The Verge》资深记者文森(James Vincent)表示,互联网曾长时间作为个人和企业创造、实践各类想法的场域。人们依靠数字世界产出各式文字和图像,部分人士甚至因为创建多样且功能齐全的平台而获得丰厚利润。一旦这些网站有足够的流量,通常就有机会带来商机。然而,AI 的出现逐渐改变了现有的网络经济模式。

文森在《The Verge》发表文章分享了他对网络经济模式和信息生成变化的观点,并解读了 AI 如何冲击网络平台以及未来数字世界的发展。

如何应对 AI 生成内容的大型网络平台?
文森指出,全球社交娱乐和新闻网站“Reddit”、维基百科(Wikipedia)、Google 以及程序设计领域问答网站“Stack Overflow”等受欢迎或普及性高的平台,近年来都或多或少受到了 AI 带来的冲击。

面对 AI 生成内容的影响,这些大型网络平台需要采取相应的措施来应对。例如,他们可以制定更加严格的内容审核政策,以防止虚假信息传播;加强用户行为监控,对涉及使用 AI 生成虚假内容的用户进行封禁;提高用户在平台上的参与度,鼓励用户报告可疑内容,以便平台能够及时发现和处理问题;加大对 AI 技术的投入,利用 AI 技术进行自动化内容审核,提高审核效率。

此外,大型网络平台还可以与 AI 技术开发商合作,共同研发更加智能、可靠的 AI 技术,将其应用于平台的内容生成和管理中。这样既能够提高平台的内容质量,又能够减轻因 AI 产生的虚假信息带来的负面影响。

总之,随着生成式 AI 技术的发展,网络经济模式和内容产出将面临前所未有的挑战。大型网络平台需要及时调整战略,并采取有效措施来应对 AI 带来的冲击,以维护平台的稳定运营和用户体验。

正文完