尽管DeepSeek-R1确实是一款强大的工具，但自从它变得流行以来，对中文互联网的信息环境造成了不小的负面影响。


　　过去一周内，我注意到至少有三个通过DeepSeek-R1生成的、包含大量错误信息的文章被广泛传播，这些文章由于其逼真的风格让许多人信以为真，并积极分享。


　　第一个例子是在知乎上的一篇高赞回答，讨论了国产动画电影的发展。即便有人指出其中的错误，仍有读者表示看不出所谓的“AI味”。


　　这篇文章通过精心设计和后期润色，成功地掩盖了其由AI生成的事实，但对于经常接触AI文本的人来说，仍然可以看出一些痕迹。直到我发现文中关于哪吒电影的具体描述与事实不符，我才意识到这是由DeepSeek-R1虚构的内容。


　　第二个例子更加夸张，涉及到使用DeepSeek-R1撰写涉及军事和政治的文章。一篇题为《军工虎谭瑞松，从“道德标兵”到“猎艳狂魔”》的文章，充满了虚构的情节和细节，如直升机设计图纸在暗网出售等。


　　这类内容不仅误导公众，还可能带来法律风险。DeepSeek-R1之所以能产生如此逼真的内容，是因为其训练过程中注重奖励机制，使其倾向于编造材料以完成任务。


　　第三个例子是历史博主知北遊的经历，有人利用虚构的历史资料试图欺骗他。如果不是因为他具备强烈的反诈意识以及人脉的帮助，他很可能会上当受骗。这一事件凸显了AI在处理未数字化的历史文献时带来的挑战。


　　虽然AI在没有人为干预的情况下也会出现虚假信息的问题，但与人类相比，AI的工业化生产能力和创造虚构细节的能力使得问题更为严重。


　　此外，AI生成的内容往往通过大V博主的转发获得更高的可信度，这对社会信任体系构成了威胁。


　　重要的是要认识到，工具本身没有错，关键在于如何使用。对于AI生成的内容，应当明确标注其来源，防止混淆视听。


　　同时，大型模型厂商和内容平台应共同推进解决方案，如引入数字水印技术，以区分真实与虚构的信息，减少虚假信息对公共领域的负面影响。


　　欢迎您的阅读，请关注本号，持续为您带来有用资讯，感谢！