随着人工智能技术的迅猛发展，AI在信息传播领域的应用日益广泛，然而AI生成的虚假信息也呈现出泛滥的趋势。通过AI技术深度伪造视频、政府公告、企业声明、名人言论、虚假金融信息等行为，已严重干扰了公众的判断，损害了社会的公信力和稳定。这类虚假信息不仅误导消费者，还可能对社会秩序、国家安全甚至人民群众的生命财产安全构成威胁。


　　然而，我国现行法律对AI生成内容的监管责任界定模糊，相关法律滞后，平台审核技术能力不足，违法成本低，治理难度大。在刑法领域，虽然存在一些可以适用于AI生成虚假信息的法律条文，如编造、故意传播虚假信息罪，寻衅滋事罪等，但在具体适用时，仍面临诸多挑战。例如，对于AI生成的虚假信息的责任主体认定、刑法义务的设定等问题，现行法律并未给出明确规定。


　　在此背景下，全国政协委员提出的加快制定针对AI生成虚假信息的专项法律法规的建议，无疑为解决这一问题提供了有效的法律路径。专项立法可以明确AI生成内容的“全生命周期”责任，包括开发者、使用者和运营者的法律责任和义务，细化法律责任，提高违法成本。同时，专项立法还可以结合AI技术的特点，设定专门的安全管理义务，为刑法治理提供明确的法律依据。


　　以实际案例为例，2023年我国发生的“上虞工业园区火灾”虚假视频案，以及编造传播“甘肃一火车撞上修路工人致9人死亡”虚假新闻案，均涉及AI生成的虚假信息。在这些案件中，行为人使用人工智能软件编造虚假信息并故意散布，造成了严重的社会影响。如果专项法律法规得以制定，将能够更有效地追究行为人的法律责任，维护社会秩序和公共利益。


　　此外，专项立法还可以借鉴国际经验，如欧盟《人工智能法》中的安全风险类型化防控机制，为我国AI生成虚假信息的治理提供有益的参考。同时，加强技术监管与防范，提高公众对AI造谣行为的法律认识，也是治理AI生成虚假信息的重要方面。综上所述，加快制定针对AI生成虚假信息的专项法律法规，是应对当前AI技术挑战、维护社会秩序和公共利益的必要之举。作为律师，我们期待这一专项法律法规的尽快出台，为AI技术的健康发展提供有力的法律保障。


　　【相关案例】


　　AI换脸诈骗案例：在云南昆明，一名女子准备邮寄价值30余万元的金条给“闺蜜”，称是接到闺蜜QQ视频通话的请求。民警初步怀疑女子遭遇电信网络诈骗，其闺蜜QQ被盗，犯罪嫌疑人通过AI换脸及声纹技术对其进行诈骗。不法分子利用AI技术伪装他人面容与声音，仿冒身份行骗，此类行为涉嫌刑法中的诈骗罪。


　　AI外挂案例：2023年9月江西余江公安破获全国首例“AI外挂”案。犯罪嫌疑人王某原本是AI人工智能领域从业者，在看到射击类游戏“AI外挂”讲解视频后，与张某合作制作AI游戏外挂并通过网络渠道销售牟利，涉案金额超三千万元。2024年5月6日，王某以提供侵入、非法控制计算机信息系统程序、工具罪被判处有期徒刑三年，缓刑五年，并处罚金。


　　AI造谣案例：2024年1月23日，杨某某为获取流量牟利，利用AI软件生成“云南山体滑坡灾害已致8人遇难”的虚假新闻信息并发布在网络平台上，造成不良社会影响，被四川广元公安机关依法进行行政处罚。2024年6月9日，罗某某为吸引眼球、获取流量，利用AI软件生成虚假地震灾情图片，并在某短视频平台散布不实信息，被四川凉山公安机关依法进行行政处罚。


　　【京尹律师提醒】


　　哪些工作若使用AI可能导致泄密等违法行为


　　政府机关涉密工作：政府部门的工作人员在处理涉及国家秘密的文件起草、政策制定、情报分析等工作时，使用AI可能导致泄密。比如在国家安全、外交、军事等领域，若将涉密信息输入AI系统，如AI写作程序会自动收集用户输入的信息内容以供自主学习，相关数据易被境外间谍情报机关窃取，造成国家秘密泄露。


　　司法工作中案件审理与法律文书起草：法官、检察官在撰写判决书、起诉书等法律文书时，如果使用AI，可能会泄露案件的关键信息、证据细节、合议庭讨论情况等，影响司法公正和当事人的权益。


　　律师工作：律师在处理案件过程中，涉及当事人的商业秘密、个人隐私以及案件的策略等信息属于保密范畴。若使用AI工具进行案件分析、法律文件起草，可能会使这些信息被AI收集或因系统漏洞而泄露。


　　企业商业机密相关工作中研发工作：科技企业的研发人员在进行新产品、新技术研发时，若使用AI，可能会将未公开的技术细节、设计方案等敏感信息泄露。例如三星电子曾发生员工使用ChatGPT导致机密数据外泄的事件。


　　财务管理工作：财务人员掌握着企业的财务数据、资金流向、成本核算等重要信息。若在工作中使用AI，可能导致这些数据被非法获取，给企业带来经济损失。


　　人力资源管理工作：HR在处理员工的薪酬待遇、绩效评估、个人背景等敏感信息时，使用AI可能导致员工隐私泄露，引发劳动纠纷等问题。


　　前沿科技研究工作：在一些前沿科技领域，如人工智能、生物技术、航空航天等，研究成果往往具有很高的价值和保密性。研究人员若在研究过程中使用AI，可能会将尚未公开的研究数据、实验方法、创新思路等泄露。


　　涉密科研项目：承担国家涉密科研项目的单位和人员，在项目实施过程中，使用AI可能会违反保密规定，导致项目信息泄露，危害国家科技安全。