盈媒网6月23日消息， 据外媒报道，美国联邦法官表示，Levidow, Levidow&Oberman律师事务用ChatGPT撰写一份由虚假案例引证的法庭简报，对其处以罚款5000美元。法官表示，该事务所的两名律师有意识地避免表明这些引文是虚假的，并“向法庭做出误导性陈述”。

　　该案件始于2020年11月，当时OpenAI发布了一篇名为《关于语言模型能力和未来方向的思考》的博客文章。在该文章中，OpenAI展示了其最新的ChatGPT-3语言模型生成的内容，其中包括一个看起来像真实法律文件的“Complaint”(即起诉书)。这个“Complaint”实际上是由ChatGPT-3生成，并不是一个真正存在的案件。这引起了被误导者对OpenAI行为进行质疑和批评。

　　有分析认为，之所以频繁出现制造虚假信息的案例，源自于生成式人工智能的运行逻辑。作为一个“服务于指令”的生产力工具，人工智能的目标并非客观中立地呈现信息，而是判断命令者的意图，并不遗余力地通过数据的搜集和组合来“讨好命令者”。例如，如果你通过ChatGPT询问关于某人的信息，人工智能往往倾向于对其信息进行“讨好性”的加工与放大。在实际测试中，ChatGPT会将被询问的个人信息进行重新整理组合，过度使用“作出巨大贡献”或“享有赞誉”等褒奖词汇。

　　当然，也有虚假陈述新闻事件。 此前，据新甘肃客户端报道，平凉市公安局网安大队侦破一起利用AI人工智能技术炮制虚假不实信息的案件，洪某弟通过近期火爆的ChatGPT人工智能软件将搜集到的新闻要素修改编辑后散布在互联网上，被大量传播浏览，其行为已涉嫌寻衅滋事罪。

　　北京观韬中茂律师事务所杨旭律师在接受盈媒网采访时表示，随着人工智能技术的不断发展和应用，越来越多的文章和内容都是由人工智能生成。虽然这种技术可以提高效率和降低成本，但同时也会带来一些法律风险。由于人工智能算法的复杂性和不确定性，生成的文章可能存在错误或误导性信息。如果这些信息对读者造成了损害或误解，那么发布机构可能要承担相应法律责任。