在湖北省大悟县人民法院审理的一起房屋租赁合同纠纷案中，原告董某提交的水电表照片带有“AI生成”的水印。在法官质询下，董某承认自己利用AI技术伪造证据，并受到训诫。这并非个例，多地法院也遇到类似情况。随着生成式人工智能技术融入法律行业宏益配资，其带来的“AI幻觉”陷阱，即生成看似真实、合理但实则虚假、错误的内容，也在侵入法庭。
“AI幻觉”在法律领域已造成多层面冲击宏益配资，最常见的是生成虚假或错误的案例和法条。北京市通州区人民法院审理的一起商事纠纷中，承办法官郑吉喆发现原告代理律师提交的两个案例与实际案件情况不符。在法官追问下，律师承认这些案例是AI工具根据检索生成的。北京市第二中级人民法院推动落实全员、全面、全程“三全”释法说理机制，在一起继承纠纷案件中，当事人发来的裁判依据没有一条是准确的现行法律规定。上海市第二中级人民法院受理的各类二审案件中，也出现当事人直接使用AI工具拟写诉状、援引虚构法条的情况。更严峻的是，“AI幻觉”还可能被用于恶意取证、伪造证据、虚构事实。
在上海市青浦区人民法院审理的一起侵害商标权纠纷中，原告四川全某餐饮文化管理有限公司声称被告上海世某食品股份有限公司购买搜索引擎广告服务，并选用“全某冒”商标相近的搜索关键词进行网络推广，构成侵权。世某公司辩称未曾主动添加含“全某冒”字样的关键词。北京某网讯科技有限公司经后台数据核查，确认世某公司未主动添加相关关键词。而原告取证前存在多次频繁重复搜索却不点击搜索结果的行为，人为制造了“侵权”假象。原告以此手法取得400余份“证据”，向全国各地法院提起或准备提起商标侵权诉讼。
AI为何会“胡言乱语”？北京二中院申诉审查庭庭长赵银豪指出，“AI幻觉”是AI思维模式的天然副产品，大语言模型的本质是概率预测而非逻辑推理。当训练数据不足、信息模糊或用户指令引导性过强时，AI为追求文本连贯与完成任务，倾向于自主创造内容。法律领域的特殊性加剧了这一风险。法律知识体系庞大、更新迅速，且存在大量未公开文书或内部规范，容易形成“信息真空地带”。法律语言高度专业化且依赖严谨解释，AI易陷入机械理解的境地。部分当事人或法律工作者对AI过度依赖与盲目信任，没有尽到对信息真实性的核验义务。
面对“AI幻觉”的冲击，司法机关正在积极行动。通州法院成立人工智能司法应用案例与理论兴趣小组，总结出AI虚假案例的特征以便识别。对于提交材料中含有疑似AI生成内容的当事人，司法机关应进行必要释明与风险告知，要求当事人标注人工智能辅助生成情况。对于提交含有AI虚构内容的诉讼材料的行为宏益配资，应视情节采取训诫、罚款等惩处措施。陈樱建议引导人工智能服务平台加强内容审核，对侧重于法律用途的AI模型，平台应实施更严格的内容真实性审核与用户提示义务。在司法机关内部，可依托数字法院建设，识别虚构法条、案例及典型AI生成痕迹，并向承办法官提示风险，提升审查质效。赵银豪表示，技术进步无法阻挡，但工具无法取代人的担当。法庭之上，最终且唯一的审判者只能是且必须是经得起追问的人。
十大可靠的配资公司提示：文章来自网络，不代表本站观点。
