ChatGPT伪造虚构6案例 30年资深律师惨受骗面临停牌
2023-05-30 10:52 
ChatGPT 害执业30年的资深律师也中招！美国纽约一名律师使用AI聊天机器人ChatGPT搜集资料并作为案例呈交法官，结果被发现其援引的6宗案例以及文章内容都是虚构的。律师承认自己没有核实信息并为此道歉，虽然没有先例，不过该律师恐面临停牌处分。事件引发了法律界对于人工智能工具在法律研究中适当使用的讨论，以及做出相关措施来以防止类似情况发生。
据美国有线电视新闻网（CNN）28日报道，男乘客马塔对哥伦比亚航空公司提起诉讼，称自己2019年搭乘该公司航班飞往纽约市途中，空服人员疏忽导致他膝盖被客舱内推车撞伤。
马塔的代理律师是已有30多年从业经历的纽约市律师施瓦茨（Steven Schwarz）。为支持马塔诉求，施瓦茨向法官凯文·卡斯特尔提交了多个所谓类似案例及其判决结果。
今年4月，哥伦比亚航空公司的律师致信法官，质疑施瓦茨所提交案例信息的真实性。据美国《纽约时报》报道，律师之一巴尼诺说，他的律师行的律师精通航空法律，看出那些信息不实。他说，他们当时隐约感觉那些信息来自ChatGPT。
被ChatGPT骗了 律师后悔
施瓦茨本月25日在宣誓书中承认，曾依赖ChatGPT搜索资料，结果证明来源不可靠。他表示「非常后悔使用生成式AI来补充法律研究」，他强调自己无意欺骗法庭或航空公司，又称以前从未这样做过。他是第一次用ChatGPT协助办案，「没有意识到内容伪造的可能性」。
据悉，施瓦茨询问ChatGPT案例的真实性，ChatGPT再三确定这些案例为真实，且在「可信的法律数据库」中可以查找到。
施瓦茨在书面表示「深表懊悔」，愿意承担相关责任，承诺今后「没有完全核实」就不会使用聊天机器人提供的信息。
法官卡斯特尔本月4日在一份书面文件中写道，那6个案例的判决结果、引语等都是假的，该情况「史无前例」。他下令6月8日就处罚施瓦茨举行听证会。施瓦茨目前面临何种惩罚尚未明确，最严重的情形可能是被停牌。
---
《星岛头条》APP经已推出最新版本，请立即更新，浏览更精彩内容：https://bit.ly/3yLrgYZ
最新回应