近期，比尔盖茨和OpenAI的CEO都在大谈人工智能对于人类生活的改变。而ChatGPT正在改变美国的很多行业，包括法律行业。

近期，在美国爆料出，一些律师正在使用ChatGPT提供的虚假案件，进行法律案件的研究。一位员工因为在工作时被服务车伤害，起诉阿维安卡航空公司。而这位员工的代理律师，虽然有30多年的从业经验，但是却被法官指出，在提交的案件研究中，至少有6件疑似续教的司法判决，这些案件包括Varghese诉中国南方航空公司、Martinez诉达美航空公司、Shaboon诉埃及航空公司、Petersen诉伊朗航空公司、Miller诉联合航空公司和Estate of Durden诉荷兰皇家航空公司。但是经过调查后，法官发现这些案件是不存在的。

这些虚假案件来源于哪里？

很多人都猜出来了，来源于ChatGPT给出的答案。这是美国法庭面临的一种新情况，ChatGPT在给律师提供回答时，可能会提供大量虚假的案件。

这位律师为了避免给自己造成更大的负面影响，表示此前自己从未将ChatGPT作为法律研究的来源，不知道其提供的内容可能是虚假的。他将会承担没有确认ChatGPT的信息来源所带来的法律责任。这位律师非常后悔自己借助ChatGPT进行法律研究，表示以后再也不用ChatGPT了。

为了验证ChatGPT是否会出现这样的错误，调查人员向ChatGPT提出了与这6个虚假案件相关的问题。在询问这些案件是否是真实的案件时，ChatGPT给出的答复是肯定的，你可以从法律案件的数据库中找到相关的信息。

这又让我想起了前段时间，一名外国记者向ChatGPT提问时，指出是否能够认为ChatGPT所说的是真实的。ChatGPT再次强调，自己只是大型语言模型，无法无法总是提供用户所需要的答案。由于无法从互联网上获取更多有价值的信息，因此在生成的回答中可能出现错误或者不准确的信息。用户不应该将自己所提供的答案，都认为是真实的、准确的。ChagGPT提醒道，在做任何决定或者采取行动以前，通过自己的常识，一定要进行判断，进行大量信息核实是非常重要的。

由于ChatGPT覆盖的领域比较广，因此不可能在很多领域都能给出比较好的答案。因此一些细分领域或者行业的聊天机器人将会具备优势。在我们借助聊天机器人的答案时，一定要对回答的内容进行判断，确认其真实性，以及是否符合常理。越是专业的回答，越需要我们具备相关的专业知识和常识，否则容易犯更大的错误。