嘘ついちゃってるから。
ニューヨーク州の弁護士2人、ChatGPTを使って作成した法的文書を提出したことがきっかけで、罰金5,000ドル(約72万円)を言い渡されてしまいました。
弁護士ってChatGPT使ったらダメなの? いえ、そうではないのです。これは使い方がダメなやつだった…。
嘘に嘘を重ねてもいつかバレる
この件を担当した判事は「弁護士としての責任を放棄した」と、弁護士2人(Peter LoDuca氏、Steven A. Schwartz氏)と彼らが属する事務所(Levidow, Levidow & Oberman, P.C.)を厳しく批判。
というのも、ChatGPTが作成した文書内引用されていた司法見解6つが存在しないデタラメだったのです。
裁判所がこれに気づき指摘すると、弁護士は「問題をすり替えた反論」だと対抗した上に、「今、休暇中だから」とウソをついて時間稼ぎをしてしまいました。
この件のSchwartz弁護士は、今月頭、2019年に発生した南米の航空会社アビアンカ航空に対する傷害訴訟の判例探しにChatGPTを活用したと発言。
裁判官が実際にChatGPTに登録して調べてみると、確かにChatGPTはその判例を事実だと答えました。しかし、裁判官がテキトーに作った偽の判例を聞いてみると、それもまた事実だと答えたのです。
モラルの問題
弁護士がChatGPTを活用したのは、今回の2人が初めてではありません。使ったらダメということもないでしょう。要は使い方の問題。
今回のケースは、ChatGPTへの丸投げが強く、生成された判例を確認すらしていなかったこと。指摘されてなお押し通そうとしたことが、弁護士としての責任放棄として否定されたのです。人間のモラルの問題で、ChatGPTはむしろとばっちり。
ChatGPTは大量の法律データを取り込み、法的な質問にも的確に答えられることも多々あります。また、ChatGPT-4は弁護士試験にも合格しています。
一方で、オンライン法的サービスDoNotPayはそのサービスの悪さから訴訟が発生。また、同社のChatGPTを弁護士として活用するプランは、法的資格を有しない法的行動だとして、州弁護士会から禁固刑6カ月の可能性を示唆され取り下げられています。