최근 보호권 분쟁 사건에서 변호사들이 AI가 생성한 판례를 근거로 제출했다가 적발되면서, 법률 실무에서 AI의 신뢰성 문제가 수면 위로 떠올랐습니다. 존재하지 않는 판례를 마치 실제인 것처럼 만들어내는 AI의 한계는 법적 결정에 영향을 미칠 수 있는 심각한 위험입니다.
AI가 만든 가짜 판례, 법정을 혼란에 빠뜨리다
캘리포니아의 한 개 양육권 소송에서 인공지능이 만든 존재하지 않는 판례가 법정 기록에 올라가는 사건이 발생했습니다. 16살 래브라도 리트리버 ‘카이라’를 두고 벌어진 이 소송에서 한쪽 변호사가 AI가 생성한 가짜 판례 인용문 2개를 제출했고, 상대방 법무팀도 이를 확인하지 못한 채 같은 가짜 판례를 자신의 소장에 인용했습니다. 심지어 판사가 서명한 법원 명령서에까지 이 거짓 판례들이 포함되었습니다. 이 사건은 최근 몇 년 사이 법조계에서 급증하고 있는 AI 환각 현상의 심각성을 여실히 보여줍니다.
UCLA 법학대학원의 유진 볼로크 교수는 이런 상황이 과거에는 상상할 수 없었다고 지적합니다. 변호사들은 상대방이 기록을 왜곡하거나 거짓말할 수 있다는 것을 알고 있었지만, 존재하지 않는 판례 자체를 만들어내는 일은 몇 년 전까지만 해도 일어나지 않았다는 뜻입니다. 과거에는 환각의 원천이 없었기 때문에 판례를 약간 잘못 인용하거나 내용을 왜곡할 수는 있었지만, 아예 없는 판례를 언급하는 일은 불가능했습니다. 그런데 지금은 이런 일이 자주 발생하고 있습니다.
프랑스 연구자 다미엔 샬로탱이 관리하는 AI 환각 데이터베이스에는 현재 1,174건의 사건이 등록되어 있으며, 이 중 약 750건이 미국 법원 사건입니다. 이는 거의 확실히 보수적인 집계이며, 대부분의 AI 위조 판례는 소송 당사자나 판사의 눈에 띄지 않을 수 있습니다. 특히 주(state) 법원의 경우 더욱 그럴 가능성이 높습니다. 볼로크 교수는 실제로는 수천 건의 사건이 적발되지 않고 있을 것으로 추정하고 있습니다.
판사들의 경고와 강화되는 제재
사법부는 AI가 만든 거짓 판례가 판결 기록의 일부가 되는 것에 대해 점점 더 우려하고 있습니다. 한 항소 판사는 ‘거짓 판례에 대한 의존은 판결의 무결성을 심각하게 훼손하고 사법 제도에 대한 국민의 신뢰를 약화시킨다’고 지적했습니다. 이 판사는 ‘법원과 당사자 모두가 모든 명령서의 인용이 진정한 것임을 확인하는 것이 필수적’이라고 강조했으며, ‘AI 도구가 생성한 환각 판례 인용의 증가 추세를 고려할 때 이는 특히 중요하다’고 덧붙였습니다.
현재 판사들은 변호사가 자신의 잘못을 인정하고 ‘법원의 자비에 호소’할 경우 강한 처벌을 내리기를 꺼리는 경향이 있습니다. 하지만 변호사가 AI 사용을 부인하거나 책임을 회피하려 할 때는 훨씬 더 엄격해지고 있습니다. 최근 오리건주 메드포드의 연방 판사 마크 클라크는 민사 소송에서 15개의 위조 판례 인용과 8개의 잘못된 인용을 제출한 원고 측 변호사들에게 90,000달러 이상의 법정 비용 지급을 명령했습니다. 이는 한 변호사에게 이미 부과된 15,500달러의 제재에 추가되는 것입니다.
클라크 판사는 또한 오리건 포도주 재벌 형제자매 간의 분쟁에서 비롯된 2,900만 달러 규모의 소송을 기각했으며, 재제출이 불가능하도록 판결했습니다. 클라크 판사는 이것이 ‘매우 이례적인 처벌’이라고 인정했으며, 샬로탱의 데이터베이스에 기록된 모든 사건 중 가장 큰 규모의 제재라고 밝혔습니다. 판사는 ‘인공지능 오용으로 인한 제재 사건이 빠르게 증가하는 상황에서 이 사건은 정도와 규모 면에서 악명 높은 이상치’라고 썼습니다.
카이라 사건: 가짜 판례가 법정 기록에 남기까지
카이라 사건은 2024년에 시작되었으며, 이는 샌디에이고 가정법원 판사가 호안 토레스 캄포스와 뮤노즈의 동거 관계를 해제한 지 2년 후였습니다. 해제 명령서는 두 사람이 자신의 재산을 보유하도록 허용했지만 뮤노즈와 함께 살고 있던 개에 대해서는 언급하지 않았습니다. 토레스 캄포스는 이후 카이라의 공동 양육권과 방문 권리를 요청했습니다. 반려동물 양육권 분쟁은 오랫동안 문화적 소재로 다루어져 왔으며, 이 사건은 1937년 영화 ‘끔찍한 진실’에서 와이어 테리어 미스터 스미스를 두고 벌어진 양육권 싸움과 유사합니다.
뮤노즈는 토레스 캄포스의 요청을 거부했으며, 그가 개를 정말로 돌보려는 것이 아니라 자신을 괴롭히려는 의도라고 주장했습니다. 가정법원 판사는 뮤노즈의 손을 들어주었지만, 토레스 캄포스는 항소했습니다. 뮤노즈의 변호사 록산느 청 보나르는 토레스 캄포스에 대한 초기 답변에서 1984년과 1995년의 캘리포니아 판례를 인용했으며, 이것이 의뢰인의 방문 권리 거부를 지지한다고 주장했습니다. 그런데 두 판례 인용 모두 거짓이었습니다.
1984년 판례인 ‘토레스 캄포스 대 뮤노즈 결혼 사건’은 아예 존재하지 않았으며, 보나르의 인용은 ‘반려동물이나 양육권 결정과 무관한’ 형사 사건을 가리키고 있었습니다. 캘리포니아 항소법원 판사 마틴 부캐넌은 만장일치로 가정법원 판사의 결정을 지지하면서 이를 지적했습니다. 두 번째 인용인 ‘테거든 결혼 사건’은 1995년이 아닌 1986년에 판결되었으며, 역시 해당 사안과 무관했습니다. 토레스 캄포스의 변호사는 회신 소장과 그 후의 제안된 법원 명령서에서 트위그와 테거든이 위조된 판례라는 점을 언급하지 않았습니다. 아마도 변호사가 직접 참고 자료를 확인하지 않았기 때문일 것입니다. 가정법원 판사는 가짜 인용을 포함한 제안된 명령서에 서명했고, 이로 인해 거짓 판례들이 공식 기록에 포함되었습니다.
※ 정보 목적의 요약이며, 구체적 상황은 전문 자문을 권장합니다.