영국 법원, AI 생성 허위 판례 인용 변호사에 엄중 제재 경고

영국 고등법원(High Court of England and Wales)이 법률 실무에서 AI를 오용하는 변호사들에게 강력한 경고를 발했다. 빅토리아 샤프(Victoria Sharp) 판사는 AI가 생성한 허위 판례 인용과 관련된 두 건의 사건을 통합 심리하면서 "ChatGPT 같은 생성형 AI 도구는 신뢰할 수 있는 법률 조사를 수행할 능력이 없다"고 판시했다.

법원은 AI가 생성한 가짜 판례 인용을 제출한 변호사들에게 '심각한(severe)' 제재가 가해질 수 있다고 밝혔다. 이는 법률 전문가들이 AI를 실무에 활용할 때 더 강력한 안전장치를 마련해야 한다는 메시지를 분명히 전달한 것이다.

주목할 점은 법원이 AI 사용 자체를 금지한 것이 아니라, 적절한 검증 없이 AI 결과물을 그대로 제출하는 행위를 문제 삼았다는 것이다. 정확성이 타협할 수 없는 전문 분야에서 AI의 신뢰성 문제가 실질적인 법적 제재로 이어진 중요한 선례가 되었다.

미국에서도 이미 변호사들이 ChatGPT가 생성한 가짜 판례를 법원에 제출해 제재를 받은 사례가 있었다. AI 할루시네이션 문제가 법률 실무에서 현실적인 위험으로 부각되면서, 전문직 영역에서의 AI 활용 가이드라인 마련이 시급한 과제로 떠오르고 있다.