법조계에서 생성형 인공지능(AI) 활용이 많아지면서 실제 존재하지 않는 부정확한 정보인 ‘AI 환각’이 소송자료에 쓰일 수 있다는 우려가 커지고 있다. 일각에선 AI가 만들어 낸 ‘가짜판례’를 그대로 인용했다 적발된 경우 변호사법 위반 소지가 있는 것 아니냐는 지적도 나오고 있다.
이런 가운데 대법원 산하 사법행정 총괄 기구인 법원행정처와 전국 변호사 법정단체 대한변호사협회가 각각 대응에 나섰다. 행정처는 제재 방안 마련을 위해 입법도 고려하고 있는 것으로 나타났다.



위 사진은 기사 이해를 돕기 위해 A 릴짱 I(인공지능)를 활용해 생성한 가상의 이미지입니다. 구글 gemini 생성



행정처는 ‘AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)’를 지난해 10월 출범해 운영 중이라고 6일 밝혔다. 예상 종료 시점은 올 2월이다. 현행법상 AI 환각이 포함된 소송자료를 제출했을  바다이야기#릴게임 때 명시적인 대응책이 없는데, 예방과 제재 수단 등을 종합적으로 검토한다는 방침이다. TF는 소송절차에서 AI를 활용하는 경우 당사자 및 대리인에게 부과할 수 있는 의무와 허위 법령·판례 제출이 확인된 경우 가능한 제재 수단 등을 논의 중이다.

방안에는 입법도 포함됐다. 행정처는 TF에서 종합적인 방안이 나오면 이를 기 바다이야기부활 초로 법령 개정이나 예규 제·개정 등의 조치를 한다는 방침이다. 행정처 관계자는 “입법이 필요한 경우에는 법무부를 비롯한 정부 및 국회 등과 적극적으로 소통해 합리적인 입법안을 도출할 예정”이라고 설명했다.
변협 역시 자체 준칙을 만들고 있다. 변협은 ‘변호사를 위한 리걸 AI 가이드라인 소위원회’를 구성하고 지난달 첫 회의를 진행했다. 바다이야기디시 변호사들이 소송 과정에서 AI 활용 시 참고할 수 있는 규범을 만들겠다는 계획이다. 소위원회는 법원 인공지능연구회가 앞서 발간한 ‘사법에서의 인공지능(AI) 활용에 관한 가이드라인’뿐만 아니라 미국변호사협회를 비롯한 해외 변호사 단체가 만든 준칙들을 참고한 것으로 확인됐다.



오션릴게임 사진=게티이미지뱅크



지난해 2월 법원 인공지능연구회가 만든 가이드라인에는 법관뿐만 아니라 소송당사자에 대한 제약이 구체적으로 담겼다. 다만 법적 효력을 갖진 않고 재판장의 소송지휘권 행사 시 활용할 목적으로 만들어졌다.

이 가이드라인에는 소송당사자가 AI를 사용할 경우 그 여부를 밝혀야 할 의무가 있고, 법원도 제출받은 자료가 AI를 사용해 작성된 것인지 밝히라고 명령할 수 있다는 내용이 담겼다. 또 AI를 활용한 경우 사용한 AI 도구와 입력된 프롬프트 등도 석명하도록 요구할 수 있다는 점도 포함됐다.
윤준호 기자 sherpa@segye.com