인공지능(Artificial Intelligence, AI)이 빠르게 발전하면서 법률 분야에서도 AI를 활용하려는 움직임이 계속 커지고 있다. 이미 AI는 방대한 판례를 검색하고, 법률문서를 요약하고, 유사 사건을 찾아내거나 계약서를 검토하는 데 활용되고 있다. 그렇다면 여기에서 한 걸음 더 나아가 AI가 판사의 판단을 직접 보조한다면 어떨까?
예를 들어 판사가 사건기록을 AI에게 입력하고 유사한 판례, 예상되는 형량, 주요 쟁점 등을 분석하도록 할 수 있다. 더 극단적으로는 AI에게 피고인에게 어느 정도의 형을 선고하는 것이 적절한지까지 물어볼 수도 있다.
이러한 시스템은 얼핏 생각하면 상당히 공정할 것처럼 보인다. 인간 판사는 감정이나 피로, 경험, 선입견의 영향을 받을 수 있지만 AI는 수많은 사건을 동시에 분석하면서 동일한 기준을 적용할 수 있기 때문이다.
하지만 정말 AI가 판단에 참여하면 판결은 더 공정해질까?
이 질문은 단순히 AI의 성능만으로 대답하기 어렵다. 인간의 판단에 어떤 오류가 존재하는지, AI 역시 어떤 한계를 가지고 있는지, 그리고 인간이 AI의 판단을 어떻게 받아들이는지를 함께 살펴볼 필요가 있다.
1. 인간판사의 판단은 언제나 완벽하게 객관적이지는 않다
법원은 객관적인 법과 증거를 바탕으로 판단해야 한다. 하지만 실제로 판결을 내리는 사람은 인간이다.
인간의 판단에는 여러 가지 인지적 편향(Cognitive Bias)이 영향을 미칠 수 있다.
대표적인 것이 앵커링 효과(Anchoring Effect)다.
사람은 처음 접한 숫자나 정보에 영향을 받아 이후 판단을 내리는 경향이 있다. 예를 들어 어떤 사건에서 매우 높은 형량이 처음 제시된다면 이후 적정한 형량을 판단할 때 그 숫자가 하나의 기준점처럼 작용할 가능성이 있다.
확증편향(Confirmation Bias)도 중요한 문제다.
판사가 사건 초기 단계에서 피고인의 유죄 가능성이 높다고 생각하기 시작하면 이후 제시되는 증거 가운데 그 생각을 뒷받침하는 정보에 더 주목할 가능성이 있다. 반대로 기존 판단과 맞지 않는 정보는 상대적으로 덜 중요하게 평가할 수도 있다.
이 밖에도 피고인의 외모, 말투, 사회적 배경처럼 법적으로는 직접적인 판단 기준이 되어서는 안 되는 요소가 무의식적으로 판단에 영향을 줄 가능성도 있다.
물론 판사는 전문적인 교육을 받고 법적 절차와 증거에 따라 판단하도록 훈련받는다. 또한 재판에는 여러 절차적 장치가 존재하기 때문에 개인의 단순한 직관만으로 판결이 이루어지는 것은 아니다.
그럼에도 인간이 판단하는 이상 인지적 오류의 가능성을 완전히 제거하기는 어렵다.
이 지점에서 AI의 장점이 등장한다.
AI는 감정적으로 피고인을 싫어하거나 좋아하지 않는다. 하루 종일 재판을 했다는 이유로 피곤해지지도 않는다. 동일한 조건에 동일한 기준을 적용하도록 설계할 수도 있다.
또한 인간이 읽기 어려운 양의 판례를 분석하여 비슷한 사건에서 어떤 판단이 이루어졌는지 보여줄 수 있다.
예를 들어 특정 범죄에 대해 수천 건의 과거 판결을 분석하여 범행 방법, 피해 정도, 전과, 피해 회복 여부 등 여러 조건이 유사한 사건에서 어떤 형량이 선고되었는지 보여준다면 판사의 판단에 도움이 될 수 있다.
이런 의미에서 AI는 인간 판사의 판단을 보다 일관되게 만드는 도구가 될 가능성이 있다.
그러나 여기에는 중요한 전제가 있다.
AI가 반드시 인간보다 공정하다고 가정해서는 안 된다는 것이다.
2. AI 판사는 인간의 편견에서 자유로울까?
AI가 감정을 가지지 않는다는 사실과 AI가 편향되지 않는다는 것은 같은 의미가 아니다.
AI는 대부분 과거 데이터를 학습하거나 사람이 설계한 기준을 바탕으로 판단한다.
만약 과거의 판결 데이터에 일정한 편향이 존재했다면 AI는 그것을 하나의 정상적인 패턴으로 학습할 수 있다.
예를 들어 비슷한 범죄를 저질렀음에도 특정한 사회적 배경을 가진 사람들이 역사적으로 더 무거운 처벌을 받았다고 가정해보자.
AI가 과거 판결을 그대로 학습한다면 그러한 차이를 공정하지 않은 과거의 흔적으로 인식하는 것이 아니라 예측에 유용한 패턴으로 받아들일 가능성이 있다.
그 결과 AI가 기존의 편향을 반복하는 Algorithmic Bias가 발생할 수 있다.
여기에서 중요한 문제가 하나 더 생긴다.
AI가 숫자로 결과를 제시하면 사람들은 그것을 객관적인 사실처럼 받아들이기 쉽다는 것이다.
예를 들어 AI가 피고인에 대해 재범 위험 78%라고 평가했다고 생각해보자.
78이라는 숫자는 상당히 정밀한 과학적 측정처럼 느껴질 수 있다.
하지만 그 숫자는 자연적으로 존재하는 객관적인 수치가 아니다.
어떤 데이터를 입력했는지, 재범을 어떻게 정의했는지, 어떤 알고리즘을 사용했는지, 어떤 집단을 대상으로 모델을 만들었는지에 따라 결과는 달라질 수 있다.
따라서 AI가 제공하는 숫자는 판단을 위한 하나의 정보이지 절대적인 진실이 아니다.
더 큰 문제는 인간이 이러한 AI의 판단을 과도하게 신뢰할 가능성이다.
이를 자동화 편향(Automation Bias)과 연결해서 생각할 수 있다.
판사가 원래는 징역 2년 정도가 적절하다고 생각했지만 AI가 유사사건을 분석한 결과 징역 4년을 권고했다고 해보자.
판사는 AI가 자신보다 훨씬 많은 사건을 분석했다는 이유로 자신의 판단을 수정할 수 있다.
물론 AI의 권고가 더 정확한 경우도 있을 것이다.
하지만 AI의 판단이 잘못된 경우에도 인간이 그 결과를 지나치게 신뢰한다면 오히려 새로운 형태의 오류가 발생하게 된다.
특히 AI가 왜 그러한 판단을 내렸는지 설명하기 어렵다면 문제는 더 심각해진다.
판결은 단순한 숫자 계산이 아니다.
왜 피고인에게 그러한 처벌이 필요한지, 어떤 요소를 중요하게 고려했는지, 법적 판단이 어떤 논리에 따라 이루어졌는지를 설명할 수 있어야 한다.
따라서 사법 분야에서 AI를 활용하려면 높은 정확도만큼 설명가능성(Explainability)이 중요하다.
AI가 90%의 정확도를 보인다는 것만으로는 충분하지 않다.
그 판단이 어떤 근거와 과정에 의해 만들어졌는지를 사람이 검토할 수 있어야 한다.
3. 미래에는 AI 판사보다 AI를 잘 활용하는 판사가 중요해질 수 있다
그렇다면 인간 판사를 AI로 완전히 대체하는 것이 더 공정한 방법일까?
현재로서는 그렇게 단순하게 결론내리기 어렵다.
법적 판단에는 데이터만으로 표현하기 어려운 요소가 상당히 많기 때문이다.
예를 들어 같은 범죄라고 하더라도 범행에 이르게 된 과정, 피해자의 상황, 피고인의 행동, 피해회복 노력, 사건 이후의 태도 등 다양한 맥락이 존재한다.
법은 이러한 요소들을 종합하여 판단하도록 요구한다.
AI는 많은 정보를 빠르게 분석할 수 있지만 모든 인간 행동의 의미와 사회적 맥락을 완벽하게 이해한다고 보기는 어렵다.
또한 판결에는 책임의 문제가 있다.
AI가 잘못된 판단을 내린다면 누가 책임을 져야 할까?
AI를 만든 개발자인가, 시스템을 도입한 국가인가, AI의 권고를 받아들인 판사인가?
사법적 판단에는 단순한 정확성뿐 아니라 정당성(Legitimacy)과 책임성(Accountability)도 중요하다.
그래서 현실적으로는 AI가 판사를 대체하는 것보다 판사의 판단을 지원하는 Decision Support System으로 활용되는 방향이 더 적절할 가능성이 크다.
예를 들어 AI는 사건과 유사한 판례를 빠르게 찾아줄 수 있다.
과거의 양형 분포를 보여주거나 판사가 놓친 법적 쟁점을 제시할 수도 있다.
또 판사가 특정 결론에 지나치게 집중하고 있을 때 반대되는 판례나 다른 해석을 제시하도록 만들 수도 있다.
이런 방식이라면 AI는 오히려 인간의 Confirmation Bias를 줄이는 도구로 활용될 수 있다.
예를 들어 판사가 어떤 사건에 대해 유죄라고 판단하고 있다면 AI에게 유죄를 뒷받침하는 근거만 찾도록 하는 것이 아니라 다음과 같은 방식으로 활용할 수 있다.
현재 판단에 반대되는 증거를 찾아라.
무죄 가능성을 지지하는 해석을 제시하라.
현재 판단에서 가장 취약한 논리는 무엇인가.
유사한 사건에서 반대 결론이 내려진 판례는 무엇인가.
이렇게 사용한다면 AI는 단순히 판사의 판단을 확인해주는 시스템이 아니라 판단을 검증하는 일종의 Devil's Advocate 역할을 할 수 있다.
결국 인간과 AI 가운데 누가 더 공정한가라는 질문보다 중요한 것은 인간과 AI를 어떻게 결합해야 가장 공정한 판단을 만들 수 있는가라는 질문일지도 모른다.
인간은 AI가 고려하지 못한 맥락과 의미를 해석할 수 있다.
AI는 인간이 놓칠 수 있는 방대한 정보와 패턴을 찾아낼 수 있다.
인간은 AI의 판단을 검토하고 책임을 질 수 있으며, AI는 인간의 판단이 일관성을 잃거나 특정 방향으로 치우치지 않았는지 점검하는 데 활용될 수 있다.
그렇다면 미래의 법원에서 가장 중요한 사람은 AI를 전혀 사용하지 않는 판사도, AI가 알려주는 결과를 그대로 따르는 판사도 아닐 수 있다.
AI가 제시하는 정보를 이해하면서도 그것을 의심할 수 있고, 필요한 경우 AI의 판단에 반대할 수 있으며, 최종 판단의 이유를 스스로 설명하고 책임질 수 있는 판사가 중요해질 것이다.
AI가 인간보다 공정한 판사가 될 수 있는가라는 질문에 대한 답은 결국 조건부일 수밖에 없다.
AI는 인간의 일부 인지적 오류를 줄일 가능성이 있다.
그러나 AI 역시 데이터와 알고리즘에서 비롯되는 편향을 가질 수 있고, 인간이 AI를 지나치게 신뢰하면 또 다른 형태의 판단 오류가 발생할 수 있다.
따라서 사법 분야에서 AI를 사용하는 가장 현실적인 원칙은 다음과 같이 정리할 수 있다.
AI에게 판결을 맡기는 것이 아니라 AI를 이용해 판결을 더 철저하게 검토하는 것이다.
결국 좋은 판결을 만드는 핵심은 인간과 AI 가운데 하나를 선택하는 것이 아니다.
서로 다른 방식으로 오류를 범할 수 있는 인간과 AI가 서로를 검증하도록 만드는 것일 수 있다.