【 청년일보 】 해석 가능성, 설명 가능성 및 투명성은 금융 분야에 AI 기술이 도입되면서 점점 더 중요해지고 있는 요소다. 금융 기관과 시장에서 꾸준히 복잡한 알고리즘과 인공지능 기술에 대한 수요가 높아짐에 따라, 이러한 개념의 필요성이 더욱 분명해지고 있다.

해석 가능성은 인간이 모델이나 의사결정 과정의 논리에 대해 사후 해석을 진행할 수 있는 능력을 의미한다. 즉, 바꿔 말하자면 원인과 결과를 확인할 수 있음을 뜻한다.

금융 분야에서 해석 가능성은 투자자, 규제 기관 및 기타 이해 관계자가 재무 모델이 어떻게 결정을 내리는지 원인과 결과를 이해할 수 있도록 돕는 역할을 하기에 매우 중요하다.

실제로 선형회귀 모형이 아직도 금융 분야에서 가장 빈번히 사용되는 이유 중 하나는 통계적 유의성을 다룰 수 있는 방법이며, 동일한 입력에 대해서 동일한 출력을 보장하기 때문이다. 단, 선형회귀모형으로 인과관계 자체를 예측하는 것은 거의 불가능히다.

이러한 해석 가능성은 투자자들은 특정 투자 전략의 근거를 이해할 수 있어야 하므로, 이것은 투자 결정에 대한 설득할 때 꼭 필요한 요소로 볼 수 있다.

설명 가능성은 판단을 내린 시점에서 모델이나 의사결정 과정에 대한 명확하고 간결한 설명을 제공하는 능력을 말한다. 해석 가능성과 유사한 개념이고 혼용돼 많이 사용되지만 나눠서 설명을 할 경우에는 조금 더 쉬운 설명을 제공한다는 것에 초점을 맞춰지는 용어다.

특히, 자본주의 사회에서 이해관계자들이 특정 결정이 어떻게, 왜 내려졌는지 이해할 수 있게 하는 것은 매우 중요하기 때문에 설명 가능성은 중요하다고 볼 수 있다.

정부나 규제 주체는 판단 시점에서 특정 결정이 내려진 이유와 그 결정이 이루어진 방법을 결정에 대한 이해관계자들에게 설명함으로써 불확실성과 의문을 해소할 필요성이 있으므로 이는 규제 준수와 관련해 특히 중요하다고 볼 수 있다.

투명성은 상기한 해석 가능성과 설명 가능성 모두와 밀접한 관련이 있다. 투명성은 모델이나 의사 결정 과정을 보고 이해하는 능력을 말하며, 금융에서 투명성은 이해관계자들이 어떻게 의사결정이 이루어졌는지 그리고 그러한 의사결정을 내리는데 어떤 요소들이 고려됐는지 이해시키는 것을 돕는데 기여하는 요소이므로 매우 중요하다.

특히, 주주로 대표되는 이해관계자들이 어떻게 결정이 내려졌고 어떤 요소들이 고려됐는지를 이해할 수 있어야 하므로 이는 기업 지배구조 관점에서도 중요하다고 볼 수 있다.

해석 가능성, 설명 가능성 및 투명성의 중요성은 금융 내의 다양한 영역에서 볼 수 있다.

예를 들어, 이러한 개념은 계량 투자, 알고리즘 거래 등이 발전하면서 점점 더 중요해지고 있다. 특히, 데이터 분석과 AI 기술이 발전함에 따라 알고리즘이 더 복잡하고 자동화됨에 따라 이러한 알고리즘이 어떻게 의사 결정을 내리는지 이해하는 능력이 더욱 중요해지고 있다.

신용 대출 분야의 경우, 대출자들이 자동화된 신용 점수 모델에 더 많이 의존함에 따라, 이러한 모델들이 의사 결정을 내리는 방법과 이를 바탕으로 설명하는 능력이 점점 더 중요해지고 있다. 예를 들어, 왜 대출을 거부당했는지 또는 왜 특정 금리를 제공받았는지 이해할 필요가 있는 차입자들에게는 이러한 설명하는 능력이 꼭 필요하게 된다. 이러한 부분은 금융사들이 고객 유치와 관리에서 매우 중요한 부분으로 여겨지고 있기에 상기한 세 가지 요소는 매우 중요하다.

결론적으로 해석 가능성, 설명 가능성 및 투명성은 금융 분야에서 점점 더 중요한 개념으로 이해될 수 있다. 서론에 서술한 것과 같이 금융 시장에서 계속해서 복잡한 알고리즘과 인공지능에 더 많이 의존함에 따라, 이러한 개념이 탑재된 기술의 필요성이 더욱 분명해질 것으로 보인다.

금융 기관은 해석 가능성, 설명 가능성 및 투명성을 촉진함으로써 이해관계자가 결정을 이해하고 신뢰할 수 있도록 보장할 수 있다. 이것은 차례로 금융 시스템에 대한 더 큰 안정성을 갖추고 신뢰성을 제고하는 데 도움이 될 수 있기에 향후 더욱 많은 발전과 연구가 진행되고 이를 바탕으로 한 다양한 금융 서비스가 개발될 것으로 보인다.
 

【 청년서포터즈 6기 최인수 】