| 스마트에프엔 = 한시온 기자 | 보험 산업 전반에 인공지능(AI) 활용이 확대되면서 보험 인수, 고객응대 등 핵심 영역에서 공정성과 투명성, 소비자 보호 문제가 주요 과제로 떠올랐다. 이러한 가운데 보험연구원과 서울대학교 경영대학, 서울대학교 증권·금융연구소가 공동 주최한 'AI와 보험산업의 미래' 세미나가 6일 보험연구원 컨퍼런스센터에서 열렸다.
이번 세미나는 'AI 시대 보험산업의 미래: 신뢰, 소비자, 그리고 인간 이해'라는 주제로 진행됐으며 학계와 연구기관 전문가들이 모여 AI 기반 보험업 혁신과 소비자 보호, 규제 방향을 논의했다.
먼저 박소정 서울대학교 경영대학 교수는 AI 도입이 보험사의 비용 절감과 성장률 제고에 기여하고 있다고 분석했다. 그는 "챗봇과 AI 기반 콜센터가 고객 대화 내용을 분석해 상담 답변을 제안하면서 생산성이 높아지고 있다"고 말했다.
그러나 데이터 기반 알고리즘이 의도치 않게 불평등을 만들 수 있는 '편향(Bias)'에 대해서도 지적했다. 박 교수는 "AI는 데이터를 기반으로 학습하기 때문에 입력 데이터에 편향이 있으면 결과 역시 편향될 수밖에 없다"며 "어떤 데이터로 학습시키느냐에 따라 결과가 크게 왜곡될 수 있다"고 설명했다.
또 그는 "AI와 상호작용 과정에서 취약계층이 더 쉽게 영향을 받거나 조작될 위험이 있다"며 "AI와 인간의 상호작용에서뿐 아니라 AI 자체도 편향을 드러낼 수 있다"고 지적했다.
이어 "AI가 보험산업을 혁신할 수 있지만 잘못 설계되면 신뢰를 무너뜨릴 수 있다"며 "사람 중심의 AI 설계가 필요하다"고 강조했다.
마지막으로 "AI는 보험산업을 혁신할 수 있지만 잘못 설계되면 신뢰를 무너뜨릴 수 있다"며 "신뢰를 기반으로 설계해야 하며 사람 중심의 AI만이 지속가능하다"고 밝혔다.
두 번째 발표를 맡은 한소원 서울대학교 심리학과 교수는 'AI 의인화와 인간의 행동'을 주제로 발표했다. 한 교수는 "정신 건강 분야 AI 시장이 2024년 15억달러에서 2030년 51억달러까지 급증할 전망"이라고 말했다.
이어 그는 "미국심리학회는 AI 챗봇이 치료사인 척하며 사용자의 생각을 강화하는 쪽으로 설계돼 사용자가 자신이나 타인에게 해를 끼칠 위험이 있다고 경고했다"며 실제 미국 플로리다에서 14살 소년이 전문치료자라고 주장하는 AI 캐릭터와 대화하다 극단적 선택을 한 사건 등을 사례로 들었다. 그는 "이 같은 위험은 특히 청소년 등 취약계층에서 더 크게 나타날 수 있다"고 강조했다.
한 교수는 박 교수와 마찬가지로 데이터 편향 문제도 지적했다. 그는 "AI가 특정 단어 사용을 피할 수는 있지만 암묵적으로 비슷한 표현이나 판단은 피할 수 없어 편향과 차별을 완전히 제거하기 어렵다"며 "책임 문제를 명확히 하고 암묵적 차별을 막기 위한 'AI 공정성'이 필요하다"고 말했다.
그는 해결 방향으로 포용적 AI 설계를 제시했다. "AI에 인간의 관계성·문화적 맥락을 반영해야 하며 법적 규제도 뒷받침돼야 한다"며 "완전한 자동화보다는 인간의 참여가 유지되는 '상호의존적 자율성'이 필요하다"고 덧붙였다.
마지막 발표를 맡은 변혜원 보험연구원 소비자·디지털연구실 연구위원은 '소비자 관점에서 본 디지털 보험서비스'를 주제로 발표했다. 그는 "디지털 금융서비스가 보편화되면서 비대면 금융거래, 모바일 기기를 이용한 금융거래가 증가했다"고 말했다.
변 연구위원은 "디지털 서비스 확산이 편의성을 높이는 한편, 과도한 정보 수집·디지털 금융사기 등 새로운 위험도 발생시키고 있다"고 짚었다. 보험연구원이 진행한 '2024년 보험소비자행태조사'에서도 보험 디지털 금융서비스 사용자 비율과 이용 빈도는 인터넷은행·카드사 등 타 금융업권에 비해 가장 낮았다.
또 보험회사가 수집한 정보를 자신에게 불리한 용도로 사용할 우려나 회사 이익을 위해 다른 용도로 사용할 가능성에 대한 의심으로 보험회사의 비대면 건강관리 서비스 제공이 부적합하다고 생각하는 경우도 있었다.
다만 구체적인 혜택과 엄격한 정보 보호 조치를 함께 제시할 경우, 보건의료데이터 활용에 대한 소비자 지지율이 높아졌다.
변 연구위원은 디지털 보험서비스의 신뢰도를 높이기 위해 온라인 플랫폼과 앱의 안정성과 투명성을 강화해야 한다고 강조했다. 그는 "앱과 온라인 서비스의 신뢰성이 높아지면 개인정보 수집·활용·관리 과정에 대한 소비자 신뢰도도 함께 개선된다"며 "일상적인 위험관리 정보 제공 등으로 앱 사용 경험을 늘리면 소비자와 보험회사 간 신뢰가 쌓일 것"이라고 말했다.
이어 "보험앱 사용 빈도를 높여서 지속적인 소통과 피드백 체계를 통해 소비자 신뢰를 강화해야 한다"고 덧붙였다.