업계 트렌드

AI 모델링은 항상 최선일까?

2016년 4차 혁명이란 용어가 널리 사용되면서 특정 분야에서만 사용되던 인공지능(AI, Artificial Intelligence)는 모든 산업에서 언급되기 시작했습니다.

상품 추천에서부터 질병 진단, 신용평가, 물류 서비스 최적화, 항공기 결함 장비 탐지까지 AI가 활용되지 않는 곳이 없고, 특히 개인화된 서비스를 제공하는 다양한 산업에서 AI는 필수적인 기술이자, 효과적인 마케팅 도구가 되었습니다. 뿐만 아니라, 2020년 코로나19를 겪으며 모든 산업에서 디지털 트랜스포메이션(Digital Transformation)이 가속화하였고, AI가 이를 위한 핵심 기술로 평가받게 되면서 경영인들의 관심을 더욱 끌게 되었습니다.


하지만 여전히 AI는 갈 길이 먼 것 같습니다. 가트너는 과거 보고서에서 2022년까지 AI 프로젝트의 85%가 잘못된 결과를 제공할 가능성이 높다고 예측했습니다. 투자 부족, 인적 역량 부족, 부서 간의 협력 부족, 기존 시스템과의 연동 등 그 근거는 다양하지만, 가장 큰 이유 중의 하나가 데이터와 모델에 대한 이해와 전략의 부족이라고 합니다. 특히, 엄청난 양의 빅테이터를 기반으로 입력값과 출력값 간의 상관관계를 학습하는 딥러닝은 빠른 발전 속도만큼 실패 사례도 자주 언급되고 있습니다.

트위터의 자동 이미지 자르기 기능(Automatic Photo-cropping: AI가 사진의 핵심 인물을 분석해 잘라내 미리보기용으로 제작)은 인종과 성별에 대한 편향이 있다는 지적에 서비스를 종료하였습니다. 우리나라 역시 올해 초 런칭한 이루다 AI 챗봇이 혐오 발언과 성희롱 논란, 개인정보 이슈 등으로 20일만에 서비스를 중단하였습니다. 이러한 실패는 챗봇과 대화할 사람들의 행태와 학습 데이터에 대한 이해의 부족으로 기존에 존재하는 사회적 차별이 IT 기술로 여과 없이 넘어온 결과입니다.

얼마 전 모 배달앱의 배달 기사에 대한 갑질 논란의 중심에도 AI가 있었습니다. 배달앱은 AI 모델링을 활용해 자체 평가한 배달 기사의 평가를 기준으로 주문을 할당하는데, 배달 기사들의 입장에서는 이 평가 기준이 모호하다고 생각한 겁니다. 그래서, 평가 기준을 요구했지만 배달앱 측은 AI 기반이라 설명할 수 없다고 답했습니다. 이는 블랙박스형 AI 모델링 방식 때문으로, 예측률이 높은 모델을 도출했지만 왜 높은 건지 설명할 길은 없는 겁니다. 결과적으로, AI 기반의 서비스 제공자와 사용자 간에 불신이 생길 수밖에 없는 상황이 됐습니다.

이러한 사례들은 기술 자체의 문제 보다는 모델링 과정에서 사람에 대한 이해가 부족 했기 때문에 발생했을 수 있습니다. AI도 하나의 기술이자 서비스이므로, 사람에 대한 이해를 바탕으로 한 데이터 분석과 모델 전략 수립이 무엇보다 중요합니다. 기술을 통해 궁극적으로 바꾸고 싶은 것, 또는 해결하고 싶은 것에 대한 고민이 필요합니다.

이런 고민을 위해 행동과학(Behavioral Science)를 능동적으로 활용할 수 있습니다. 행동과학은 사회 심리학, 인지 신경 과학, 진화 심리학 및 행동 경제학 등 마케터라면 관심을 가져볼 만한 영역입니다. 관련된 베스트셀러로 "생각에 관한 생각", "넛지", "보이지 않는 고릴라", "스위치" 등이 있습니다. 행동과학에는 기본적으로 사람은 항상 이성적인 의사결정만 내리는 것이 아니며, 저마다 갖고 있는 관점이나 편향에 따라 주관적인 판단을 내린다는 전제가 깔려 있습니다. 이와 관련하여, 2019년 광고 에이전시 오길비에서 발간한 Real Why And The Hidden Who 보고서에는 마케터들이 관심을 갖고 살펴봐야 할 흥미로운 내용들이 담겨있습니다.

모델링에 있어서 얼마나 사람에 대한 이해가 중요한지 알 수 있는 또 다른 사례가 있습니다. 2008년 금융 위기 때, 미국의 은행과 금융기관들은 직원들의 직업 윤리에 대한 관리에 실패하며 4,000억 달러 이상의 벌금을 냈습니다. 이러한 비용을 줄이기 위해 이메일과 문자, 전화에서 부정한 의도와 관련이 있는 단어 패턴을 식별하는 보안 감시 기술이 많이 개발되었고 비용적인 측면에서는 일부 효과를 보았습니다. 하지만 이는 최선의 해결책이 될 수 없었습니다. 금융 회사들은 다시 직원들의 행동을 정성적으로 관찰하고 심층 인터뷰를 실시하였고, 이를 통해 부정행위를 저지르는 이유는 부정행위가 나타났을 때 그것을 쉽게 모른척하는 조직 문화에 있다는 것을 발견할 수 있었습니다.

행동과학을 통해 얻은 인사이트는 데이터 의존도가 높은 AI 모델링을 위한 중요한 학습 데이터가 될 수 있습니다. 직간접적 영향을 미치는 요인들의 패턴 분석과 더불어 인간의 생각과 행동에 영향을 미치는 요인까지 모델에 반영한다면, 그 모델은 더 정교해질 수 있을 것입니다. AI가 기술적으로는 빠르게 발전하고 있지만, 마케터들이 생각해야 하는 것은 행동과학과 모델 사고(Model Thinking)에 입각한 비즈니스 적용이라고 할 수 있습니다.