인공지능 도입과 고객의 ‘결정권’

인공지능(AI) 분야의 세계적 권위자인 제리 카플란 스탠퍼드대 법정보학센터 교수가 말했듯 우리는 ‘AI 극장’ 속에 살고 있다. 기업들은 인공지능 기술을 활용하기 위해 분투 중이다. 그런데 기업의 그런 노력이 매번 향상된 고객 경험을 이끌어낼까?

서비스에서 ‘결정권’은 고객의 특권이다. 택시업계를 떠올려 보면 결정권의 중요성을 느낄 수 있다. 잡힌 택시가 담배 연기로 자욱할지라도 타야만 하는 것처럼 우리는 택시에 대한 결정권이 없다. 카카오 택시를 이용하더라도 택시를 고를 수는 없다. 심지어 서비스가 불만족스러웠던 택시를 또 탈 수도 있고, 이는 서비스 자체에 대한 실망으로 이어질 수 있다.

서비스에 있어서 고객의 소중한 권리인 결정권을, 우리는 인공지능에 얼마나 양보할 수 있을까. 우리 주변에는 결정권을 위임해야 하는 서비스가 점점 늘어나고 있다. 우리는 음악을 찾거나 영화를 찾을 때도 인공지능에 추천을 받고, 이제 곧 운전을 완전히 인공지능에 맡길 것이다.

그런데 사실 고객의 결정에 도움을 주는 것과 결정권을 침해하는 것은 종이 한 장 차이다. 영화를 찾을 때 인공지능의 추천에 만족할 수도 있지만 앞선 택시와 같은 경우도 있을 수 있다. 고객에게 결정권이 없기 때문에 불만족이 온전히 서비스 자체에 대한 거부감으로 이어지는 것이다.

인공지능을 도입하기 위해 수많은 기업이 경쟁하고 있다. 이는 마땅히 향상된 고객 경험으로 이어져야 할 것이다. 그러나 무분별한 인공지능의 도입은 고객이 원하지 않는 ‘결정권의 위임’을 초래할 수 있다. 고객에 대한 이해를 바탕으로 한 개발 노력이 필요한 때이다.

<박수호 | KAIST 산업및시스템공학과>