건강 정보를 찾기 위해 인공지능(AI)을 활용하는 캐나다인이 늘어나는 가운데, Loblaw Companies Limited가 자체 AI 건강 챗봇을 선보였다.

 

Loblaw의 디지털 헬스 서비스인 PC Health는 이달 초 ‘PC Chat’을 출시했으며, 서비스 첫 주에 10만 건 이상의 질문을 처리했다고 밝혔다.

 

PC Chat은 일반적인 AI 챗봇과 달리 캐나다의 임상 자료를 중심으로 정보를 제공하는 것이 특징이다. 주별 백신 지침과 Diabetes Canada 등 건강 관련 자선단체 자료, 의료 전문가 협회 자료를 포함해 1,000개 이상의 캐나다 임상 관련 자료를 기반으로 개발됐다.

 

사용자는 pchealth.ca 웹사이트 또는 PC Health와 Shoppers Drug Mart 앱을 통해 건강 관련 질문을 할 수 있으며, 답변과 함께 참고한 정보의 출처를 확인할 수 있는 링크도 제공된다.

 

캐나다 자료 기반으로 답변…약국 기록과 연동도 가능

토론토대학교 Temerty Centre for Artificial Intelligence Research and Education in Medicine의 무함마드 맘다니(Muhammad Mamdani) 소장은 출시 전 Loblaw의 요청으로 PC Chat을 검토했다.

 

그는 ChatGPT와 같은 일반 AI 도구가 인터넷의 다양한 자료를 활용하는 것과 달리, PC Chat은 캐나다의 임상 자료를 선별해 사용한다는 점이 차이라고 설명했다.

 

특히 Shoppers Drug Mart에서 처방약을 조제받는 사용자는 동의할 경우 자신의 약국 이용 기록을 PC Chat과 연동할 수 있다.

 

이를 통해 챗봇은 사용자의 건강 관련 정보를 바탕으로 보다 개인화된 답변과 제안을 제공할 수 있다.

 

Loblaw와 Shoppers Drug Mart의 디지털 헬스 부문 부사장인 아론 쳉(Aaron Cheng)은 의약품 관련 정보는 제품 상세 정보(product monographs)를 기반으로 한다고 밝혔다.

 

또한 사용자가 동의하면 당뇨병 환자에게 적합한 식품이나 President’s Choice 제품 등 건강과 관련된 상품을 추천할 수도 있다고 설명했다.

 

위치 정보를 제공하면 주변의 워크인 클리닉이나 약국을 찾는 것도 가능하다.

 

Lauren Steinberg Loblaw 수석 부사장 겸 최고 디지털 책임자는 PC Chat이 우선 Shoppers Drug Mart 지점을 추천하지만, 주변에 Shoppers 매장이 없을 경우 다른 약국도 안내한다고 밝혔다.

 

건강 정보와 상업적 활용 사이의 경계

PC Chat에 대한 관심이 커지는 동시에 전문가들이 주목하는 부분은 개인정보가 어떻게 활용되는가다.

 

사용자는 익명으로 챗봇을 이용할 수 있지만, PC 계정으로 로그인하면 대화 기록이 저장된다. 여기에 약국 기록까지 연동하면 챗봇이 더 많은 개인 건강 정보를 활용하게 된다.

 

맘다니 소장은 개인정보 연동에 동의하기 전에 서비스 약관을 자세히 확인하고, 자신의 데이터가 어떻게 사용되는지 이해하는 것이 중요하다고 강조했다.

 

그는 이용자들이 편리성과 개인정보 보호 사이에서 서로 다른 선택을 할 수 있으며, 개인화된 건강 정보를 얻는 대가로 영리 기업에 어느 정도의 정보 접근 권한을 제공할 것인지 스스로 판단해야 한다고 설명했다.

 

특히 Loblaw가 식품이나 일반 의약품 등 자사에서 판매하는 상품을 추천할 수 있다는 점에서 **건강 정보 제공과 상업적 활용의 경계를 살펴볼 필요가 있다는 지적**도 나온다.

 

Loblaw의 Steinberg는 마케팅이 PC Chat 개발의 주된 목적은 아니었다고 밝혔다. 다만 캐나다 국민이 서비스를 신뢰하고 실제로 도움을 받는다면 자연스럽게 Loblaw의 다른 서비스 이용으로 이어질 수 있다는 취지의 설명을 내놨다.

 

캐나다인 절반가량 AI로 건강 정보 찾아

AI를 이용해 건강 정보를 찾는 현상 자체는 이미 상당한 규모로 확대된 것으로 나타났다.

 

캐나다 의사협회(CMA)가 올해 초 발표한 Abacus Data 조사에 따르면 캐나다인의 약 절반이 건강 문제의 진단이나 치료를 위해 AI 도구를 사용한 것으로 조사됐다.

 

하지만 AI가 정확한 건강 정보를 제공한다고 신뢰하는 응답자는 27%에 그쳤다.

 

CMA는 PC Health 챗봇 개발에 참여한 자문위원회에 의장을 배출한 단체이기도 하지만, 온라인에서 접하는 건강 정보에 포함될 수 있는 허위 정보에 대해서도 우려를 제기해 왔다.

 

맘다니 소장 역시 일반 AI 챗봇은 인터넷의 다양한 출처를 활용하기 때문에 잘못되거나 사실과 다른 정보가 포함될 가능성이 있다고 지적했다.

 

데이터는 캐나다에 저장…전문가는 ‘데이터 주권’도 지적

Loblaw는 PC Chat 이용자의 개인정보를 캐나다 내에 저장하며 캐나다 개인정보 보호법에 따라 관리한다고 설명한다.

 

그러나 오타와 소재 Brion Raffoul Intellectual Property Law의 대표 변호사 나탈리 라풀(Natalie Raffoul)은 데이터가 캐나다에 저장된다는 것과 데이터에 대한 통제권이 캐나다에 있다는 것은 다른 문제라고 지적했다.

 

Loblaw 역시 다른 대형 기업들과 마찬가지로 미국 기업인 Google의 클라우드 서비스를 사용하고 있기 때문이다.

 

라풀 변호사는 서버의 위치를 의미하는 **데이터 소재지(data residency)**와 누가 데이터 공개를 요구할 수 있는지를 의미하는 **데이터 주권(data sovereignty)**을 구분해야 한다고 설명했다.

 

다만 그는 개별 사용자에게 미치는 실질적인 위험은 낮다고 덧붙였다.

 

대화 기록의 보관 기간도 관심 대상이다.

쳉 부사장에 따르면 채팅 내용은 최대 1년간 보관되지만, 특정 채팅방에서 사용자가 **60일 동안 활동하지 않으면 해당 대화가 삭제된다.**

 

라풀 변호사는 건강 정보의 특성을 고려하면 사용자가 원하는 경우 대화 내용을 즉시 삭제할 수 있는 기능도 필요하다고 주장했다.

 

쳉 부사장은 향후 이러한 기능을 도입하는 방안을 검토할 수 있다고 밝혔다.

 

응급 상황에는 의료진 안내…AI 답변에도 한계

PC Chat은 의료 전문가를 대신하거나 응급 상황에서 사용하도록 설계된 서비스는 아니다.

 

Loblaw는 챗봇이 의료적인 도움이 필요한 상황이나 응급 상황을 인식하면 사용자가 적절한 의료 서비스를 이용하도록 안내하는 안전장치를 마련했다고 설명했다.

 

서비스 면책 조항에도 답변에 오류가 발생할 수 있으며 의료 조언을 대신하지 않는다는 내용이 포함돼 있다.

 

또한 챗봇이 참고하는 정보 범위를 벗어난 질문에는 기본적으로 답변하지 않도록 설정됐다는 것이 회사 측 설명이다.

 

캐나디안 프레스가 가상의 상황을 통해 테스트한 결과, 가슴 통증에 대한 질문에는 챗봇이 안전하게 상태를 판단할 수 없다며 응급 상황이라면 911에 신고하라고 안내했다.

 

자해나 자살과 관련된 질문에 대해서도 대화를 중단하고 988 자살 위기 상담 전화와 911 등 적절한 지원 서비스를 안내했다.

 

정부도 ‘명확한 동의’ 강조

연방 AI 및 디지털 혁신부 장관 에반 솔로몬(Evan Solomon) 장관실은 PC Chat과 같은 캐나다의 혁신적인 기술을 환영하면서도 건강 정보 보호의 중요성을 강조했다.

 

장관실은 건강 정보가 캐나다 국민의 개인정보 가운데서도 특히 민감한 정보인 만큼, 명확하고 실질적인 동의 없이 무관한 상업적 목적으로 사용돼서는 안 된다는 입장을 밝혔다.

 

또한 이용자가 어떤 데이터를 공유하는지, 데이터가 어떻게 사용되는지, 다른 정보와 결합되는지를 이해한 뒤 정보 접근 권한을 부여할 수 있어야 한다고 강조했다.

 

AI 건강 서비스가 빠르게 확산되고 있지만 관련 규제가 기술 발전 속도를 충분히 따라가지 못하고 있다는 지적도 나온다.

 

맘다니 소장은 의료 전문가를 쉽게 만나기 어려운 상황에서 기본적인 건강 질문에 대한 정보를 제공한다는 점에서 PC Chat이 유용한 자원이 될 수 있다고 평가했다.

 

다만 AI가 제공하는 건강 정보의 정확성과 개인정보 보호, 그리고 기업의 상업적 활용 가능성은 여전히 이용자가 함께 고려해야 할 부분으로 남아 있다.

 

PC Chat은 현재 프랑스어 버전을 개발 중이며, 이에 따라 퀘벡주와 뉴브런즈윅주에서는 이용할 수 없다.

 

 

*City뉴스의 글을 번역,편집한 것입니다.