“의료 AI 혁신, 환자가 먼저”…서울 선언의 실천 과제는?

■ 백남종 좌장: AI 헬스케어 서울 선언문은 끝이 아니라 시작이다. 선언이 실제 의료 현장에서 작동하도록 만드는 것이 중요하다. 서울대학교병원 역시 AI 전환을 핵심 전략으로 삼고 자체 의료 AI 에이전트 플랫폼인 'SNUH.ai'를 구축하고 있다.

다만 뛰어난 AI 모델 하나만으로는 충분하지 않다. 데이터와 사람, 명확한 책임성이 함께 갖춰져야 한다. 이번 선언에서 가장 중요하다고 생각하는 약속과 실제 현장에서 기대하는 변화는 무엇인가.

■ Henry Gallardo 회장: 병원에서 가장 먼저 던져야 할 질문은 어떤 기술을 도입할 것인가가 아니라 어떤 전략을 실현할 것인가다. 의료기관은 환자와 가족에게 신속하고 정확한 진료를 제공하는 것을 우선해야 한다.

현재 의료 현장에서는 의료진과 환자가 충분히 소통할 시간이 부족하고 진료체계는 파편화돼 있으며 의사결정이 지연되는 문제가 발생하고 있다. AI는 이러한 문제를 개선하고 환자와 가족에게 보다 적시에 필요한 의료서비스를 제공할 수 있도록 지원해야 한다.

실제로 병원에서는 수많은 임상적 판단과 복잡한 진료 과정이 동시에 이뤄진다. AI가 이러한 과정에서 의료진의 의사결정을 지원하고 환자와 소통할 시간을 확보해 준다면 의료서비스의 질을 높이는 데 기여할 수 있다.

따라서 AI 도입의 성과는 개발한 알고리즘의 숫자가 아니라 환자의 임상 결과와 경험이 얼마나 개선됐는지를 기준으로 평가해야 한다. AI가 병원의 전략을 뒷받침하는 수단이 돼야지 기술 자체가 목표가 돼서는 안 된다.

■ Maia Hightower 책임자: 의료 AI 도입에서 중요한 것은 현장의 문제를 정확히 정의하는 일이다. 실제 의료 현장은 복잡하고 기존 업무체계 역시 AI 활용에 적합하지 않은 경우가 많다.

AI를 기존 시스템에 무조건 적용하기보다는 해결해야 할 문제를 먼저 파악하고 필요한 업무체계를 재설계해야 한다. 경우에 따라서는 기존 업무체계를 개선하는 것을 넘어 전혀 새로운 업무 흐름을 만드는 것이 더 효과적일 수 있다.

기술 자체가 뛰어나더라도 현장의 업무 흐름과 맞지 않으면 기대한 성과를 얻기 어렵다. 특히 AI 검증을 위한 전문인력과 역량이 부족한 의료기관일수록 모델의 기술적 성능에만 집중하기보다 실제 진료 과정에서 해결하려는 문제부터 접근할 필요가 있다.

결국 AI를 도입하기 위해 의료 현장을 변화시키는 것이 아니라 의료 현장의 문제를 해결하기 위해 AI를 활용해야 한다. 실제로 해결하고자 하는 문제가 무엇인지, AI를 통해 어떤 결과를 얻을 것인지 명확하게 설정하는 것이 중요하다.

■ 백남종 좌장: 의료 AI가 서로 다른 국가와 의료 환경에서도 안정적으로 작동하기 위해서는 어떤 기술적 기반이 우선적으로 마련돼야 하는가. 특히 AI의 임상적 신뢰성을 확보하기 위해 필요한 조건이 궁금하다.

■ 예종철 교수: 의료 AI의 기술적 기반은 크게 네 가지로 구분할 수 있다. 첫째는 다양한 국가와 의료기관의 데이터를 확보하고 상호운용성을 보장하는 것이다.

현재 상당수 의료 AI는 소수 의료기관, 특히 고소득 국가의 데이터를 중심으로 개발됐다. 이러한 모델은 저소득 국가의 전혀 다른 의료 환경에서 제대로 작동하지 않을 수 있다. 따라서 국가별로 다양한 의료 데이터를 확보하고 활용할 수 있는 기반이 필요하다.

둘째는 현지 환경에 대한 적응성이다. 아무리 거대한 모델이라도 모든 국가에서 동일하게 작동하는 보편적인 모델을 만들기는 어렵다. 현지 데이터와 의료 환경에 맞게 모델을 조정하는 과정이 필수적이다.

셋째는 AI 시스템의 안전성과 신뢰성을 보장하는 기술적 장치이며, 마지막은 이러한 평가와 관리체계를 국제적으로 공유할 수 있는 글로벌 인프라다.

특히 에이전트형 AI는 여러 도구와 시스템이 복잡하게 상호작용하기 때문에 예측하기 어려운 행동이 발생할 수 있다. 이러한 창발적 행동은 AI의 강점이 될 수도 있지만 의료 환경에서는 심각한 위험 요인이 될 수 있다.

따라서 의사가 AI의 작동을 감독하고 필요할 때 개입할 수 있어야 하며, 의사결정 과정을 추적할 수 있는 기록도 확보돼야 한다. 의료진이 어떤 상황에서 AI를 신뢰하고 사용할 수 있는지, 언제 인간의 판단과 승인이 필요한지 명확하게 구분하는 체계가 필요하다.

앞으로는 개별 AI 모델의 성능을 평가하는 단계를 넘어 시스템 전체의 임상적 품질을 보증하는 방향으로 전환해야 한다. 국가별로 다른 의료 환경을 고려하면서도 국제적으로 공유할 수 있는 공통된 검증 기반을 구축하는 것이 과제다.

■ Janet Zhou 책임자: 투자 측면에서는 AI가 실질적인 보건의료 문제를 해결하도록 방향을 설정하는 것이 중요하다. 특히 저소득 및 중간 소득 국가가 직면한 보건의료 문제를 우선적으로 고려해야 한다.

말라리아 백신 개발과 결핵 치료 개선처럼 기존에 많은 시간과 자원이 필요했던 과제에 AI를 활용해야 한다. AI가 연구개발 기간과 비용을 단축할 수 있다면 의료체계가 감당해야 하는 부담 역시 줄어들 수 있다.

또한 AI 기반 연구개발 인프라는 개방적으로 유지돼야 한다. 신약 개발에 필요한 데이터와 예측 모델 등을 공유하면 연구 성과를 보다 폭넓게 활용할 수 있다. 독성이나 약물 흡수 등을 사전에 예측하는 ‘Open ADMET’ 프로젝트가 하나의 사례다.

특히 연구개발 과정에서 생성된 데이터와 평가 도구를 공유하는 것은 자원이 부족한 국가와 연구기관에도 새로운 기회를 제공할 수 있다. 혁신의 성과가 일부 국가와 기업에만 집중되지 않도록 해야 한다.

의료자원이 부족한 국가에서는 AI를 통해 고위험 환자를 신속하게 식별하고 제한된 의료자원을 효과적으로 배분하도록 지원하는 것도 중요한 투자 분야다.

예를 들어 산모와 신생아 건강관리 현장에서는 센서와 데이터를 통해 응급 수술이나 집중적인 관리가 필요한 환자를 조기에 파악하도록 지원할 수 있다. 의료인력과 시설이 부족한 환경일수록 이러한 기술의 실질적인 가치가 커질 수 있다.

■ 백남종 좌장: AI를 병원에 실제로 도입할 때 환자의 안전과 인간의 감독을 보장하고, 문제가 발생했을 때 책임 소재를 명확히 하기 위해서는 어떤 운영체계가 필요한가.

■ Henry Gallardo 회장: AI 기술을 확대하기 전에 먼저 신뢰를 구축해야 한다. 병원마다 다양한 거버넌스 모델을 적용할 수 있지만 어떤 체계를 선택하든 환자의 안전과 권리를 보호하는 것이 출발점이 돼야 한다.

환자의 의료정보는 의료기관이 보호해야 할 자산이지 단순히 AI 모델을 훈련하기 위한 원재료가 아니다. 따라서 데이터의 품질과 개인정보 보호, 검증과 감사, 의사결정 과정의 추적 가능성, 임상적 감독이 반드시 필요하다.

이러한 안전장치는 기술 혁신을 방해하는 장애물이 아니라 환자의 존엄성과 권리를 존중하기 위한 필수 조건이다. AI를 통해 의료적 판단을 더욱 빠르고 정확하게 수행하더라도 환자의 권리와 신뢰를 훼손해서는 안 된다.

AI는 병원이 가진 전략과 문화를 강화하는 기술이기도 하다. 생산성만 중시하는 병원이라면 환자 처리량을 늘리는 데 집중할 수 있지만, 환자 안전과 임상적 우수성에 가치를 두는 병원은 더 나은 의사결정과 의료진·환자 간 관계 개선에 AI를 활용할 것이다.

궁극적으로 AI는 의료를 더 비인간적으로 만드는 것이 아니라 더 인간적으로 만드는 도구가 돼야 한다.

■ Maia Hightower 책임자: AI 거버넌스는 기술을 어렵게 통제하는 것이 아니라 문제 정의부터 설계, 검증, 도입, 사후 모니터링까지 전 과정의 위험을 관리하는 것이다.

현재 상당수 의료기관이 충분한 AI 거버넌스 체계를 갖추지 못하고 있지만 처음부터 완벽한 데이터나 전문 인력을 확보할 필요는 없다. 기존에 가진 자원과 역량을 활용하면서 기관의 규모와 특성에 맞게 단계적으로 구축할 수 있다.

중요한 것은 AI 도입 이후에도 실제로 의도한 임상 결과가 나타나는지 지속적으로 측정하는 일이다. AI를 도입했다는 사실 자체가 성공을 의미하지는 않는다.

특히 환자 집단별로 효과가 다르게 나타나거나 기존 의료격차가 확대되는 것은 아닌지 살펴야 한다. AI가 특정 환자 집단에서는 좋은 성과를 보이더라도 다른 집단에서는 기대한 효과를 내지 못할 가능성이 있기 때문이다.

따라서 의료기관은 자신들이 진료하는 지역사회와 환자 집단의 특성을 고려해 AI를 검증해야 한다. 의료 AI가 보건의료 형평성을 높이기 위해서는 기술 도입과 거버넌스 구축이 함께 진행돼야 한다.

■ Alain Labrique 국장: AI를 하나의 기술로만 취급해서는 안 된다. 의료영상 분석을 지원하는 AI와 자율적으로 복잡한 의사결정을 수행하는 AI는 위험 수준이 다르다.

따라서 기술의 특성과 위험도에 따라 인간의 감독 범위와 안전장치를 달리해야 한다. AI가 잘못된 판단을 내렸을 때 작동을 중단할 수 있는 규칙과 의료진에게 문제를 보고하는 체계, 명확한 책임 구조가 마련돼야 한다.

새로운 기술이라는 이유로 기존의 임상 검증과 규제 절차를 우회해서는 안 된다. 특히 각국 규제기관이 AI의 안전성과 유효성을 평가할 수 있는 역량과 도구를 확보하는 것이 중요하다.

AI가 실제 의료 환경에서 제대로 작동하는지, 환자에게 안전한지, 문제가 발생했을 때 누가 책임질 것인지에 대해 명확하게 답할 수 있어야 한다. 이를 위해서는 기술의 개발 단계뿐 아니라 실제 도입 이후에도 지속적인 평가가 이뤄져야 한다.

AI는 의료 격차를 해소하는 강력한 수단이 될 수도 있지만 반대로 기존의 불평등을 더욱 심화시키는 요인이 될 수도 있다. 이를 방지하기 위해서는 객관적인 근거와 평가체계가 필수적이다.

■ 백남종 좌장: 검증된 의료 AI 기술이 저소득 및 중간 소득 국가를 포함해 실제로 필요한 환자들에게 전달되기 위해서는 어떤 장벽을 해결해야 하는가. 아울러 AI를 글로벌 보건안보 강화에 활용하기 위한 국제적 협력 방안도 중요하다.

■ Anne-Claire Amprou 의장: 의료 AI의 접근성은 기술 개발이 끝난 뒤 고민할 문제가 아니다. 연구개발과 투자, 제품 설계 단계부터 누가 혜택을 받을 것인지 고려해야 한다.

아무리 뛰어난 혁신도 비용이 지나치게 높거나 의료 현장에 도입할 경로가 없다면 의미가 없다. 특히 미충족 의료 수요가 큰 국가의 우선순위를 초기 단계부터 반영해야 한다.

가격과 조달 문제를 해결하기 위해서는 국가들이 협력해 공동의 협상력을 확보해야 한다. 개별 국가의 수요가 분산되면 가격 협상력이 약해질 수밖에 없다.

또한 새로운 기술이 시범사업에 머무르지 않도록 초기 투자 주체와 지속적인 재원 조달, 각 기관의 역할을 명확히 하는 접근성 로드맵이 필요하다. 실제로 유망한 기술들이 명확한 확산 경로를 마련하지 못해 소규모 시범사업 단계에서 끝나는 경우가 적지 않다.

특히 현지 의료체계가 어떤 기술을 우선적으로 필요로 하는지, 이를 지속적으로 활용할 수 있는 재원과 인프라가 있는지 충분히 검토해야 한다. 새로운 혁신을 보급하는 것뿐 아니라 장기적으로 유지할 수 있는 조건을 마련하는 것이 중요하다.

AI의 가능성을 현실로 만들려면 혁신 기술과 이를 필요로 하는 환자 사이에 존재하는 경제적·제도적 장벽을 함께 해결해야 한다. 접근성이 기술 개발의 마지막 단계가 아니라 출발점이 돼야 한다.

■ Jane Halton 의장: 다음 팬데믹에 효과적으로 대응하려면 위기가 발생하기 전에 준비해야 한다. CEPI가 추진하는 '100일 미션' 역시 새로운 감염병 위협에 신속하고 공평하게 대응하기 위한 노력이다.

AI는 이미 감염병 대응 과정에서 의미 있는 변화를 만들어내고 있다. 콩고민주공화국의 에볼라 유행 대응에서는 과거 2주 이상 소요되던 발병 관련 분석을 AI를 통해 몇 시간 수준으로 단축한 사례가 있다. 이러한 속도의 차이는 현장에서의 감염병 대응 역량을 크게 바꿀 수 있다.

백신 임상시험을 준비하는 과정에서도 AI와 데이터 활용은 중요한 역할을 한다. 여러 곳에 분산돼 있는 과거의 백신 관련 기록을 통합하고 분석함으로써 임상시험을 보다 신속하게 준비하는 데 기여할 수 있다.

AI를 활용한 백신 및 치료제 연구개발을 가속화하려면 세 가지가 필요하다. 첫째는 데이터와 컴퓨팅 자원, 전문가를 연결하는 국제적인 공동 인프라다. 둘째는 데이터 공유와 접근성, 규제에 대해 사전에 합의된 규칙이다. 셋째는 설계 단계부터 생물보안을 적용하는 것이다.

이러한 기반이 마련돼야 안전성을 훼손하지 않으면서 신속한 감염병 대응이 가능하다. 위기가 발생한 이후에 국제협력의 원칙과 운영체계를 마련하려 한다면 적절한 대응 시기를 놓칠 수 있다.

AI를 활용한 연구개발의 속도뿐 아니라 안전성과 공평한 접근성도 함께 확보해야 한다. 기술을 통해 신속하게 백신을 개발하는 것만큼 이를 필요한 사람들에게 전달할 수 있는 체계 역시 중요하다.

■ Alain Labrique 국장: 정부 차원에서는 규제의 명확성과 임상적 평가체계 구축이 시급하다. 국가마다 규제 기준이 지나치게 다르면 효과적인 기술도 실제 의료 현장에 확산되기 어렵다.

코로나19 팬데믹 당시에도 새로운 기술을 신속하게 평가할 수 있는 규제 경로가 마련되지 않아 활용이 지연되는 문제가 발생했다. 같은 문제가 반복되지 않도록 평상시에 국제적인 협력체계를 구축해야 한다.

한국 정부와 WHO가 추진하는 AI 규제 국제 심포지엄(AIRIS)은 국가 간 규제 협력을 강화하기 위한 중요한 플랫폼이다. 각국의 특성을 존중하면서 공통된 평가 기준을 마련하고, 검증에 필요한 데이터와 도구를 공유하는 국제적 체계를 만들어야 한다.

국가들이 개별적으로 모든 평가체계를 개발하기보다는 국제적으로 활용할 수 있는 공통 기술 기반과 검증 도구를 마련하는 것이 효과적이다. AI 기술의 임상적 근거를 확인하고 시스템 간 상호운용성을 검증할 수 있는 테스트 환경 역시 필요하다.

일회성 국제행사가 아니라 지속적으로 협력할 수 있는 플랫폼도 중요하다. AI가 빠르게 발전하는 만큼 국가 간 규제와 기술적 협력 역시 지속적으로 이뤄져야 한다.

■ 백남종 좌장: 서울 선언이 실질적인 성과로 이어지기 위해서는 이제 행동이 필요하다. 향후 12개월 동안 가장 우선적으로 추진해야 할 과제는 무엇인가.

■ Anne-Claire Amprou 의장: 의료 AI에 대한 공공 및 자선 투자가 이뤄질 때 공평한 접근성을 필수 조건으로 포함해야 한다. 이를 위해 각국 정부와 투자기관, 산업계가 명확한 원칙에 합의해야 한다. 기술의 혜택이 일부 국가에만 집중되지 않도록 하는 것이 중요하다.

■ Henry Gallardo 회장: 의료기관들은 이미 AI 도입을 위한 거버넌스와 정책, 우선순위, 인프라 구축을 추진하고 있다. 앞으로는 이러한 요소들을 실제 임상 현장과 연결하는 데 집중해야 한다. AI를 통해 환자의 진료 결과와 경험을 개선하고 모든 환자가 보다 나은 의료서비스를 받을 수 있도록 해야 한다. 무엇보다 환자 중심의 의료를 실현하는 것이 최우선 과제다.

■ Janet Zhou 책임자: 구체적이고 측정 가능한 목표를 수립하는 것이 중요하다. 단순히 활동 계획을 나열하는 것이 아니라 일정 기간이 지난 뒤 실제로 목표를 달성했는지 검증할 수 있어야 한다. CEPI의 100일 미션처럼 성패를 평가할 수 있는 명확한 목표가 필요하다. 의료 AI의 형평성을 강조한다면 무엇을 얼마나 개선할 것인지 정의하고, 그 결과에 대해 국제사회가 함께 책임지는 구조를 만들어야 한다.

■ Jane Halton 의장: 다음 팬데믹은 우리가 준비할 때까지 기다리지 않는다. 앞으로 12개월 동안 데이터 공유와 접근성, 위험 관리에 관한 국제적인 공통 규칙을 마련해야 한다. 한국을 비롯한 여러 국가와 협력해 이러한 체계가 실제로 작동하는지 검증하겠다. 감염병 위기 상황에서 필요한 기술을 신속하게 활용할 수 있도록 사전에 충분히 준비해야 한다.

■ Maia Hightower 책임자: 의료기관들이 AI 도입을 두려워하며 기다리기만 해서는 안 된다. AI 혁신을 추진하는 과정과 거버넌스를 구축하는 과정을 함께 진행해야 한다. 지금 가진 자원으로도 충분히 시작할 수 있으며 현장에 맞는 책임 있는 도입체계를 만들어 나가는 것이 중요하다. AI 거버넌스는 혁신이 끝난 이후에 도입하는 것이 아니라 시작부터 함께 추진해야 하는 과제다.

■ Alain Labrique 국장: 국가 간 규제체계를 조화시키고 데이터와 기술, 평가 기준을 공유하는 국제적인 AI 공용 기반에 투자해야 한다. 모든 국가가 동일한 평가 도구를 개별적으로 개발할 필요는 없다. 국제협력을 통해 안전한 AI 도입을 지원하고 지속적인 논의와 협력이 이뤄질 수 있는 체계를 강화해야 한다. 이를 위한 국제적 플랫폼이 실질적인 역할을 수행하도록 지속적인 투자가 필요하다.

■ 예종철 교수: 국제적인 AI 거버넌스를 선언적 원칙으로 남겨두지 않고 실제 기술과 시스템에 어떻게 구현할 것인지 논의해야 한다. 규제 차원의 협력과 함께 엔지니어링 차원에서 신뢰성을 보장할 수 있는 구체적인 체계를 마련하는 것이 중요하다. 특히 글로벌 차원의 AI 검증과 보증체계가 실제 의료 현장에 적용될 수 있도록 기술적 구현 방안을 구체화해야 한다.

■ 백남종 좌장: 이번 서울 선언은 국제사회가 공유하는 약속을 마련했다는 데 의미가 있다. 이제는 이를 실질적인 행동으로 옮겨야 할 때다. 보다 회복력 있고 공평하며 인간 중심적인 AI 보건의료 시스템을 구축하기 위해 국제사회가 함께 노력해야 한다.