디지털데일리 | 케니 추 SUTD 교수 "AI 돌봄, 관계는 빠져 있다"

의료·돌봄 현장에 AI가 빠르게 도입되고 있지만, 정작 '관계'라는 돌봄의 본질은 빠져 있다는 지적이 나왔다.

12일 연세대학교 백양누리 그랜드볼룸에서 열린 'AI 거버넌스 & 프라이버시 심포지엄 2026'에서 케니 추(Kenny GHOO) 싱가포르기술디자인대학교(SUTD) 조교수는 "인공지능(AI)가 의료·가족 생활·정신 건강 영역에 들어올 때 AI가 하는 일이 정말 돌봄이라고 할 수 있는지 물어야 한다"며 "돌봄은 기술 자체가 아니라 관계인데 현재 관계를 선택 사항처럼 AI가 만들고 있다"고 말했다.

추 교수가 직접 수행한 정신건강 동료 지원 연구에서 이 역설이 선명하게 드러났다. 훈련된 동료 지원자 12명 중 9명이 AI 시스템이 유용하다고 느꼈고, 상호작용이 큰 도움이 됐다고 말했다. 하지만 같은 세션을 정신건강 전문가 5명이 검토한 결과는 달랐다. 내담자의 고통 신호를 여러 번 놓쳤고, 너무 이른 조언을 건넸으며, 감정을 충분히 탐색하지 않고 단정 짓는 경우가 반복됐다. AI가 오히려 문제를 가린 것이다.

케니 추 교수는 "시스템이 겉으로 보기에 충분히 잘 작동하는 것처럼 보이기 때문에, 조직은 무엇이 빠져 있다는 신호를 전혀 받지 못한다"며 "상업적 관점에서는 시간 단축이 효율적으로 보일지 모르지만 실제로 의료진의 업무 부담을 늘릴 수도 있다는 점을 간과해서는 안 된다"고 강조했다.

케니 추 SUTD 조교수가 5D월12일 서울 연세대학교 백양누리 그랜드볼룸에서 열린 'AI 거버넌스 & 프라이버시 심포지엄 2026'에서 발표하고 있다. [사진=구아현 기자]

AI가 고통이나 존엄처럼 말로 표현해 본 적 없는 가치를 언어로 풀어내도록 돕는다는 점에서 가능성은 분명히 있다. 하지만 케니 추 교수는 "환자의 고독이나 우울함 같은 내면의 문제는 효율성만 강조하는 AI 시스템에서는 포착되기 어렵다"고 지적했다.

현재 AI 설계의 지배적 모델이 사용자를 '선호도를 처리할 수 있는 하나의 개인'으로 보는 경향이 있다는 점도 비판했다. 그는 "돌봄은 개인 간의 거래가 아니라 관계 속에서 이루어지는 것"이라고 강조했다.

정책과 법 사이의 각극도 크다. 그는 "돌봄 에이전트는 언제부터 개입을 시작해야 하는가, 누가 권한을 부여했는가, 가치관이 바뀌면 어떻게 되는가 등 이는 기술적인 문제가 아니라 거버넌스와 설계의 문제"라며 "주관성을 무시한 설계는 책임 있는 것이 아니라 설계 자체가 오만한 것"이라고 지적했다.

이날 심포지엄은 연세대학교 바른ICT 연구센터가 주관했으며 '에이전틱에서 체화 지능으로: AI 거버넌스와 프라이버시의 원칙'을 주제로 싱가포르·홍콩·미국·일본 등에서 신진 학자들이 참여해 에이전틱 AI부터 의료·자율주행·물리 AI까지 거버넌스 현안을 논의하는 자리로 마련됐다.

---

원문기사 보러가기

• 디지털데일리 | https://www.ddaily.co.kr/page/view/2026051216171814884