본문 바로가기

행동관찰분석/얼굴표정분석 리서치 사례

얼굴 표정 FaceReader 연구 사례 - 안면 이식 후 감정표현의 역할

아마 얼굴은 우리가 서로를 만났을 때 가장 먼저 보게 될 것입니다. 우리는 주변 세계를 파악하고 상호작용하기 위해서 매일 얼굴을 사용합니다. 얼굴의 사회적인 기능 중 하나는 비언어적으로 의사소통을 하는 것입니다. 하지만 얼굴이 심하게 변형되면 이 기능을 수행하기 매우 어렵거나 불가능합니다.

 

 

지난 1월, Dr. Miguel I. Dorante이 작성한 ‘Linked in’의 게시물을 읽어 보았습니다. (원문 링크 : https://jamanetwork.com/journals/jamanetworkopen/fullarticle/2758741) 그(쓴 미국 캘리포니아주 벌링턴 소재 레이히 병원&의료원 성형외과 레지던트)는 안면 이식이 부분적으로 감정 표현을 회복시킬 수 있다는 사실을 발견했습니다.

그 게시물은 매우 흥미로웠고, 이후에 안면 이식이 실제로 무엇을 의미하는지 계속 연구하게 되었습니다. 또한 유튜브에서 한 환자와 그 친척들의 이야기를 여러 번 보았는데, 깊은 인상을 주는 내용이었습니다. 하여 Dorante의 글을 읽고 더 나아가 그의 연구에 대해 몇 가지 질문을 던졌습니다.

 

얼굴의 사회적 기능

안면 이식은 환자들의 얼굴 기능(예를 들어 호흡, 식사, 말하기 등)과 삶의 질을 향상시키는 전망 있는 결과를 보여줍니다. 그럼에도 불구하고 Dorante는 “방 건너편의 누군가가 당신의 행복한 표정만 봐도 행복해 보인다고 말할 수 없다면 그것은 안면 이식을 받는 가치가 있을까?”라는 의문을 가졌고, 이에 대한 대답은 의심할 여지없이 ‘아니오’였습니다.

그 때문에 Dorante의 연구 초점은 인간이 가진 심미성과 비언어적 소통 능력에 맞추어졌습니다. Dorante는 “감정 표현에 대한 연구에는 문화적 특성과 보편적인 언어가 존재합니다”라고 말했습니다.” 이것은 감정 표현이 개인의 사회 통합 능력에 중요한 역할을 한다는 것을 암시합니다.

안면 이식 후 목표는 사회적 재통합니다. 지금까지 이는 안면 이식의 모든 경우에서 성공했으며, 이 수술의 지속적인 관행을 정당화할 수 있는 윤리적인 뼈대가 되었습니다. 그 후 우리의 과제는 ‘사람의 얼굴 표정에 대한 주관적인 평가를 안면 이식 후에는 어떻게 객관적인 측정 결과로 전환하는가’가 되었습니다.

 

감정표현 측정

Dorante와 그의 연구진은 객관적이고, 비침습적이고, 눈에 띄지 않는 방법으로 비디오 속 피험자의 감정 표현 상태에 대한 정보를 알 수 있는 비디오 분석 소프트웨어를 찾기 시작했습니다.

감정 표현 분석은 안면 이식 후에 기능적인 결과와 재활의 성공을 나타내는 지표 역할을 해야합니다. 인면 인식 기술을 ‘deep learning’ 알고리즘과 함께 감정 표현을 포착하고 감지하는 훈련을 받도록 하는 것이 이상적인 형태가 될 것입니다.

 

감정표현에 대한 간접적, 직접적 평가

이번 연구는 안면이식 환자 6명(이 수는 전 세계 안면이식 환자의 15%임)과 건강한 대조군 6명의 영상으로 진행했습니다. 두 개의 다른 프로토콜이 감정 표현을 간접적 혹은 직접적으로 평가하는 데 사용되었습니다.

Dorante는 컴퓨터 소프트웨어와 하드웨어에 비유하여 이 두 개의 프로토콜에 대해 설명했는데, “이식된 얼굴은 뼈와 신경, 혈관, 근육과 덧붙여진 피부로 구성된 하드웨어입니다. 소프트웨어를 실행하기 위해서는 이 하드웨어들의 적절한 기능이 필요합니다. 소프트웨어는 얼굴을 생동감 있게 하고, 그 기능을 실행할 수 있도록 해주는 코드입니다. 하드웨어가 모두 기능적인지(간접적 평가), 코드가 기능적인지(직접적 평가) 살펴보고 싶었습니다.”

직접적 평가는 환자가 행복, 슬픔, 분노, 놀라움, 두려움을 느낄 때 만들어 내는 얼굴을 보여주는 식으로 진행했습니다. 이 테스트는 안면 이식이 감정 표현을 회복시킬 수 있는지 여부를 알려줄 것입니다. 그러나 감정 표현이 개인적이고 문화적인 한계에 의해 제한되었습니다. 미소나 눈살을 찌푸리는 등의 얼굴 동작을 취하게 함으로써 감정 표현을 간접적으로 평가할 수 있도록 한 이유가 바로 이것입니다.

 

얼굴 표현의 기쁨 감지

FaceReader는 얼굴을 감지하고 추적하고 이목구비를 추출, 표정 분석을 하는데 활용되었습니다. 그 결과는 건강한 대조군 그룹과 비교하였을 때 기쁨의 감정이 신뢰성 있는 감지가 된다는 것을 보여주었습니다. Dorante는 그 이유가 기쁨이 얼굴 중에서 가장 적은 수의 개별적 움직임이 필요하기 때문이라고 생각했습니다. 미소는 주로 기쁨을 나타내는데 필요한 유일한 움직임인 반면, 분노와 같은 복잡한 감정은 코를 찡그리거나 입술을 조이거나 눈을 감거나 미간을 찡그리는 것이 모두 포함될 수 있기 때문입니다.

연구팀은 안면 이식 후 처음 5년간 기쁨의 표현이 건강한 대조군과 비교했을 때 평균 43%로 회복되었다고 밝혔습니다. 이것은 안면 이식 수술을 받은 다른 모든 환자들이 누군가 멀리서 봐도 기뻐하는지 아닌지를 알 수 있다는 것을 의미합니다.

 

FaceReader 소프트웨어 사용의 이점

소프트웨어 기반 비디오 분석으로 감정 표현 분석을 진행하여 근력 회복을 측정하는 이 간접적인 방식은 환자의 회복에 대한 새로운 정보를 제공할 수 있습니다. 본질적으로 이 도구는 우리가 인지할 수 있는 인간의 심미적, 비언어적 의사소통의 회복을 선입견 없이 측정합니다.

안면 이식이 사회적 재통합에 필요한 기능을 회복시켜준다는 윤리적인 목표를 충족하는지 그 여부를 판단하는데 도움이 되는 데이터를 객관적으로 제공할 수 있습니다. 게다가 Dorante는 소프트웨어가 그들의 의료진에게 눈에는 보이지 않는 변화를 감지할 수 있다고 말합니다. 변화를 감지하고 추적할 수 있는 능력은 의료진들의 재활 노력의 진행뿐만 아니라 안면 이식 후 회복의 전반적인 진행 상황을 결정하는데 도움이 될 것입니다.

 

안면 이식 수술의 가능성 극대화 및 수명의 증가

Dorante는 현재와 미래의 어떤 난제가 중요한지 묻는 질문에 “안면 이식 환자의 프로필을 디지털화 하는 것에서 객관적인 데이터 추출이 가능하다고 입증된 지금, 더 많은 질문을 계속해서 하는 것이 매우 중요합니다”라고 대답했습니다.

그는 이어서 “개인적으로 안면 이식 후의 사회적인 기능을 측정하는 부가적인 가치는 내가 안면 이식의 가능성을 극대화하고 수명을 늘리고 싶도록 자극합니다.” 라고 덧붙였습니다. 환자가 기부자의 이식에서 거부반응을 일으키는 것은 이식에 대한 원시적인 도전입니다. 비침습적이거나  혈액 검사 등을 요하는 거부 반응의 표시를 찾는 것이 안면 이식의 수명을 늘리는 효율적인 관리 방법이 될 것입니다. 거부반응과 사후 관찰을 비디오 분석 소프트웨어를 활용하여 이식의 변화를 평가하는 것은 안면 이식 분야에서 연구할 만한 가치가 있는 영역이 될 것입니다.

 

Reference

Dorante, M.I.; Kollar, B.; Obed, D.; Haug, V.; Fischer, S. & Pomahac, B. (2020). Recognizing Emotional Expression as an Outcome Measure After Face Transplant. JAMA Network Open, 3(1) https://doi.org/10.1001/jamanetworkopen.2019.19247

 

원문

https://www.noldus.com/blog/role-emotional-expressions-after-face-transplant