광운대학교 경영대학원 AI경영컨설팅전공 산하 ‘인간-AI 거버넌스 연구소(Human-AI Governance Lab)’가 보건의료신문과 업무협약(MOU)을 체결하고, 인공지능(AI)이 인간의 감정과 상태를 해석하고 판단하는 과정에서 발생하는 권한과 책임 문제를 다루는 Human-AI Governance 연구와 사회적 공론화를 본격화한다.
이번 협력은 프랑스 파리를 기반으로 AI와 인간의 감정, 해석 권한을 연구해 온 Ryan Kim(김상백) 소장이 광운대학교 경영대학원 연구교수로 임용되면서 구체화되었다. Ryan Kim 연구교수는 인간-AI 거버넌스 연구소의 연구책임자로서 관련 연구와 교육, 국제 학술협력을 추진하고, 보건의료신문은 연구 성과를 기획 기사와 전문 콘텐츠, 정책·산업 담론으로 확산하는 역할을 맡는다.
인간-AI 거버넌스 연구소가 주목하는 문제는 단순한 AI 성능 경쟁을 넘어선다. AI가 사람의 감정, 정신 상태, 위험, 취약성, 의도와 행동을 추론하고 그 결과가 의료·복지·상담·교육·조직 경영의 실제 판단에 사용되기 시작할 경우, 중요한 질문은 더 이상 “AI가 얼마나 정확한가”에만 머물지 않는다.
누가 AI의 해석에 권한을 부여하는가. 당사자는 자신에 대한 AI의 해석을 알 수 있는가. 잘못된 판단을 수정하거나 거부할 수 있는가. 인간은 언제 개입해야 하는가. 그리고 어떤 상황에서는 AI가 인간을 해석하지 않아야 하는가.
연구소는 이 같은 문제를 Human-AI Governance를 중심으로 Interpretive Authority(해석 권한), Affective Sovereignty(감정 주권), Mental AI, Meaningful Human Oversight(실질적 인간 감독) 등의 연구축과 연결해 다룰 계획이다.
특히 기존 AI경영컨설팅이 기업과 조직이 AI를 어떻게 도입하고 활용할 것인가를 다룬다면, 인간-AI 거버넌스 연구는 한 단계 더 나아가 도입된 AI가 직원, 고객, 환자, 이용자를 평가하고 해석하기 시작한 이후 기업과 사회가 어떤 권한·책임·통제 구조를 가져야 하는지를 연구 대상으로 삼는다.
Ryan Kim 연구교수는 파리 Ryan Research Institute(RRI)의 Founding Director & Principal Investigator로 활동하며 AI가 인간의 감정과 내적 상태를 추론할 때 발생하는 측정, 해석, 권한의 문제를 지속적으로 연구해왔다.
최근에는 Nature의 Communications AI & Computing에 9천 건 이상의 대규모 언어 모델(LLM) 응답을 분석한 단독 저자 연구를 발표했다. 이 연구는 서로 양립하기 어려운 가치와 규범이 동시에 요구될 때 AI의 판단 구조가 어떻게 흔들리고 붕괴하는지를 대규모 실험과 정보 이론적 분석을 통해 추적했다.
이어 1935년 창간된 Elsevier의 국제 심리학 저널 Acta Psychologica에도 단독 저자 연구를 발표했다. 이 연구에서는 35만 1,734개의 비식별화된 인간 관계 서사를 분석해 이야기의 구조적 복잡성이 단순한 긍정·부정 감정값과는 거의 대응하지 않으며, 감정의 상쇄를 피하는 다른 측정 방식과 보다 일관된 관계를 보인다는 결과를 제시했다.
두 연구에서 분석한 대상은 전혀 다르다. 하나는 AI의 응답이고, 다른 하나는 인간의 관계 서사다. 연구방법 역시 다르다.
그러나 두 연구는 복잡한 인간 경험과 가치 갈등을 하나의 답, 라벨 또는 점수로 압축할 때 무엇이 보존되고 무엇이 사라지는가라는 공통의 질문으로 연결된다.
Ryan Kim 연구교수는 “AI의 정확도는 중요하지만 정확도가 높다는 이유만으로 그 해석에 더 큰 권한이 자동으로 주어지는 것은 아니다”라며 “앞으로 중요한 것은 AI가 인간을 얼마나 잘 읽는가뿐 아니라 언제 읽지 않아야 하는지, 누가 그 해석을 수정하거나 거부할 수 있는지, 그리고 그 판단이 조직과 제도 안에서 어떤 지위를 가져야 하는지를 설계하는 일”이라고 말했다.
광운대학교 경영대학원 AI경영컨설팅 전공에서는 이 같은 연구를 교육과도 연계한다. Ryan Kim 연구교수는 2026학년도 2학기부터 Human-AI Governance 초빙 강의를 진행할 예정이다. AI 의사결정, 인간 감독, 감정·정신 상태 추론, 해석 권한, 이의제기와 정정 구조 등 실제 기업과 조직에서 발생할 수 있는 문제를 중심으로 연구와 교육을 연결한다.
대학원생들의 연구 참여도 추진한다. 학생들이 실제 연구 과정에 참여해 AI와 조직, 인간-AI 의사결정, 거버넌스 관련 사례와 데이터를 분석하고 향후 공동 연구와 학술 활동으로 발전할 수 있는 연구·교육 기반을 구축한다는 구상이다.
연구는 학술지에만 머물지 않는다. Ryan Kim 연구교수는 대중서 『해석자들』을 통해 인간의 감정을 누가 해석해왔는지를 역사적·철학적으로 추적하고, 그 해석의 권력이 오늘날 알고리즘과 AI로 어떻게 이동하고 있는지를 다뤄왔다. 학술논문에서는 측정과 실증분석을 통해 문제를 검증하고, 대중 저술에서는 이를 인간의 자기이해와 사회적 권력의 문제로 확장해 온 것이다.
광운대학교 경영대학원 인간-AI 거버넌스 연구소와 보건의료신문의 협력은 이러한 연구를 학계 밖의 공론장으로 확장하기 위한 것이다.
보건의료신문은 「AI정신건강/해석권」 전문섹션을 운영하며 정신건강·상담 AI, 감정·관계형 AI, 인간 상태 추론, 의료·복지에서의 AI 판단, 인간 감독과 해석권 등 AI와 인간 사이에서 새롭게 발생하는 문제를 집중적으로 다루고 있다.
양측은 앞으로 연구소가 생산하는 학술논문, Research Note, 정책·산업 브리프와 연구성과를 보건의료신문의 기획기사와 전문 리포트를 통해 대중과 정책·산업 현장으로 확산할 계획이다.
Ryan Kim 연구교수는 보건의료신문의 수석전문기자 겸 전문위원으로도 활동하며 시그니처 칼럼 「Ryan Kim의 AI와 마음의 경계」를 통해 AI 상담의 권한 경계, 디지털 멘탈헬스, 감정 주권, AI 해석권과 Human-AI Governance 문제를 지속적으로 다룰 예정이다.
양측은 2026년 하반기 ‘제1회 Human-AI Governance Seminar’ 개최도 추진한다. 세미나 주제는 「AI 시대, 누가 우리의 마음을 해석하는가」로, AI가 인간의 감정과 정신상태를 어디까지 추론할 수 있는지, 높은 정확도가 더 큰 판단 권한을 정당화하는지, AI의 해석과 인간의 자기해석이 충돌할 때 어떤 원칙이 필요한지 등을 학계, 보건의료계, 산업계, 정책 전문가들과 논의할 예정이다.
연구소는 향후 AI가 인간의 상태를 추론하고 평가하는 과정에서 당사자의 이의제기와 정정, 판단 보류, 인간 감독을 실질적으로 보장할 수 있는 거버넌스 구조와 실제 적용 방안에 관한 연구도 추진할 계획이다.
보건의료신문 박태훈 대표는 “보건의료와 경영 현장에서 AI 도입이 빠르게 확산되면서 이제는 기술의 성능만큼 AI의 판단과 인간의 권한을 어떻게 조정할 것인가가 중요한 문제로 떠오르고 있다”며 “광운대학교의 연구·교육 기반과 보건의료신문의 전문 공론장을 연결해 AI 시대에 필요한 새로운 거버넌스 논의를 확장해 나가겠다”고 밝혔다.
Ryan Kim 연구교수는 “AI Governance가 AI 시스템을 어떻게 통제할 것인가를 묻는다면, Human-AI Governance는 AI가 인간을 해석하고 판단하기 시작했을 때 그 해석을 누가 통제할 것인가를 묻는다”며 “AI가 사람을 더 정확하게 읽는 시대가 올수록 인간에게 어떤 설명권과 수정권, 거부권, 그리고 자기 자신을 해석할 자리를 남겨둘 것인가가 더 중요한 문제가 될 것”이라고 말했다.
광운대학교가 AI·ICT와 기술융합 분야에서 축적해 온 연구 역량에 AI경영컨설팅과 인간·경영·사회·제도적 관점을 연결하는 Human-AI Governance 연구축이 더해지면서, AI가 무엇을 할 수 있는지를 넘어 AI와 인간 사이에 판단과 권한을 어떻게 배분할 것인가라는 새로운 연구 영역이 본격적으로 확장될지 귀추가 주목된다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
