기획기사1. SCL을 아십니까? AGI 향하는 AI, 이제 ‘통제’가 문제다

프런티어 AI·자율형 에이전트 급진전... 성능 높아질수록 안전·제어 부담도 커져 환각 넘어 실제 행동의 오류까지... AI 산업의 시선, ‘잘하는 AI’에서 ‘관리할 수 있는 AI’로

 

                                                                                                                                                                                                AI생성이미지

인공지능이 다시 변곡점에 섰다.

생성형 AI가 질문에 답하고 글과 이미지를 만들어내던 단계를 지나, 이제는 스스로 작업 순서를 정하고 외부 도구를 호출하며 여러 단계를 거쳐 일을 수행하는 에이전트형 AI로 빠르게 이동하고 있다. 범용인공지능, 이른바 AGI를 둘러싼 논쟁도 이제 코앞의 현실로 뜨겁다.

아직 AGI의 정의와 달성 기준을 놓고 학계와 산업계의 견해가 완전히 일치하는 것은 아니다. 그러나 프런티어 AI의 능력과 자율성에 가속도가 붙으면서 세계 주요 AI 기업들이 동시에 한 가지 문제에 시선을 돌리고 있다는 점은 분명하다. 더 강력한 AI를 만드는 것만큼, 그렇게 강해진 AI를 어떻게 통제할 것인가가 핫 이슈다.

 

AI가 답하는 시대에서, 움직이는 시대로

 

지난 9월 28일 OpenAI는 프런티어 AI의 강화학습을 계속하기 전에 위험을 체계적으로 검토하는 ‘Safety Case’가 필요하다는 방향을 제시했다. 항공이나 원자력처럼 안전이 중요한 산업에서 활용해 온 구조적 안전 논증을 고도 AI 개발에도 적용할 필요가 있다는 취지다.

Google DeepMind도 지난 6월 ‘AI Control Roadmap’을 공개했다. 복잡한 업무를 자율적으로 처리하는 AI 에이전트가 늘어날수록 이에 걸맞은 안전장치와 통제기술이 필요하다는 판단에서다. Anthropic 역시 프런티어 모델의 능력이 높아지는 데 맞춰 보안과 오용 방지, 위험평가 체계를 잇따라 손질하고 있다.

세계 선두권 AI 기업들이 비슷한 시기에 ‘안전’과 ‘통제’를 거듭 언급하는 데는 이유가 있다. AI가 더 이상 조언만 하는 프로그램에 머물지 않고 스스로 판단하고 도구를 사용하며 실제 업무를 수행하는 방향으로 나아가고 있기 때문이다.

 

성능은 높아졌지만 환각은 남았다

 

그렇다고 기존 문제가 해결된 것도 아니다. 대표적인 것이 환각(Hallucination)이다. AI가 사실과 다른 내용을 그럴듯하게 만들어내는 현상이다. 지난 4월 국제학술지 ‘Nature’에 실린 연구에서도 최신 대규모언어모델(LLM)이 자신 있게 잘못된 답을 만들어내는 문제가 여전히 나타나고 있다는 분석이 제기됐다.

 

LLM은 거대한 사실창고에서 정답을 그대로 꺼내는 시스템이 아니다. 학습한 방대한 언어패턴을 토대로 주어진 문맥에서 다음에 올 가능성이 높은 표현을 만들어간다. 따라서 답변이 유창하다는 것과 그 내용이 사실이라는 것은 별개의 문제다. AI가 대화나 문서작성에 머물 때는 잘못된 답을 사람이 발견하고 수정할 여지가 있었다.

 

이제 문제는 ‘오답’보다 ‘오작동’

 

그러나 에이전트가 정보를 검색하고 판단한 뒤 외부 프로그램을 호출하거나 실제 업무까지 수행하게 되면 상황은 전혀 달라진다. 환각이 ‘오답’에 그치지 않고 ‘오작동’으로 이어질 수 있기 때문이다. 유럽의 규제 흐름도 같은 방향을 가리킨다.

 

EU AI Act는 영향력이 큰 범용 AI 모델에 대해 위험 평가와 완화, 적대적 시험, 중대한 사고의 기록과 보고, 사이버 보안 등의 의무를 두고 있다. 지난 8월부터는 일부 AI 시스템에 대한 투명성 의무도 적용되기 시작했다. 결국 질문은 AI가 얼마나 똑똑한가에만 머물지 않는다.

 

어떤 자료를 토대로 판단했는가. 잘못된 판단은 실행 전에 걸러낼 수 있는가. 사람은 필요한 순간에 개입할 수 있는가. 문제가 발생했을 때 판단과 실행의 과정을 다시 추적할 수 있는가.

 

답보다 과정, 실행보다 통제

 

이를 해결하려는 기술적 시도도 이어지고 있다. 외부의 최신 자료를 연결하는 RAG, 위험한 출력을 제한하는 Guardrail, 사람이 중요한 판단 과정에 개입하는 Human-in-the-loop 등이 대표적이다. 각각 분명한 역할이 있다. 그러나 AI가 더 많은 업무를 스스로 처리하게 될수록 또 다른 질문이 생긴다.

 

검색과 판단, 검증, 인간 개입, 실행, 기록을 따로 관리하는 것이 아니라 이 전 과정을 하나의 관리 가능한 흐름 안에 둘 수는 없는가.

 

FORHU가 접목 중인 SCL(Structured Cognitive Loop)도 이러한 문제 의식에서 출발한다. FORHU는 SCL을 검색과 인지, 통제, 인간 개입, 실행, 기억을 단계적으로 구분해 관리하는 구조로 설명하고 있다. AI의 판단이 곧바로 실행으로 넘어가지 않도록 중간에 통제 과정을 두고, 이후 과정도 다시 확인할 수 있도록 하겠다는 접근이다.

 

국내에서는 메타콤(주)이 FORHU와 SCL 기반 AI 플랫폼의 공동 사업화를 추진하고 있다. 미국에 법인을 둔 FORHU가 해당 기술을 도입해 시스템에 접목하고, 메타콤은 서비스 운영과 시장 적용, 제휴 확대 등을 담당하는 구조다.

 

SCL이 AI의 모든 오류를 해결하는 완결된 해법이라고 단정할 단계는 아니다. 실제 산업현장에서 어느 정도의 신뢰성과 통제력을 확보할 수 있는지는 앞으로의 적용과 검증을 통해 확인돼야 한다.

 

하루가 다르게 AI를 둘러싼 질문의 방향은 분명히 달라지고 있다.

AGI를 향해 AI가 더 많은 판단과 행동을 스스로 수행하게 될수록 인간에게 필요한 것은 더 많은 기능만이 아니다. 잘못된 판단을 실행 전에 걸러내고, 필요할 때 사람이 개입하며, 문제가 발생하면 그 과정과 근거를 다시 확인할 수 있어야 한다. AI의 한계를 줄이기 위한 세계의 해법 찾기도 이미 속도를 내고 있다. 다만, 어떤 기술이 어디까지 문제를 해결할 수 있는지는 여전히 검증의 영역이다.

 

AI 산업의 경쟁축이 ‘얼마나 잘하는가’에서 ‘얼마나 믿고 맡길 수 있는가’로 넓어지고 있다.

그 변화는 이미 시작됐고 가속화 중이다.

 

작성 2026.10.08 11:33 수정 2026.10.08 12:42

RSS피드 기사제공처 : 전국학교운영연합신문 / 등록기자: 최종완 무단 전재 및 재배포금지

해당기사의 문의는 기사제공처에게 문의

댓글 0개 (/ 페이지)
댓글등록- 개인정보를 유출하는 글의 게시를 삼가주세요.
등록된 댓글이 없습니다.
에르고바디 핏유어코어 스포츠 허리보호... 33,000원
에르고바디 핏유어코어 스포츠 허리보호대, 1개, 핑크
https://ads-partners.coupang.com/image1/AZKcJ13Y287oPedbAax3M4xnknn8aG9_DsGwKp6KUNrS3fzJWMC35_T7qijmc5f7rNsc7LpzAV3C-EdC5erIiVSsx5s6uuLiXwqm35Fwos_nqVqPiFglS8d_xU21hSfjsOjztCELeUHTgTwz729AzahZ3rbofa3hdRgoxOcw6Qi38LW0g6RwznoA9nPaVD4SHUj2ov8JMhIEOQnacNWulKdbhuVB5H36V4xP9K4_bINwSyhiY3-a08WJYgO2j6KzS-0APSgh73ZZbauE5XLqdrz_4OK2XTGDHGEXqB8Jr6yL5akqqZXYCFzYufuN9i_1IoQFjdmEBdJqUzUHIGEIfNoFrw0VzxRK9vlnBu8T7oOtTR4I4OTuF6U_ji_2OU07G_DivpZvD6rMNOuQ-brjMRPjoz-0YiqZX0ATReiAS6CVEqU3AGlz7qkYC16MgJOQbo0ZK3BL9RjTrk6NJCxpi209gh5QR8JRP7TSJoVW3fgxm6DRbJcFPwMTWECmCPAXZlj0AURtU4I2EWYJHIGPnEAqHI2zxSHUwxIZix-82Zz-t478HkXw1gTFunUAI2TpnugeNw==
자세히보기
오스틱니 가을 남성 루즈핏 빅사이즈 ... 18,880원
오스틱니 가을 남성 루즈핏 빅사이즈 트레이닝 운동복 세트
https://ads-partners.coupang.com/image1/sl3-rJH2ubirH1hQskKveM1kokqT0ATJRHBIIVhF_DiH68h0ZhxpqsKGZy--O2OFNmOG2y7I7yKl_MyIH8iMSpNFp4WabEu5Yo5LFhqFYpMevwhTz6qH_48kvGyJyXKieDgcAe1VrY_wdn65r9vV1t83MSeMEEAae9YfHXQP1wKHcFB8Jq-7nlYsE8JlYSetvYuH8Fb-xid5LP0DsQcWbgk0TFtdG0wnKzPUw7i8lprgbiewalVifK68qpkgqOyoaMg3MAbqZSq3FKIaoRtbb59g_-f9MWM0t90BNiv5TidM-UoayIHuFTvgrWKW0ToNBnywkUca-Q7bxDd7-Ze76uKdRWNeUbS-aueJ2fjlyoaBOScmHJ8qvG8T1xM2QizIV8zyYTTsNxtiVdDIPTXfmwVtOX4-3BVT3rKbgFGdc9ChaCIiKqeRrngAaN-LDelIJaHcUbuio5Fdp5iq4esJx--sgO_kFNzbtG5T1lTSZNTc0oFZxPaJnpiIzViVzRzbefr6cD82uFfDKWu_SHwlYaHYIQbAVcfK-G3ARstU5tWH8SfCLt4jMnSmR8DKZML2mXep-qua7ub_X1bwjKBzYlP6Oz4XjrHlthfc-DyDnZo=
자세히보기
닌텐도 스위치 스포츠 48,700원
닌텐도 스위치 스포츠
https://ads-partners.coupang.com/image1/y7SPtBoTFHl4_y0Xy81zosbmht6GN20QiljqxZAo3YalaLlsriVf7ekRMQgNi32feOdZuVmCeLNmUJgLJLGpS8VCNh5QxcYFBkZoTGUGmj4uye5bb-K4Vf8EKBVEY19Ni2_nOkfmjcvprygyvZvsYBkAb9jTdw4eiH--J4M343DEdrR-lPewWEUCY1O5uh4ErTL2Xih6nqF0R4ZgCkyZcCwZUulHRo9xoHM7M1m6vQN6wUm3Ojuj_pjraV88iuj2QraTdzDXpfLT1JcQDbhKd06yC6RIcmcvtwC3tEncUrfeYVN1u0bbWjB8-DmMFQshpS28PEWdvsSztOCJvvjCE9M0uSkWteEMQxGVpgSgNaNkDW6NSmEW_56KF6ou8yiutvTVMDJMHSRdWtFQkmhdbIwY1niWDjkUqxhTR3OWnOtsfhb0jpEG0PZlZ-XnrZIvVpgH3s5yyQLS28VoYplBLJqRgq3sqHsRLrp4sfwhzEeud5O-WB2UVGbKL1yczv_NvvYuYvnYUBZgR4U8iWYAL9m7GlmeifLYf1RfN6Hg_d08ojPrZ2zYuGGkN8LwA19I6_OFfxtp1EAMVmNGswk=
자세히보기
샤카 스포츠 언더랩 스펀지 [2+1 ... 13,100원
샤카 스포츠 언더랩 스펀지 [2+1 구성] 7cm x 29m, 블랙, 3개
https://ads-partners.coupang.com/image1/QB8vSS-0JbrMd6NxQL1VLTMQzF15nZMCj_1FNHERIKN8BTkATQ82C4Zrd7AHnWUT0phOG2-rf6W8ppKGvPErd7oIKfl3VQw3YHaQU1CXNCKYJr2nUUMHpopG0ozlNIWIpba1hRkR7SUArlQkKp2i3tOSqvQJFgvQxInVklbXgOBRMwdgaunQ9gLyhNCt6R79lSQfPgFi7ny2MV5nHUq4i1_zDIs_qyYoRnUYLXEKTIfCpnDDgBuD62MXBiOyhwYtR2M8IoSY3-F3b6XyELL71aUgwI1EY6RQbgL4Sp0uO6iGiQi1rUxnw14r9RYe-C94a9VBwimr97DxNDWpStO5rnXDiftkjI_EwqyEJNcy_U_Ss5jS4KJRgewmSgmZYvhifcfsXuttyqmmV29xi8Sn6UpMp9QPLlKT6VZFUZkYp05D45vHoV9hTl3JAoKMaawhRnWSqvP01fU5pClP1Ym-MBXlBjzGJ_zJ8W5A8mL5STW1wcWUrAtiagwyyvl2WC3K9-WK6Sjnnh3cjhIbHTL5Frgo7xUIthg-RuhKyHHgYVl7J_sJ2qW8VLjgaexzbfR5bcoOXJcCIwmZaMd4Eg0M8CzNpl_C
자세히보기
에르고바디 핏유어코어 스포츠 허리보호... 33,000원
에르고바디 핏유어코어 스포츠 허리보호대, 1개, 핑크
https://ads-partners.coupang.com/image1/KpTQ38X5VKHCA2flKsYKDa84mnTA62NPoz3xoWcSaOlsEHSmm76fR0NbD8PNxlQi_3sRaxTc_7KtSK8m6uRzuYlVZdmAjyW6Jh4I2uBHopJvt11X3CAGq-ecEBSrYtE0NJdRlo6cpgXRt9hnZor01QvnTS1LlZZf1hWbUyUIxN69Rc3GN9zzNEr_GrvHxdmBIi74kSc3o9Q8V9lgoTNHLj4xUkZoWH4fwWEEZpzFDC2nox_Kmq389mkCIvJWsopu_TADOFijgtBYcNnpFotp0ymuLB5hd8gBmBJOsKgI4-bA6Pupsi0zP8JswodsAO5QaS4MT8_r6KifME5a35r-g1CJxWaOdoZY_W-mwwdLOCDhbTnD4UBitNaasKRim_gikJP9f9N-rWNtPNvP6_vFHAHXq_H925sIYroxxM8CQKnRaDHolhnEtDBa45GiNkpbh0UYBjRqwlodCB05SPkv9xm7Kusc7c7f8dIODkcAPNQLzZYf-wTFV4MNsVnjCv8WLZjb-jVxhqWr0B9fsbg8YVXJAcDgZ_1O4sJldbaus_0wBcubKSf0DWywyeH7TlBKylW0DQ==
자세히보기
나이키 빅마우스 물병 AC4413-0... 6,670원
나이키 빅마우스 물병 AC4413-091
https://ads-partners.coupang.com/image1/01_wkiaO5rEaKp0_0_TWlAyKub2bJDK2alT1JriRdCnLQa2uXCH-jB241kx8c7QxBlmC2KIgonmjGLvOuELYQaweZ4qUsqA3D5lXDxfjiSc2Ge3CaB1CNCL61QzBkZL5kDBnjG-YsOJefncrSUDa6fuOj41qQzj1mAuM4HNM-QUTcpXG_z3AbwA9Dny5wqI7dIVxKyu1Bl1QUIc5fIX1XYH9IEKCJ5YGIFr-7wQAl4tvhLbyIc8vhbIbYD59mUnDngAY7ocpGUToZcZkBmF27760dhmXR_g2VOP9ejp_TXKdBKhEHFJP_T87G5Yxk0VscJWr2crrdjSnAca30Nble0WIM-6dy6pCO0alf9ExDWPpNERqiZUFzQDhdENhyNsU1bhaC6dTcEpx6HEA8snrhgtCdgjd-GhSeQzZN2N_KZT6y6pBEBTVFCv66fK7MW5IehJP0lmd3PrqjtjJIqXhEj8L5xoIb2wOSye6dhEHXIe4H_bp6HZaJ9kWRyOarfoNFZolmhztKw3bHoUB1nUYyYE9re_CXqPxAxZoi-8_0-5VgRX10QzxLw1DE0MYc2Ft76qnfsBCOpD-47uLY-Xjehg1pRTWENpe9a5JsP4j4IkeJjs7zV6X
자세히보기
니튼 땀폭발 전신유산소 복싱볼 탭볼 7,900원
니튼 땀폭발 전신유산소 복싱볼 탭볼
https://ads-partners.coupang.com/image1/jZJg8jff8tYQIZ7RjW9lj-VGwDYAKDaYuSygSPuQkZooA7rQbtIlnZ9fln9pnY9Qvo0MSluYXu1IBA0OqFgD3m6GvPMWa0aVvnOLf1ViYtfChBJbBalSuXSEvcVVJTOyXXxGhGRtqMDCbdlmZ5WPfvVqQouG7u3f_SkhvkA8hwB5Ql_8rYccWPyT6l6a3udKGfnlJD11VADziFwPG_JNuTcC3AcUNVzvTIuCRTrmpctsCUIlWVF8sbpQiGS1IRsvCHAQOnJka3809CUXTTGCXL82MDRCSKj3svrxntrtIonxFR6vmEF-JLQwwGx8hNb4uPuuFibX4wCSLDw_5c5ob543FYeWlklG--BA0kEpRXcdCC5IDYOtOcxfomLHvSoklvJ4qtU4Xu0--Fhp8z3KCzesVoLG_F7TSGu-I8BHOdIrRqV9OET1Renf4UpzSvVXSVZGdzliyr5VGZPuvcNYQSejvtUM3HcovgYSRF6EONj-Gd4SqYgy2NXZMImHkg3wzUGmO43mHQ5FIMADet9HqI0eMf9OLgA2QrJIPYqVs1ASHljiZjM0M6tKX7pFFPQ-OwtCUW44KZwIb43gJGurnexNLcsjqUg0ojvykmZPpTo=
자세히보기
코멧 스포츠 프리미엄 무게조절 덤벨 ... 19,430원
코멧 스포츠 프리미엄 무게조절 덤벨 바벨 세트
https://ads-partners.coupang.com/image1/Sompuc5Mza5uJLwcSiIp1GObXIFt68FXXf9Ng5Kb6qWiMhD_WFHDvvvNulsDA38cNAYpj6Typ5U2OpiZTFHDmtiHF6mrxLeb8v_phwQobejypbVI4Bk3lx24NdT3lNKSlLYAja__bAR1YnMZeDd5Pjof5Pemz6p2X7KoUmLfrVdIIH3pPj064UHQmmeVzYrAx9NZOqzNbpjAoBJLm1RAW7pCPZ51gD4qy1TuwFtp_D0bSbdXpd1Q2yU6tg8Q_5Nkd4Fr19Gm-gTlrXB19wgsurlS_xbfcDZWdyanxPEg6tjN9fTArVZzXls223hPRfRZxqeDlTyq0r3AIcP3kbcv_7pPrw_HNmewkWuHCeQ6roFhSvQELvqlIEZ9VFmF8jzxTh6gxu-1Ny1JVydvtFMiJFnnZlu-6wURpzcXYQKrADEjjNidzxLdm_OS3KIKW8Ent76gli9zLowo2syxMOned5IHVpAoHbj7kuAODh6uUaU_r_khIE1s8HM6ilNJoQVMJLD6WMKlNBi_n6QszK0sHJvBjW1AaDi318iQ7Fjhhf82Tvtbyqz0xWKs0XZ3b4eKGQi4aW1PO09Y9kxovw==
자세히보기
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
AI부동산경제신문 부동산 30초 브리핑 2026년 11월 16일(월)
두산위브더제니스 부천, 더블역세권 49층 2,008가구 대단지 주목!
수도권 줍줍 파주 운정신도시 우미 린 더 센텀
토지임대부주택 고덕강일3단지
미국 클래리티법 상원서 좌초
유튜브 NEWS 더보기

상지카일룸 밤섬, 동네한바퀴 #1

12월부터 위반건축물 양성화, 이런 집만 풀립니다 | 성진용 퍼스트종합건축사사무소 대표

AI부동산경제신문 기자단 신청 안내

정부 이재명 대통령 발언 "부동산 100억 벌어도 세금 몇 억"이라는 말, 어디가 틀렸나 근로소득세와 양도소...

임대료 규제가 강할수록 격차가 커진다? OECD가 밝힌 반전덴마크·스웨덴도 방향을 틀었다, 규제완화가 답인 ...