회사의 일을 돕는 AI가 고객 정보와 기밀 문서까지 들여다볼 수 있다면, 그것은 유능한 비서일까, 통제되지 않는 보안 위험일까. 더 중요한 질문은 따로 있다. 그런 접근이 일어났을 때 회사는 알아챌 수 있을까.
AI 활용이 문서 작성과 질의응답을 넘어 실제 업무 수행으로 확대되면서 보안의 초점도 달라지고 있다. 답변이 정확한지 확인하는 데 그치지 않고, AI가 어떤 시스템에 접속하며 어떤 정보를 읽고 바꿀 수 있는지 살펴야 하는 것이다.
핵심은 AI의 성능 자체가 아니다. 얼마나 넓은 권한을 부여했으며, 그 권한이 어떻게 사용되는지 통제할 수 있느냐에 있다.
똑똑한 AI보다 먼저 살펴야 할 ‘열린 문’
AI 에이전트는 업무를 수행하기 위해 이메일, 문서 저장소, 고객관리시스템 등 여러 도구와 연결될 수 있다. 연결이 늘면 처리할 수 있는 업무도 많아진다. 그러나 연결된 계정의 권한이 지나치게 넓다면, 업무와 관계없는 정보까지 접근 가능한 상태가 될 수 있다.
여기서 구분할 점이 있다. 기술적으로 접근할 수 있다는 사실이 업무상 접근해도 된다는 뜻은 아니다. 공유 계정이나 과도한 관리자 권한을 사용한다면, 조직이 의도한 업무 범위와 실제 접근 가능한 범위 사이에 간극이 생길 수 있다.
이를 곧바로 ‘AI가 악의를 품었다’는 이야기로 해석할 필요는 없다. 우선 확인해야 할 대상은 계정 관리, 인증정보 보관, 클라우드 설정, 데이터 접근 정책이다. 새로운 기술이 오래된 관리 부실을 더 크게 드러낼 수 있기 때문이다.
또한 자료에 접근한 것, 내용을 읽은 것, 외부로 전송한 것은 서로 다른 사실이다. 사고를 평가할 때는 접근 기록과 전송 내역 등 근거에 따라 각각을 구분해야 한다.
“막았다”만으로는 부족하다…알아채고 멈출 수 있는가
기업 보안은 흔히 외부 침입을 차단하는 문제로 인식된다. 하지만 AI가 정상적인 업무 계정을 이용하는 환경에서는 로그인 성공 여부만으로 안전을 판단하기 어렵다.
정상 계정으로도 업무 목적을 벗어난 접근이 발생할 수 있어서다. 평소 다루지 않던 고객 자료를 대량으로 조회하거나, 관련 없는 부서의 문서를 연속해서 읽는 행동을 식별할 수 있어야 한다.
이때 필요한 것은 기록을 쌓아두는 일만이 아니다. 이상 징후를 발견했을 때 누가 확인하고, 어떤 기준으로 연결을 끊으며, 어디까지 조사할지 정해져 있어야 한다.
접근 기록에 사용 계정만 남고 어떤 AI 업무에서 발생했는지 알 수 없다면 원인 파악은 어려워진다. 차단 장치와 함께 추적 가능성, 중단 권한, 대응 책임이 연결돼야 하는 이유다.
생산성의 이익 뒤에 가려진 보안 비용
경영진에게 AI 도입은 처리 시간을 줄이고 비용을 절감하는 투자다. 직원에게는 반복 업무를 덜어주는 도구다. 반면 고객에게 중요한 것은 자신의 정보가 어떤 목적으로 사용되고 누구에게 노출될 수 있는지다.
세 관점은 충돌할 수 있다. 빠른 도입을 위해 여러 시스템에 폭넓은 권한을 부여하면 초기 설정은 쉬워질 수 있다. 그러나 문제가 발생했을 때 조사와 복구, 고객 설명에 필요한 부담까지 줄어드는 것은 아니다.
따라서 AI의 경제성을 평가할 때는 이용료와 절감 시간만 계산해서는 안 된다. 권한 검토, 로그 분석, 보안 점검, 사고 대응에 필요한 운영 비용도 함께 고려해야 한다.
자동화의 편익은 기업이 얻으면서 정보 노출의 부담을 고객과 직원에게 떠넘긴다면 신뢰는 유지되기 어렵다. 보안은 도입을 방해하는 부대 비용이 아니라, 자동화를 지속하기 위한 조건에 가깝다.
도입 승인 전에 확인해야 할 네 가지
AI 위험관리와 애플리케이션 보안을 다루는 NIST와 OWASP의 공개 자료는 조직 차원의 위험관리, 과도한 권한 제한, 민감정보 보호 등을 검토할 때 참고할 수 있는 기준이다. 다만 이러한 기준을 도입했다는 사실만으로 개별 시스템의 안전성이 보장되는 것은 아니다.
기업이 실제 운영 환경에서 확인해야 할 질문은 구체적이다.
- 최소 권한: AI 연결 계정은 해당 업무에 필요한 자료와 기능에만 접근할 수 있는가.
- 업무별 분리: 조회·수정·삭제 권한이 구분돼 있으며, 중요한 변경에는 별도 승인이 필요한가.
- 추적 가능성: 어떤 업무에서 어떤 자료에 접근했는지 확인할 수 있는가.
- 긴급 대응: 문제가 생기면 즉시 권한을 회수하거나 연결을 끊을 담당자가 정해져 있는가.
사용하지 않는 계정과 애플리케이션을 정리하는 일도 빠질 수 없다. 업무가 끝났는데 권한은 남아 있다면, 조직은 더 이상 필요하지 않은 위험을 계속 떠안는 셈이다.
AI 경쟁력은 권한의 크기가 아니라 통제의 정밀함이다
AI를 쓰지 않는 것이 해답은 아니다. 모든 행동에 사람이 개입하도록 해 자동화의 장점을 없애는 것도 바람직한 방향은 아니다. 필요한 것은 업무의 중요도와 데이터의 민감도에 맞춰 권한과 승인 절차를 설계하는 일이다.
일반 문서를 요약하는 작업과 고객정보를 대량으로 내려받거나 결제 정보를 변경하는 작업에는 서로 다른 통제가 필요하다. “AI니까 허용한다”거나 “AI니까 금지한다”는 일괄적인 판단으로는 이 차이를 다루기 어렵다.
기술에 대한 신뢰는 기대가 아니라 확인에서 시작된다. 오늘 AI 연결 계정 하나를 골라 불필요한 권한을 줄이고, 접근 기록과 긴급 차단 절차를 점검하자. 다음 도입 회의에서는 “무엇을 더 맡길 것인가”에 앞서 물어야 한다. “어디까지 허용하고, 어떤 순간에 멈추게 할 것인가?”
){kind=small}
){kind=small}
){kind=small}
){kind=small}
