한경비즈니스
[베인의 위닝 전략]

[한경비즈니스= 베인앤드컴퍼니 신문섭 대표파트너] 전 세계적으로 해킹 공격에 대한 불안감이 커지고 있다. 국내에서는 유통, 테크, 미디어 등 일부 업종에서 정보 유출 사고가 꼬리를 물다가, 최근에는 은행과 증권사뿐 아니라 금융권 보안을 책임지는 전담 기관까지 뚫리면서 피해가 전방위로 확산하는 양상이다.
해외 사정도 다르지 않다. 일본에서는 항공과 철도, 통신, 유통 기업은 물론 정부 기관에서도 정보 유출 사고와 유출 의심 사례가 잇따랐다. 프랑스 등 유럽에서는 슈퍼마켓 냉장고와 혈액 보관 시설까지 표적이 돼 화제가 됐다. 해킹이 더는 특정 업종이나 특정 국가만의 문제가 아닌 셈이다.
공격자가 인공지능(AI)을 쓰면서 사이버 공격에 걸리는 시간이 크게 줄었다는 분석이 나오는 가운데 주요 기업들도 이를 막기 위해 적극적으로 AI를 활용하기 시작했다. 그러나 AI가 보안 허점을 찾아내는 속도가 빨라질수록 새로운 병목이 드러나고 있다.
보안 점검에 AI를 투입한 대기업에서는 시스템의 보안 허점을 알리는 취약점 경보가 많게는 8배로 늘었지만 이를 확인하고 고치는 일은 여전히 사람 손에 남아 있기 때문이다.
발 빠르게 대응하는 기업들은 보안 인력의 20~25%까지 취약점을 고치는 업무로 돌리고 있다. AI가 결과물을 만드는 단계에서 풀린 병목이, 그 결과물을 검증하고 조치하는 단계에 다시 쌓이며 문제 해결에 난항을 겪고 있다는 뜻이다.
4주 걸리던 공격, 18시간이면 끝난다
기업이 이처럼 보안 개선 작업을 서두를 수밖에 없는 것은 AI로 공격 속도가 빨라졌기 때문이다. 통상 사이버 공격은 공격 대상을 살피는 정찰에서 시작한다. 이어 시스템에 처음 발을 들이는 침입, 내부의 다른 시스템으로 옮겨 가는 확산, 더 높은 관리 권한을 손에 넣는 단계를 거쳐 실제 피해로 이어진다.
이 과정 전체에 소요되는 시간은 과거 약 4주 정도였던 것으로 알려진다. AI를 활용하면 이 시간이 18시간 안팎으로 줄어든다는 추정이 나온다. 일주일씩 걸리던 정찰은 1시간, 내부 확산은 3시간이면 끝낼 수 있다는 분석도 있다.
코딩을 모르는 공격자도 국가가 배후에 있는 해킹 조직 수준의 공격을 시도할 수 있게 되면서, 사이버 공격의 진입장벽도 갈수록 낮아지는 추세다. 인간 해커는 잠을 자야 했지만, AI는 24시간 쉬지 않는다는 점도 위협을 키우는 요인이다.
기업이 체감하는 변화도 뚜렷하다. 가짜 이메일이나 문자로 사람을 속여 정보를 빼내는 피싱 시도가 최근 더 급증했고 수법도 더 그럴듯해졌다. 예컨대 수신자에 맞춰 내용을 다듬거나 QR코드를 미끼로 쓰는 식이다. AI로 목소리를 복제하고 실시간 영상으로 다른 사람 행세를 하는 수법도 많은 기업이 일상적으로 마주하는 리스크 요인이 됐다.
기업이 도입한 AI 에이전트도 해커가 파고들 수 있는 통로를 넓힌다. 문제는 사내에서 에이전트가 몇 개 돌아가는지, 누가 관리하는지, 무엇까지 허용돼 있는지 답하기 어려운 기업이 많다는 점이다. 실제 사이버 공격으로 인해 문제가 생기면 AI 에이전트를 곧바로 멈춰 세울 수 있도록 비상 차단 장치를 달아 둔 기업은 더 적다.
외부 공급사를 통한 리스크도 커졌다. 공급사가 AI 모델과 소프트웨어를 매일같이 바꾸는 상황에서, 이따금 설문지를 보내 보안 실태를 확인하는 기존 방식으로는 제대로 된 감독이 어렵다는 것이다. 이에 따라 업무가 깊이 얽힌 공급사부터 상시 점검 체계로 전환하고, 공급사가 새로운 AI를 도입할 때는 사전 승인받도록 계약을 손봐야 한다는 지적이 나온다.
![4주 걸리던 해킹이 18시간으로…AI 시대 보안 ‘사전 예측과 대응 속도’가 경쟁력 [베인의 위닝 전략]](https://img.hankyung.com/photo/202611/AD.46453690.1.png)
검증도 AI에 맡긴다…정확도 2%포인트가 가른다
AI가 일을 쏟아내는 속도를 사람의 확인이 따라가지 못하는 병목은 소프트웨어 개발 현장에서 확인된다.
베인이 기술 부문 고위 임원 293명을 설문 조사한 결과, AI 도입 후 개발자의 산출량은 약 21% 늘어난 것으로 조사되는데, 특히 AI가 작성한 코드를 살펴 오류를 걸러내는 코드 검토 시간은 약 91% 늘어난 것으로 분석된다.
AI가 코드를 만들어 내는 속도를, 검토를 비롯한 후속 절차가 현장에서 소화하지 못하고 있다는 것이다. 해법은 검증 작업 자체를 자동화하는 데 있다는 분석이다. AI가 몇 초 만에 코드를 내놓는 상황에서 사람이 전부 확인하겠다는 방식은 더 이상 통하지 않기 때문이다.
실제 일부 기업들은 AI가 만든 결과물을 미리 정해 둔 기준에 따라 자동으로 걸러내는 품질 관문을 세우고 있다. 예컨대 코드 변경 건마다 문제가 생겼을 때의 파급 범위를 점수로 매기고, 지켜야 할 보안 수칙과 규정, 설계 기준은 프로그램에 미리 넣어 두고 자동으로 적용하는 식이다.
AI의 판단과 조치는 빠짐없이 기록으로 남긴다. 대신 사람은 자동화가 풀지 못하는 예외 상황과 위험이 큰 의사 결정에 집중한다.
대표적인 사례가 아마존이다. 아마존은 모든 개발 시스템에 AI를 넣도록 전사 방침을 정한 뒤, 코드 검토의 최대 70%를 AI가 처리하게 된 것으로 알려진다. 고객 검증에 몇 주씩 걸리던 주기도 며칠로 줄었다고 한다.
다만 자동화의 성패는 작은 정확도 차이에서 갈린다. 여러 단계를 AI가 연달아 처리하는 업무에서는 단계마다 생기는 작은 오차가 곱해지기 때문이다. 예컨대 34단계로 이뤄진 업무에서 단계별 정확도가 97%인 AI가 전 과정을 오류 없이 마칠 확률은 36%에 그친다. 정확도가 99%로 오르면 이 확률은 71%로 뛴다. 불과 2%포인트 차이가 현장에 쓸 수 있는 자동화와 오류가 많아 쓸 수 없는 자동화를 가르는 셈이다.
기업들도 사람 개입 없이 AI에 전부 맡기는 완전 자율에는 신중한 모습이다. 같은 조사에서 위험이 큰 변경만 사람이 승인하고 나머지는 자동으로 처리하는 방식을 택하겠다는 기업은 41%였던 반면, 개발을 AI에 전부 맡기겠다는 기업은 6%에 그쳤다.
응답자들은 AI 에이전트 활용을 넓히는 데 가장 중요한 조건으로 모델 성능이나 데이터 인프라보다 AI를 관리하고 감독하는 체계와 안전장치, 위험 통제를 꼽았다.
보안 경보는 8배로 늘었는데 고칠 사람이 없다
일부 대기업은 이미 최신 AI 시스템을 전사 규모로 보안 방어에 투입하고 있다. 문제는 그 뒤에 쏟아지는 경보다. AI가 시스템 곳곳을 훑어 보안 허점을 찾아낼 때마다 경보가 울리기 때문이다.
이런 경보가 최대 8배로 불어나면서 이를 검증하고 우선순위를 매겨 고치는 조직의 처리 능력을 금세 넘어서 버린다. 대기업 최고정보보호책임자(CISO)들은 보안 역량 전반을 손봐야 한다는 점을 인지하고 있을 것이다.
AI 에이전트가 사내에 얼마나 있는지 파악하는 일부터 위협 탐지, AI를 관리하고 감독하는 체계를 세우는 일까지 후속 과제가 줄줄이 수면 위로 떠 오를 수밖에 없다. 그러나 당장은 쏟아지는 취약점을 처리하는 일 하나가 다른 과제를 모두 밀어낼 만큼 버거운 상황이다.
보안 문제에 기민하게 대응하는 기업들은 사람과 예산을 취약점을 고치는 쪽으로 옮기고 있다. 이들 기업은 취약점 개선 예산을 대체로 두 자릿수 비율로 늘렸다. 보안 인력의 20~25%까지 기존 업무에서 빼 AI가 찾아낸 경보를 처리하는 데 투입하고, 빈자리는 외부 협력사로 메워 평소 업무를 유지한다.
개선 전담 조직을 3배로 키운 기업도 있다. 예컨대 한 대기업은 개발자가 업무 시간의 30%가량을 사고가 나기 전에 취약점을 찾아 고치는 데 쓰도록 한 사내 지침을 한층 엄격하게 적용하기 시작했다고 한다. 보안 현황을 이사회에 더 자주 보고하도록 바꾼 기업도 있다.
보안 경보를 다루는 기준도 달라졌다. 이들 기업은 취약점을 하나씩 따로 떼어 보지 않는다. 실제로 악용될 수 있는지, 해커가 닿을 수 있는 위치인지, 다른 시스템이 얼마나 기대고 있는지, 사고가 나면 피해가 어디까지 번지는지를 종합적으로 따진다는 것이다.
이들이 가장 먼저 손대는 곳은 구축한 지 오래된 기간 시스템과 네트워크, 인터넷으로 빌려 쓰는 서비스형 소프트웨어(SaaS) 업체를 비롯한 외부 공급사다. 리스크가 몰려 있는 데다 기업이 혼자 힘으로 고치기도 어려운 영역으로 꼽힌다.
자체 개발한 코드나 외부에서 가져다 쓴 오픈소스 코드는 그다음 순위다. 그렇다고 점검 범위를 핵심 시스템에만 좁혀 둘 수도 없다. 통상 기업이 안고 있는 취약점의 절반 이상은 핵심 시스템 바깥에서 나오기 때문이다.
궁극적으로 사이버 보안은 CIO 중심의 IT 관리 영역을 넘어 CISO와 CTO, 사업부 경영진이 함께 책임지는 경영 과제가 돼야 한다. 사고가 난 뒤 대응하는 데 그치지 않고 제품과 서비스를 개발하는 단계부터 보안을 설계해야 하기 때문이다.
특히 기업들이 앞다퉈 추진하는 AI 전환(AX)에서도 보안을 처음부터 핵심 설계 요건으로 포함해야 한다. 이에 따라 이사회에는 막연한 현황 설명 대신 적어도 한 달에 한 번 구체적인 수치를 보고해야 하고, 패치로 막을 수 없는 낡은 기술은 임시방편으로 버티지 말고 과감히 걷어내야 한다는 주문이 나온다.
예산도 한 해짜리가 아니라 여러 해에 걸친 투자로 잡아야 한다. 대응이 한 달 늦어질 때마다 경쟁사와의 격차가 벌어지기 때문이다.
보안에서도 해법의 방향은 소프트웨어 개발 현장과 다르지 않다. 단순한 취약점 수정은 사람이 마지막에 확인하는 조건으로 자동화하고, AI로 점검 범위를 넓히는 시점에 맞춰 찾아낸 문제를 고칠 역량도 함께 키워야 한다.
보안 도구에만 투자를 몰고 인력과 개선 역량에 대한 투자를 소홀히 하는 일도 피해야 한다. AI가 공격하는 속도도, 취약점을 찾아내는 속도도 이미 사람이 대응하는 속도를 앞질렀다.
이제 기업의 사이버 경쟁력은 사고가 난 뒤 얼마나 잘 대응하느냐가 아니라, 제품 개발과 AX 단계부터 위험을 미리 찾아내고 대비하며, 발견된 문제를 얼마나 빠르게 고치느냐에서 갈릴 것이다.