정순채 경희사이버대 객원교수/법무법인 린 전문위원

“나는 로봇이 아닙니다.” 
인터넷에서 한 번쯤 눌러봤을 문구다. 로그인하거나 회원가입을 할 때 사진 속 신호등이나 자전거를 고르게 하는 ‘캡차(CAPTCHA)’도 익숙하다. 사람은 쉽게 풀지만 컴퓨터 프로그램은 어렵게 풀도록 만든 일종의 ‘인간 인증 시험’이다. 그런데 이 시험의 전제가 흔들리고 있다. 인공지능(AI)이 사람이 하는 일을 점점 더 잘하게 되면서다.

 

최근 AI는 단순히 질문에 답하는 수준을 넘어 복잡한 수학 문제를 풀고, 글과 그림을 만든다. 사람과 자연스럽게 대화하고, 이메일을 보내거나 온라인에서 각종 업무를 대신하는 단계까지 발전하고 있다. 이제는 “이 사용자가 사람인가, 봇인가”를 구별하는 것 자체가 어려워지고 있다.

 

캡차가 대표적이다. 처음에는 일그러진 글자를 읽게 했다. 컴퓨터의 문자 인식 능력이 좋아지자 사진 속 신호등이나 횡단보도 등을 고르게 했다. 사람이 가진 시각적 판단 능력을 이용해 봇을 걸러내려 한 것이다.

하지만 AI가 사진을 보고 상황을 판단하고, 애매한 문제를 추론하는 능력까지 갖추면서 상황이 달라졌다. 과거에는 인간만 할 수 있다고 생각했던 일이 더 이상 인간만의 능력이 아니게 된 것이다. 이 변화는 단순한 기술 발전 이상의 의미를 갖는다.

 

우리가 인터넷에서 사용하는 많은 보안 시스템은 ‘사람’을 믿는 데서 출발한다. 비밀번호를 입력하고, 휴대전화를 인증하며, 캡차를 통과하면 정상적인 이용자로 간주한다. 그러나 AI가 사람의 행동을 흉내 낼 수 있다면 이런 방식은 점점 약해질 수밖에 없다.

 

더 큰 문제는 AI가 단순히 사람을 흉내 내는 데 그치지 않는다는 점이다. 앞으로 AI 에이전트가 사용자를 대신해 물건을 구매하고, 돈을 결제하며, 이메일을 보내고, 주식 거래를 하는 일이 늘어날 수 있다. 이때 중요한 질문은 “사람인가, AI인가”가 아니다.

 

“누가 이 행동을 승인했는가?”, “어떤 권한을 가지고 있는가?”, “무엇을 하려는 것인가?”가 더 중요한 질문이 된다.

 

AI의 능력이 커질수록 사고가 났을 때 피해도 커진다. 가짜 계정을 수천 개 만드는 일, 피싱 메시지를 대량으로 보내는 일, 인터넷에서 정보를 자동으로 수집하는 일 등을 AI가 맡는다면 범죄의 속도와 규모도 지금과 비교할 수 없을 정도로 커질 수 있다.

 

그렇다고 AI를 막는 것만이 답은 아니다. AI는 인간이 오랫동안 풀지 못했던 문제를 해결하고, 의사결정과 연구를 돕는다. 반복적인 업무를 대신할 수 있는 강력한 도구이기 때문이다.

 

결국 필요한 것은 AI를 무조건 믿거나 무조건 의심하는 것이 아니다. AI가 존재한다는 사실을 전제로 보안 체계를 다시 설계하는 것이다.

 

앞으로의 인증 시스템은 “당신은 인간입니까?”라고 묻는 데서 끝나지 않을 것이다. 평소와 다른 행동인지, 어떤 기기에서 접속했는지, 어떤 권한을 사용하려는지, 그 행동으로 발생할 위험은 얼마나 되는지를 종합적으로 판단해야 한다. 중요한 결제나 계정 변경에는 사람이 마지막으로 승인하는 장치도 필요할 것이다.

 

어쩌면 우리가 맞이하고 있는 변화는 ‘인간과 AI의 경쟁’이 아닐지도 모른다. 더 근본적인 변화는 인간만을 기준으로 만들어진 세상이 인간과 AI가 함께 행동하는 세상으로 바뀌는 것이다. 과거에는 인간과 기계를 구별하는 것이 쉬웠다. 이제는 그렇지 않다. AI가 인간처럼 말하며, 보고, 생각하며, 행동하기 시작했기 때문이다.

 

그래서 앞으로 인터넷에서 가장 중요한 질문은 “나는 로봇이 아닙니다”가 아닐 수 있다. “이 행동을 누가, 왜, 어떤 권한으로 하고 있는가?”. AI 시대의 보안은 바로 이 질문에서 시작될 것이다. 원문보기

 

SDG뉴스 = 정순채 서울디지털대학교 객원교수/법무법인 린 전문위원