Non-Human-Identity

왜 지금, ‘로그인’이 아니라 ‘행동’을 봐야 하는가 최근 몇 년 사이 AI는 질문에 답하는 도구에서 API를 호출하고 실제로 자금을 이동시키는 자율 에이전트로 진화했다. Gartner는 2026년까지 전체 엔터프라이즈 애플리케이션의 40%가 특정 업무를 수행하는 AI 에이전트를 탑재할 것으로 전망했는데, 이는 2025년 5% 미만에서 급격히 늘어난 수치다(Gartner Newsroom). 문제는 속도다. AI가 가세한 비즈니스 이메일 사기(BEC)는 자금 이동을 수 초 만에 승인해버리는 구조적 취약점을 파고들며 확산하고 있고, 공격자가 노리는 질문도 더 이상 ‘이 로그인이 정당한가’가 아니라 ‘이 행동이 허용되어야 하는가’로 바뀌었다(CIO). 전통 보안 도구 대부분은 여전히 전자만 검사하도록 설계돼 있다. ...

📋 밋업 한눈에 보기 AWS 트레이너 Shilpa가 진행한 이 웹비나는 가상의 ‘Apex Bank’ 사례를 통해 AI 에이전트가 스스로 행동을 취하기 시작하면서 발생하는 새로운 보안 위협을 다룬다. 새벽 2시 17분, 송장을 처리하던 에이전트가 첨부파일에 숨겨진 지시문에 속아 정상 자격증명으로 거액을 송금해버린 가상 사고를 중심으로, 에이전트의 구조(anatomy), 비인간 신원(non-human identity), 런타임 공격(prompt injection), 책임추적성, 인간 통제, AWS 프레임워크의 6단계로 강의가 진행된다. 핵심 메시지는 모델 자체를 완벽하게 안전하게 만들려 하지 말고, 모델이 제안한 행동을 결정론적 정책 엔진이 별도로 승인/거부하도록 ‘추론과 집행을 분리’해야 한다는 것이다. ...