Agentic-Ai

PoC 지옥에서 벗어나기: 왜 지금 ‘프로덕션화’가 화두인가 Gartner는 2027년까지 에이전틱 AI 프로젝트의 40% 이상이 취소될 것이라 전망했다(Forbes). 실제로 2025년 생성형 AI 프로젝트의 절반이 PoC 이후 폐기됐고, 에이전트 파일럿의 88%가 프로덕션 전환에 실패했다는 데이터도 있다(THE DAILY BRIEF). 원인은 기술 자체보다 평가 체계 부재와 신뢰성 설계 부족이다. 데모는 ‘행복 경로 하나’만 통과하면 되지만, 프로덕션은 부하·멀티테넌시·장애 복구까지 감당해야 하는 전혀 다른 문제다. 오케스트레이션: 결정론과 에이전트의 하이브리드 AWS Prescriptive Guidance는 흐름이 고정적이고 반복 가능하면 AWS Step Functions로, 판단이 필요한 개방형 단계는 에이전트로 처리하라고 권한다. 성숙한 패턴은 결정론적 상태 머신이 판단이 필요한 한 단계만 에이전트를 호출하는 하이브리드다. 이벤트가 몰리는 구간에서는 Amazon EventBridge가 라우팅을, Amazon SQS가 버퍼 역할을 하며 AWS Lambda가 큐 적재량에 따라 자동 확장한다(AWS Prescriptive Guidance). 처리 실패는 SQS의 Dead Letter Queue로 격리해 손실 없이 재처리하며, 함수는 반드시 멱등성을 갖추도록 설계해야 한다(AWS Lambda 문서). ...

📋 밋업 한눈에 보기 이 웨비나는 AWS 기반 agentic AI 시스템을 데모/POC 수준에서 프로덕션 등급으로 끌어올리는 방법을 다뤘다. 발표자는 deterministic 오케스트레이션(Step Functions)과 이벤트 기반 오케스트레이션(EventBridge, SQS, Lambda)을 비교하고, 신뢰성·관측성·보안·비용·거버넌스라는 프로덕션 핵심 축을 차례로 설명했다. 마지막으로 고객 지원 triage agent 예시와 단계별 배포 전략(phase 1~4)으로 이론을 구체화했고, Q&A에서는 멀티 에이전트 사용 시점, 비결정적 시스템 테스트, 프롬프트 인젝션 방어, 관리형 vs 커스텀 구축 등 실무 질문에 답했다. 🔑 핵심 요점 데모/POC 수준 agentic 시스템과 프로덕션 수준 시스템은 완전히 다르며, 신뢰성·관측성·거버넌스·보안이 추가로 필요하다. 흐름이 고정돼 있으면 Step Functions 같은 deterministic 방식을, 판단이 필요하면 이벤트 기반 agent 방식을 쓰되, 실무에서는 이 둘을 섞은 하이브리드가 가장 성숙한 형태다. Agent는 stochastic(같은 질문에도 다른 답)하고 autonomous하며 distributed하므로 idempotency, fallback, timeout/circuit breaker 설계가 필수다. 관측성은 tracing(X-Ray)과 evaluation(LLM-as-judge 등) 두 축으로 이뤄지며, 토큰 비용도 관측 대상이다 — 너무 싸도 이상 신호일 수 있다. 보안은 defense in depth로 접근해야 하며 guardrails, agent별 identity(least privilege), bounded autonomy, audit/traceability를 층층이 쌓아야 한다. 비용은 요청 수가 아니라 토큰 소비(추론 루프 등)에 좌우되므로 iteration cap, 모델 사이즈 조정, prompt caching, agent/tenant별 비용 귀속이 필요하다. POC에서 프로덕션으로 갈 때는 단일 agent 검증 → tracing/guardrails 추가 → multi-agent 확장 → 운영/거버넌스 성숙 순으로 단계적(phase)으로 확장해야 하며, 프롬프트와 tool 정의도 코드처럼 버전 관리하고 evaluation gate를 거쳐 점진적으로 배포해야 한다. 🛠 핵심 기술 쉽게 이해하기 AWS Step Functions 정해진 순서대로 실행되는 workflow(상태 머신)를 관리형으로 구성할 수 있는 AWS 서비스로, 여러 단계 호출, 재시도, 사람의 승인 대기 등을 코드가 아니라 정의된 flow로 처리한다. ...

왜 지금 ‘에이전틱 AI’인가 2025년까지만 해도 기업 애플리케이션에 task-specific AI agent가 탑재된 비율은 5% 미만이었지만, Gartner는 2026년 말까지 이 수치가 40%까지 급증할 것이라고 전망했다. 단순히 하나의 LLM이 질문에 답하는 챗봇 시대를 지나, 여러 개의 전문화된 에이전트가 도구를 호출하고 서로 협업하며 실제 업무를 처리하는 ‘에이전틱(agentic)’ 시스템으로 무게중심이 옮겨가고 있다. 이번 글에서는 AWS 생태계를 중심으로 이 흐름을 구성하는 핵심 기술 — Amazon Bedrock의 멀티에이전트 오케스트레이션, Lambda 기반 서버리스 실행 계층, AgentCore Memory, 그리고 도구 연동 표준인 Model Context Protocol(MCP) — 을 짚어본다. ...

📋 밋업 한눈에 보기 이번 세션은 AWS Bedrock을 중심으로 엔터프라이즈급 agentic AI 시스템을 어떻게 설계하는지를 다뤘다. 발표자는 시스템을 experience layer, orchestration layer, agent runtime layer, tools/memory/data layer의 4개 계층과 IAM·CloudWatch 같은 crosscutting 서비스로 나누어 설명했다. Bedrock의 supervisor-collaborator 멀티에이전트 구조, Lambda를 통한 tool 실행, 단기·장기 메모리 관리, least privilege 기반 보안 모델이 핵심 주제였다. 전체적으로 stateless, 서버리스 우선, 최소 권한 원칙에 기반한 프로덕션급 agentic 아키텍처 구축 가이드를 제시했다. 🔑 핵심 요점 Agentic AI 시스템은 experience, orchestration, agent runtime, tools/memory/data의 4개 계층 구조로 설계하는 것이 권장된다. Amazon Bedrock의 supervisor agent는 복잡한 작업을 여러 specialist collaborator agent로 분해하고 결과를 다시 하나의 응답으로 통합한다. Lambda 함수는 stateless하고 최대 15분만 실행되므로, 세션을 넘어 유지해야 할 데이터는 DynamoDB 같은 외부 저장소에 보관해야 한다. 메모리는 단기(세션 내 대화)와 장기(세션 간 semantic search로 검색되는 지식)로 나뉘며, 각각 관리 방식이 다르다. 보안은 least privilege 원칙을 기반으로 하며, 각 tool과 agent에게 필요한 최소 권한만 부여해야 blast radius를 줄일 수 있다. MCP(Model Context Protocol)는 agent와 tool 간 표준 통신 프로토콜로, 이를 통해 다양한 tool을 plug-and-play로 연결할 수 있다. 모든 tool 호출은 로깅되어 누가 어떤 행동을 대신 수행했는지 추적 가능해야 하며, 이는 침해 발생 시 포렌식 분석에 필수적이다. 🛠 핵심 기술 쉽게 이해하기 Amazon Bedrock Bedrock은 여러 파운데이션 모델(FM)을 한곳에 모아 선택해서 쓸 수 있게 해주는 AWS 서비스다. AWS 자체 모델뿐 아니라 서드파티 모델, 직접 만든 모델도 포함할 수 있다. ...

플랫폼 엔지니어링, 이제는 선택이 아니다 플랫폼 엔지니어링은 이미 산업 표준이 되었다. Broadcom(VMware)의 Pankaj Gupta와 Platform Engineering의 Sam Barlien이 공동 집필한 Platform Engineering 2.0 백서에 따르면 대부분의 조직이 이미 내부 개발 플랫폼(IDP)을 도입했고, 다수는 전담 플랫폼 팀까지 운영하고 있다. 문제는 ‘도입 여부’가 아니라 ‘무엇을 위한 플랫폼인가’로 바뀌었다는 점이다. 2022~2023년의 플랫폼 엔지니어링 1.0은 애플리케이션 개발자의 인지 부하(cognitive load)를 줄이고 golden path를 표준화하는 데 초점을 맞췄지만, platformengineering.org의 소개 글이 지적하듯 이 모델은 AI 워크로드, 자율 에이전트, 다중 페르소나 조직을 전혀 상정하지 않은 채 설계됐다. ...

도입은 넘쳤지만 성과는 아직이다 2025년 이후 기업의 생성형 AI 도입률은 사실상 보편적인 수준에 도달했다. McKinsey의 State of AI 2025 보고서에 따르면 조직의 88%가 최소 한 개 기능에서 AI를 사용 중이며, 생성형 AI 사용률은 2023년 33%에서 2025년 79%로 급증했다. 그런데 같은 보고서는 상반된 사실도 함께 전한다. 조직의 3분의 2가 여전히 실험·파일럿 단계에 머물러 있고, 전사적으로 생성형 AI를 스케일업한 기업은 전체의 약 7%에 불과하다. 5% 이상의 EBIT 개선을 보고한 조직도 5.5%에 그친다. 이 간극은 MIT NANDA 이니셔티브가 2025년 발표한 연구에서 더 뚜렷하게 드러난다. 임원 52명 인터뷰와 300개 이상의 실제 배포 사례를 분석한 결과, 생성형 AI 파일럿의 95%가 측정 가능한 손익 효과를 만들어내지 못했다. 원인은 모델 성능이 아니라 조직의 ‘학습 격차(learning gap)’, 즉 AI를 기존 업무 프로세스와 조직 구조에 통합하지 못하는 데 있었다. 흥미롭게도 외부 벤더가 구축한 도구는 사내 자체 개발보다 성공률이 두 배 높았는데, 이는 기술 자체보다 실행과 운영 설계의 중요성을 시사한다. ...

📋 밋업 한눈에 보기 이 세션은 AI 컨설팅 시장의 기회와 진입 방법을 다루는 트레이닝 웨비나로, 발표자는 자신이 운영하는 컨설팅 회사와 인증 프로그램을 소개하며 전략, 구현, 리더십이라는 세 가지 축으로 기업의 AI 도입을 돕는 방법을 설명했다. 기업들이 개별 도구 사용에는 익숙해졌지만 조직 전체의 AI 전환에는 실패하고 있으며, 이 공백을 메우는 것이 컨설턴트의 역할이라는 점을 강조했다. 후반부에는 워크플로우 성숙도를 6단계(전통적 인간 작업, RPA, concrete action, human-in-the-loop, AI intelligent workflow, agentic)로 나누어 설명하고, n8n을 활용한 실제 자동화 사례를 공유했다. 전반적으로 순수 기술 컨퍼런스라기보다는 컨설팅 커리어/비즈니스 트레이닝 성격이 강한 세션이다. ...

왜 지금, ‘로그인’이 아니라 ‘행동’을 봐야 하는가 최근 몇 년 사이 AI는 질문에 답하는 도구에서 API를 호출하고 실제로 자금을 이동시키는 자율 에이전트로 진화했다. Gartner는 2026년까지 전체 엔터프라이즈 애플리케이션의 40%가 특정 업무를 수행하는 AI 에이전트를 탑재할 것으로 전망했는데, 이는 2025년 5% 미만에서 급격히 늘어난 수치다(Gartner Newsroom). 문제는 속도다. AI가 가세한 비즈니스 이메일 사기(BEC)는 자금 이동을 수 초 만에 승인해버리는 구조적 취약점을 파고들며 확산하고 있고, 공격자가 노리는 질문도 더 이상 ‘이 로그인이 정당한가’가 아니라 ‘이 행동이 허용되어야 하는가’로 바뀌었다(CIO). 전통 보안 도구 대부분은 여전히 전자만 검사하도록 설계돼 있다. ...