Enterprise Agent Platform의 Security Implementation1. Goal엔터프라이즈 생성형 AI 플랫폼을 security implementation 관점에서 비교한다.핵심 질문은 다음과 같다.이 플랫폼에서 Agent는 누구의 권한으로 동작하고, 어떤 Tools 또는 MCP를 호출하며, 그 동작은 어떻게 통제되고 감사되는가?Main PointsUser / Agent IdentityPermission DelegationAgent별 Least PrivilegeTool / MCP ControlGuardrailsContent FilteringPrompt Injection DefenseDLP / Sensitive Data DetectionNetwork IsolationAudit / L..

Source: microsoft/multi-agent-reference-architecture Microsoft Multi-Agent Reference Architecture는 robust한 멀티 에이전트 시스템을 설계하기 위한 개념적 가이드다.Microsoft 고객과 함께 구축한 production-scale solution에서 얻은 내용을 바탕으로 한다.특정 기술에 종속되지 않지만, 개별 에이전트 개발보다는 orchestration과 governance에 초점을 둔다.Design PrinciplesSeparation of Concerns각 에이전트는 명확하게 정의된 고유 책임을 가진다. 이를 통해 집중적인 개발과 깊은 도메인 전문성을 확보할 수 있다.Secure by Design인증, 권한 부여, 정..

원본 링크:https://github.com/ybjeon/research-note/blob/main/ai-agent-security/agentic-network.mdGateway Design PatternAgent끼리 통신을 하는 Agentic Network를 만든다고 했을 때, access control이나 auditing을 하기 위해서는 gateway가 필요하다. 겉으로는 Agent들이 서로 직접 대화하는 것처럼 보여도, 실제 구현에서는 중앙 Gateway나 Orchestrator가 메시지를 관리하는 경우가 많다. Agent 간 통신을 중간에서 처리하거나, 연결만 도와주거나, 암호화된 메시지만 전달하는 역할을 할 수도 있다. Gateway가 어디까지 개입하느냐에 따라 네트워크 구조와 보안 모델이 달라..

목표IPI (Indirect Prompt Injection)을 시뮬레이션하여 Tool call에 의해 LLM이 의도하지 않은 행동을 하는 시나리오를 시뮬레이션코드코드 링크: https://github.com/ybjeon/ai-agent-security-toyproject/blob/main/test_planner_ipi.py시나리오: 현재 Agent 모델은 Planner-ExecutorUser > Agent: Read my last text message and read it.Agent: Tool-call 안읽은 메시지 읽기 (악성 문자)Agent > User: Do itAgent: (Tool-call) 악성 행동 실행$ python test_planner_ipi.pyPROMPT_INJECTION_STRI..

참고 자료SafeClawBench: An Operating-System Perspective on Evaluating the Security of Claw-like Agent Systems, https://openreview.net/forum?id=pJJLXWy0MC SafeClawBench: An Operating-System Perspective on Evaluating the...Claw-like AI agents (e.g., OpenClaw) are always-on processes running inside the user's environment with persistent access to credentials, files, tools, and external services, functi..