Source: https://owasp.org/www-project-top-10-for-large-language-model-applications/Version: 1.1Overview이 문서는 LLM(Large Language Model) 애플리케이션의 가장 중요한 보안 취약점을 정리한 OWASP Top 10 for LLM Applications 프로젝트 페이지다. 이 프로젝트는 이후 LLM, agentic AI 시스템, 기타 generative AI 기술을 포괄하는 OWASP GenAI Security Project로 확장되었다.Key Points기존 Top 10 프로젝트는 LLM, 에이전틱 AI, AI 기반 앱의 보안 및 안전 리스크를 다루는 글로벌 오픈소스 이니셔티브인 OWASP GenAI Sec..

Source: https://aivss.owasp.org/assets/publications/AIVSS%20Scoring%20System%20For%20OWASP%20Agentic%20AI%20Core%20Security%20Risks%20v0.8.pdfOverviewOWASP AIVSS(Agentic AI Vulnerability Scoring System), AIUC-1, OWASP AI Exchange, OWASP Citizen Development Top 10가 공동 발행한 v0.8 리포트. Agentic AI 시스템의 핵심 보안 위험 10가지를 정의하는 Part 1과, 이 위험들을 정량적으로 채점하는 AIVSS-Agentic scoring methodology를 다루는 Part 2로 구성.Key..

Source: https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/Version: 2026 (December 2025), OWASP Gen AI Security Project - Agentic Security InitiativeOverviewAgentic AI 시스템을 위한 첫 공식 OWASP 프레임워크로, 2025년 12월 발표100명 이상의 업계 전문가가 참여한 peer-reviewed 문서자율적으로 계획하고 tool을 사용하며 multi-step workflow를 실행하는 AI agent를 대상으로 한 10가지 보안 threat 정의NIST, Microsoft, NVIDIA 등이 endorse Threats ..

Agent를 내 클라우드 리소스 접근을 허용하도록 OAuth token을 맡기자니 뭔가 깨름칙하다. 예전부터 어떤 프로그램에 내 OAuth Token을 embed하는 것은 아무 문제 없이 여겼지만 AI Agent는 자율성이 높아지면서 어떤 결과를 초래할지 몰라 쉽게 embedding 하기 어렵다. Token을 위임하냐 안하냐에 따라서 구조가 2LO/3LO (2,3 Legged Oauth)라 부르는데 Term에 대한 정의와 token을 어떻게 관리해야 하는지에 대한 가이드라인 동향을 알아본다.1. leg = 참여 당사자3LO와 2LO는 인증에 참여하는 당사자(party)의 수를 가리키는 관습적인 표현에 가깝다.OAuth 흐름의 "leg"는 인증에 참여하는 주체(party) 하나를 의미한다. 다리 개수가 곧..

1) Fable 5 출시 - 26.06.09https://www.anthropic.com/news/claude-fable-5-mythos-5요약Claude Fable 5는 Anthropic이 2026년 6월 9일 발표한 5세대 Claude 모델. Anthropic은 “가장 야심찬 작업”을 위한 모델이라고 설명하며, 며칠 단위의 복잡하고 비동기적인 작업을 지속할 수 있다고 소개핵심은 장기 실행 agent 작업. Claude Code나 Claude Managed Agents 같은 agent harness에서 여러 단계로 계획하고, sub-agent에 위임하고, 스스로 결과를 점검하는 방식의 작업을 겨냥주요 사용처는 coding, enterprise workflow, vision. 대규모 migration, ..

Enterprise Agent Platform의 Security Implementation1. Goal엔터프라이즈 생성형 AI 플랫폼을 security implementation 관점에서 비교한다.핵심 질문은 다음과 같다.이 플랫폼에서 Agent는 누구의 권한으로 동작하고, 어떤 Tools 또는 MCP를 호출하며, 그 동작은 어떻게 통제되고 감사되는가?Main PointsUser / Agent IdentityPermission DelegationAgent별 Least PrivilegeTool / MCP ControlGuardrailsContent FilteringPrompt Injection DefenseDLP / Sensitive Data DetectionNetwork IsolationAudit / L..

Source: microsoft/multi-agent-reference-architecture Microsoft Multi-Agent Reference Architecture는 robust한 멀티 에이전트 시스템을 설계하기 위한 개념적 가이드다.Microsoft 고객과 함께 구축한 production-scale solution에서 얻은 내용을 바탕으로 한다.특정 기술에 종속되지 않지만, 개별 에이전트 개발보다는 orchestration과 governance에 초점을 둔다.Design PrinciplesSeparation of Concerns각 에이전트는 명확하게 정의된 고유 책임을 가진다. 이를 통해 집중적인 개발과 깊은 도메인 전문성을 확보할 수 있다.Secure by Design인증, 권한 부여, 정..

원본 링크:https://github.com/ybjeon/research-note/blob/main/ai-agent-security/agentic-network.mdGateway Design PatternAgent끼리 통신을 하는 Agentic Network를 만든다고 했을 때, access control이나 auditing을 하기 위해서는 gateway가 필요하다. 겉으로는 Agent들이 서로 직접 대화하는 것처럼 보여도, 실제 구현에서는 중앙 Gateway나 Orchestrator가 메시지를 관리하는 경우가 많다. Agent 간 통신을 중간에서 처리하거나, 연결만 도와주거나, 암호화된 메시지만 전달하는 역할을 할 수도 있다. Gateway가 어디까지 개입하느냐에 따라 네트워크 구조와 보안 모델이 달라..

목표IPI (Indirect Prompt Injection)을 시뮬레이션하여 Tool call에 의해 LLM이 의도하지 않은 행동을 하는 시나리오를 시뮬레이션코드코드 링크: https://github.com/ybjeon/ai-agent-security-toyproject/blob/main/test_planner_ipi.py시나리오: 현재 Agent 모델은 Planner-ExecutorUser > Agent: Read my last text message and read it.Agent: Tool-call 안읽은 메시지 읽기 (악성 문자)Agent > User: Do itAgent: (Tool-call) 악성 행동 실행$ python test_planner_ipi.pyPROMPT_INJECTION_STRI..

참고 자료SafeClawBench: An Operating-System Perspective on Evaluating the Security of Claw-like Agent Systems, https://openreview.net/forum?id=pJJLXWy0MC SafeClawBench: An Operating-System Perspective on Evaluating the...Claw-like AI agents (e.g., OpenClaw) are always-on processes running inside the user's environment with persistent access to credentials, files, tools, and external services, functi..