로직맘 AI연구소

AI 에이전트와 챗봇 차이 실행 권한 기준 채팅 모양보다 연결된 도구와 실제 행동, 상태 유지와 승인 단계를 기준으로 두 시스템을 구분합니다. Microsoft 에이전트 공식 안내 목차 대화 화면만으로 구분하지 않기 답변형 챗봇 범위 확인하기 도구 연결형 에이전트 이해하기 권한과 실제 행동 비교하기 상태·워크플로와 승인 점검하기 사용 전 안전 기준 적용하기 자주 묻는 질문 대화 화면만으로 구분하지 않기 에이전트의 화면은 채팅, 프롬프트, 버튼이 있는 일반적인 대화 인터페이스일 수 있습니다. 같은 채팅창이라도 한 시스템은 답변만 만들고, 다른 시스템은 일정 생성이나 메시지 발송 같은 기술을 호출할 수 있습니다. 따라서 ‘채팅하듯 쓴다’는 사실은 자율성이나 실행 능력을 알려주지 않습니다. 제품 설명의 연결 앱, 기술, 작업, 트리거, 승인 및 활동 기록 메뉴를 확인해야 실제 범위를 알 수 있습니다. 답변형 챗봇 범위 확인하기 답변형 대화 도우미는 사용자의 질문을 해석해 설명, 요약, 초안이나 아이디어를 제공하는 데 중심이 있습니다. 사용자가 결과를 복사해 직접 메일을 보내거나 파일을 수정한다면 실행 주체는 여전히 사용자입니다. 하지만 답변형이라는 이유만으로 항상 안전한 것은 아닙니다. 민감정보를 입력하면 데이터 처리 문제가 생길 수 있고, 잘못된 답을 그대로 실행하면 피해가 발생할 수 있습니다. 읽는 데이터 범위와 저장 설정, 결과 검증은 여전히 필요합니다. 답변형 도우미는 초안을 제시할 수 있지만 실제 전송이나 변경은 사용자가 별도로 수행하는 흐름이에요. 도구 연결형 에이전트 이해하기 에이전트는 만든 사람이 정한 지시와 목표, 내부·외부 지식, 기술·도구를 함께 사용할 수 있습니다. 오케스트레이션 계층은 사용자 요청을 해석하고 어떤 지식과 기술을 선택할지 조정합니다. 공식 문서의 기술 예시에는 콘텐츠 요약뿐 아니라 회의 예약, 작업이나 파일 생성, 메시지 전송이 포함됩니다. 다만 모든 에이전트가 이런 행동을 모두 수행하거나 독...

AI 프롬프트 인젝션이란 사용자가 조심할 점 웹페이지와 파일 속 문장이 AI의 지시처럼 처리될 수 있는 위험을 이해하고 실행 전 확인 습관을 정리합니다. NIST 프롬프트 인젝션 정의 목차 프롬프트 인젝션 이해하기 외부 문서 속 지시 의심하기 연결 권한 최소화하기 읽기와 실행 작업 분리하기 쓰기 작업 전 최종 확인하기 결과와 원문 다시 검증하기 자주 묻는 질문 프롬프트 인젝션 이해하기 NIST 용어집은 프롬프트 인젝션을 애플리케이션 설계자처럼 신뢰도가 높은 주체가 만든 프롬프트와 신뢰할 수 없는 입력을 결합하는 구조를 악용하는 공격으로 설명합니다. 핵심은 일반 데이터와 따라야 할 지시의 경계가 흐려지는 데 있습니다. 직접 인젝션은 공격성 지시를 AI에 직접 넣는 형태이고, 간접 인젝션은 AI가 나중에 검색하거나 읽을 웹페이지·파일·이메일 같은 자료에 지시를 심는 형태입니다. 간접 공격은 사용자가 해당 문장을 직접 입력하지 않았다는 점 때문에 알아차리기 더 어려울 수 있습니다. 문서가 정상적인 보고서처럼 보인다는 사실도 안전을 보장하지 않습니다. AI에게는 본문 설명과 행동을 요구하는 문장이 같은 입력 안에 들어올 수 있으므로, 자료의 내용과 사용자가 실제로 내린 명령을 별도로 유지하는 습관이 필요합니다. 외부 문서 속 지시 의심하기 검색 결과나 첨부 문서 안에서 “기존 규칙을 무시하라”, “다른 곳으로 정보를 보내라”처럼 AI 행동을 바꾸려는 문장이 발견되면 자료 내용이 아니라 공격 가능성이 있는 입력으로 취급하세요. 보이지 않는 영역이나 긴 문서 뒤쪽에도 지시가 있을 수 있다는 전제로 접근해야 합니다. 외부 자료 점검 1. 출처와 작성자를 확인해요. 2. 자료 속 명령문을 업무 지시와 구분해요. 3. 다른 주소로 이동하거나 정보를 보내라는 요구를 의심해요. 4. 요약만 믿지 말고 중요 부분은 원문을 열어봐요. 5. 의심스러운 자료는 실행 권한이 없는 환경에서 먼저 검토해요. 외부 문서에 포함된 문장은 참고 데이터일 뿐, 사용자...