CASE 01 · STARTING POINT

입력·조회 중심의 ERP를,
업무를 돕는 AI 제품으로 확장했습니다.

실제 ERP 업무에서 반복되는 불편을 발견하고, Agent·Assist·RAG·분석 기능으로 제품 범위를 확장했습니다.

ROLEAI Application / Full-stack Engineer
BUILTAgent Runtime · Structured Interaction · RAG · SSE · Operation
PRODUCT SCOPEAgent · Assist · Library · Analysis · Admin
ERP 업무입력 · 조회 · 판단
AI PRODUCT맥락 이해 · 정보 활용 · 실행 지원
  1. 01AGENT

    현장 경비 업무 실행

    자연어 요청을 현장 경비 조회와 업무 실행으로 연결해, 대화가 업무 완료로 이어지도록 설계했습니다.

  2. 02ASSIST

    ERP 화면 맥락 지원

    특정 Agent를 넘어, 사용자가 보고 있는 ERP 화면의 맥락을 이해해 필요한 도움을 제공합니다.

  3. 03LIBRARY

    규정 · 매뉴얼 활용

    매뉴얼과 사내 규정을 업무 중 필요한 근거로 찾아 활용할 수 있도록 Library로 연결했습니다.

  4. 04ANALYSIS

    현재 페이지 심층 분석

    현재 페이지의 데이터와 맥락을 바탕으로, 사용자가 더 깊게 이해하고 판단하도록 분석을 제공합니다.

하나의 AI 기능에서 시작해, 업무 실행·맥락 이해·지식 활용·데이터 분석으로 제품 범위를 확장했습니다.

PRODUCT OVERVIEW

챗봇을 만든 것이 아니라,
업무를 끝까지 처리하는 AI 제품으로 키웠습니다.

문서 검색과 대화형 기능에서 출발해,
ERP Tool 실행 · 권한 검증 · 운영 구조까지 확장했습니다.

구현한 현장경비 Agent의 요청, 권한 검증, 데이터 조회 흐름을 기반으로 재구성한 AI 시각화
보안상 실제 ERP 화면 대신, 구현한 기능과 업무 흐름을 기반으로 재구성한 AI 시각화

기능 확장 과정

ERP의 화면·데이터·권한을,
AI 실행 흐름에 연결했습니다.

ERP화면 · 데이터 · 권한 · 업무 API
연결되지 않은 경계맥락 · 권한 · 실행 · 검증
LLM자연어 이해 · 추론 · 생성

기능이 늘어난 순서가 아니라, 실제 구현과 검증에서 드러난 제약을 해결하며 구조를 확장했습니다.

  1. Agent

    현장 경비 업무 처리
    → 자연어 요청을 조회·실행으로 연결

  2. Assist

    현재 ERP 화면의 맥락
    → 필요한 도움과 다음 행동 지원

  3. Library

    매뉴얼 · 사내 규정 활용
    → 업무 근거를 검색하고 확인

  4. Analysis

    현재 페이지의 데이터 분석
    → 업무 맥락을 더 깊게 이해

  5. Admin / Operation

    권한 · 비용 · 품질 관리
    → 운영 관측과 개선 판단

AI 적용 범위 자연어 이해 · 도구 선택 · 설명 / 서버 책임 권한 · 계산 · 상태 변경 · 실행

현재의 제품

사용자가 보는 AI와
실제 업무 실행 사이를 연결했습니다.

사용자 제품

AGENT

업무를 실행

현장경비 · 증명서 · 인사 · 월마감

ASSIST

현재 맥락을 이해

화면 Context → 검색·분석·일반 질의 라우팅

OPERATION

운영을 관리

Agent · Prompt · Model · Usage / Cost

AI PRODUCT RUNTIME

SPRING AI ORCHESTRATORIntent · Goal · PermissionTool · RAG · AnalysisLibrary / RAG — 문서 권한 · Citation · 원문 확인Analysis — 자연어 의도 → 결정적 서버 계산

업무 시스템

APPROVED BUSINESS API권한 안에서 검증된 업무 실행
ERP / DATA업무 데이터와 상태 변경

Assist의 ERP 화면 Context는 요청 단위로 분리해 다른 대화에 섞이지 않도록 처리했습니다.

추론은 AI에게, 결정은 서버에게.

실제 업무 흐름 · 설계를 바꾼 실패

“사용자가 이미 선택한 값을
왜 AI가 다시 판단하고 있지?”

“지난달 현장 경비를 보여줘”

  1. 목표 · 날짜 해석
  2. 조회 가능한 현장 확인
  3. 현장 선택이 단계에서 선택값 재해석 오류 발견 →
  4. 권한 · 대상 · 상태 검증
  5. 승인된 ERP Tool 실행
  6. 서버 집계 · 구조화된 결과

선택값이 다시 추론 대상이 된 문제

이전

  1. A 현장 선택
  2. 자연어 메시지 재생성
  3. LLM이 현장명을 재해석
  4. Target / Permission 오류 가능

개선 후

  1. A 현장 선택
  2. { action: "selectSite", targetId: "..." }
  3. 서버에서 Room · Target · 권한 검증
  4. 기존 Goal 이어서 실행

이미 결정된 행동은 구조화된 interaction과 서버 검증으로 확정했습니다.

AI 정확도의 문제를 Prompt에서 멈추지 않고, UX · API 계약 · 상태 흐름까지 추적했습니다.

기능 확장 중 확인한 제약

기능 범위가 넓어질수록,
답변 품질 외의 요구가 늘어났습니다.

권한, 계산, 요청 종료, 운영 관측은 기능을 확장하면서 새롭게 드러난 요구였습니다.

01

PERMISSION GATE

확인한 제약권한이 없는 Tool이나 대상이
실행되지 않도록 서버 검증이 필요했습니다.
→
대응실행 직전 서버 권한을
다시 검증했습니다.
구현 근거 Agent authz · Room ownership · 실행 직전 권한 검증
02

DETERMINISTIC EXECUTION

확인한 제약LLM이 계산과 업무 결정을 맡으면
결과가 흔들렸습니다.
→
대응집계·계산·상태 변경을
서버 로직으로 분리했습니다.
구현 근거 CalcEngine · 결정적 서버 계산 · 동일 조건에 동일 결과
03

REQUEST LIFECYCLE

확인한 제약연결이 종료된 뒤에도
비동기 작업이 남을 수 있었습니다.
→
대응연결 종료 시 비동기 작업까지
취소하도록 처리했습니다.
구현 근거 SSE disconnect · → LLM / ERP task cancel
04

OBSERVABILITY

확인한 제약문제가 생겨도 원인과 비용을
확인하기 어려웠습니다.
→
대응Call·Token·Cost·Feedback을
개선 판단을 위한 운영 신호로 기록했습니다.
구현 근거 Call Log · Token · Cost · Feedback

관측 → 개선 판단 실패 흐름과 호출 비용을 추적할 수 있도록 로그·비용·피드백을 연결했습니다.

설계 원칙

그래서 세 가지 제품 설계 원칙이 남았습니다.

01

AI는
의도를 이해한다.

02

서버는
결정을 확정한다.

03

제품은
운영하며 완성된다.

AI가 틀려도 제품은 안전하게 동작하도록.

NEXT PROJECT

Gifo →