Exemble  —  사내 문서 기반 LLM 워크플로우 환경 설계하기

Exemble은 기업 내 데이터와 자체 모델로 구성된 에이전트들을 워크플로우로 구성하여, 채팅을 통해 다양한 업무를 수행하는 온프레미스 AI 플랫폼입니다. 사용자용 채팅 · 워크플로우부터 관리자용 운영 · 권한 · 모니터링까지 핵심 경험들을 설계하고, 초기 서비스 기획부터 팀의 단독 디자이너로서 프로젝트를 주도했습니다.

Exemble은 일반적인 LLM 채팅 서비스와 달리, 기업 내부의 데이터와 외부 API, 그리고 이를 구성하는 모델과 권한 체계를 함께 다뤄야 하는 제품입니다. 사용자는 일반적인 질문을 넘어 사내 문서를 바탕으로 답변을 생성하거나 특정 워크플로우를 실행해 업무 결과물을 만들어 낼 수 있고, 관리자 입장에서는 이 과정을 운영하고 통제할 수 있어야 했습니다.

Exemble은 크게 채팅 · 워크플로우를 실행하는 사용자 화면과 이에 필요한 다양한 요소들을 관리하고 운영하는 관리자 화면으로 나뉩니다. 각 화면의 목적에 따라 레이아웃과 화면의 복잡도 등을 다르게 하여 사용자 화면은 매끄러운 작업 흐름을, 관리자 화면은 리소스를 손쉽게 관리할 수 있도록 설계했습니다.

워크플로우는 서비스의 핵심 경험으로, 사용자가 에이전트 · API 도구 · 조건 분기 등을 조합해 실제 업무를 직접 구성할 수 있습니다. 각 노드들을 연결해 다양한 업무 흐름을 시각화 할 수 있고, 단순한 다이어그램이 아닌 실행 가능한 구조로서 상태 표현과 테스트/디버깅이 가능하도록 설계했습니다.

업무를 설계할 때에는 노드 간 관계성과 맥락이 중요하기 때문에, 모든 노드 편집을 하나의 작업 공간에서 가능하도록 구현하여 사용자가 사고 흐름을 유지할 수 있도록 했습니다. 또 편집 인터랙션, 단축키 기반 조작, 자동 정렬과 임시 저장 등 다양한 편이성을 제공함으로써 워크플로우의 지속적인 수정과 검증이 자연스럽게 이루어지는 작업 환경을 구축했습니다.

서비스의 또 다른 핵심 경험인 사용자 채팅은 단순한 질의응답을 넘어, 질문과 워크플로우에 따라 응답 결과가 만들어지고 특정 작업이 실행됩니다. 사용자가 그 과정을 순차적으로 확인하며 AI의 판단과 작업 결과를 자연스럽게 신뢰할 수 있도록 구성했고, 만약 결과에 문제가 있다면 원인을 빠르게 발견하고 해당 부분을 개선할 수도 있습니다.

채팅 결과에 활용된 근거 자료를 함께 제공함으로써, 사용자가 응답의 출처와 맥락을 직접 확인할 수 있도록 설계했습니다. 이 근거 자료는 질문 시에 제공한 파일뿐만 아니라 미리 학습된 사내 데이터를 기반으로 제공되며, 사용자에게 차별화된 가치를 제공하고 결과에 대한 신뢰를 높일 수 있는 중요한 경험이 됩니다.

에이전트가 활용하는 사내 데이터는 DB를 연결하고 문서를 업로드하는 등 다양한 경로에서 여러가지 형태로 수집됩니다. 각 상황에 맞게 데이터 탐색 방식을 제공하고, 데이터가 변경될 경우 자동으로 재벡터화할 수 있는 옵션 등을 제공하여 사용자가 손쉽게 데이터 기반을 구축할 수 있도록 구성했습니다.

서비스의 핵심 구성 요소 중 채팅 모델은 현재 상태, 리소스 사용량, 변경 이력 등 다양한 지표들을 통해 관리됩니다. 또 각 모델은 성능 개선을 위해 파인튜닝 과정을 거치게 되는데, 이러한 정보들을 통합적으로 제공함으로써 단순한 서비스 관리가 아닌 지속적인 성능 개선이 가능한 운영 환경을 구축했습니다.

전체 워크플로우부터 개별 워크플로우, 리소스 단위까지 대시보드의 구성을 점진적으로 탐색할 수 있도록 배치하고, 상태에 따른 색상 표현을 적용했습니다. 이를 통해 관리자가 서비스 운영 과정에서 발생하는 문제를 빠르게 인지하고, 세부 원인까지 자연스럽게 추적할 수 있는 흐름을 설계했습니다.

워크플로우 연결 흐름, 답변 생성 중 로딩 표현, 채팅 세션 전환 방식 등 서비스 곳곳에 다양한 인터랙션과 애니메이션을 추가했습니다. 이런 효과는 단순한 시각적 장치를 넘어 AI 특유의 생동감을 불어넣고, 사용자가 엔터프라이즈 서비스의 복잡한 구조를 보다 쉽고 자연스럽게 사용할 수 있도록 했습니다.

Exemble은 LLM 기반의 복잡하고 추상적인 개념을 비교적 짧은 기간 안에 실제 서비스로 구체화한 프로젝트입니다. 모든 팀원이 개발자로 구성된 환경에서 긴밀한 커뮤니케이션을 바탕으로 기술적 제약과 구현 구조를 함께 조율했고, 서비스 전반에 디자인 시스템을 적용하여 일관성을 유지하면서도 이후 확장 가능한 구조로 설계했습니다. 또한 기획자이자 디자이너로서 서비스의 방향성과 설계 전략까지 전반적인 과정에 참여하며, 프로젝트 전체를 주도적으로 리드하는 경험을 쌓을 수 있었습니다.