기술 아키텍처

OmnicareAI는 로컬 환경에서 완전히 동작하는 AI 엔진을 기반으로 보안과 성능을 동시에 달성합니다.

시스템 아키텍처

OmnicareAI는 Electron 기반 데스크탑 앱에서 FastAPI 백엔드, RAG 엔진, LLM까지 모든 구성 요소가 로컬에서 동작합니다.

Electron App사용자 인터페이스 / 데스크탑 애플리케이션
FastAPI BackendAPI 서버 / 비즈니스 로직 처리
RAG Engine (Qdrant)벡터 DB 기반 검색증강생성 시스템
LLM (llama.cpp)GGUF 포맷 로컬 대규모 언어 모델

LLM + RAG 엔진

RAG (Retrieval-Augmented Generation)

장비 매뉴얼, 기술 문서, 장애 이력을 벡터화하여 Qdrant DB에 저장하고, 사용자 질의 시 관련 문서를 검색하여 LLM에 컨텍스트로 제공합니다. 이를 통해 환각(Hallucination)을 최소화하고 정확한 답변을 생성합니다.

LLM (Large Language Model)

llama.cpp 기반으로 GGUF 포맷의 경량 모델을 로컬에서 구동합니다. GPU 없이도 CPU만으로 동작 가능하며, Enterprise 환경에서는 CUDA GPU 가속을 통해 고속 추론이 가능합니다.

오프라인 동작 방식 (Air-Gapped)

완전 로컬 처리

모든 데이터 처리가 사용자의 로컬 머신에서 이루어집니다. 외부 API 호출이 없으므로 인터넷이 차단된 환경에서도 완벽하게 동작합니다.

GGUF 모델 배포

사전 양자화된 GGUF 포맷 모델을 USB, 내부망 등으로 배포합니다. 모델 파일만 있으면 어떤 환경에서든 즉시 AI를 구동할 수 있습니다.

오프라인 RAG

Qdrant 벡터 DB가 로컬에서 동작하여 문서 검색, 유사도 분석 등 RAG의 모든 기능을 오프라인으로 수행합니다.

보안 및 격리

데이터 외부 전송 차단

모든 데이터가 로컬에서 처리되므로 외부 서버로의 데이터 전송이 원천적으로 차단됩니다.

네트워크 격리 지원

물리적으로 격리된 폐쇄망 환경에서 동작하도록 설계되어 공공기관, 국방, 금융 등의 보안 요건을 충족합니다.

감사 로그

모든 AI 질의, 응답, 사용자 행동이 로컬 감사 로그에 기록되어 보안 감사 및 컴플라이언스 대응이 가능합니다.