메인 콘텐츠로 건너뛰기
파이프라인은 LLM 요청/응답 처리 과정에 커스텀 로직을 삽입하는 플러그인 시스템입니다. Python 코드(.py)를 파이프라인 서버에 배포하여 메시지 전처리, 후처리, 커스텀 모델 등을 구현할 수 있습니다. 관리자 > 설정 > 파이프라인 탭에서 설정합니다.

파이프라인이란?

파이프라인은 두 가지 타입으로 나뉩니다.
타입역할모델 목록에 표시
Filter요청 전처리(inlet) + 응답 후처리(outlet)X
Pipe커스텀 모델처럼 동작O

Filter 파이프라인 동작 흐름

  • inlet: 메시지가 LLM에 전달되기 전에 가공 (예: 프롬프트 변환, 데이터 추가)
  • outlet: LLM 응답이 사용자에게 전달되기 전에 가공 (예: 포맷 변환, 필터링)
  • 여러 filter가 있으면 priority 순서로 실행됩니다
  • pipelines: ["*"]이면 모든 모델에 적용, 특정 모델 ID 목록이면 해당 모델에만 적용

파이프라인 서버 연결

파이프라인 서버는 이 탭에서 별도로 URL을 입력하지 않습니다. 연결(Connections) 탭에서 OpenAI 호환 서버로 추가된 항목 중, 파이프라인을 제공하는 서버가 자동으로 감지되어 드롭다운에 표시됩니다.
파이프라인 서버를 사용하려면 먼저 관리자 > 설정 > 연결 탭에서 해당 서버를 OpenAI 호환 API로 등록해야 합니다.

파이프라인 설치

1

파이프라인 서버 선택

드롭다운에서 파이프라인 서버를 선택합니다.
2

파이프라인 추가

두 가지 방법 중 선택합니다:
방법설명
GitHub URLGitHub Raw URL을 입력하여 서버에서 직접 다운로드
파일 업로드로컬 .py 파일을 직접 업로드
3

Valves 설정

설치된 파이프라인을 선택하면 해당 파이프라인의 설정 파라미터(Valves) 편집 폼이 표시됩니다.
파이프라인은 서버에서 임의 코드가 실행되는 플러그인입니다. 신뢰할 수 없는 소스의 파이프라인을 설치하지 마세요.

Valves 설정

각 파이프라인은 코드에서 정의한 고유한 설정 항목(Valves)을 가집니다. 파이프라인을 선택하면 해당 설정 폼이 자동으로 생성됩니다.
Valve 타입UI 표시
Boolean토글 스위치
Enum (선택지)드롭다운
Array (목록)콤마 구분 텍스트 입력
그 외 (문자열, 숫자)텍스트 입력
각 Valve는 None (기본값 사용) 또는 Custom (직접 설정) 토글로 값 설정 여부를 제어합니다.
Valves 변경 후 저장하면 해당 파이프라인에 즉시 반영됩니다. Pipe 타입 파이프라인의 경우 모델 목록도 자동 갱신됩니다.

관련 페이지

연결 설정

파이프라인 서버를 OpenAI 호환 API로 등록

도구 서버

에이전트가 외부 API를 호출하는 도구 서버 설정