모델 선택 방법
채팅 헤더의 드롭다운에서 사용할 모델을 선택합니다.기본 모델 설정
자주 사용하는 모델을 기본값으로 설정하면 새 채팅을 시작할 때마다 자동으로 선택됩니다.기본 모델은 사용자별로 설정되며, 여러 모델을 선택한 상태에서 기본값으로 설정하면 멀티 모델이 기본으로 적용됩니다.
멀티 모델 대화
하나의 질문에 여러 모델의 답변을 동시에 받아볼 수 있습니다. 최대 4개 모델까지 동시 선택이 가능합니다.멀티 모델 활용 사례
멀티 모델 활용 사례
- 답변 품질 비교: 동일한 질문으로 여러 모델의 성능 비교
- 교차 검증: 중요한 결정 전 여러 모델의 의견 확인
- 최적 응답 선택: 모델별 강점을 활용한 최적 답변 조합
- 비용 대비 성능 평가: 저비용 모델과 고성능 모델의 결과 비교
멀티 모델 기능은 관리자 설정에 따라 일반 사용자에게 제한될 수 있습니다.
권한이 없는 경우 ”+” 버튼이 표시되지 않습니다.
모델 파라미터 조정
채팅 우측의 Chat Controls 패널에서 모델 파라미터를 대화 단위로 조정할 수 있습니다. 헤더 우측의 슬라이더 아이콘을 클릭하여 패널을 열 수 있습니다.시스템 프롬프트
대화 전체에 적용할 시스템 프롬프트를 설정할 수 있습니다.주요 파라미터
Temperature
Temperature
모델 응답의 창의성(무작위성)을 조절합니다.
범위:
| 값 | 특성 | 적합한 용도 |
|---|---|---|
| 0.0 ~ 0.3 | 결정적, 일관된 응답 | 코드 생성, 사실 확인, 데이터 추출 |
| 0.4 ~ 0.7 | 균형잡힌 응답 (기본값 0.8) | 일반 대화, 요약, 번역 |
| 0.8 ~ 2.0 | 창의적, 다양한 응답 | 브레인스토밍, 창작, 아이디어 생성 |
0.0 ~ 2.0Top P (Nucleus Sampling)
Top P (Nucleus Sampling)
모델이 다음 토큰을 선택할 때 고려하는 확률 범위를 제한합니다.
- 0.1: 상위 10% 확률의 토큰만 고려 — 매우 집중적
- 0.9: 상위 90% 확률의 토큰 고려 — 다양한 표현
- 일반적으로 Temperature와 함께 사용하며, 둘 중 하나만 조정하는 것을 권장합니다.
Max Tokens
Max Tokens
AI 응답의 최대 길이를 토큰 단위로 제한합니다. 설정하지 않으면 모델의 기본 최대값이 적용됩니다.
Frequency Penalty
Frequency Penalty
이미 사용된 토큰이 다시 사용되는 것을 억제합니다. 값이 높을수록 반복적인 표현이 줄어듭니다.범위:
-2.0 ~ 2.0 (기본값: 0)Seed
Seed
고정 seed를 설정하면 동일한 프롬프트에 대해 (거의) 동일한 응답을 생성합니다.
재현 가능한 결과가 필요할 때 유용합니다.
Reasoning Effort
Reasoning Effort
추론 모델(reasoning model)에서만 적용됩니다. 추론에 투입하는 노력 수준을 조절합니다.
low,medium,high등의 값을 사용합니다.- 모든 모델에서 지원되지는 않습니다.
Stop Sequence
Stop Sequence
지정된 문자열이 나타나면 모델이 응답 생성을 중단합니다.
특정 형식의 출력을 제어할 때 사용합니다.
기타 고급 파라미터
| 파라미터 | 설명 |
|---|---|
| Stream Chat Response | 실시간 스트리밍 응답 on/off |
| Function Calling | Tool calling 모드 (Default / Native) |
| Top K | 상위 K개 토큰만 샘플링 대상으로 고려 |
| Min P | 최소 확률 임계값 이상의 토큰만 고려 |
| Repeat Last N | 반복 방지를 위해 확인하는 이전 토큰 수 |
| Mirostat | 응답 복잡도(perplexity) 자동 조절 알고리즘 |
| Num Ctx | Context window 크기 (토큰 수) |
| Logit Bias | 특정 토큰의 출현 확률을 직접 조정 (-100 ~ 100) |
제어 패널은 관리자 또는 채팅 제어 권한(
permissions.chat.controls)이 있는 사용자에게만 표시됩니다.모델 Capability 표시
에이전트 모델은 각 capability(웹 검색, 이미지 생성, 코드 실행)의 활성화 상태를 개별적으로 관리합니다.| 상태 | 설명 |
|---|---|
| on | 기본 활성화 상태 |
| user | 사용자가 수동으로 활성화 가능 (기본 비활성) |
| off | 비활성화 (입력 메뉴에 표시되지 않음) |
base_model_id가 없는)은 관리자가 시스템 설정에서 활성화한 모든 기능이 표시됩니다.