도움말
문의하기
aisight 도움말›관리자 가이드›사용 정책›토큰 한도 설정
화면 안내

토큰 한도 설정

한 사람이 일정 시간 안에 쓸 수 있는 LLM 토큰의 상한을 정합니다. 전역으로 켜면 기본 한도가 모두에게 적용되고, 개별 정책으로 특정 사용자·소속·역할을 예외로 둘 수 있습니다.

이 페이지 목차

위치: 관리자 > 토큰 한도 > 한도 설정 (/admin/token-limits)

화면 구성

화면은 위에서부터 전역 활성화와 기본 한도, 개별 정책, 현재 제한 걸린 사용자 카드로 이루어져 있습니다. 사용량을 보는 화면은 토큰 사용량 모니터링입니다.

  1. 1
    전역 활성화 기능 전체를 켜고 끄는 스위치입니다. 켜기 전에 토큰 사용량 모니터링에서 현재 사용량을 확인하세요.
  2. 2
    기본 한도 (정책이 없는 모든 사용자) 입력한 뒤 저장을 눌러야 반영됩니다.
  3. 3
    정책 추가 기본 한도와 다르게 적용할 대상이 있을 때 씁니다.
  4. 4
    걸린 창 주간 (기본값)은 기본 한도의 주간 한도에 걸렸다는 뜻입니다.
  5. 5
    사용량 한도를 얼마나 넘겼는지 확인합니다.
  6. 6
    제한 해제 한도에 걸린 사용자의 제한을 바로 풀어 줄 때 씁니다.

제한 발생·해제는 모두 감사 로그에 기록되며, 표 아래 링크에서 감사 로그의 전체 이력을 볼 수 있습니다.

전역 활성화

켜면 전 사용자에게 한도가 적용됩니다

전역 활성화를 켜면 기본 한도가 정책이 없는 모든 사용자에게 걸립니다. 켜기 전에 토큰 사용량 모니터링에서 현재 사용량이 기본 한도를 얼마나 넘는지 먼저 확인하세요.

개별 정책

적용 우선순위
순위 대상
1 사용자
2 소속 (가까운 상위 소속의 정책이 우선)
3 역할
4 기본값

같은 우선순위에 여러 정책이 걸리면 하나라도 허용이면 허용됩니다. 특정 엔드포인트 정책이 있는 대상은 그 엔드포인트 사용분이 통합 한도 계산에서 제외됩니다. 그래서 "특정 엔드포인트 무제한 + 통합 한도" 조합이 모순 없이 동작합니다.

정책 추가 창

정책 추가를 누르면 창이 열립니다. 대상 × 엔드포인트 조합당 정책은 1개만 만들 수 있습니다.

  1. 1
    대상 유형 · 대상 소속은 이름이나 코드로 검색하고, 역할은 드롭다운에서 고릅니다.
  2. 2
    LLM 엔드포인트 특정 엔드포인트만 따로 제한할 때 그 엔드포인트를 고릅니다. 선택지는 "엔드포인트이름 — 모델명" 형태로 나옵니다.
  3. 3
    모드 한도 없이 쓰게 할 대상은 무제한으로 둡니다.
  4. 4
    롤링 윈도우 한도 적용일 때 선택합니다. 시간은 5시간(기본) / 8시간 / 24시간 / 직접 입력에서 고릅니다.
  5. 5
    주간(7일) 한도 한도 적용일 때 선택합니다.
엔드포인트 정책은 통합 한도와 겹치지 않습니다

특정 엔드포인트 정책이 있는 대상은 그 엔드포인트의 토큰이 통합 한도에서 빠집니다(예: 그 엔드포인트만 무제한). 엔드포인트는 LLM 엔드포인트에서 등록한 것이 선택지로 나옵니다.

현재 제한 걸린 사용자

한도에 걸린 사용자는 화면 아래 표(④~⑥)에 나옵니다.

제한 해제는 해당 사용자의 제한을 직접 푸는 버튼입니다

제한 해제를 누르면 그 사용자의 제한이 해제됩니다. 해제도 감사 로그에 남습니다.

한도 설정하기

1. 현재 사용량을 확인합니다

토큰 사용량 모니터링에서 사용자별 롤링·주간 사용량을 봅니다.

2. 기본 한도를 입력하고 저장합니다

롤링 시간·토큰 수와 주간 토큰 수를 입력한 뒤 저장을 누릅니다.

3. 필요하면 개별 정책을 만듭니다

정책 추가에서 대상, 엔드포인트, 모드를 정하고 생성을 누릅니다.

4. 전역 활성화를 켭니다

전역 활성화를 체크합니다. 켜면 이후 새 채팅 turn을 시작할 때부터 한도를 검사합니다.

설정 후 확인

  1. 토큰 사용량 모니터링의 상단에 "토큰 한도 기능이 꺼져 있습니다" 경고가 사라졌는지 봅니다.
  2. 상태 필터를 제한됨으로 바꿔 의도하지 않게 제한된 사용자가 없는지 확인합니다.

마지막 수정: