AI 운영

AI는 쓰는 만큼 돈이 나갑니다. 그래서 한도 → 예산 → 감사 세 단계로 관리합니다. 관리자 화면의 AI 섹션에 모여 있습니다.

사용 한도

예전에는 "하루 채팅 200회" 한 벌뿐이었습니다. 긴 문서를 물고 도구를 열 번 도는 질문과 "안녕" 한 번이 똑같은 1회로 세어졌습니다.

지금은 기간 × 기준 × 대상으로 정합니다.

좁은 쪽이 넓은 쪽을 이깁니다. 전역을 느슨하게 두고 특정 부서만 조이거나, 반대로 할 수 있습니다.

횟수보다 토큰·비용으로 재는 편이 실제에 가깝습니다. 긴 문서를 물고 도구를 여러 번 도는 질문과 인사말 한 줄이 횟수로는 똑같이 1회이기 때문입니다.

한도에 걸렸을 때

구성원이 추가분을 신청합니다. 한도에 막힌 답 아래에 추가 한도 요청 버튼이 붙어, 그 자리에서 필요한 양과 사유를 적어 올립니다. 관리자는 AI › 추가 한도 요청에서 승인 수량과 유효 기간을 정해 풀어 줍니다(비우면 그 한도 기간이 끝날 때 사라집니다).

사람별 사용량과 초기화

AI › 사용 한도 아래 사용자별 현황에서 구성원마다 걸린 한도 대비 사용량을 막대로 봅니다. 많이 쓴 사람이 위에 오고, 막힌 사람에게는 막힘 표시가 붙습니다.

줄마다 있는 초기화를 누르면 그 사람의 사용량을 지금부터 다시 셉니다. 본인에게 알림이 갑니다.

예산과 경보

월 지출 상한을 정하고, 일정 비율을 넘으면 경보를 받습니다. 달이 끝나고 청구서를 보고 놀라지 않도록 하는 장치입니다.

한도와 달리 예산은 회사 전체 합계입니다. 넘겼을 때 어떻게 할지(경보만 보낼지, 아예 막을지)도 함께 정합니다. 막도록 해 두면 그달의 AI 사용이 멈추므로, 업무가 끊기지 않게 경보 비율을 넉넉히 두세요.

플랫폼 청구액과 대조

Works가 단가표로 계산한 비용은 추정값입니다. 실제 청구액과 맞춰 보려면 AI › API 키 · 모델의 플랫폼 청구액 칸에 프로바이더의 Admin 키(조직 관리용 키, 대화 키와 다름)를 등록합니다. 지원하는 프로바이더만 칸이 보입니다.

등록하면 매일 새벽 프로바이더가 집계한 지난달·이번 달 청구액을 받아 AI › 예산 화면에 플랫폼 청구액 · Works 추정 · 차이를 나란히 보여 줍니다. 바로 보려면 지금 받기를 누릅니다. 프로바이더가 알려 주는 경우 조직의 지출 한도도 함께 나옵니다.

어떤 모델을 누구에게

모델마다 역할·부서 허용목록을 둡니다. "영업팀은 저렴한 모델만", "외주 인력은 사내 서버 모델만" 같은 운영이 됩니다.

모델 추가

AI › API 키 · 모델에서 모델을 추가할 때 프로바이더를 먼저 고르면, 등록해 둔 API 키로 그 프로바이더가 지금 제공하는 모델 목록을 읽어 제공 모델에서 고르기에 보여 줍니다(검색 가능, 이미 등록한 모델은 표시). 고르면 모델 ID와 표시 이름이 채워집니다. 목록이 오래됐으면 새로고침을 누르고, 목록에 없는 모델은 예전처럼 ID를 직접 적습니다.

모델 ID를 손으로 적다 생기는 오타나, 이미 서비스가 끝난 모델을 등록하는 일을 막습니다.

모델이 서비스 종료되면

프로바이더가 모델 제공을 끝내도 기능이 멈추지 않습니다. 그 모델로 들어온 요청은 등록된 모델 중 같은 급의 살아 있는 모델로 한 번 다시 보내고, 관리자에게 AI 모델 퇴역 알림을 보냅니다(하루 한 번, 근무 시간에). 알림을 받으면 API 키 · 모델에서 목록을 정리하세요. 사내 서버 모델은 바꾸지 않습니다.

사내 GPU 서버 모델

회사 서버에 띄운 모델(vLLM·SGLang·TGI·Ollama)을 등록하면, 구성원은 모델 고르는 자리에서 클라우드 모델과 똑같이 고르기만 하면 됩니다. 민감한 자료를 밖으로 보내지 않아야 하는 업무에 씁니다.

등록할 때 주소가 관문입니다. 모델 이름이 아니라 등록된 주소로 어디에 보낼지 정해집니다. 사내 서버 모델은 vAI 로고로 표시되어 목록에서 클라우드 모델과 구분됩니다.

추론 끄기

Nemotron 같은 추론형 모델은 답하기 전에 생각을 길게 뱉습니다. 그래서 같은 서버인데도 응답이 질문마다 몇 초에서 수십 초까지 널뜁니다. 그 모델에 추론(생각 과정) 끄기를 켜면 생각 단계를 건너뛰어 응답이 고르게 빨라집니다.

간단한 조회 위주로 쓸 모델이면 꺼 두는 편이 체감이 낫습니다.

추론 강도 선택 지원

사내 서버 모델에 추론 강도 선택 지원을 켜면 구성원이 입력창의 모델 메뉴에서 최소 · 낮음 · 보통 · 높음을 고를 수 있습니다. 최소는 생각 단계를 끄고 빠르게 답합니다. 기본은 꺼짐이고, 꺼 두면 강도 선택이 보이지 않습니다. 클라우드 모델은 강도를 받는 모델이면 따로 켜지 않아도 보입니다.

모델 수정 창의 토큰당 KV 캐시 칸은 사내 서버 모델의 메모리 점유량을 사용 현황에 보이고 싶을 때만 적습니다. 모르면 비워 둡니다.

목록 정리

모델을 고르는 자리에 나오는 순서를 직접 정하고, 모델마다 로고를 지정할 수 있습니다. 자주 쓰는 것을 위로 올려 두면 구성원이 헤매지 않습니다. 로고는 모델 수정 창에서 파일 올리기로 PNG·JPG·WEBP·SVG(512KB까지)를 직접 올릴 수도 있습니다.

공급자가 막혔을 때

크레딧이 떨어지거나 키가 잘못돼 한 공급자가 막히면, 같은 질문을 키가 있는 다른 클라우드 공급자 → 사내 서버 순으로 다시 보내 답합니다(그 구성원이 쓸 수 있는 모델 중에서). 답 끝에 "OpenAI 크레딧이 소진되어 ○○(으)로 답했습니다"처럼 적혀 구성원도 알 수 있습니다. 구성원이 직접 고른 사내 모델은 클라우드로 돌리지 않습니다.

관리자에게는 공급자마다 하루 한 번 AI 크레딧 소진 · 키 오류 알림이 갑니다. API 키 · 모델에서 키를 저장하거나 키 테스트가 성공하면 그 자리에서 원래 공급자로 돌아갑니다. 모델 하나만 권한이 없는 경우(그 모델 접근 거부)는 공급자 전체를 막지 않습니다.

사용 현황과 답변 품질

AI › 사용 현황은 기간·부서별로 개요 · 사용자별 · 모델별 · 요청별 탭으로 나눠 봅니다. 요청별 탭은 요청 한 건마다 입력·출력 토큰, 비용, 걸린 시간을 최근순·토큰순으로 보여 줘 어떤 요청이 무거운지 찾을 때 씁니다. 숫자만 나오고 대화 내용은 나오지 않습니다. 모델별 표에서 사내 서버 모델에는 과금이 없어 사내(무과금) 표시가 붙습니다.

AI › 답변 품질은 답이 비거나, 프로바이더 오류가 나거나, 탐색 한도에 닿거나, 도구가 실패한 비율과 구성원이 남긴 좋은 답변 · 아쉬운 답변 평가를 기간·모델·도구별로 보여 줍니다. 질문·답 본문은 저장하지 않습니다.

대화 감사

누가 AI에 무엇을 물었는지 조사할 수 있어야 보안사고 대응과 규제 대응이 됩니다.

• 목록에는 사용자·제목·메시지 수·마지막 시각만 나옵니다. 내용은 목록에 싣지 않습니다.
• 내용을 열면 연 사람도 기록으로 남습니다.

제품 사용법을 AI가 답하게

AI가 참고하는 지식에 이 가이드 문서가 들어 있습니다. "연차 이월은 어떻게 되나요", "결재선은 어디서 바꾸나요" 같은 사용법 질문에 추측이 아니라 가이드를 근거로 답하고 출처 주소를 함께 줍니다.

가이드는 배포물 안에 들어 있어 인터넷이 막힌 사내망에서도 동작합니다. 지식 색인 설정에서 가이드 원천을 끄면 참고하지 않습니다.

바깥 AI에 무엇을 열어 줄지

Works를 외부 AI(MCP 커넥터)에 연결하면 조회뿐 아니라 기록도 됩니다(위키·태스크·업무일지·보고서·문의 답변).

노출할 도구를 관리자 화면에서 하나씩 끌 수 있습니다. 조회만 열고 쓰기는 막는 운영도 됩니다.

Windows 앱의 PC 작업

Works Windows 앱에서는 구성원이 앱 설정의 vAI PC 작업을 켜면 AI가 그 PC의 허용한 폴더에서 일합니다. 두 단계로 나뉘고, 회사는 각각 끌 수 있습니다(시스템 › 기능 사용).

바꾸는 일은 매번 그 PC의 확인 창에서 본인이 허용해야 하고, 웹 화면에서 대신 승인할 수 없습니다. 고친 파일은 원본을 그 PC에 보관하고, 허용·거절 기록도 그 PC에만 남습니다(서버에는 남지 않습니다).

기능별 모델

대화가 아닌 AI 기능은 대화 모델과 다른 곳으로 갈 수 있습니다. 예전에는 vAI로 대화해도 그림·받아쓰기·웹 검색은 OpenAI로 갔고, 그 사실이 화면 어디에도 없었습니다. AI › 기능별 모델에서 기능마다 어디로 어떤 모델로 가는지 보고 바꿉니다.

기능마다 켜고 끄고, 모델을 비우면 업체 기본값을 씁니다. 사내 서버는 OpenAI 호환 주소를 넣고 연결 확인으로 올라온 모델 중에서 고릅니다. 화면의 지금 모델과 사내 처리·외부 전송 표시는 실제 호출과 같은 판정입니다.

사내 모델 대화에서 외부 기능 쓰지 않기를 켜면, vAI 같은 사내 모델로 대화할 때 사내 서버가 아닌 기능을 쓰지 않습니다. 그림은 SVG로 그리고, 웹 검색은 일반 검색만 쓰고, 채팅방 음성 메시지는 받아쓰지 않습니다. 자료를 밖으로 보내지 않아야 하는 회사라면 켜 두세요.

기억 거버넌스

구성원의 AI 기억을 전사 차원에서 끌 수 있습니다(AI → 사용 한도). 끄면 개인이 켜 두었어도 저장도 사용도 되지 않습니다.

오래된 기억은 로그와 같은 기준으로 정리됩니다. 감사가 필요하면 관리자가 기억을 열람할 수 있습니다.

보관 정책

대화 로그를 얼마나 둘지 AI › 사용 한도의 로그 보관 (일) 칸에서 정합니다. 오래된 것은 정책에 따라 지워집니다. 지우기 전에 일·사용자·모델별 합계를 남겨 두므로 사용 추세는 그대로 볼 수 있습니다. 0을 넣으면 지우지 않습니다.

자주 묻는 것

비용이 예전 기록보다 커 보입니다 단가표에 지금 쓰는 모델이 없어 과거에는 낮은 단가로 기록되던 시기가 있었습니다. 지금 숫자가 실제에 가깝습니다. 예전 값과 직접 비교하지 마세요.

한도를 올렸는데 여전히 막힙니다 좁은 쪽이 이깁니다. 개인·부서 한도가 따로 걸려 있는지 확인하세요.

→ AI에게 나와 우리 일을 가르치기 · 권한