AI 운영

AI는 쓰는 만큼 돈이 나갑니다. 그래서 한도 → 예산 → 감사 세 단계로 관리합니다. 관리자 화면의 AI 섹션에 모여 있습니다.

사용 한도

예전에는 "하루 채팅 200회" 한 벌뿐이었습니다. 긴 문서를 물고 도구를 열 번 도는 질문과 "안녕" 한 번이 똑같은 1회로 세어졌습니다.

지금은 기간 × 기준 × 대상으로 정합니다.

좁은 쪽이 넓은 쪽을 이깁니다. 전역을 느슨하게 두고 특정 부서만 조이거나, 반대로 할 수 있습니다.

횟수보다 토큰·비용으로 재는 편이 실제에 가깝습니다. 긴 문서를 물고 도구를 여러 번 도는 질문과 인사말 한 줄이 횟수로는 똑같이 1회이기 때문입니다.

한도에 걸렸을 때

구성원이 추가분을 신청합니다. 사유를 적어 올리면 관리자가 기간을 정해 풀어 줍니다.

예산과 경보

월 지출 상한을 정하고, 일정 비율을 넘으면 경보를 받습니다. 달이 끝나고 청구서를 보고 놀라지 않도록 하는 장치입니다.

한도와 달리 예산은 회사 전체 합계입니다. 넘겼을 때 어떻게 할지(경보만 보낼지, 아예 막을지)도 함께 정합니다. 막도록 해 두면 그달의 AI 사용이 멈추므로, 업무가 끊기지 않게 경보 비율을 넉넉히 두세요.

어떤 모델을 누구에게

모델마다 역할·부서 허용목록을 둡니다. "영업팀은 저렴한 모델만", "외주 인력은 사내 서버 모델만" 같은 운영이 됩니다.

사내 GPU 서버 모델

회사 서버에 띄운 모델(vLLM·SGLang·TGI·Ollama)을 등록하면, 구성원은 모델 고르는 자리에서 클라우드 모델과 똑같이 고르기만 하면 됩니다. 민감한 자료를 밖으로 보내지 않아야 하는 업무에 씁니다.

등록할 때 주소가 관문입니다. 모델 이름이 아니라 등록된 주소로 어디에 보낼지 정해집니다.

대화 감사

누가 AI에 무엇을 물었는지 조사할 수 있어야 보안사고 대응과 규제 대응이 됩니다.

• 목록에는 사용자·제목·메시지 수·마지막 시각만 나옵니다. 내용은 목록에 싣지 않습니다.
• 내용을 열면 연 사람도 기록으로 남습니다.

기억 거버넌스

구성원의 AI 기억을 전사 차원에서 끌 수 있습니다(AI → 사용 한도). 끄면 개인이 켜 두었어도 저장도 사용도 되지 않습니다.

오래된 기억은 로그와 같은 기준으로 정리됩니다. 감사가 필요하면 관리자가 기억을 열람할 수 있습니다.

보관 정책

대화 로그를 얼마나 둘지 정합니다. 오래된 것은 정책에 따라 지워집니다.

자주 묻는 것

비용이 예전 기록보다 커 보입니다 단가표에 지금 쓰는 모델이 없어 과거에는 낮은 단가로 기록되던 시기가 있었습니다. 지금 숫자가 실제에 가깝습니다. 예전 값과 직접 비교하지 마세요.

한도를 올렸는데 여전히 막힙니다 좁은 쪽이 이깁니다. 개인·부서 한도가 따로 걸려 있는지 확인하세요.

→ AI에게 나와 우리 일을 가르치기 · 권한