실제로 일하는 AI와 자동화

AI가 맞는 곳과 맞지 않는 곳

유용한 자동화의 상당수에는 AI가 들어 있지 않습니다. 회계 데이터에서 주간 보고서를 뽑는 일은 각 시스템과 API로 통신하는 일반적인 코드입니다.

언어 모델은 매번 다른 레이아웃으로 도착하는 주문서처럼 입력이 정돈되지 않은 곳에서 도움이 됩니다. 트랜스포머 구조 기반 모델은 유창한 글을 쓰지만 같은 확신에 찬 어조로 틀릴 수도 있으므로, 그 출력은 확인해야 할 초안으로 취급합니다.

Claude와 OpenAI의 GPT 모델 같은 모델을 API로 직접 또는 OpenRouter를 통해 호출하며, 데이터가 귀사 인프라 안에 머물러야 할 때는 자체 호스팅 모델을 사용합니다. 단순한 단계에는 더 작고 저렴한 모델을 씁니다.

구축한 사례

운영 환경에서 실제로 운영 중인 두 시스템으로 어떤 업무를 맡는지 보여 드립니다. 고객 정보는 제외했습니다.

자체 IT 업무를 위한 운영 어시스턴트

당사 기술자들은 헬프데스크, 원격 모니터링, Microsoft 365, Kubernetes, 네트워크 점검에 걸쳐 하나의 어시스턴트를 사용합니다. 기술자가 작업을 쉬운 말로 설명하면 어시스턴트가 근거를 수집하고 변경을 제안하며, 해당 기술자의 권한 범위 안에서 해당 고객의 시스템 내에서만 작동합니다. API가 없는 웹 포털은 인증 정보를 갖지 않고 작업 후 파기되는 격리된 컨테이너에서 처리합니다.

규제 대상 다지점 기업을 위한 어시스턴트

한 고객사에서는 직원이 이미 사용하는 채팅 도구에서 비공개 어시스턴트에게 질문합니다. 어시스턴트는 회계, 재고와 주문, POS, 컴플라이언스 추적, 급여 보고 데이터를 읽고, 최신 데이터로 만든 Excel, Word, PDF 파일을 돌려줍니다. 구매자가 회신한 주문서는 검토용 판매 주문서와 청구서 초안이 되며, 이메일로 들어오는 배송 예약은 15분마다 공유 캘린더에 반영됩니다.

사람이 계속 관여하는 부분

두 시스템 모두 다음 규칙을 따르며, 고객 프로젝트도 마찬가지입니다.

• 변경은 승인을 기다립니다: 업무 기록에 대한 변경은 관리자에게 전체 내용이 표시되어 한 번 승인되며, 승인은 만료됩니다.
• 발송 불가: 고객사 어시스턴트는 이메일 초안을 작성할 수 있지만 보내거나 삭제할 수는 없습니다.
• 사람별 접근: 이름이 지정된 소수의 그룹만 재무와 인사 자료를 볼 수 있고, 나머지는 제한된 보기를 받으며, 여러 대상이 섞여 있을 때도 제한된 보기를 받습니다.
• 모든 것의 기록: 모든 작업, 모델 요청, 승인이 이름이 지정된 사람 기준으로 기록됩니다.
• 키는 손이 닿지 않는 곳에: 모델은 사용 한도가 있는 게이트웨이를 통해 접근하므로 AI API 키가 작업 환경에 놓이지 않습니다.
• 최소 접근: 작업을 단계별로 수행하는 에이전트형 도구는 업무에 필요한 것에만 접근할 수 있습니다.

자동화 프로젝트의 진행 방식

1. 워크플로 하나 선택. 짧은 상담 통화로 직원이 데이터를 다시 입력하는 곳을 찾고, 시작할 곳 하나를 고릅니다.
2. 서면 범위 정의. 무엇을 자동화할지, 어떤 시스템을 읽고 변경할지, 어떤 데이터를 AI 서비스로 보낼 수 있는지, 누가 무엇을 승인하는지를 정합니다.
3. 접근 권한. 관련된 시스템에 대한 접근 권한을 부여해 주십시오. 각 애플리케이션은 자체 키를 받으며, 키는 비밀번호 관리자에 보관합니다.
4. 병행 운영. 해당 업무를 하는 담당자가 결과를 비교하는 동안 수작업 절차와 나란히 실행됩니다.
5. 인계. 코드는 Git에 보관하고 문서화합니다. 이후 당사가 지원하거나 귀사 팀이 이어받습니다.

당사 엔지니어는 Claude Code와 Codex의 도움을 받아 코드를 작성하며, 배포 전에 사람이 모든 변경을 읽습니다. 서비스는 컨테이너에서 실행되고(Docker 컨설팅 참고) Microsoft 365 및 자체 소프트웨어와 연결됩니다.

귀사 팀에 요청하는 것

노력의 대부분은 초기에 들어갑니다. 해당 업무를 하는 사람이 예외까지 포함하여 설명해 주고, 첫 결과를 확인해 주셔야 합니다. 관리자는 어떤 데이터를 AI 서비스로 보낼 수 있는지, 누가 변경을 승인하는지 결정합니다. 가동 이후에는 승인자가 변경이 들어오는 대로 검토합니다.

AI 및 자동화에 대한 질문

우리 데이터가 AI 회사로 전송됩니까?

범위에서 합의한 데이터만 전송됩니다. 호스팅 모델로 보내는 텍스트는 귀사 네트워크를 벗어나므로, 데이터가 내부에 머물러야 하는 경우에는 자체 호스팅 모델을 사용합니다.

AI가 스스로 기록을 변경할 수 있습니까?

그렇게 되지 않도록 구축합니다. AI가 변경을 제안하면, 아무것도 기록되기 전에 지정된 담당자가 승인합니다.

운영 비용은 얼마입니까?

AI 제공업체는 입출력되는 텍스트의 양으로 청구하므로, 바쁜 워크플로는 한가한 워크플로보다 운영 비용이 더 듭니다. 제공업체가 허용하는 경우 사용 한도를 설정합니다.