기업용 AI 파이프라인 구축 — 엔지니어 없이 만드는 법
AI 도입을 원하는 기업 중 상당수가 엔지니어 부족으로 어려움을 겪는다는 사실을 알고 계십니까? 많은 기업이 인공지능의 잠재력을 인식하면서도, 전문 AI 엔지니어 채용 및 유지에 따르는 높은 비용과 기술 장벽 때문에 선뜻 첫걸음을 떼지 못하고 있습니다.
저는 지난 30여 년간 웹과 IT 업계에서 수많은 변화를 경험했습니다. 불과 몇 년 전만 해도 AI 솔루션 구축은 소수의 대기업이나 전문 연구소의 전유물처럼 여겨졌죠. 하지만 2026년 현재, 상황은 완전히 달라졌습니다. '엔지니어 없이' AI 파이프라인을 구축하고 운영하는 것이 더 이상 꿈이 아닌 현실이 되었습니다.
AI 전환, 엔지니어 의존의 벽을 넘어서
과거에는 기업이 AI를 도입하려면 데이터 수집부터 전처리, 모델 설계, 학습, 배포, 모니터링에 이르는 전 과정에 걸쳐 고도로 숙련된 AI 엔지니어가 필요했습니다. 이들은 복잡한 머신러닝 프레임워크를 다루고, 코드를 작성하며, 서버 환경을 직접 구축해야 했죠. 이는 중소기업이나 AI 전문 인력이 부족한 대다수 기업에게는 엄청난 부담이었습니다. 숙련된 AI 엔지니어 한 명을 채용하는 것 자체가 쉽지 않을 뿐더러, 이들의 인건비는 스타트업의 연간 예산을 훌쩍 넘어서기도 했습니다.
이러한 한계는 많은 기업이 AI 전환의 기회를 놓치게 만드는 주요 원인이었습니다. 사내에 방대한 데이터가 쌓여있어도 이를 활용할 전문 인력이 없었기에, 데이터는 잠재적 가치를 품은 채 사장되는 경우가 부지기수였습니다. 결국 AI 도입은 단순히 기술적인 문제를 넘어, 인력 수급과 비용 효율성이라는 근본적인 비즈니스 과제로 다가왔습니다.
하지만 다행스럽게도, 지난 몇 년간 클라우드 기반의 AI 서비스와 노코드/로우코드(No-code/Low-code) 플랫폼이 폭발적으로 발전하면서 이러한 판도가 완전히 바뀌었습니다. 이제는 복잡한 코딩 없이도 AI 모델을 구축하고, 기존 시스템과 연동하여 자동화된 AI 파이프라인을 만들 수 있게 되었습니다. 이는 비즈니스 담당자나 현업 전문가가 직접 AI 솔루션을 기획하고 구현할 수 있는 시대를 열었음을 의미합니다.
클라우드 서비스 제공업체들이 제공하는 강력한 도구들은 데이터 라벨링부터 모델 학습, 배포에 이르는 과정을 시각적인 인터페이스로 제공하며, 인공지능의 문턱을 한층 낮췄습니다. 여기에 더해, 다양한 애플리케이션 간의 데이터 흐름을 자동화하는 통합 플랫폼(Integration Platform as a Service, iPaaS)은 AI 모델을 실제 비즈니스 프로세스에 녹여내는 데 결정적인 역할을 하고 있습니다. 이제 우리에게 필요한 것은 더 이상 수많은 AI 엔지니어가 아니라, AI 기술을 비즈니스 문제 해결에 적용하려는 의지와 실행력입니다.
AI 전환의 핵심은 전문 엔지니어 의존도를 낮추고, 현업에서 AI를 직접 활용할 수 있는 환경을 만드는 데 있습니다.미래상사의 AI 고객 문의 자동 분류 시스템 구축기 (가상 사례)
여기, 온라인 가구 쇼핑몰을 운영하는 '미래상사'의 이야기(가상 사례)가 있습니다. 미래상사는 고객 문의가 하루에 수백 건씩 쏟아져 들어왔고, CS팀 직원들은 문의 내용을 일일이 확인하고 담당 부서에 연결하느라 진이 빠져 있었습니다. 단순한 배송 문의부터 제품 불량, 교환/환불, AS 접수 등 다양한 문의를 수동으로 분류하다 보니 응답 시간이 지연되고, 고객 만족도가 떨어지는 문제에 직면했습니다.
미래상사는 AI를 활용한 자동 분류 시스템을 도입하고 싶었지만, 사내에 AI 엔지니어는 단 한 명도 없었습니다. 외부 업체에 맡기자니 비용이 부담스러웠고, 자율적인 유지보수도 어려울 것이라는 판단이 들었습니다. 이때, 이 문제에 관심을 가진 CS팀의 박 팀장님은 노코드/로우코드 AI 솔루션을 직접 탐색하기 시작했습니다.
Step 1: 문제 정의와 목표 설정
박 팀장님은 먼저 해결하고자 하는 문제를 명확히 했습니다. "들어오는 고객 문의를 배송, 제품, 결제, 교환/환불, 기술 문의 등 5가지 카테고리로 자동으로 분류하고 싶다. 이를 통해 CS 직원의 업무 부담을 줄이고, 고객 응답 시간을 30% 단축하는 것이 목표다."
문제 정의와 명확한 목표 설정은 AI 파이프라인 구축의 첫 단추입니다.Step 2: 데이터 수집 및 준비
미래상사는 지난 1년간 쌓인 고객 문의 내역과 분류 카테고리 데이터를 스프레드시트(Google Sheets) 형태로 가지고 있었습니다. 박 팀장님은 이 데이터를 AI 모델 학습에 적합한 형태로 가공하는 작업을 진행했습니다. 각 문의 내용과 해당하는 분류 카테고리를 짝지어 정리했습니다. 데이터가 부족한 일부 카테고리에는 AI 기반 텍스트 생성 도구를 활용하여 유사한 문의 내용을 추가하는 방식으로 데이터의 양과 다양성을 확보했습니다. (예: "프롬프트: '제품 불량' 관련 고객 문의 10가지 예시를 만들어줘.")
이 과정에서 데이터를 정리하고 불필요한 정보를 제거하는 기본적인 데이터 정제 작업도 함께 수행했습니다. 복잡한 코딩 없이도 스프레드시트의 필터링, 정렬, 바꾸기 기능을 활용하여 충분히 처리할 수 있는 수준이었습니다.
AI 학습을 위한 고품질 데이터 준비는 코딩 없이도 충분히 가능합니다.Step 3: 노코드 AI 모델 구축 및 학습 (Google Cloud Vertex AI AutoML Text 활용)
박 팀장님은 여러 클라우드 AI 서비스를 검토한 끝에, 구글 클라우드(Google Cloud)의 Vertex AI AutoML Text를 선택했습니다. 코딩 지식 없이도 텍스트 분류 모델을 쉽게 구축하고 학습시킬 수 있는 점이 매력적이었습니다.
- Vertex AI 데이터셋 생성: 박 팀장님은 정리된 스프레드시트 데이터를 Vertex AI 플랫폼에 업로드하여 텍스트 데이터셋을 생성했습니다. 각 행이 고객 문의 내용이고, 해당 내용의 카테고리가 라벨로 지정되었습니다.
- AutoML 모델 학습 시작: 데이터셋을 선택한 후, Vertex AI의 AutoML Text 기능을 사용하여 모델 학습을 시작했습니다. 별도의 알고리즘 선택이나 파라미터 튜닝 없이 플랫폼이 자동으로 최적의 모델을 찾아 학습시켜주었습니다. 박 팀장님은 단순히 '학습 시작' 버튼을 누르고 기다리기만 했습니다.
- 모델 평가 및 배포: 학습이 완료된 후, 박 팀장님은 모델의 정확도를 평가 지표를 통해 확인했습니다. 만족스러운 성능(약 88%의 정확도)을 보이자, 이 모델을 서비스에서 사용할 수 있도록 엔드포인트로 배포했습니다.
Step 4: AI 파이프라인 자동화 (Make.com 활용)
모델을 구축했지만, 실제 고객 문의가 들어왔을 때 자동으로 모델을 호출하고 분류 결과를 CS 시스템에 연동하는 '파이프라인' 구축이 필요했습니다. 미래상사는 웹 기반의 노코드 통합 플랫폼인 Make.com(구 Integromat)을 활용하기로 결정했습니다. Make.com은 다양한 웹 서비스들을 블록처럼 연결하여 자동화 시나리오를 만들 수 있는 강력한 도구였습니다.
박 팀장님은 다음과 같은 시나리오를 Make.com에서 구축했습니다.
- 트리거 설정: 고객이 미래상사 웹사이트의 문의하기 폼(Google Forms로 연동)을 통해 새로운 문의를 제출하면, Make.com이 이를 자동으로 감지하도록 설정했습니다. (Google Forms 모듈 활용)
- AI 모델 호출: 감지된 문의 내용을 Vertex AI 엔드포인트로 전송하여 분류 결과를 받아오도록 HTTP 모듈을 설정했습니다. Vertex AI 엔드포인트는 웹훅(Webhook) 형태로 호출 가능했기에, Make.com에서 간단히 HTTP POST 요청을 보내는 것으로 연동할 수 있었습니다. 인증 정보는 보안상 주의하여 Make.com에 저장했습니다.
- 결과 기록 및 알림: Vertex AI로부터 받은 분류 결과(예: "배송 문의")와 원래 문의 내용을 CS팀에서 사용하는 공유 스프레드시트(Google Sheets)에 자동으로 기록하도록 설정했습니다. 동시에, 해당 카테고리 담당자에게 분류 결과와 함께 슬랙(Slack) 메시지를 보내 알림을 주도록 설정했습니다. (Google Sheets, Slack 모듈 활용)
이렇게 설정된 Make.com 시나리오는 고객 문의가 접수되는 순간부터 AI가 분류하고, 그 결과가 CS팀의 업무 흐름에 반영되는 완전 자동화된 파이프라인을 구축했습니다.
다음은 Make.com과 Google Cloud Vertex AI 사용 비용에 대한 일반적인 비교입니다. 실제 비용은 사용량과 계약 조건에 따라 크게 달라질 수 있으므로, 반드시 공식 웹사이트에서 최신 정보를 확인해야 합니다.
| 구분 | Make.com (Integration Platform) | Google Cloud Vertex AI (AutoML Text) |
|---|---|---|
| 무료 요금제/트라이얼 | 제한된 작업 수, 데이터 전송량, 시나리오 수로 무료 플랜 제공 (또는 제한적 무료 트라이얼) | 새 계정 대상 무료 크레딧 또는 특정 사용량까지 무료 티어 제공 |
| 주요 유료 요금제 (일반적) |
|
|
| 비용 결정 요인 | 시나리오 복잡성, 월별 실행되는 작업 수, 데이터 전송량, 필요한 기능 | 모델 학습 시간, 모델 배포 시간, 예측 요청 빈도, 처리되는 텍스트 양 |
| 초기 진입 장벽 | 낮음 (간단한 시나리오 무료로 시작 가능) | 낮음 (무료 크레딧 활용, 사용한 만큼 지불) |
| 주요 특징 | 다양한 앱 간의 워크플로우 자동화, 노코드 인터페이스 | 머신러닝 모델 개발, 학습, 배포, 노코드/로우코드 AutoML 기능 |
바로 따라하기: Google Forms 문의 -> Vertex AI 분류 -> Google Sheets 기록 자동화
엔지니어 없이 AI 파이프라인을 구축하는 실습 예시입니다. 고객 문의를 자동으로 분류하여 기록하는 시스템을 만들어 보겠습니다.
필수 준비물:
- Google 계정
- Google Cloud 계정 (Vertex AI 사용)
- Make.com 계정
Step 1: Google Cloud Vertex AI에서 텍스트 분류 모델 학습 및 배포
- 데이터 준비: Google Sheets에 아래와 같은 형식으로 샘플 데이터를 200개 이상 준비합니다. (실제 서비스에서는 더 많은 데이터 필요)
이 시트를 CSV 파일로 다운로드합니다.문의 내용 (TEXT) 분류 카테고리 (LABEL) 주문한 상품이 언제쯤 도착할까요? 배송 제품에 하자가 있는데 교환 가능한가요? 제품불량/교환 결제 오류가 발생했습니다. 확인 부탁드립니다. 결제 ... ... - Vertex AI 접속: Google Cloud 콘솔에서 Vertex AI 서비스로 이동합니다. (처음이면 Vertex AI API 활성화 필요)
- 데이터셋 생성: 좌측 메뉴에서 '데이터셋' 선택 후 '생성'을 클릭합니다. '텍스트' 유형을 선택하고 '텍스트 분류(단일 라벨)'을 선택합니다. 준비한 CSV 파일을 업로드합니다.
- 모델 학습: 데이터셋 업로드가 완료되면, '모델 학습' 탭으로 이동하여 '새 모델 학습'을 클릭합니다. 'AutoML'을 선택하고 학습을 시작합니다. 학습에는 수십 분에서 몇 시간이 소요될 수 있습니다.
- 모델 배포: 학습이 완료된 모델은 '모델' 탭에서 확인할 수 있습니다. 모델을 선택하고 '엔드포인트로 배포'를 클릭하여 예측을 위한 엔드포인트를 생성합니다. 배포된 엔드포인트의 URL을 기록해 둡니다.
Step 2: Make.com에서 자동화 시나리오 구축
- Google Forms 생성: 새로운 Google Forms를 만들고, 고객 문의 내용을 입력받을 '문의 내용' 필드를 추가합니다.
- Google Sheets 생성: Google Sheets에 새로운 시트를 만들고, '문의 내용', '분류 결과', '날짜' 등의 헤더를 미리 입력해 둡니다.
- Make.com 시나리오 생성: Make.com에 로그인 후 'Create a new scenario'를 클릭합니다.
- Step 2-1: Google Forms 모듈 추가 (트리거)
- 첫 번째 모듈로 'Google Forms'를 검색하여 추가합니다.
- 'Watch Responses' 트리거를 선택합니다.
- Google 계정을 연결하고, 생성한 Google Forms를 선택합니다.
- 폼 응답을 감지할 시트(연결된 Google Sheets)를 선택하고, '새로운 응답'부터 감지하도록 설정합니다.
- Step 2-2: HTTP 모듈 추가 (Vertex AI 호출)
- 두 번째 모듈로 'HTTP'를 검색하여 추가합니다.
- 'Make a request' 액션을 선택합니다.
- Method: POST
- URL: Step 1에서 배포한 Vertex AI 엔드포인트의 예측 URL (형식: `https://-aiplatform.googleapis.com/v1/projects//locations//endpoints/:predict`)
- Headers:
- Content-Type: application/json
- Authorization: Bearer [ACCESS_TOKEN] - Google Cloud 서비스 계정을 생성하여 JSON 키 파일을 통해 임시 액세스 토큰을 발급받거나, Google Cloud Connection을 Make.com에 연결하여 사용합니다. Make.com의 Google Cloud 통합 기능을 사용하면 더 쉽게 처리 가능합니다.
- Body Type: Raw
- Content Type: JSON
- Request Content: { "instances": [ { "content": "{{1.문의 내용}}" } ] } 여기서 {{1.문의 내용}}은 첫 번째 Google Forms 모듈에서 가져온 '문의 내용' 필드를 의미합니다. Make.com 인터페이스에서 직접 필드를 선택할 수 있습니다.
- Step 2-3: Google Sheets 모듈 추가 (결과 기록)
- 세 번째 모듈로 'Google Sheets'를 검색하여 추가합니다.
- 'Add a Row' 액션을 선택합니다.
- Google 계정을 연결하고, Step 2에서 생성한 결과 기록용 Google Sheets를 선택합니다.
- '문의 내용' 열에는 {{1.문의 내용}}을, '분류 결과' 열에는 HTTP 모듈의 출력 결과 중 예측된 라벨을 찾아 매핑합니다. (예: {{2.data.predictions[0].displayNames[0]}} - Vertex AI 응답 구조에 따라 다름)
- '날짜' 열에는 Make.com의 내장 함수인 {{now}}를 사용하여 현재 시간을 기록합니다.
- 시나리오 활성화: 모든 모듈 설정이 완료되면, Make.com 시나리오를 'ON'으로 전환하여 활성화합니다.
이제 Google Forms로 새로운 고객 문의가 들어오면, Make.com이 이를 감지하여 Vertex AI 모델로 전송하고, 반환된 분류 결과를 Google Sheets에 자동으로 기록하는 완전한 AI 파이프라인이 구축되었습니다. 이 과정에서 단 한 줄의 코딩도 필요하지 않았습니다.
노코드 툴을 활용하면 복잡한 AI 파이프라인도 단계별로 쉽게 구축할 수 있습니다.미래상사의 성과와 교훈
미래상사는 이 자동화된 AI 고객 문의 분류 시스템을 도입한 후, 눈에 띄는 성과를 경험했습니다. 박 팀장님과 CS팀 직원들은 불과 몇 주 만에 시스템을 직접 구축하고 운영할 수 있었습니다. 이는 전문 AI 엔지니어 채용에 드는 시간과 비용을 절감하는 동시에, 현업 팀의 문제 해결 능력을 크게 향상시키는 계기가 되었습니다.
다음은 미래상사가 AI 파이프라인 구축 후 얻은 주요 성과(가상 사례)입니다.
| 지표 | AI 도입 전 | AI 도입 후 | 개선율 |
|---|---|---|---|
| 고객 문의 평균 응답 시간 | 180분 | 100분 | 약 44% 단축 |
| CS팀 문의 분류 작업 시간 | 일 6시간 | 일 1.5시간 | 약 75% 감소 |
| 오분류율 | 약 15% | 약 5% | 약 66% 감소 |
| 고객 만족도 점수 (5점 만점) | 3.8점 | 4.3점 | 약 13% 향상 |
| 월간 CS 운영 비용 (가상) | 1,000만 원 | 850만 원 | 약 15% 절감 |
박 팀장님은 "처음에는 코딩 없이 AI를 만든다는 것이 막연하게 느껴졌지만, 막상 해보니 생각보다 훨씬 쉽고 재미있었다"고 소감을 전했습니다. 이 경험을 바탕으로 미래상사는 제품 추천 시스템, 마케팅 문구 생성, 판매 예측 등 다른 비즈니스 영역에도 AI를 확장 적용하는 방안을 모색하고 있습니다.
미래상사의 사례는 전문 엔지니어 없이도 AI 파이프라인을 성공적으로 구축하고 운영할 수 있음을 명확히 보여줍니다. 핵심은 비즈니스 문제를 명확히 정의하고, 목적에 맞는 노코드/로우코드 AI 도구와 통합 플랫폼을 선택하여 단계적으로 구현하는 것입니다. 기술의 발전은 이제 모든 기업에게 AI 전환의 기회를 활짝 열어주었습니다. 중요한 것은 주저하지 않고 직접 시도해 보는 용기입니다.
노코드/로우코드 AI 파이프라인은 비용 효율적인 AI 전환을 가능하게 하며, 현업의 문제 해결 역량을 강화합니다.💡 AI 도구 활용 팁
엔지니어 없이 AI 파이프라인을 구축할 때, AI 도구(특히 대규모 언어 모델)를 활용하면 데이터 준비부터 시나리오 설계까지 여러 단계에서 큰 도움을 받을 수 있습니다. 여기 몇 가지 활용 팁을 소개합니다.
- 데이터셋 아이디어 확장: AI 모델 학습을 위한 데이터가 부족할 때, 생성 AI에게 다양한 상황의 예시 데이터를 요청하여 데이터셋을 풍부하게 만들 수 있습니다.
- 통합 플랫폼 시나리오 설계 지원: Make.com 같은 통합 플랫폼에서 어떤 모듈들을 어떻게 연결해야 할지 막막할 때, AI에게 아이디어를 요청할 수 있습니다.
- 오류 메시지 해석 및 해결: 노코드 플랫폼에서 예상치 못한 오류가 발생했을 때, 오류 메시지를 AI에 입력하여 원인과 해결책을 문의할 수 있습니다.
프롬프트 예시:
"고객 서비스 이메일 분류 모델 학습을 위한 데이터셋이 필요합니다. '제품 문의', '배송 지연', '환불 요청' 3가지 카테고리에 대해 각각 5가지씩 실제 고객들이 쓸 법한 문의 내용을 작성해 주세요."
프롬프트 예시:
"Google Forms에서 새로운 응답이 들어오면, HTTP POST 요청을 통해 외부 API를 호출하고, 그 결과를 Google Sheets에 추가하는 Make.com 시나리오를 구성하려고 합니다. 각 단계에서 어떤 Make.com 모듈을 사용해야 하며, 주요 설정은 어떻게 해야 할지 구체적으로 설명해 주세요."
프롬프트 예시:
"Make.com에서 'Google Sheets' 모듈이 'The requested sheet was not found' 오류를 반환했습니다. 이 오류는 일반적으로 어떤 원인 때문에 발생하며, 어떻게 해결할 수 있나요?"
