[케이스 스터디 ] 카카오모빌리티의 'AI 주소 자동 붙여넣기' 사례

Gemini & Vertex AI 기반 모빌리티 혁신 가이드

* 출처: https://www.youtube.com/watch?v=qcNSplTKKfc

1. 문제 정의 및 해결 (Problem & Solution)

• 문제(Pain Point): 퀵서비스 이용 시 사용자가 주소, 성함, 전화번호를 일일이 입력해야 하는 번거로움이 큼. 특히 장갑을 끼고 일하는 소상공인이나 급한 상황의 사용자에게 입력 허들이 매우 높음. [14:20]
• 해결책: 'AI 주소 자동 완성' 기능 도입. 사용자가 복사한 불규칙한 텍스트(문자 메시지, 메모 등)를 Gemini 모델이 실시간으로 파싱하여 주소 필드에 자동 입력. [04:24]
• 성과: 접수 시간 24% 단축, 신규 고객 호출 전환율 45% 이상 상승. [06:51], [09:30]

2. 기술 스택 및 GCP 서비스 구성 (Tech Stack)

• 메인 LLM: Gemini Flash (Vertex AI) - 속도와 비용 효율성이 뛰어나며, 프롬프트 최적화를 통해 고성능 모델(Pro)에 준하는 파싱 성능 확보. [05:07]
• 서빙 인프라: Vertex AI Provisioned Throughput - 트래픽 급증 시에도 안정적인 레이턴시(Latency)를 보장하기 위해 전용 리소스 할당. [03:20]
• 데이터 분석: BigQuery - 방대한 실시간 이동 데이터를 분석하여 수요 예측 및 이상 징후 탐지. [38:53]
• 하이브리드 AI 전략:
  • Cloud AI: Gemini Flash (고성능 파싱)
  • On-Device AI: Gemini Nano (안드로이드), Core ML (iOS) - 네트워크 오프라인 대응 및 데이터 보안 강화. [17:35]

3. 고급 프롬프트 엔지니어링 및 보안 (Technical Methods)

실무에서 가장 중요한 '정교한 응답'과 '보안'을 위한 기술적 접근법입니다.

• Few-shot Prompting: 모델에게 주소 파싱의 예시(Input-Output 쌍)를 몇 개 제공하여 응답의 일관성을 확보. 특히 온디바이스 모델(Nano)의 성능을 끌어올릴 때 필수적임. [26:31]
• Prompt Chaining: (초기 시도) 1단계 파싱 후, 2단계에서 결과값의 유효성을 검증하는 방식. 맥락 파악에 한계가 있을 수 있어 최종적으로는 구조화된 프롬프트로 통합 개선. [27:52]
• XML 태그 구조화: Gemini 모델이 선호하는 방식인 XML 태그로 프롬프트를 구조화하여 파싱 정확도를 극대화. (예: <address_input>, <output_format> 사용) [29:22]
• DARE(Deter Appropriate Response) 프롬프트: 페르소나를 강력하게 부여하여 주소 파싱 외의 악의적인 공격(예: 레시피 요구)을 차단하는 보안 기법. [12:51]

4. 배포 및 검증 과정 (Deployment & Verification)

1. 모델 최적화 (Optimization): Vertex AI의 'Help Me Write' 기능이나 모델 최적화 툴을 사용하여 타사 모델용 프롬프트를 Gemini용으로 자동 변환 및 고도화. [31:26]
2. 하이브리드 머징 (Hybrid Merging): 클라우드와 온디바이스 결과값을 비교하여 정합성이 높은 데이터를 선택적으로 제공하는 로직 구현. [19:10]
3. 지속적 피드백: 5월 가정의 달 등 특정 시즌 트래픽 데이터를 바탕으로 모델의 비즈니스 기여도 점검. [10:31]

---

[고객 제안용 아이디어 박스]

• "비용과 성능의 황금비율 제안": 모든 워크로드에 고비용 모델을 쓰지 말고, Gemini Flash와 Provisioned Throughput을 조합하여 엔터프라이즈급 안정성과 경제성을 동시에 달성하십시오.
• "프라이버시 중심의 하이브리드 AI": 민감한 개인정보(주소 등)는 Gemini Nano를 통해 디바이스 내부에서 먼저 처리하고, 복잡한 연산만 클라우드로 보내 보안 신뢰도를 높이십시오.
• "AI 에이전트로의 확장": 단순 입력을 넘어, 주차 위반 사진 분석(Multi-modal)이나 초개인화된 경로 추천 등으로 에이전트 기능을 확장하여 운영 효율성을 극대화할 수 있습니다. [40:30]

---

요약 설명 (Brief Explanation):

이 사례는 Gemini Flash의 가성비와 Vertex AI의 안정적인 인프라를 활용하여 실질적인 비즈니스 지표(전환율 45% 상승)를 끌어낸 모범 사례입니다. 특히 Few-shot과 XML 구조화를 통한 프롬프트 고도화, 그리고 DARE 기법을 통한 보안 강화는 실무 매뉴얼의 핵심입니다. 또한, 클라우드와 온디바이스를 결합한 하이브리드 AI 전략은 데이터 보안과 서비스 연속성을 동시에 잡으려는 기업 고객에게 가장 강력한 제안 포인트가 됩니다.

 

관련 영상 URL: http://www.youtube.com/watch?v=qcNSplTKKfc