영감과 설계

기업 AI, 데이터 및 보안 리더에게 중요한 정보를 제공받고 싶으신가요? 주간 뉴스레터에 가입하여 필요한 정보만 받아보세요. 지금 구독하기. 에이전트 시스템을 설계하고 디자인하는 데 영감은 다양한 곳에서 올 수 있습니다. VB Transform에서 Capital One은 자동차 사업을 위한 에이전트 플랫폼을 어떻게 구축했는지 설명했습니다. Capital One의 기술 수석 부사장이자 AI 기초 책임자인 Milind Naphade는 VB Transform에서 회사가 고객과 함께 문제를 해결하는 인간 에이전트와 유사하게 작동하는 에이전트를 원했다고 말했습니다. Naphade는 Capital One이 에이전트 제공을 설계하기 시작한 지 15개월이 되었다고 말했으며, 이는 '에이전트'가 유행어가 되기 전의 일입니다.

에이전트 시스템의 구조

Capital One에게 있어 에이전트 시스템을 구축할 때 중요한 점은 인간 에이전트가 고객에게 정보를 요청하여 문제를 식별하는 방식을 배우는 것이었습니다. Capital One은 에이전트의 조직 구조에 대한 또 다른 영감을 자체에서 찾았습니다. "Capital One 자체가 어떻게 기능하는지에서 영감을 얻었습니다,"라고 Naphade는 말했습니다. "Capital One 내에서, 다른 금융 서비스와 마찬가지로, 위험을 관리해야 하며, 관찰, 평가, 질문 및 감사해야 하는 다른 엔티티들도 있습니다."

이 동일한 구조는 Capital One이 모니터링하고자 하는 에이전트에도 적용됩니다. Capital One은 기존 에이전트를 평가하는 에이전트를 만들었으며, 이는 Capital One의 정책과 규정을 기반으로 훈련되었습니다. 이 평가 에이전트는 문제가 감지되면 프로세스를 되돌릴 수 있습니다. Naphade는 이를 "각각 다른 전문성을 가진 전문가 팀이 문제를 해결하기 위해 모이는 것"으로 생각하라고 말했습니다.

금융 서비스에서의 에이전트 활용

금융 서비스 조직은 고객 문제를 해결하고, 고객 서비스를 관리하며, 더 많은 사람들을 제품으로 유치하기 위해 인간 에이전트에게 정보를 제공할 수 있는 에이전트의 잠재력을 인식하고 있습니다. BNY와 같은 다른 은행들도 올해 에이전트를 배치했습니다.

자동차 딜러십 에이전트

Capital One은 자동차 사업에 에이전트를 배치하여 은행의 딜러십 고객이 적절한 자동차와 자동차 대출을 찾도록 도왔습니다. 소비자는 시승 준비가 된 딜러십의 차량 재고를 볼 수 있습니다. Naphade는 딜러십 고객이 참여도와 진지한 판매 리드와 같은 지표에서 55%의 개선을 보고했다고 말했습니다. "이들은 더 대화적이고 자연스러운 대화를 통해 훨씬 더 진지한 리드를 생성할 수 있습니다,"라고 그는 말했습니다. "24/7 에이전트가 작동할 수 있으며, 자정에 차가 고장 나면 채팅이 당신을 위해 있습니다."

Naphade는 Capital One이 이러한 유형의 에이전트를 여행 사업에도 도입하고 싶다고 말했습니다. 특히 고객 대면 참여를 위해서입니다. Capital One은 뉴욕 JFK 공항에 새로운 라운지를 열었으며, 여행 포인트를 위한 매우 인기 있는 신용 카드를 제공합니다. 그러나 Naphade는 은행이 광범위한 내부 테스트를 수행해야 한다고 지적했습니다.

은행 에이전트를 위한 데이터와 모델

많은 기업과 마찬가지로 Capital One은 AI 시스템을 위한 많은 데이터를 보유하고 있지만, 그 맥락을 에이전트에게 제공하는 최선의 방법을 찾아야 합니다. 또한 에이전트를 위한 최적의 모델 아키텍처를 실험해야 합니다. Naphade와 Capital One의 응용 연구원, 엔지니어 및 데이터 과학자 팀은 더 효율적인 아키텍처를 위해 모델 증류와 같은 방법을 사용했습니다. "이해 에이전트는 우리의 비용의 대부분을 차지합니다. 왜냐하면 그것이 모호함을 해소해야 하기 때문입니다,"라고 그는 말했습니다. "이것은 더 큰 모델이므로, 우리는 그것을 분산시키고 많은 가치를 얻으려고 합니다. 또한 다중 토큰 예측과 집계된 사전 채우기 등 최적화할 수 있는 많은 흥미로운 방법이 있습니다."

데이터 측면에서 Naphade는 그의 팀이 AI 애플리케이션을 출시하기 전에 여러 번의 "실험, 테스트, 평가, 인간의 개입 및 모든 적절한 안전 장치"를 거쳤다고 말했습니다. "하지만 우리가 직면한 가장 큰 도전 중 하나는 선례가 없었다는 것입니다. 우리는 다른 누군가가 이렇게 했다고 말할 수 없었고, 그들에게 어떻게 되었는지 물어볼 수 없었습니다,"라고 Naphade는 말했습니다.

편집자 주: 독자 여러분께 감사의 뜻으로 VB Transform 2026의 얼리버드 등록을 열었습니다 — 단 $200입니다. 여기서 AI의 야망이 운영 현실과 만납니다. 지금 자리를 예약하세요.

VB Daily를 통한 비즈니스 인사이트

상사를 감동시키고 싶다면 VB Daily가 도와드립니다. 우리는 규제 변화에서 실질적인 배치에 이르기까지 생성 AI를 사용하여 기업이 무엇을 하고 있는지에 대한 내부 정보를 제공합니다. 최대 ROI를 위한 인사이트를 공유할 수 있습니다. 지금 구독하세요. 우리의 개인정보 보호정책을 읽어보세요. 구독해 주셔서 감사합니다. 더 많은 VB 뉴스레터를 여기에서 확인하세요. 오류가 발생했습니다.

원문: Capital One builds agentic AI to supercharge auto sales

출처: VentureBeat