사례 연구 Databand - The Weather Company 데이터 관측 가능성을 통한 ML 엔지니어링 개선
The Weather Company + IBM Databand
안개가 낀 대도시의 조감도
팀과 프로젝트

Qaish Kanchwala는 The Weather Company®의 머신 러닝(ML) 엔지니어링 관리자로, DevOps, ML 및 데이터 엔지니어를 포함한 8명의 엔지니어로 구성된 팀을 관리하고 있습니다. 이 엔지니어들은 The Weather Company의 프로덕션에 사용되는 ML 모델을 구축하고 훈련하는 일을 담당하고 있습니다. Kanchwala가 책임지는 업무의 대부분은 엔지니어링 팀을 위한 솔루션을 설계하고 작업이 제시간에 완료되도록 하는 것입니다.

The Weather Company는 데이터를 우선으로 하는 조직으로 거듭나고 있습니다. Kanchwala 팀에게 이는 고객 광고, 개인화, 건강 상태 예측을 위한 ML 사용 사례에서 데이터를 활용하는 것을 의미합니다. 미래의 광고는 더 이상 쿠키나 기타 식별자에 의존하지 않기 때문에, Kanchwala 팀은 데이터를 사용하여 사용자 세그먼트를 예측합니다. 그런 다음 예측한 사용자 세그먼트를 다양한 광고 캠페인에 사용합니다.

Databand와 같은 운영 뷰 시스템이 없었다면 ML 파이프라인의 전반적인 상태를 파악하기가 매우 어려웠을 것입니다. Airflow에서 제공하는 가용성 추적과 집계 메트릭을 통합한 것은 매우 유용했습니다. 또한 하나의 대시보드에서 Databand와 Airflow 데이터를 볼 수 있어서 정말 편리했습니다. Qaish Kanchwala 머신 러닝(ML) 엔지니어링 관리자 The Weather Company
문제

데이터를 사용하여 예측한 사용자 세그먼트의 정확도는 수익 창출에 영향을 미칠 수 있으므로 Kanchwala 팀은 이러한 캠페인에 최적화된 가장 정확한 데이터를 사용해야 합니다. 예를 들어, 모델의 정확도가 낮으면 고객이 도달하고자 하는 세그먼트에 대한 인덱싱이 부족하거나 의도한 오디언스 세그먼트에 도달하지 못하는 광고 캠페인이 발생할 수 있습니다.

이러한 모델 예측을 위해 Apache Airflow 및 Sagemaker와 같은 데이터 파이프라인을 사용하기 때문에 파이프라인은 신뢰할 수 있어야 하고 데이터는 정확해야 합니다.

Kanchwala는 “저희의 경우, 구축한 세그먼트와 예측에 따라 많은 비즈니스 의사 결정이 이루어지고 있습니다.”라고 말합니다. "이러한 세그먼트를 구축할 때 예측 파이프라인으로 들어가는 데이터가 정확해야 해당 파이프라인에서 나오는 예측이 정확해지기 때문에 정확도를 확보하기 위해 노력하고 있습니다. 여기서 정확도가 떨어지면 누군가의 비즈니스 결정이나 수익에 영향을 미칠 수 있습니다.”

대부분의 데이터 및 ML 엔지니어링 팀과 마찬가지로, 시간 경과에 따른 모델 성능을 추적하고 변경 사항이 발생할 때 알림을 받을 수 있도록 사전 알림을 입력하는 것은 어려운 일이었습니다. Kanchwala 팀이 데이터 문제를 인식하지 못한다면 고객은 오래되거나 관련성이 낮은 데이터를 기반으로 한 예측을 사용하여 결정을 내리게 될 수 있습니다.

솔루션

이러한 과제를 해결하기 위해 The Weather Company는 데이터 관측 가능성 솔루션으로 IBM Databand 소프트웨어를 도입했습니다. Databand는 데이터 문제가 비즈니스에 영향을 미치기 전에 선제적으로 해결할 수 있도록 지원합니다.

Kanchwala 팀은 Databand를 도입하기 전까지는 시간 경과에 따른 데이터 드리프트를 추적할 수 있는 완벽한 모니터링 도구가 없었습니다. 제한된 수의 알림과 보고서로 인해 수동으로 개입해야 하는 일이 많았습니다.

“다른 도구를 사용하는 것도 검토해 보았지만, 결국에는 저희 계보에 대한 데이터 엔지니어링 프로세스에 맞지 않았습니다. 다른 도구는 애플리케이션이나 메모리 모니터링에는 적합할지 모르지만, 데이터 파이프라인에는 적합하지 않았습니다.”라고 Kanchwala는 말합니다.

Kanchwala 팀은 Databand의 '상시 작동' 데이터 모니터링 기능을 사용하여 ML 기능과 모델 출력의 시간 경과에 따른 데이터 드리프트를 추적합니다. 데이터 엔지니어링 관점에서 Databand는 데이터 파이프라인의 계보를 보여주고 실행 중에 실시간으로 영향 분석을 제공합니다.

IBM Databand로 얼마나 많은 비용을 절감할 수 있는지 알아보세요.

여기를 클릭하세요

결과

데이터 및 ML 엔지니어링 팀은 Databand를 사용한 후 데이터 계보와 SLA 추적을 개선할 수 있었습니다.

"Databand와 같은 운영 뷰 시스템이 없었다면 ML 파이프라인의 전반적인 상태를 이해하기가 매우 어려웠을 것입니다."라고 Kanchwala는 말합니다. "Airflow에서 제공하는 가용성 추적과 집계 메트릭을 통합한 것은 매우 유용했습니다. 또한 하나의 대시보드에서 Databand와 Airflow 데이터를 볼 수 있어서 정말 편리했습니다."

전반적으로 The Weather Company는 다음을 통해 데이터 엔지니어링 KPI를 개선할 수 있었습니다.

  • 지속적인 가시성 및 투명성: Databand의 운영 뷰는 Apache Airflow 및 Sagemaker 파이프라인의 상태를 즉시 보여줍니다.
  • 향상된 SLA 알림 및 메트릭 추적: The Weather Company는 프로덕션에 변경 사항을 적용하기 전에 '품질 게이트'로서 Databand를 구현했습니다. 이에 따라 데이터 및 ML 엔지니어는 프로덕션 적용 전 개발 단계에서 필수 품질 검사를 수행해야 합니다.
  • 데이터 품질 모니터링: Databand는 모든 Apache Airflow 환경과 통합되므로 데이터 엔지니어는 데이터 인시던트의 원인이 되는 단계를 정확히 파악하고 더 빠르게 해결할 수 있습니다.
Databand의 데이터 관측 가능성 기능에 대해 알아보세요.

여기를 클릭하세요

The Weather Company 브랜드 로고
The Weather Company 소개

The Weather Company는 세계 최고의 날씨 정보 제공업체1로, 사람과 기업이 날씨에 대해 보다 정보에 입각한 결정을 내리고 조치를 취할 수 있도록 지원합니다. The Weather Company에서 제공하는 오픈 웹을 통한 대량 기상 데이터, 인사이트, 광고, 미디어 솔루션은 전 세계의 사람, 기업 및 브랜드가 확장 가능하고 개인정보를 보호하는 방식으로 날씨에 대비하고 날씨의 힘을 활용할 수 있도록 지원합니다.

Comscore에 따르면, 월간 순방문자 수 평균을 기준으로 2022년 전 세계 일기 예보 제공업체 중 가장 많은 순방문자(웹 및 앱)를 확보한 곳은 The Weather Channel이었습니다. Comscore Media Metrix®, Worldwide Rollup Media Trend, News/Information – 날씨 카테고리(The [M] Weather Channel 포함), 2022년 1월~12월 평균

데이터 문제를 더 빠르게 감지하고 해결하세요.

지금 바로 IBM Databand의 라이브 데모를 예약하세요.

시작하기
법률

© Copyright IBM Corporation 2023. IBM Corporation,  New Orchard Road, Armonk, NY 10504

2023년 12월 미국에서 제작됨

IBM, IBM 로고, ibm.com 및 Databand는 미국 및/또는 기타 국가에서 사용되는 International Business Machines Corporation의 상표 또는 등록 상표입니다. 기타 제품 및 서비스 이름은 IBM 또는 다른 회사의 상표일 수 있습니다. 최신 IBM 상표 목록은 ibm.com/legal/copyright-trademark에서 확인할 수 있습니다.

Autobrand, Cloud and Rainbow™ device, Icebreaker Studios, Socialand device, The Lift™, The Weather Company, The Weather Company 및 디바이스, The Weather Underground, TWC,  Weather Bonk, Weather Exchange, Weather FX 및 디바이스™, Weather Means Business, Weather Quickie, Weather Underground, Weather.com, WeatherFX, WU, WU 및 디바이스, Wunderground™, Wunderground.com, Wundermap 및 Wunderradio는 IBM 계열사인 TWC Product and Technology, LLC의 상표 또는 등록 상표입니다.

이 문서는 최초 발행일 기준 최신 문서로, IBM은 언제든지 해당 내용을 변경할 수 있습니다. IBM이 현재 영업 중인 모든 국가에서 모든 제품이 제공되는 것은 아닙니다.

본 문서에서 인용되거나 설명된 모든 고객 사례는 일부 고객이 IBM 제품을 이용한 방식과 그로 인해 달성할 수 있는 결과에 대한 예시로 제공됩니다. 한 환경은 새로운 Cloud Object Storage와 고급 캐싱 기능을 사용했고, 다른 환경은 캐싱 기능을 사용하지 않고 기준선으로 사용했습니다. 각 고객별 실제 결과는 전적으로 고객이 주문한 시스템과 서비스에 따라 크게 달라질 수 있으므로 일반적인 기대 결과는 제시될 수 없습니다. 본 문서의 정보는 상품성, 특정 목적에의 적합성, 비침해성 보증 또는 조건을 포함하여 명시적 또는 묵시적 보증 없이 '있는 그대로' 제공됩니다. 제품 제공 시의 계약 조건에 따라 해당 IBM 제품을 보증합니다. [