AI를 조직에 통합하는 것은 AI 플랫폼, 기본 모델, 생성형 AI 및 머신 러닝(ML)이 주요 목표에 어떻게 부합하는지 파악하는 것부터 시작됩니다. 기업은 AI 기능의 영향력을 과대평가하고 복잡성을 과소평가하는 경향이 있어, 데이터 및 분석 리더가 기대치를 관리하지 않으면 프로젝트 실패로 인해 많은 비용이 발생하는 위험을 감수해야 합니다.²

"데이터 리더라면 팀에서 가장 많이 요청받는 것이 무엇인지, 그리고 AI를 통해 해당 비즈니스 부서의 업무가 어떻게 더 쉬워질 수 있는지 생각해 보세요."라고 IBM®의 포트폴리오 제품 관리 담당 이사인 Ann Leach는 말합니다. "의사 결정을 돕고, 더 나은 워크플로와 프로세스를 만들고, 비즈니스에 미래 지향적인 사고를 촉진하는 정보를 제공하기 위해 AI를 어디에 도입할 수 있을까요?"

AI 애플리케이션을 최대한 활용하려면 다음 지침들을 고려하세요.

비즈니스 성과로 연결

경영진과 협력하여 조직의 전반적인 비즈니스 목표를 달성하세요. IBM의 최고 분석 책임자인 Tim Humphrey는 마케팅, 인사, 공급망, 영업, 자산 관리 분야의 리더와 함께 AI 사용 사례를 고려하고 있다면 리더가 해당 부서나 조직을 어디로 이끌고 가고자 하는지 물어봐야 한다고 말합니다. 현재 위치와 앞으로 나아갈 방향을 모두 이해해야 합니다. Humphrey는 "현재의 모습과 앞으로의 모습의 연속성을 따라 AI를 적용할 수 없다면 시작하지 말아야 합니다."라고 덧붙입니다.

먼저 테스트 수행하기


AI를 사용하여 올바른 해결책을 찾을 때까지 개념 증명을 테스트합니다. 그런 다음 최적화합니다. Carruthers and Jackson의 CEO이자 최고 데이터 책임자 플레이북(The Chief Data Officer's Playbook)의 저자인 Caroline Carruthers는 "모든 것을 완벽하게 만드는 데 많은 시간을 소비하기보다는, 올바른 결과를 도출할 때까지 많은 개념 증명을 진행하는 것을 좋아합니다"라고 말합니다.

목표 설정 및 추적

각 사용 사례의 성공을 측정하는 KPI를 정의하세요. 프로젝트가 신용카드 사기 식별에 관한 것이고 AI가 사기 사례의 95%를 포착하길 원한다고 가정해 보겠습니다. 메트릭으로 진행 상황을 추적하면 AI 성능 수준을 매핑 및 모니터링하고 이해관계자에게 AI의 가치를 보여줄 수 있습니다.

데이터 리더의 업무에서 가장 어려운 부분 중 하나는 데이터에서 인사이트로 전환하는 빠르고 신뢰할 수 있는 방법을 확립하는 것입니다. 모델을 실행하려면 올바른 데이터가 필요하지만 모든 데이터가 AI에 적합한 것은 아닙니다.


IBM의 Data Fabric 소프트웨어 개발 부사장인 Remus Lazar는 "모든 것의 근원은 특정 사용 사례에 적합한 데이터 세트에서 시작되며, 이것이 없으면 AI도 없습니다."라고 말합니다. 그는 승객이 연결 항공편을 이용할 수 있는지 여부를 예측하기 위해 예측 AI를 구축하고자 하는 항공사를 예로 들었습니다. “만약 항공편을 이용한 승객이 아닌 연결편을 놓친 승객에 대한 데이터만 수집했다면 이는 사용하기에 적합한 데이터가 아닙니다. 적절한 데이터 세트가 없으면 사용 사례를 해결할 수 없습니다.”

데이터 아키텍처 검토

절반 이상의 조직이 AI 프로젝트가 지연되는 원인으로 데이터를 꼽았습니다. 데이터 패브릭과 같은 최신 데이터 아키텍처는 데이터 품질과 데이터 거버넌스 기능을 기본으로 제공합니다. 이를 통해 데이터 과학자는 데이터가 어디에 있든 데이터를 셀프 서비스할 수 있으며 모든 거버넌스 및 개인 정보 보호 요구 사항이 자동으로 적용됩니다. 이러한 접근 방식을 통해 사용자는 신뢰할 수 있는 데이터를 즉시 사용할 수 있고, 민첩성과 속도를 높이는 완벽한 거버넌스를 통해 다양한 소스에 실시간으로 액세스할 수 있습니다.

신뢰할 수 있는 데이터로 모델 활용

AI를 둘러싼 규정과 윤리가 변화하고 복잡해지는 시기에는 항상 이 데이터를 둘러싼 거버넌스가 무엇이며 이러한 목적으로 사용할 수 있는지 질문해야 합니다. 데이터 품질 및 데이터 거버넌스 는 AI 솔루션을 성공적으로 확장하는 데 매우 중요합니다. 조직은 알고리즘의 결정을 활용하기 전에 다음과 같은 질문에 답변해 보아야 합니다.


• 예를 들어 외부 데이터가 필요하신가요, 아니면 내부 데이터가 필요하신가요?
• 과거 데이터를 사용하고 있나요?
• 그렇다면 오늘날의 기준으로 볼 때 이는 윤리적인가요?

누가 데이터를 제어하는지, 누가 AI 소프트웨어 및 앱에 액세스할 수 있는지, AI 이니셔티브가 유용한지 확인하기 위해 누가 액세스해야 하는지 결정하는 것은 데이터 리더의 몫입니다.

윤리적 AI를 위한 노력

책임감 있는 AI를 위한 지침에는 보안, 설명 가능성, 편향성 등의 고려 사항이 포함되어 있습니다. 과거 데이터를 사용하여 모델을 제공하는 경우 해당 데이터가 사회의 현재 윤리 및 감성에 부합하는지 확인하세요. 예를 들어, 오늘날 젠더, 인종, 성별, 계급 및 연령에 대한 태도는 1970년대와 다릅니다. 오래된 데이터 세트를 사용하면 AI 편향이 지속되어 처음부터 결과가 왜곡될 수 있습니다. 조직은 윤리적 문제에 전략적으로, 의도적으로, 사려 깊게 대처함으로써 조직을 차별화할 수 있습니다.

엔터프라이즈 AI는 조직의 기존 영역에서 일반적으로 사용되는 것과 동일한 커뮤니케이션, 구조 및 엄격함을 요구합니다. 그러나 모델 개발은 데이터 과학자의 노트북에서 이루어지는 경우가 너무 많으며, 오케스트레이션은 사용자 지정 코드와 스크립트를 사용하여 수동으로 또는 임시로 이루어집니다. 그렇기 때문에 운영 워크플로를 자동화하고 간소화하기 위해 자연어 처리(NLP) 및 ML 모델과 같은 AI 기능을 적용하는 머신 러닝 운영(MLOps)이 필요합니다. 또한 기초 모델처럼 유연하고 재사용 가능한 AI 모델을 통해 얻을 수 있는 효율성 향상도 간과하지 마세요.

효율적인 워크플로 속도 향상

데이터 과학팀과 IT 부서 간의 협업을 가속화하고 동기화하는 엔터프라이즈 AI 플랫폼에 대한 일련의 모범 사례가 있으면 유용합니다.

"보안 모델을 엣지, 웹 서비스, 메인프레임, 올바른 유형의 하드웨어에 자동으로 배포하고 이를 정당화할 수 있는 기능을 만들어야 합니다."라고 IBM Global Chief Data Office의 AI 및 거버넌스 담당 부사장인 Steven Eliuk는 말합니다. “IBM에서는 그룹이 안전하고 통제된 방식으로 모델을 더 빠르게 프로덕션에 도입할 수 있는 방법을 항상 모색하고 있습니다.” 라고 Eliuk은 덧붙입니다.

인적 오류 해결

MLOps는 수동 프로세스를 자동화하고 비용이 많이 드는 인적 오류를 제거하여 위험을 줄이고 회사를 훨씬 더 민첩하게 만드는 데 도움을 줍니다. 프로덕션을 간소화할 뿐만 아니라 MLOps는 모델이 의도한 대로 작동하도록 지원하므로 AI 수명 주기 전반에 걸쳐 신뢰를 얻을 수 있습니다. 이는 다음과 같은 중요한 질문에 답하는 데 도움이 됩니다. 이 데이터는 처음부터 편향되어 있나요? 데이터 세트에 충분한 대표 샘플이 있나요? 개발에 착수할 때 올바른 알고리즘을 사용하고 있나요, 아니면 그 알고리즘이 데이터에 이미 존재하는 편견을 지속시킬까요?

한 데이터 리더가 MLOps를 실행에 옮긴 방법은 다음과 같습니다. "우리는 MLOps를 통해 지속적으로 품질을 점검하고 예측의 품질과 ML의 품질을 테스트합니다."라고 Outra의 최고 데이터 및 운영 책임자인 Peter Jackson은 설명합니다. “우리는 고위 경영진에게 보고하는 일련의 대시보드를 보유하고 있으며, 여기서 해당 모델의 품질과 예측력을 확인할 수 있습니다. 그리고 한 달 동안 감소가 발생하면 머신 러닝 프로그램을 활용하여 데이터 소스를 살펴보고 작동하지 않는 이유를 확인합니다."

AI 모델이 편향되거나 설명할 수 없는 경우 조직은 브랜드 평판에 심각한 위험을 초래할 수 있습니다. 또한 복잡하고 변화하는 규제 요건을 충족하지 못해 정부 감사를 받고 수백만 달러의 벌금을 물게 될 수도 있습니다. 이러한 모든 문제는 주주 및 고객 관계에 치명적인 영향을 미칠 수 있습니다.

AI 모델에 대한 이해와 신뢰

프로세스가 투명하지 않은 블랙 박스 모델에 대한 AI 이해관계자들의 우려가 커지고 있습니다.이러한 모델은 구축 및 배포되지만 투명성이 부족합니다. 데이터 과학자조차도 모델이 어떻게 그리고 왜 그런 결정을 내렸는지 추적하는 것이 쉽지 않습니다.그리고 채용에 AI가 사용되는 방식을 규제하는 뉴욕시 법률과 유럽 연합이 제안한 AI 법안과 같은 규제가 증가함에 따라 기업은 더욱 현명하고 빠르게 대응해야 합니다.


AI 거버넌스는 비즈니스 프로세스 전반에 걸쳐 AI 활동을 지시, 관리, 모니터링하는 전반적인 프로세스입니다. 데이터 리더는 AI 프로젝트 시작 단계부터 최고 위험 책임자, 최고 규정 준수 책임자 및 기타 주요 이해관계자와 협력하여 AI 거버넌스 프레임워크를 개발해야 합니다. 이 프레임워크는 AI 모델을 개발, 배포, 관리하고 궁극적으로 블랙 박스를 제거하기 위한 회사의 모범 사례를 개괄적으로 설명해야 합니다.

엔드 투 엔드 모델 추적

AI 거버넌스는 데이터 수집, 모델 구축, 배포, 관리, 모니터링 등 AI 및 ML 라이프사이클의 각 단계에서 가드레일을 설정합니다. 이러한 가드레일은 프로세스를 더욱 투명하게 만들고 주요 이해관계자와 고객에게 설명 가능한 결과를 제공합니다. 처음부터 끝까지 AI 거버넌스를 구현하면 위험과 평판을 더 잘 관리하고, 윤리적 원칙을 준수하며, 정부 규제로부터 보호하고 확장하는 데 도움이 됩니다.

미국의 한 대형 소매업체는 지원자를 선별하는 도구와 채용 시스템의 공정성 문제를 해결하기 위해 IBM에 도움을 요청했습니다. 이 고용주에게는 채용에 사용되는 AI 및 ML 모델에 편견을 식별하고 결정을 설명하는 능력을 포함하여 공정성과 신뢰를 내재화하는 것이 중요했습니다. 이 회사는 정확성과 공정성을 위해 IBM® Cloud Pak for Data를 사용하여 AI 지원 모델을 일관되게 관리했습니다. 이제 회사는 채용 과정에서 편견을 적극적으로 모니터링하고 완화하고 있습니다.

작업물 보여주기

IBM은 내부적으로도 이 접근 방식을 적용하고 있습니다. "특정 규제가 투명성이나 설명을 요구할 경우 알고리즘이나 영향 평가에 이러한 세부 사항이 표시되도록 하여 비즈니스에 영향을 주지 않고 새로운 규제를 지속적으로 준수할 수 있도록 신속하게 방향을 전환할 수 있습니다."라고 Eliuk은 말합니다.

AI가 실험 단계에서 비즈니스 크리티컬 단계로 넘어가면서 조직은 투명하고 설명 가능한 AI를 추진하기 위해 AI 거버넌스를 선제적으로 구현해야 할 필요성을 인식하고 있습니다. AI에 대한 가드레일이 부족하면 AI 프로젝트가 탈선하고 혁신이 느려질 수 있습니다.