Potencializando Resultados de Negócio com a Integração de IA e Dados Confiáveis no IBM Power

Compartilhe:

Escrito por Bargav Balakrishnan, Vice-Presidente, Modernização da Indústria, IBM

Eles rapidamente descobrirão que não há uma solução única para a infraestrutura de IA, e, em vez disso, devem alinhar a infraestrutura adequada com a tarefa de IA correspondente. As considerações incluem não apenas as tarefas de inteligência artificial, o tamanho e a escala dos modelos, mas também segurança, privacidade, resiliência, conformidade regulatória e políticas. As cargas de trabalho de IA se tornarão cada vez mais a espinha dorsal das cargas de trabalho críticas para a missão e, portanto, exigirão uma infraestrutura resiliente por design.

Com o recente lançamento do IBM watsonx, a plataforma de inteligência artificial e dados da IBM para empresas, estamos ajudando os clientes a criar uma vantagem competitiva, fornecendo ferramentas, como um SDK do SAP planejado para o watsonx (disponível no primeiro trimestre de 2024) em todo o ciclo de vida da IA que pode dimensionar a IA em suas organizações.

O IBM Power foi projetado para IA e cargas de trabalho avançadas, permitindo que as empresas inferiram e implementem algoritmos de IA em seus dados e transações mais confidenciais que residem nos sistemas Power. Por exemplo, os clientes podem aproveitar a aceleração de IA que vem com cada núcleo Power10 para processar até 42% mais consultas em lote por segundo no IBM Power S1022 do que um servidor x86 durante a carga máxima de 40 usuários simultâneos, quando cada um utiliza modelos de IA de linguagem extensa. Além disso, a aceleração do Power10 permite que os clientes infiram modelos de linguagem extensa em menos de um segundo nos servidores IBM Power S1024 com 2×12 núcleos.

Funcionalidades Impactantes com Base em IA

Se os clientes precisam integrar seus dados em estruturas de dados e plataformas de IA ou implementar modelos de IA, como IA gerativa, próximos aos seus dados, o IBM Power pode ajudar as empresas a abordar preocupações sobre o tempo de comercialização de soluções baseadas em IA com um foco adequado para seu propósito.

Para muitos de nossos clientes, esse foco inclui o SAP HANA no IBM Power para fornecer desempenho recorde, escalabilidade, acessibilidade e maior tempo de atividade. Planejamos disponibilizar o SDK do SAP ABAP para o watsonx, destinado a facilitar o consumo de serviços do watsonx dentro dos ambientes SAP ABAP em execução nas instalações, na nuvem e no motor ABAP independente na plataforma de tecnologia empresarial da SAP. O SDK também foi projetado para permitir que os clientes do RISE com SAP criem extensões em ambientes SAP ABAP. E para nossos clientes que normalmente executam cargas de trabalho do SAP HANA no IBM Power, eles podem inferir perto de seus dados nos sistemas Power e, por meio do SDK, aproveitar o watsonx em ambientes ABAP.

Como exemplo de um possível caso de uso, os clientes podem aproveitar o poder do watsonx para simplificar a análise de parâmetros operacionais preventivos derivados de sistemas SAP. Isso pode ajudar a identificar padrões que indiquem possíveis falhas de ativos e estabelecer um contexto em torno do estado dos dispositivos. Aproveitando recursos preditivos, um sistema pode antecipar e prever falhas de forma proativa, permitindo que as organizações tomem medidas preventivas para evitar períodos de inatividade caros e interrupções.

Nossos clientes podem alcançar resultados empresariais impressionantes porque o IBM Power10, com aceleração integrada e grande memória, fornece uma plataforma escalável e segura para integrar a IA nos fluxos de trabalho de transações dos clientes e nas experiências dos clientes finais. Otimizamos o IBM Power para as bibliotecas de IA mais comuns disponíveis por meio do parceiro de IA/ML da IBM, Rocket Software, por meio do RocketCE, que continuará a oferecer suporte a aplicativos de IA para aproveitar a inovação do Power10.

Também planejamos expandir nosso portfólio com o Rocket Software no quarto trimestre de 2023, com a adição do Rocket AI Hub para IBM Power, um conjunto integrado de ferramentas de plataforma de IA de código aberto, como o Kubeflow. O Rocket AI Hub para IBM Power estará disponível e terá uma opção de complemento de suporte comercial.

Hoje, anunciamos a disponibilidade do IBM Power10 no IBM Power Virtual Server, começando em data centers selecionados nos Estados Unidos e se expandindo para outras geografias no final deste ano. Isso continuará a expandir as capacidades de computação da frota e oferecer mais opções ao implementar cargas de trabalho críticas para os negócios na IBM Cloud.

Clientes com exigências de desempenho rigorosas ou que têm software licenciado por núcleo se beneficiarão do desempenho adicional do processador Power10 na IBM Cloud. Além disso, os clientes existentes que procuram o Power10 na IBM Cloud para alinhar com seus ambientes locais para desenvolvimento de aplicativos, testes e/ou backup e recuperação de desastres, ou novos clientes que adotam o IBM Power Virtual Server pela primeira vez, podem ficar tranquilos sabendo que podem escolher a tecnologia mais recente da IBM, juntamente com os sistemas operacionais mais recentes.

“A IBM tem sido um fornecedor confiável por muitos anos para nossos sistemas centrais, e estamos entusiasmados em explorar a nova funcionalidade que a IBM está incorporando na plataforma Power10, permitindo abordagens de software modernas específicas para machine learning”, disse Ben Metz, Diretor Digital e Tecnológico na Jack Henry, uma proeminente empresa de serviços de tecnologia financeira. “Com a inferência em tempo real, o IBM Power tem o potencial de aproximar insights e tomada de decisões aos nossos dados críticos, o que é uma parte essencial de nossa estratégia de modernização tecnológica.”

Os clientes também podem se beneficiar do suporte de Multi Architecture Cluster (MAC), permitindo-lhes combinar nós de trabalho IBM Power e x86 em um único cluster Red Hat OpenShift. O uso do MAC ajuda os clientes a alinhar a tarefa de IA certa com a infraestrutura adequada, abordando a necessidade de que cada tarefa de IA seja executada em uma única plataforma, para que possam criar aplicativos onde for necessário e levá-los rapidamente à produção. Além disso, espera-se que o IBM Cloud Pak for Data 4.8 expanda o suporte ao IBM Power no quarto trimestre, trazendo os componentes mais recentes de ciência de dados (como Watson Machine Learning, Watson Studio, Analytics Engine Powered by Apache Spark, Data Refinery e Decision Optimization) para o Power, atendendo aos clientes corporativos.

Colaborando com nossos parceiros para Entregar Recursos de IA no IBM Power aos Clientes

Para que a IA tenha um impacto significativo, muitas vezes é necessário um esforço de equipe. Com base na parceria entre a MuleSoft da Salesforce e a IBM, a MuleSoft e a IBM estão em discussões para suportar o Anypoint Flex Gateway no IBM Power no primeiro trimestre de 2024. O Anypoint Flex Gateway da MuleSoft é um gateway de API baseado em Envoy, projetado para gerenciar e garantir APIs em execução em qualquer lugar. Ao dar suporte ao Flex Gateway no IBM Power, os clientes podem capacitar seus aplicativos baseados no Power com APIs para obter acesso seguro a aplicativos dentro de sua empresa. Com isso, os clientes podem modernizar, compartilhar e conectar dados críticos em aplicativos Power com aplicativos empresariais para melhorar os modelos de IA usando o watsonx.

Tire o máximo proveito de seus dados com IA no IBM Power

Como mencionei no início, não há uma solução única para sua infraestrutura de IA. Descobri que os clientes se beneficiam mais quando cocriamos e alinhamos a infraestrutura certa com a tarefa de IA correta em questão.

O parceiro perfeito nessa jornada é a IBM Consulting. Eles estão trabalhando diretamente com clientes e parceiros globais para cocriar o que está por vir em IA para impulsionar a transformação empresarial. Esses consultores dedicados trarão experiência no domínio para ajudar os clientes a aproveitar as ferramentas para criar modelos watsonx em ambientes SAP e também podem ajudar os clientes que estão considerando executar cargas de trabalho SAP HANA no IBM Power ou no IBM Power Virtual Server para acelerar a implementação de aplicativos.

Vamos conversar? Clique aqui.

Fontes:

As declarações relacionadas à orientação e intenção futuras da IBM estão sujeitas a alterações ou retirada sem aviso prévio e representam apenas metas e objetivos.

[1] Comparação baseada em testes internos da IBM de inferência de perguntas e respostas usando modelos PrimeQA (https://github.com/primeqa), baseados nos modelos Dr. Decr e ColBERT. Resultados válidos a partir de 22 de agosto de 2023 e realizados em condições de laboratório. Os resultados individuais podem variar de acordo com o tamanho da carga de trabalho, o uso de subsistemas de armazenamento e outras condições. A comparação é baseada no desempenho total em pontuação (inferências) por segundo em sistemas IBM Power S1022 (1×20 núcleos/512 GB) em comparação com sistemas baseados em Intel Xeon Platinum 8468V (1×48 núcleos/512 GB). O teste foi realizado em ambientes Python e Anaconda, incluindo pacotes Python 3.9 e PyTorch 2.0. As bibliotecas de Python usadas são otimizadas para ambas as plataformas, Power e Intel. Configuração: OMP-NUM-THREADS = 4, tamanho do lote = 60 e 40 usuários concorrentes. IBM Power S1022, 6,26 consultas por lote inferidas por segundo com 40 usuários concorrentes; Sapphire Rapids 8468V, 4,4 consultas por lote inferidas por segundo com 40 usuários concorrentes. Sistema

IBM S1022 Power: https://www.redbooks.ibm.com/abstracts/redp5675.html

Sistema x86 comparado: Sistema Supermicro SYS-221H-TNR: https://www.supermicro.com/en/products/system/hyper/2u/sys-221h-tnr

Modelos ajustados pela IBM em um conjunto de dados interno da IBM.

[2] Com base em testes internos da IBM de inferência de perguntas e respostas usando modelos PrimeQA (https://github.com/primeqa), baseados nos modelos Dr. Decr e ColBERT. Resultados válidos a partir de 22 de agosto de 2023 e realizados em condições de laboratório. Os resultados individuais podem variar de acordo com o tamanho da carga de trabalho, o uso de subsistemas de armazenamento e outras condições. A estimativa para um IBM Power S1024 (2×12 núcleos 3.4-4 GHz/512 GB) é baseada em um tempo de inferência medido de 1,008 segundos no IBM Power S1022 (2×12 núcleos 2.9-4 GHz/512 GB). O teste foi realizado em ambientes Python e Anaconda, incluindo pacotes Python 3.9 e PyTorch 2.0. As bibliotecas de Python usadas são otimizadas para a plataforma Power. Configuração: OMP-NUM-THREADS = 32, tamanho do lote = 1. Sistema IBM S1024 Power: https://www.redbooks.ibm.com/abstracts/redp5675.html

Modelos ajustados pela IBM em um conjunto de dados interno da IBM.

[3] Comparação baseada em sistemas de soquete único (IBM Power E1080 3.55, 4 GHz, 120 núcleos, AIX, e Superdome Flex 280 2.90 GHz, Intel Xeon Platinum 8380H) usando resultados publicados em www.spec.org/cpu2017/results/ a partir de 2 de setembro de 2021. SPEC® e os nomes de referência®2017_int_base e SPECrate®2017_int_peak são marcas registradas da Standard Performance Evaluation Corporation. Para obter mais informações sobre o SPEC CPU 2017, consulte www.spec.org/cpu2017/.