Combinação de IA com uma abordagem de dados confiável no IBM Power para gerar resultados de negócios

Compartilhe:

Os dados alimentam a inteligência artificial (IA), portanto, a infraestrutura na qual a IA é executada é essencial. Em um momento crucial para a implementação da inteligência artificial, os líderes de negócios que exploram as muitas vantagens que a IA promete devem primeiro se perguntar: “Como minha equipe pode criar, treinar e implementar sistemas de IA na minha empresa? Temos a infraestrutura certa que pode suportar as altas demandas computacionais e de memória das cargas de trabalho de IA?”

Rapidamente, eles descobrirão que não existe uma solução única para a infraestrutura de IA e, em vez disso, devem alinhar a infraestrutura correta com a tarefa de IA em questão. As considerações incluem não apenas as tarefas de IA, o tamanho e a escala do modelo, mas também a segurança, a privacidade, a resiliência, a conformidade normativa e a política. As cargas de trabalho de IA formarão cada vez mais a espinha dorsal das cargas de trabalho de missão crítica e, portanto, exigirão uma infraestrutura resiliente desde a concepção.

Com o recente lançamento do IBM watsonx, a inteligência artificial e a plataforma de dados da IBM para empresas, ajudamos os clientes a criar uma vantagem competitiva fornecendo ferramentas, como um SAP SDK planejado para o watsonx (disponível no primeiro trimestre de 2024) em todo o ciclo de vida da IA que pode dimensionar a IA em suas organizações.

O IBM Power foi projetado para IA e cargas de trabalho avançadas, permitindo que as empresas deduzam e implementem algoritmos de IA em seus dados e transações mais confidenciais que residem em sistemas Power. Por exemplo, os clientes podem aproveitar a aceleração de IA que vem com cada núcleo do Power10 para processar até 42% mais consultas, por lote, por segundo no IBM Power S1022 do que um servidor x86 equivalente durante o pico de carga de 40 usuários simultâneos, quando cada um deles estiver usando modelos de IA de linguagem ampla. [1] Além disso, a aceleração do Power10 permite que os clientes deduzam grandes modelos de linguagem em menos de um segundo em servidores IBM Power S1024 com 2×12 núcleos. [2]

Funcionalidades impressionantes baseadas em IA

Independentemente dos clientes precisarem integrar seus dados em data fabrics e plataformas de IA ou implantar modelos de IA, como a IA generativa, perto de seus dados, o IBM Power pode ajudar as empresas a lidar com as preocupações de tempo de colocação no mercado para soluções baseadas em IA com uma abordagem adequada à finalidade.

Para muitos de nossos clientes, essa abordagem inclui o SAP HANA no IBM Power para oferecer desempenho recorde, escalonamento, acessibilidade e maior tempo de atividade. [3] Planejamos disponibilizar o SAP ABAP SDK para watsonx, que tem como objetivo facilitar o consumo dos serviços watsonx em ambientes SAP ABAP executados no local, na nuvem e no mecanismo ABAP autônomo na SAP Enterprise Technology Platform. O SDK também foi projetado para permitir que os clientes RISE com SAP criem extensões em ambientes SAP ABAP. E para os nossos clientes que normalmente executam cargas de trabalho SAP HANA no IBM Power, eles podem inferir perto de seus dados em sistemas Power e, por meio do SDK, aproveitar o watsonx em ambientes ABAP.

Como exemplo de um possível caso de uso, os clientes poderiam aproveitar o poder do watsonx para simplificar a análise de parâmetros operacionais preventivos derivados de sistemas SAP. Isso pode ajudar a identificar padrões que indicam possíveis falhas nos ativos e estabelecer o contexto do status dos dispositivos. Ao aproveitar as funcionalidades preditivas, um sistema pode antecipar e prever falhas de forma proativa, permitindo que as organizações tomem medidas preventivas que ajudem a evitar paralisações e interrupções dispendiosas.

Nossos clientes podem obter resultados comerciais impactantes porque o IBM Power10, com aceleração incorporada e memória grande, fornece uma plataforma escalável e segura para integrar a IA aos fluxos de trabalho de transação do cliente e às experiências do cliente final. Otimizamos o IBM Power para as bibliotecas de IA mais comuns disponíveis por meio do parceiro de IA/ML da IBM, a Rocket Software, por meio do RocketCE, que continuará a oferecer suporte a aplicativos de IA para capitalizar a inovação do Power10.

Também pretendemos expandir nosso portfólio com a Rocket Software no quarto trimestre de 2023 com a adição do Rocket AI Hub para IBM Power, um conjunto integrado de ferramentas de plataforma de IA de código aberto, como o Kubeflow. O Rocket AI Hub para IBM Power estará disponível e, também, terá uma opção de complemento de suporte comercial.

Hoje, anunciamos a disponibilidade do IBM Power10 no IBM Power Virtual Server, começando em data centers selecionados nos Estados Unidos e expandindo para outras regiões ainda este ano. Isso continuará a expandir os recursos de computação da frota e oferecerá mais opções ao implementar cargas de trabalho críticas para os negócios no IBM Cloud.

Os clientes com requisitos de desempenho exigentes ou que possuem software licenciado por núcleo se beneficiarão do desempenho adicional do processador Power10 no IBM Cloud. Além disso, os clientes existentes que procuram o Power10 no IBM Cloud para se alinhar com seus ambientes locais para desenvolvimento de aplicativos, testes e/ou backup e recuperação de desastres, ou novos clientes que adotam o IBM Power Virtual Server pela primeira vez, podem se sentir confortáveis em saber que podem escolher a tecnologia IBM mais atual, juntamente com os sistemas operacionais mais recentes.

“Há muito tempo a IBM é um fornecedor confiável para nossos sistemas principais e estamos entusiasmados em explorar a nova funcionalidade que a IBM está adicionando à plataforma Power10, que permite abordagens modernas de software específicas para aprendizado de máquina”, disse Ben Metz, diretor digital e de tecnologia da Jack Henry, uma empresa líder em serviços de tecnologia financeira. “Com a inferência em tempo real, o IBM Power tem o potencial de aproximar os insights e a tomada de decisões de nossos dados de missão crítica, o que é uma parte essencial de nossa estratégia de modernização tecnológica.

Os clientes também podem se beneficiar do suporte ao Multi Architecture Cluster (MAC), permitindo que eles combinem nós de trabalho IBM Power e x86 em um único cluster Red Hat OpenShift. O uso do MAC ajuda os clientes a alinhar a tarefa de IA certa com a infraestrutura certa, atendendo à necessidade de cada tarefa de IA ser executada em uma única plataforma para que eles possam criar aplicativos onde for necessário e colocá-los rapidamente em produção. Além disso, espera-se que o IBM Cloud Pak for Data 4.8 expanda o suporte ao IBM Power no quarto trimestre, trazendo os mais recentes componentes de ciência de dados (como Watson Machine Learning, Watson Studio, Analytics Engine Powered by Apache Spark, Data Refinery e Decision Optimization) para o Power para clientes corporativos.

Trabalhar com nossos parceiros de ecossistema para levar os recursos de IA do IBM Power aos clientes

Para que a IA tenha um impacto significativo, muitas vezes é necessário um esforço de equipe. Com base no relacionamento entre a MuleSoft da Salesforce e a IBM, a MuleSoft e a IBM estão em discussões para oferecer suporte ao Anypoint Flex Gateway no IBM Power no primeiro trimestre de 2024. O MuleSoft Flex Gateway é um gateway de API baseado no Envoy, projetado para gerenciar e proteger APIs executadas em qualquer lugar. Ao oferecer suporte ao Flex Gateway no IBM Power, os clientes podem habilitar seus aplicativos baseados em Power com APIs para acesso seguro a aplicativos em sua empresa. Com isso, os clientes podem modernizar, compartilhar e conectar dados de missão crítica em aplicativos Power com aplicativos corporativos para aprimorar os modelos de IA usando o Watsonx.

Aproveite ao máximo seus dados com IA no IBM Power

Como eu disse no início, não existe uma solução única para sua infraestrutura de IA. Descobri que os clientes se beneficiam mais quando cocriamos e alinhamos a infraestrutura certa com a tarefa certa de IA em questão.

O parceiro perfeito nessa jornada é a IBM Consulting. Eles estão trabalhando diretamente com clientes e parceiros globais para cocriar o que há de mais novo em IA para impulsionar a transformação dos negócios. Esses consultores dedicados trarão experiência de domínio para ajudar os clientes a aproveitar as ferramentas para criar modelos watsonx em ambientes SAP e, também, podem ajudar os clientes que estão considerando executar cargas de trabalho SAP HANA no IBM Power ou IBM Power Virtual Server para acelerar as implementações de aplicativos.

Saiba mais sobre o que a IBM Consulting pode fazer por você.

—

As declarações relativas à futura direção e intenção da IBM estão sujeitas a alterações ou retirada sem aviso prévio e representam apenas metas e objetivos.

[1] Comparação baseada em testes internos da IBM de inferência de pergunta-resposta usando modelos PrimeQA (https://github.com/primeqa, com base nos modelos Dr. Decr e ColBERT). Resultados válidos a partir de 22 de agosto de 2023 e realizados em condições de laboratório. Os resultados individuais podem variar dependendo do tamanho da carga de trabalho, do uso de subsistemas de armazenamento e de outras condições. A comparação é baseada no desempenho total em pontuações (inferências) por segundo em sistemas baseados no IBM Power S1022 (1×20 núcleos/512 GB) versus Intel Xeon Platinum 8468V (1×48 núcleos/512 GB). O teste foi executado com os ambientes Python e Anaconda, incluindo os pacotes Python 3.9 e PyTorch 2.0. As bibliotecas Python usadas são otimizadas para as plataformas Power e Intel. Configuração: OMP-NUM-THREADS = 4, tamanho do lote = 60 e 40 usuários simultâneos. IBM Power S1022, 6,26 consultas por lote inferidas por segundo com 40 usuários simultâneos, Sapphire Rapids 8468V, 4,4 consultas por lote inferidas por segundo com 40 usuários simultâneos. Sistema 
IBM S1022 Power: https://www.redbooks.ibm.com/abstracts/redp5675.html

Sistema x86 comparado: Sistema Supermicro SYS-221H-TNR: https://www.supermicro.com/en/products/system/hyper/2u/sys-221h-tnr

Modelos refinados pela IBM em um corpus de dados internos da IBM.

[2] Com base em testes internos da IBM de inferência de perguntas e respostas usando modelos PrimeQA (https://github.com/primeqa, com base nos modelos Dr. Decr e ColBERT). Resultados válidos a partir de 22 de agosto de 2023 e realizados em condições de laboratório. Os resultados individuais podem variar dependendo do tamanho da carga de trabalho, do uso de subsistemas de armazenamento e de outras condições. O resultado extrapolado para um IBM Power S1024 (2×12 núcleos 3,4-4 GHz/512 GB) baseia-se em um tempo de inferência medido de 1,008 segundos no IBM Power S1022 (2×12 núcleos 2,9-4 GHz/512 GB). O teste foi executado com os ambientes Python e Anaconda, incluindo os pacotes Python 3.9 e PyTorch 2.0. As bibliotecas Python usadas são bibliotecas otimizadas para a plataforma Power. Configuração: OMP-NUM-THREADS = 32, tamanho do lote = 1.

Sistema IBM S1024 Power: https://www.redbooks.ibm.com/abstracts/redp5675.html

Modelos ajustados pela IBM em um corpus de dados internos da IBM: https://github.ibm.com/systems-cto-innovation/ai-on-ibm-systems/tree/master/primeqa/inference

[3] Comparação baseada em sistemas de soquete único (IBM Power E1080 3,55, 4 GHz, 120 núcleos, AIX e Superdome Flex 280 2,90 GHz, Intel Xeon Platinum 8380H) usando resultados publicados em www.spec.org/cpu2017/results/ em 2 de setembro de 2021. SPEC® e os nomes de referência®2017_int_base e SPECrate®2017_int_peak são marcas registradas da Standard Performance Evaluation Corporation. Para saber mais sobre a SPEC CPU 2017, consulte www.http:/spec.org/cpu2017/.