CTO da Dell: As empresas terão GenAI em produção em 2024

Republicado por Platão

seguidores: 0

A Dell acredita que sabe o que manterá os CIOs acordados durante a noite durante o próximo ano, e isso inclui fazer com que a IA generativa funcione para sua organização, segurança e borda.

Estas questões talvez não sejam surpreendentes para os profissionais da indústria tecnológica, mas o diretor de tecnologia da Dell, John Roese, acredita que elas se tornarão cada vez mais importantes para as empresas durante 2024.

Há tanto entusiasmo sobre a IA generativa que a simples menção dela é suficiente para fazer com que algumas pessoas se desliguem. Roese nos disse durante uma teleconferência que 2024 provavelmente será um ano em que muitas empresas passarão os projetos da fase de experimentação para realmente serem colocados em prática.

Até agora, a maioria das empresas está usando IA “casualmente” e fazendo experiências com ela, afirmou Roese, tentando descobrir quais modelos realmente funcionam para seus dados e aplicações. A “ação real” ocorrerá quando essas organizações passarem a usá-los para inferência em uma carga de trabalho ativa.

“O foco mudará do custo do treinamento para o custo das operações”, afirmou ele, acrescentando: “Quando você pega um modelo e faz fluir dados através dele, há um custo para fazer isso”.

Isto incluirá não apenas o custo de construção do sistema, mas também de operação do mesmo, talvez para gerar, digamos, 50,000 transações por mês. As organizações, portanto, se concentrarão apenas em alguns projetos promissores, disse ele.

Entre os desafios que enfrentarão está o local onde hospedar essas cargas de trabalho de IA, porque elas operam melhor onde os dados residem. Isto conduzirá inevitavelmente a um modelo distribuído para grandes organizações, disse Roese, porque as jurisdições (como a UE) têm regulamentações diferentes relativamente à utilização de dados.

Isto também destaca a segurança, não apenas dos dados, mas dos próprios modelos. Roese afirmou que se os invasores pudessem acessar os modelos de IA de uma organização, seria possível fazer engenharia reversa deles para extrair informações sobre o que a empresa sabe.

Mas fabricantes de tecnologia como a Dell esperam que os clientes empresariais invistam somas significativas em plataformas generativas de IA. Perguntámos o que acontece se descobrirem que os retornos das suas aplicações com IA não justificam os montantes gastos.

Roese disse que ninguém deve embarcar em um grande projeto de IA, ou mesmo pequeno, a menos que possa quantificar os retornos que provavelmente obterá.

Devem ter uma boa ideia se isso significará que necessitarão de menos pessoal para um determinado fim, se precisarão de mais ou menos infra-estruturas, ou se podem esperar fazer melhores negócios como resultado.

“Se você descobrir depois da implantação, já será um pouco tarde”, afirmou ele.

Mas ele admitiu que alguns projetos generativos de IA custarão “quantias significativas” e que muitas grandes ideias “podem não ser postas em prática” pelas organizações durante 2024, porque o RoI pode ainda não estar claro.

Voltando à segurança, Roese prevê que em 2024 as organizações começarão a mudar para um modelo de confiança zero em toda a sua infraestrutura como a única forma realista de combater o enorme aumento dos ataques.

Confiança zero exige que todos os usuários, dispositivos e aplicativos sejam autenticados para cada ação ou solicitação em uma rede corporativa.

Uma mudança arquitetônica como essa é “difícil de fazer”, disse Roese, mas “não é mais teórica” e a Dell espera ver os clientes, incluindo órgãos governamentais, iniciarem uma mudança para onde a confiança zero seja o estado padrão nos próximos 12 anos. meses.

Para a borda, Roese disse que 2024 verá o surgimento de plataformas de ponta, indicando que a definição da Dell se refere a uma plataforma comum para aplicativos que funcionarão com qualquer plataforma de nuvem.

Se você não mudar para um modelo de plataforma, afirmou Roese, acabará com uma proliferação de várias caixas e sistemas de borda diferentes.

“Não seria melhor se você pudesse construir uma plataforma comum, implantá-la no mundo real e, em seguida, executar qualquer carga de trabalho de borda a partir de qualquer nuvem ou sistema nela?” ele disse.

Naturalmente, a Dell está desenvolvendo tal plataforma.

No entanto, como para muitos na indústria de TI, parece que a IA será “o centro do universo” durante 2024, no que diz respeito à Dell – para melhor ou para pior. ®