Como utilizar a Inteligência Artificial Generativa na minha empresa

Parte II – Como implementar GenAI na minha empresa

INTRODUÇÃO

Conforme abordamos na primeira publicação desta série de artigos sobre GenAI (Conceitos de IA), o universo dos LLMs (Large Language Models) é fascinante. Essa tecnologia está revolucionando nossas vidas e o mundo dos negócios. Ignorá-la é condenar sua empresa à perda de competitividade. Os LLMs aumentam a produtividade, refinam táticas de vendas, aprimoram o atendimento ao cliente e impulsionam a análise de dados. Não fique para trás, pois implementá-la demanda tempo e mudanças significativas na empresa. Evite modismos e defina de forma sustentável como incorporar essa revolução ao seu negócio!

COMO GERAR VANTAGEM COMPETITIVA

Como transformar um LLM em vantagem competitiva e fonte de receita? Essa é a pergunta que todo empresário e executivo está se fazendo. Histórias de sucesso já existem aos montes, mas não estou aqui para contar mais uma história inspiradora. Meu objetivo é mostrar o que precisa ser feito para que você, empresário ou CEO, ao se deparar com essas histórias, não fique paralisado se perguntando: “Será que isso funcionaria na minha empresa? Como um LLM poderá trabalhar com meus dados? Por onde eu começo?”

Vamos transformar essas dúvidas em ações concretas. Implementar GenAI (Generative AI) não é apenas sobre tecnologia, mais do que nunca, é sobre estratégia de negócio moldando a tecnologia. Com base nas reflexões a seguir, vamos abordar temas críticos em um roteiro para sua empresa embarcar nesta jornada:

• Como escolher um bom caso de uso?

  • Você está priorizando os casos de uso certos para sua indústria e para seu modelo de negócio?

  • Há um racional claro de ROI por trás da escolha?

• Quais os pré-requisitos?

  • Você sabe quanto sua iniciativa custará e como viabilizá-la financeiramente?

  • Seus dados têm qualidade, volume e estrutura para suportar o uso de IA?

  • Sua equipe tem a expertise necessária?

  • Seu time-to-market está adequado aos objetivos da iniciativa?

• Qual caminho seguiremos?

  • Fazer ou comprar (Build-or-Buy)?

  • Sua equipe técnica avaliou se sua necessidade exige APIs prontas, RAG, Fine-tuning ou uma combinação destas técnicas?

• Como será a implementação?

  • Estou planejando implementar GenIA como Projeto ou como Produto? 

  • Estou considerando as melhores práticas?

• A minha Governança está preparada para a disseminação do uso de IA?

  • Você tem processos que garantem conformidade, segurança e ética na implementação?

TEMAS CRÍTICOS PARA SEU ROTEIRO DE IMPLEMENTAÇÃO

Vamos avançar um pouco mais sobre cada um destes 5 temas.

1. Como escolher um bom caso de uso?

Para priorizar o uso da GenAI na sua empresa, você precisa definir sua ambição, respondendo a algumas perguntas: 

• Você quer aumentar a produtividade no dia a dia ou revolucionar seu modelo de negócio?

• Quer utilizar IA nos bastidores ou em interações diretas com clientes?

Definida sua ambição, você pode definir se prioriza aplicações no front-office (marketing, atendimento), back-office (RH, financeiro, jurídico), capacidades internas (operações, P&D, logística) ou até mesmo se melhora a proposta de valor dos seus produtos/serviços. Mas não siga cegamente essa priorização! A escolha, ainda mais no começo, deve ser sempre de casos que balanceiam um alto retorno com uma alta viabilidade técnica... E tome cuidado com fornecedores que prometem soluções fáceis e milagrosas.

2. Quais os pré-requisitos?

• Viabilidade Financeira: adotar GenAI em grande escala pode sair caro. O FinOps, muito usado na computação em nuvem, é um conjunto de práticas que ajudam as empresas a controlar e otimizar gastos com tecnologia. No caso da GenAI, isso significa ter clareza sobre os custos, encontrar formas de reduzi-los e gerenciar melhor os recursos. É importante entender bem como os fornecedores de IA cobram pelo serviço. Muitos cobram por usuário e, mesmo que ofereçam planos gratuitos no começo, isso pode mudar com o tempo. Além disso, com a evolução do projeto, o custo pode passar a ser baseado na quantidade de “palavras” processadas (na verdade, por “tokens”), o que pode gerar uma conta bem alta se não houver controle, sendo importantíssimo fazer um orçamento realista para a sua iniciativa não fracassar no meio do caminho por falta de viabilidade financeira.

• Dados: muita gente acredita que a GenAI não precisa de dados de alta qualidade porque os modelos já foram treinados com enormes volumes de informação. Na prática, para gerar valor real, as empresas precisam de uma base de dados, com grandes volumes, preparada para IA. Os melhores resultados surgem quando a GenAI é combinada com os dados da própria empresa. Isso exige um bom gerenciamento, incluindo a entrada constante de dados para RAG, além do uso de bancos de dados vetoriais e grafos de conhecimento para organizar e recuperar informações relevantes. Sendo ideal focar nos dados que realmente serão usados nos casos de uso escolhidos e jamais tentar melhorar todos os dados da empresa de uma vez.

• Expertise: para viabilizar o uso da GenAI, é essencial promover equipes adequadas à sua ambição, não bastando focar nas equipes de tecnologia, é preciso capacitação específica em toda a empresa, incluindo a alta gestão. Perfis como cientistas de dados e engenheiros de IA na equipe é mandatório e, provavelmente, será necessário contratá-los, pois sua formação interna requer muito tempo. Parcerias com fornecedores ou a contratação de consultoria podem ajudar a trazer conhecimento e boas práticas. A criação de uma comunidade de entusiastas fortalece a troca de conhecimento e a inovação contínua.

• Time-to-Market: para garantir o sucesso das iniciativas de GenAI, é essencial definir expectativas realistas de prazos para não frustrar o “time-to-market”. Ter objetivos claros de geração de valor para o negócio desde o início, além de reduzir a complexidade técnica antes da implementação, são também fatores críticos para evitar a perda de foco e dos investimentos necessários.

3. Qual caminho seguiremos na jornada da GenAI?

O ambiente de GenAI na sua empresa (podemos chamar de sua Plataforma de GenAI) contará com 4 elementos básicos: infraestrutura de TI, modelos de LLM, ferramentas de engenharia de IA e aplicações. Para garantir eficiência e resultados, o caminho a ser seguido deve ser contemplar flexibilidade, escalabilidade e contar com governança desde o início. 

O mundo da GenAI muda rápido e quase sempre de jeitos que não dá para prever, como o crescimento dos modelos de “open source” e os focados em áreas específicas. Por isso, é importante que seu caminho seja flexível, com uma arquitetura tecnológica que permita ajustes conforme as novidades forem surgindo.

A escolha de uma plataforma com todos ou a maioria dos elementos básicos sendo de um único fornecedor promove um resultado mais rápido em virtude da facilidade de integração dos elementos, mas também reduz a flexibilidade, aumenta o risco da dependência do fornecedor e os custos para mudar de plataforma no futuro. Avalie cuidadosamente a abordagem Comprar-ou-Fazer (Build-or-Buy), levando em consideração o seu time-to-market, a dependência do fornecedor, os custos e a expertise interna da sua equipe para adotar uma plataforma mais flexível, composta dos melhores elementos, porém desacoplados (um conceito chamado de arquitetura “best-of-breed”). 

Por fim, evite gastar demais logo de cara com infraestrutura ou personalização de modelos, a menos que haja um motivo claro para isso. 

4. Arquitetura da sua Solução

Indo além destas diretrizes estratégicas sobre o caminho a trilhar, para que você progrida de forma consistente no caminho, duas outras questões precisam ser respondidas pela sua equipe: Onde a plataforma será implementada? Qual abordagem utilizar para que a GenAI possa responder com base nos dados da sua empresa? 

4.1 Utilizar ambiente próprio ou na Nuvem do Fornecedor?

Ao implementar uma solução de GenAI, um dos primeiros desafios da equipe técnica é decidir onde processar o modelo: dentro da infraestrutura da empresa (on-premise utilizando modelos como Llama ou Deepseek) ou no ambiente do fornecedor (utilizando soluções de fornecedores como OpenAI, Microsoft, Google, entre outros, incluindo a solução brasileira “Amazonia 360” da Widelabs). 

Mas esta decisão não é puramente técnica, ela precisa de uma visão de negócio e de investimento. Reflexões estratégicas precisam ser feitas e repassadas para a equipe técnica: 

• Time-to-Market:  se o seu momento de negócio requer agilidade e escalabilidade, usar um ambiente na nuvem do fornecedor permite um acesso rápido a modelos de ponta, sem precisar investir em infraestrutura própria, minimizando investimento inicial e acelerando a jornada.

• Segurança e Compliance: se seu negócio lida com dados sensíveis ou regulamentados, talvez seja melhor optar pelo seu próprio ambiente, mais controlado e “confinado”, para minimizar risco de vazamento de dados. Em um ambiente próprio, você tem maior governança sobre os LLMs e pode customizá-los conforme necessário.

• Custos a longo prazo: dependendo do caso de uso que a GenAI irá alavancar, sua abordagem de implementação pode gerar custos bem altos no longo prazo se estiver usando um ambiente na nuvem do fornecedor. Como já comentamos, os modelos de precificação dos fornecedores geram custos bem elevados em alguns cenários, podendo inviabilizar sua jornada. Este orçamento já foi previsto?

• Infraestrutura existente: se não houver uma infraestrutura robusta já instalada na sua empresa, haverá um investimento inicial significativo em hardware e na equipe técnica especializada para manutenção de um ambiente próprio. 

Estas reflexões estão todas muito interligadas, dependem da ambição da empresa para a GenAI e demandam alinhamento das visões de negócio e técnica.

4.2 Qual abordagem utilizar para integrar seus dados? 

Existem diferentes abordagens para que a GenAI possa responder com base nos dados da sua empresa, cada uma com níveis distintos de complexidade e custo. A escolha da melhor opção depende das necessidades do negócio, da disponibilidade de dados, dos talentos e dos recursos disponíveis. Abaixo, apresento as principais alternativas, da mais simples e acessível até a mais complexa e cara:

4.2.1 Uso de APIs prontas e engenharia de prompts

A forma mais simples de utilizar GenAI na sua empresa é por meio de APIs (interfaces de programação) disponibilizadas por fornecedores como OpenAI, Anthropic, Google e outros. Isso permite integrar a IA às suas aplicações sem precisar treinar um modelo do zero.

A customização das respostas é feita por engenharia de prompts, ou seja, a criação de instruções bem estruturadas para orientar o modelo a responder conforme as necessidades do seu negócio. Um exemplo prático seria uma empresa de atendimento ao cliente que utiliza uma API de GenAI para criar respostas automáticas aos clientes, ajustando os prompts para garantir um tom mais formal ou amigável conforme a demanda.

Vantagens:

• Implementação rápida e acessível;

• Ótima alternativa para gerar cultura e conhecimento inicial;

• Dispensa treinamento do modelo;

• Tipicamente, usa infraestrutura do fornecedor.

Limitações:

• Dependência do fornecedor da API/Plataforma;

• Pode ter limitações de personalização.

4.2.2 Uso de RAG (Retrieval-Augmented Generation)

A Geração Aumentada por Recuperação (RAG) melhora a precisão das respostas da IA ao combinar os modelos existentes com informações internas da empresa. Em vez de depender apenas do conhecimento que o modelo já possui, o RAG permite que ele consulte bancos de dados, documentos e outros repositórios da empresa antes de gerar uma resposta.

Por exemplo, uma empresa pode usar RAG para conectar um chatbot de atendimento ao seu banco de dados interno. Se um cliente perguntar sobre um contrato específico, o sistema pode buscar o documento correspondente e gerar uma resposta precisa com base no conteúdo atualizado.

Vantagens:

• Utiliza dados internos sem precisar treinar um modelo do zero;

• Permite respostas mais atualizadas e contextuais;

• Reduz a necessidade de treinamento adicional do modelo;

• Pode ser feito em infraestrutura própria para maior privacidade de dados ou na do fornecedor.

Limitações:

• Requer uma infraestrutura de busca eficiente;

• Exige uma boa organização dos dados internos.

4.2.3 Uso de Fine-Tuning (Ajuste Fino)

O fine-tuning consiste em treinar um modelo pré-existente (como GPT-4 ou Llama) com dados específicos da sua empresa, permitindo que ele incorpore conhecimento institucional, como políticas internas, normas de compliance e linguagem específica do setor.

Por exemplo, um banco pode treinar um modelo para responder perguntas sobre regulamentações financeiras com base em documentos internos. Esse modelo ajustado se torna altamente especializado, garantindo respostas mais precisas para esse contexto.

Vantagens:

• Modelo mais alinhado ao vocabulário e conhecimento da empresa;

• Pode melhorar o desempenho em tarefas específicas;

• Pode ser feito em infraestrutura própria ou na do fornecedor.

Limitações:

• Processo técnico e custoso, exigindo expertise em IA;

• Demanda infraestrutura computacional avançada ou custos mais elevados no ambiente do fornecedor;

• Não é ideal para dados que mudam com frequência, pois demandaria treinamento constante.

4.2.4 Criar o seu próprio LLM

Esta é a opção mais complexa e cara. Construir um Large Language Model (LLM) do zero envolve coletar grandes volumes de dados, processá-los, treinar um modelo e mantê-lo atualizado. Empresas como OpenAI, Google e Meta investem bilhões de dólares nesse processo, e mesmo grandes corporações que tentaram desenvolver seus próprios modelos enfrentaram desafios imensos.

Estima-se que 50% das empresas que tentam criar seus próprios LLMs acabam abandonando a iniciativa devido a altos custos, complexidade e rápida defasagem tecnológica. Em geral, apenas empresas com volumes massivos de dados e capacidade computacional avançada conseguem suportar esse investimento.

Vantagens:

• Total controle sobre o modelo e seus dados;

• Potencial de diferenciação competitiva.

Limitações:

• Custo extremamente alto;

• Necessidade de uma equipe altamente especializada;

• Risco de obsolescência rápida devido à evolução do mercado;

• Demanda infraestrutura computacional própria.

As vantagens e limitações citadas são para orientar uma visão inicial, mas um estudo detalhado das opções em linha com as demandas do caso de uso é mandatório para uma perfeita escolha da abordagem a ser utilizada.

5. O que devo considerar no planejamento da implementação?

As 5 principais barreiras para a implementação da GenAI nas empresas estão, praticamente todas, ligadas aos pré-requisitos que já comentamos, sendo elas: 

• Desafios técnicos;

• Custos;

• Talentos;

• Governança e

• Disponibilidade de Dados.

Sem negligenciar nenhuma destas barreiras, mas sendo bem pragmático, o “custo” representa a maior armadilha na implementação, pois as demais barreiras são detectadas mais facilmente em tempo de implementação do Piloto. Porém, o custo não funciona assim. Estima-se que mais de 50% das iniciativas de AI irão ultrapassar os custos inicialmente previstos. Falta de conhecimento operacional, governança inadequada e arquitetura mal definida afetam fortemente os custos e todos estes fatores ficam mais claros apenas quando a solução já está em produção.

Não permita que isto aconteça! Planeje adequadamente todos os fatores relacionados a custo, assim como revisões mensais ou trimestrais dos custos do GenAI para garantir uma otimização contínua e incutir uma cultura de responsabilidade.

Para aproveitar ao máximo a IA Generativa, é essencial tratá-la como um produto em constante evolução, e não como um projeto com início e fim bem definidos. Isso significa ter responsáveis dedicados, atualizações contínuas e avaliações regulares para garantir que a abordagem adotada ainda faz sentido – comparando-a, sempre que possível, com as inovações que surgem no mercado.

Se a IA for tratada como um projeto fixo, a empresa vai perder oportunidades, deixando de acompanhar novas tendências e ignorando o feedback dos usuários. Manter uma abordagem de produto, com evolução constante, garante que a solução continue relevante e competitiva ao longo do tempo.

Utilize métricas de valor para o negócio bem específicas, tangíveis e com prazo determinado, para um adequado acompanhamento do sucesso do “produto”.

Em resumo, crie equipes multidisciplinares com áreas de negócio e tecnologia, adote um modelo de entrega orientado a produto, use uma arquitetura que facilite a escalabilidade das iniciativas, incluindo mentalidade ágil, ambientes de experimentação, arquitetura flexível e otimização de custos, e estruture a governança desde o princípio.

6. A minha Governança está preparada para a disseminação do uso de GenAI? 

A Governança da GenAI tem um papel fundamental na gestão dos custos, mas este não é seu papel principal. LLMs podem gerar respostas imprecisas (alucinações) ou até reproduzir vieses e conteúdos inadequados. Utilizar esses modelos diretamente, sem ajustes, não é bom para aplicações voltadas ao cliente.

Utilizar técnicas como RAG e fine-tuning pode promover um maior controle das respostas, mas ainda assim, por ainda serem probabilísticos, esses modelos nunca garantirão 100% de precisão, tornando essencial a presença de um humano no processo (expressão “human in the loop”) para revisar informações em aplicações de alto risco. O principal papel da Governança de IA está em não infringir regulamentações, tais como a LGPD e o “EU AI Act”, com uma gestão ativa de riscos versus benefícios.

CONCLUSÃO

Muitas empresas terão dificuldade em diferenciar o que é hype e o que é realidade nas soluções de IA. No entanto, as que buscam sucesso investirão no essencial: talentos, boas práticas de engenharia, um modelo operacional eficiente, dados e governança. Não basta adotar ferramentas da moda. Promova o planejamento e foque nos casos de uso com maior retorno.

Meu palpite é que você deve estar se questionando sobre a questão dos custos, já que há diversos fatores que os afetam. Avaliar custos da infraestrutura computacional versus serviços em nuvem, de pessoal versus consultoria, de curto prazo versus longo prazo etc. Se eu estiver certo no meu palpite... que bom, pois você vai se interessar pelo próximo artigo. Quer ser notificado? Siga a Bizup em nossas redes sociais e compartilhe este artigo para ajudar outras pessoas!