About this role
<p>Estamos buscando um(a) <strong>LLMOps Engineer</strong> para sustentar, evoluir e testar a nossa infraestrutura de Inteligência Artificial. Sua missão será garantir que nossas plataformas de IA (Google Gemini Enterprise, Azure Foundry, AWS Agent Core), <strong>AI Gateway</strong> e <strong>Orquestração de Agentes</strong> operem com alta disponibilidade, segurança e eficiência de custos.</p> <p>Mais do que rodar o que já existe, você será peça-chave na validação do futuro da nossa stack, apoiando na homologação de novas tecnologias, liderando testes e desenvolvendo soluções práticas.</p> <h3><span style="color:darkmagenta">Principais Responsabilidades</span></h3> <ul> <li style="list-style-type:inherit"><strong>Operação de Plataformas Agênticas:</strong> Gerenciar e otimizar a camada de agentes e proxies utilizando ferramentas como <strong>litellm</strong>, <strong>GCP Gemini</strong>, <strong>AWS Agent Core</strong> e <strong>Azure Foundry</strong>.</li> <li style="list-style-type:inherit"><strong>Homologação e P&D:</strong> Avaliar e homologar novas ferramentas, modelos e tecnologias do ecossistema de GenAI, conduzindo testes de estresse, latência e qualidade, além de desenvolver MVPs/soluções internas.</li> <li style="list-style-type:inherit"><strong>Gestão de Gateways e RAG:</strong> Configurar <em>rate limiting</em>, <em>failover</em>, <em>load balancing</em> e gerenciar a infraestrutura de bases vetoriais (OpenSearch, Vertex AI Vector Search, etc.).</li> <li style="list-style-type:inherit"><strong>Observabilidade e FinOps:</strong> Implementar tracing e monitoramento em tempo real (LangFuse, Datadog AI, Grafana) focado em consumo de tokens, latência e otimização de custos de inferência.</li> <li style="list-style-type:inherit"><strong>Automação (CI/CD para IA):</strong> Criar pipelines automatizados para deploys de IA, incluindo esteiras de avaliação de prompts (<em>Evals</em>) e testes de regressão de modelos.</li> </ul> <h3><span style="color:darkmagenta">Requisitos Técnicos (Hard Skills)</span></h3> <ul> <li style="list-style-type:inherit"><strong>Domínio em IA Agêntica e Gateways:</strong> Experiência prática com <strong>litellm</strong>, <strong>GCP Gemini</strong>, <strong>AWS Agent Core</strong> e/ou <strong>Azure Foundry/OpenAI</strong>.</li> <li style="list-style-type:inherit"><strong>Multicloud e IaC:</strong> Sólidos conhecimentos nos serviços de GenAI da AWS, Azure ou GCP, além de provisionamento via <strong>Terraform</strong>.</li> <li style="list-style-type:inherit"><strong>Programação:</strong> Proficiência em <strong>Python</strong> (obrigatório para automações e SDKs) .</li> <li style="list-style-type:inherit"><strong>DevOps Fundamental:</strong> Experiência prática com containers e orquestração (<strong>Docker</strong> e <strong>Kubernetes</strong>).</li> <li style="list-style-type:inherit"><strong>Arquitetura de Dados para IA:</strong> Compreensão de pipelines de RAG e bancos de dados vetoriais.</li> <li style="list-style-type:inherit">Experiência com desenvolvimento de Código com IA (Github Copilot, Claude Code, Codex...)</li> </ul> <h3><span style="color:darkmagenta">Diferenciais</span></h3> <ul> <li style="list-style-type:inherit">Certificações de Nuvem focadas em IA/ML (AWS, Azure ou GCP).</li> <li style="list-style-type:inherit">Experiência na implementação de LLMs locais (<strong>vLLM, Ollama</strong>) para otimização de custos.</li> <li style="list-style-type:inherit">Conhecimento em segurança de IA (OWASP Top 10 para LLMs, <em>PII masking</em>)</li> </ul> <h3><br><br></h3>