O que é
O NVIDIA Run:ai é uma plataforma de código aberto para orquestração de GPUs e cargas de trabalho de IA que opera sobre o Kubernetes. Ele não substitui o Kubernetes, mas o estende, oferecendo capacidades de agendamento sensíveis a GPUs, governança e observabilidade. A ferramenta estrutura-se em dois componentes: o plano de controle, que centraliza a gestão de recursos e monitoramento, e os serviços de cluster, que aplicam o agendamento e a gestão de cargas de trabalho em cada cluster Kubernetes conectado.
Para quem serve
A plataforma é ideal para organizações que gerenciam infraestruturas de IA compartilhadas em ambientes on-premises, na nuvem ou híbridos. Serve para equipes que precisam de eficiência na distribuição de GPUs entre diversos projetos e departamentos, permitindo o uso de cotas de recursos e alocação dinâmica, inclusive com GPUs fracionárias. É útil para quem opera fluxos de desenvolvimento, treinamento distribuído e inferência, buscando funcionalidades como fair-share, preempção e controle de acesso baseado em funções.
Como começar
A implementação exige um cluster Kubernetes ou OpenShift. O acesso ao software é feito via monorepo, que disponibiliza o instalador, a interface de linha de comando (CLI), pacotes de cliente e o ambiente de desenvolvimento local. A operação do sistema pode ser realizada através da interface web, da CLI ou via API REST. Para a instalação e configuração inicial, recomenda-se consultar a documentação oficial e o guia de contribuição disponíveis no repositório.
Instalação
./local-dev.sh # full build + cluster + deploy ./local-dev.sh --skip-build --skip-cluster # re-deploy only ./local-dev.sh --teardown # tear the environment down 🔗 Repositório oficial: https://github.com/dsx-ai-factory/run-ai
Veja em 1 minuto
📚 Mais conteúdos do canal: https://gist.github.com/VictorHugodaSilvaSousa/d1e955e97cd27fc662351821d0a3fdbe