A NVIDIA está lançando um novo supercomputador compacto com inteligência artificial generativa, que oferece melhor desempenho a um preço mais baixo com uma atualização de software.
O novo NVIDIA Jetson Orin Nano Super Developer Kit, que cabe na palma da sua mão, oferece a todos, desde desenvolvedores comerciais de IA até amadores e estudantes, melhorias na capacidade e no desempenho da IA generativa. E o preço agora é de US$ 249, abaixo dos US$ 499.
Disponível hoje, ele oferece um aumento de 1,7x no desempenho de inferência de IA generativa, um aumento de 70% no desempenho para 67 INT8 TOPS e um aumento de 50% na largura de banda de memória para 102 GB/s em comparação com seu antecessor.
Seja construindo chatbots LLM baseados em geração de recuperação aumentada, criando um agente visual de IA ou implementando robôs baseados em IA, o Jetson Orin Nano Super é a solução de recuperação ideal.
As atualizações de software disponíveis para o novo Jetson Orin Nano Super também melhorarão o desempenho da IA generativa para aqueles que já possuem o Jetson Orin Nano Developer Kit.
Jetson Orin Nano Super é adequado para aqueles interessados em desenvolver habilidades em inteligência artificial generativa, robótica ou visão computacional. À medida que o mundo da IA está a passar de modelos específicos de tarefas para modelos de base, também fornece uma plataforma acessível para transformar ideias em realidade.
O desempenho aprimorado do Jetson Orin Nano Super oferece benefícios para todos os modelos populares de IA generativa e visão computacional baseada em transformadores.
O kit do desenvolvedor consiste em um sistema em módulo (SoM) Jetson Orin Nano de 8 GB e uma placa transportadora de referência, fornecendo uma plataforma ideal para prototipagem de aplicativos de IA de ponta.
O SoM apresenta uma GPU de arquitetura NVIDIA Ampere com núcleo tensor e uma CPU Arm de 6 núcleos, o que facilita vários pipelines de aplicativos de IA simultâneos e inferência de alto desempenho. Ele pode suportar até quatro câmeras, oferecendo resolução e taxas de quadros mais altas do que as versões anteriores.
A IA generativa está evoluindo rapidamente. O NVIDIA Jetson AI Lab oferece suporte imediato para modelos de ponta da comunidade de código aberto e fornece tutoriais fáceis de usar. Os desenvolvedores também podem obter amplo apoio da comunidade Jetson mais ampla e inspiração em projetos criados por desenvolvedores.
Jetson executa software de IA da NVIDIA, incluindo NVIDIA Isaac para robótica, NVIDIA Metropolis para IA visual e NVIDIA Holoscan para processamento de sensores. Os tempos de desenvolvimento podem ser reduzidos com o NVIDIA Omniverse Replicator para gerar dados sintéticos e o NVIDIA TAO Toolkit para ajustar modelos de IA pré-treinados do catálogo NGC.
Os parceiros do ecossistema Jetson oferecem software adicional de sistema e IA, ferramentas de desenvolvedor e desenvolvimento de software personalizado. Eles também podem ajudar com câmeras e outros sensores, bem como placas transportadoras e serviços de design para soluções de produtos.
Atualizações de software para aumentar o desempenho da IA generativa em 1,7x também estarão disponíveis para as séries de sistemas de módulos Jetson Orin NX e Orin Nano.
Os atuais proprietários do Jetson Orin Nano Developer Kit podem atualizar o JetPack SDK para desbloquear imediatamente um desempenho aprimorado.
FONTE