Como uma nova tecnologia pode acelerar a evolução da Inteligência Artificia
A NVIDIA criou uma tecnologia que transforma ruelas de dados em um complexo de estradas largas e sem gargalos, a IA vai deitar e rolar
Mais lidas
A evolução da inteligência artificial depende de uma infraestrutura invisível utilizada para fazer a comunicação interna dos computadores. Durante muitos anos, essa comunicação foi feita pelo PCI Express (PCIe), um barramento que define como os componentes (placas de vídeo, rede, hd etc) se conectam e trocam dados com o processador e a memória. Ele é caracterizado por faixas que funcionam como pistas de uma estrada. Quanto mais faixas, maior a largura de banda.
O PCIe funciona bem para tarefas comuns, mas quando falamos de inteligência artificial e simulações científicas ele se torna um gargalo.
É que essas atividades demandam processamento da ordem de um quintilhão de operações por segundo (10^18). É a partir daí que surge um dos principais desafios da evolução da IA atualmente: do que adiantaria ter um processador com essa capacidade quando o barramento só é capaz de entregar 64gB por
segundo?
Para que um sistema atinja quintilhão de operações por segundo, não basta ter processadores rápidos, ele precisa que os dados cheguem até os processadores sem gargalos. Quando a largura de banda é pequena, os processadores ficam “ociosos”, esperando informações chegarem para serem processadas.
Leia Mais
É aí que a nova tecnologia apresentada pela NVIDIA pode virar o jogo. Enquanto o PCIe oferece cerca de 64 GB/s de largura de banda, o novo NVLink chega a 1,8 TB/s por GPU, e a NVLink Spine, a nova arquitetura de conexão, permite conectar de maneira integrada essas GPU, multiplicando ainda mais a largura de banda. Vamos entender isso por meio de uma metáfora.
Imagine que cada GPU, placa gráfica responsável pelo processamento dos dados da IA, seja um trabalhador em uma fábrica. Quanto mais trabalhadores você tem, mais rápido o trabalho pode ser feito, certo?
Depende: se eles não conseguem se comunicar de forma eficiente, o trabalho fica lento e cheio de gargalos e a ampliação do número de trabalhadores pode causar mais ruído e ineficiência do que ganho de performance. É aí que entram as tecnologias de interconexão. Um switch é como um organizador dessa
comunicação.
Assim como nos computadores, nas redes de computadores, a largura de banda é essencial para garantir que os dados cheguem ao destino certo. Mas o diferencial do NVLink Switch é que ao fazer isso dentro de datacenters ele permite que as GPUs se integrem compartilhando memória e trabalhando como se fossem uma única unidade.
Já o NVLink Spine cria uma espinha dorsal que conecta múltiplos switches NVLink, formando uma rede ainda maior e mais eficiente. O resultado é uma arquitetura capaz de transportar sozinha o tráfego de toda a internet.
É como se várias cidades fossem interligadas por uma rede de rodovias curtas, largas e com piso perfeito, permitindo que qualquer GPU se comunique com qualquer outra em altíssima velocidade. Essa estrutura permite que modelos de inteligência artificial com trilhões de parâmetros sejam treinados e modelagens
de sistemas físicos complexos sejam processados de forma muito mais rápida e eficiente, reduzindo o tempo de semanas para dias e aumentando a eficiência energética.
Ou seja, essa pode ter sido a pedra angular da computação exaescala, em que máquinas não apenas resolvem problemas complexos, mas o fazem em tempo real.
As opiniões expressas neste texto são de responsabilidade exclusiva do(a) autor(a) e não refletem, necessariamente, o posicionamento e a visão do Estado de Minas sobre o tema.
