O que são os TOPS dos chips de IA?

Se você acompanhou os últimos lançamentos de hardware, certamente reparou na presença insistente de uma sigla (nova para muitos) nas fichas técnicas: TOPS. Promovida por gigantes como Intel, AMD, Qualcomm e Nvidia, essa métrica se tornou a principal bandeira do marketing para definir o quão inteligente ou preparado para a era da IA um determinado dispositivo é. Na prática, a sigla significa Trillions of Operations Per Second (Trilhões de Operações Por Segundo) e serve como uma medida teórica do desempenho bruto de um processador em tarefas de aprendizado de máquina. No entanto, por trás desse número, existe uma série de aspectos técnicos sobre como esse cálculo é feito, o papel da precisão dos dados e a real diferença entre processadores domésticos e chips voltados para servidores. O que essa métrica realmente mede? Para entender o conceito, vale imaginar os TOPS como a taxa de rotações por segundo de um motor, mas voltada para o processamento de redes neurais. Um pico de 40 TOPS indica que aquele circuito integrado é capaz de realizar matematicamente até 40 trilhões de operações numéricas simples por segundo na teoria, geralmente medindo cálculos de multiplicação e acúmulo. No entanto, essa contagem depende diretamente do nível de precisão matemática utilizado pelo chip, expresso em formatos como INT8 (números inteiros de 8 bits), INT4 ou ponto flutuante (FP16). Como operações de menor precisão exigem menos energia e banda de memória para serem calculadas, a maioria das fabricantes divulga suas taxas de TOPS baseando-se no padrão INT8, que é o mais comum em tarefas de inferência de IA sem perda perceptível de qualidade. O desempenho com NPU, CPU e iGPU Nos PCs e notebooks de última geração, a métrica de TOPS costuma ser subdividida em três partes internas de um chip. O grande destaque dessa nova safra é a NPU (Neural Processing Unit), um bloco de silício projetado especificamente para executar tarefas de IA em segundo plano com consumo de energia extremamente baixo...

Fonte: Canaltech
Leia mais: https://canaltech.com.br/hardware/o-que-sao-os-tops-dos-chips-de-ia/