Cerebras lança ferramenta de inferência de IA em desafio à Nvidia

"Estamos oferecendo um desempenho que não pode ser alcançado por uma unidade de processamento gráfico", disse o presidente-executivo da Cerebras, Andrew Feldman, em uma entrevista à Reuters. "Estamos fazendo isso com a mais alta precisão e estamos oferecendo isso pelo menor preço."

A expectativa é de que a parte de inferência do mercado de IA cresça rapidamente e seja atraente, chegando a valer dezenas de bilhões de dólares se consumidores e empresas adotarem as ferramentas.

A empresa sediada em Sunnyvale, Califórnia, planeja oferecer vários tipos de produtos de inferência por meio de uma chave de desenvolvedor e de sua nuvem. A empresa também venderá seus sistemas de IA para clientes que preferem operar seus próprios centros de dados.

Os chips da Cerebras - cada um do tamanho de um prato e chamados de Wafer Scale Engines - evitam um dos problemas com o processamento de dados de IA: o processsamento de dados por grandes modelos de IA normalmente não pode ser feito por um único chip e pode exigir centenas ou milhares de microprocessadores conectados entre si.

Isso significa que os chips da Cerebras podem alcançar desempenhos mais rápidos, disse Feldman.

A companhia planeja cobrar dos usuários apenas dez centavos de dólar por milhão de tokens, que são uma das maneiras pelas quais as empresas podem medir a quantidade de dados de saída de um modelo grande.

A Cerebras pretende abrir seu capital e apresentou um prospecto confidencial à SEC, órgão que regula o mercado de capitais nos Estados Unidos este mês, informou a empresa.