O ChatGPT deve custar mais que US$ 700 mil (R$ 3,5 milhões) diariamente para funcionar, apontou o analista-chefe da empresa de pesquisa de semicondutores SemiAnalysis, Dylan Patel. O chatbot conversacional da OpenAI requer uma quantidade absurda de desempenho computacional para atender a demanda de usuários do mundo todo, e a Microsoft quer reduzir esse custo.
- IA do Google aprende idioma sozinha e espanta até o CEO Sundar Pichai
- Dona do Stable Diffusion anuncia rival para o ChatGPT
“A maior parte do custo é em torno do gasto com servidores que eles precisam”, disse o analista. Agora com a disponibilidade do GPT-4, a manutenção deve ter ficado ainda mais cara, já que a avaliação dele considerava apenas o chatbot usando o GPT-3, modelo mais antigo da plataforma da OpenAI.
O treinamento por si só custa dezenas de milhões de dólares, mas o gasto com a parte operacional e custos de inferência (processamento de dados) são muito maiores, afirmaram Patel e outro analista da SemiAnalysis, Afzal Ahmad, ao site Forbes. “Na verdade, os custos para inferir o ChatGPT excedem os custos de treinamento semanalmente”, disseram.
–
Siga o Canaltech no Twitter e seja o primeiro a saber tudo o que acontece no mundo da tecnologia.
–
Microsoft quer baratear operações
Para tornar a atividade do modelo mais barata, a Microsoft aparentemente desenvolve hardware específico para processamento de dados com inteligência artificial. Essa seria função do Athena, um chip otimizado para IA supostamente em desenvolvimento desde 2019, ano em que a empresa fechou um acordo de US$ 1 bilhão com a OpenAI.
Há cerca de 300 funcionários da Microsoft focados no projeto, mas ele não seria lançado para o público geral: ele seria utilizado exclusivamente pela Microsoft e pela OpenAI para alimentar seus produtos com IA já em 2024, apontaram informantes do site The Information.
Trending no Canaltech:
- Nubank agora tem aumento de limite garantido direto no app
- IA do Google aprende idioma sozinha e espanta até o CEO Sundar Pichai
- Quais iPhones serão descontinuados com lançamento do iPhone 15?
- 5 motivos para NÃO comprar o Volkswagen Polo Track
- Cientistas criam bateria feita inteiramente de comida
- Harry Potter | 7 coisas que ficaram de fora dos filmes e PRECISAM estar na série
Fonte: Canaltech
