Criadora do ChatGPT, a OpenAI montou uma equipe para monitorar o crescimento da chamada “super IA”: uma inteligência artificial tão desenvolvida a ponto de ficar mais inteligente do que os seres humanos e, na pior hipótese possível, levar à extinção humana.
- Controlar uma superinteligência artificial seria impossível, diz estudo
- IA sequencia DNA de câncer cerebral durante cirurgia
O objetivo desse time é certificar de que a evolução da inteligência artificial generativa seja benéfica para a humanidade e não tome o caminho contrário. Até o momento, a superinteligência é apenas uma teoria, mas a OpenAI estipula que poderia surgir até o final dessa década.
Quem vigia a super IA?
A organização detalhou o projeto num post de blog assinado pela cofundadora Ilya Sutskever e pelo diretor da nova “polícia” da super IA Jan Leike. Segundo o comunicado, a humanidade ainda não teria uma solução para controlar IAs superinteligentes e evitar que se voltem contra os próprios humanos.
–
Siga no Instagram: acompanhe nossos bastidores, converse com nossa equipe, tire suas dúvidas e saiba em primeira mão as novidades que estão por vir no Canaltech.
–
Isso acontece porque, de acordo com a OpenAI, as técnicas atuais de treinamento, controle e aprendizado da IA são feitas a partir de retorno humano e dependem da habilidade humana, mas isso pode chegar a um limite com IAs muito inteligentes. Seriam necessárias, portanto, novas descobertas técnicas e científicas.
A nova equipe de superinteligência deverá criar uma IA de nível humano capaz de gerenciar outras inteligências artificiais após três etapas: desenvolver um método de treinamento, validar os resultados e testar todos os outros canais de alinhamento.
Para isso, a OpenAI abriu vagas para contratação de engenheiros e pesquisadores de machine learning, além de dedicar 20% dos recursos de computação ao projeto. O prazo para obter uma solução é de quatro anos.
Regulamentação da IA é uma discussão constante
A ideia da equipe para monitorar a super IA vai ao encontro de outros projetos da OpenAI para regulamentar o uso dessa tecnologia. Recentemente, os criadores da empresa assinaram um comunicado pedindo pela criação de um órgão regulador internacional para monitorar os avanços desse segmento.
Trending no Canaltech:
- Wolverine aparece com uniforme clássico na primeira imagem de Deadpool 3
- 5 motivos para não comprar o Nissan Sentra 2023
- Planos com WhatsApp e outros apps ilimitados podem estar com dias contados
- Nova saga da DC sugere que danos mentais de Batman aumentaram
- Review VAIO TL10 | Um tablet honesto e completo
- 8 IAs para conversar com você e resolver problemas
Fonte: Canaltech
