Canaltech.
Grandes empresas de tecnologia se uniram para formar a Coalizão de Segurança em IA (CoSAI), iniciativa que visa estabelecer padrões e orientações para criar sistemas de IA seguros. Big Techs como Google, OpenAI, Microsoft e Amazon fazem parte da aliança, anunciada nesta quinta-feira (18) durante o Aspen Security Forum.
- Clique e siga o Canaltech no WhatsApp
- O que é singularidade tecnológica e o que isso tem a ver com IA
A CoSAI se destaca como uma comunidade de código aberto que promove a colaboração entre líderes da indústria, acadêmicos e outros especialistas. Seu objetivo é compartilhar metodologias, frameworks padronizados e ferramentas para abordar a segurança da IA de maneira abrangente.
Coalizão de Big Techs por segurança em IA
Entre as gigantes de tecnologia que aderiram à iniciativa estão Google, IBM, Intel, Microsoft, NVIDIA, PayPal, Amazon, Anthropic, Cisco, OpenAI e Wiz. Segundo o anúncio de formação da CoSAI, a rede diversificada de parceiros deverá criar um “ecossistema colaborativo para enfrentar o cenário fragmentado da segurança em IA”.
–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–
A coalizão vai se concentrar na criação de medidas de segurança para os principais riscos que ameaçam os sistemas de IA, tais como roubo de modelos, envenenamento de dados, injeção de prompts e ataques de inferência. A iniciativa busca estabelecer práticas padronizadas que promovam a segurança e a confiança no uso e implantação da IA.
“A criação da CoSAI está enraizada na necessidade de democratizar o conhecimento e os avanços essenciais para a integração e implantação seguras da IA”, afirmou o representante do Google e copresidente do Conselho Governante da CoSAI David LaBianca em comunicado.
O representante da Cisco e copresidente do Conselho Governante da CoSAI Omar Santos também destacou a importância da colaboração: “Com a CoSAI, aproveitaremos a experiência e recursos combinados para acelerar o desenvolvimento de padrões e práticas robustas de segurança de IA que beneficiarão toda a indústria”.
Primeiras ações da CoSAI
A CoSAI iniciará seus trabalhos com três frentes principais:
- Segurança da cadeia de suprimentos de software para sistemas de IA: melhorando o rastreamento de composição e procedência para proteger aplicações de IA;
- Preparação dos defensores para um cenário de cibersegurança em transformação: abordando investimentos e desafios de integração em sistemas clássicos e de IA;
- Governança de segurança em IA: desenvolvendo práticas recomendadas e frameworks de avaliação de riscos para a segurança em IA.
A coalizão informa que outras frentes de trabalho serão adicionadas no futuro para atender às necessidades relacionadas à segurança dos sistemas de IA. Vale lembrar que as Big Techs já prometeram “puxar a tomada” da IA se os riscos forem grandes demais.
Trending no Canaltech:
- Vídeo mostra tribo isolada se aproximando de áreas de extrativismo na Amazônia
- Fóssil de tatu gigante comprova presença humana na América do Sul há 21 mil anos
- X-Men | Quem são e quais os poderes dos novos alunos mutantes de 2024?
- Apagão: aeroportos atuam “à moda antiga” pelo mundo; veja relatos
- Recuperação de alguns sistemas pode demorar, diz CEO da CrowdStrike após apagão
- CrowdStrike, tela azul e Windows: entenda apagão cibernético desta sexta
Guilherme Haas , Canaltech.
Fonte: Canaltech..
Thu, 18 Jul 2024 18:16:56 -0300
