A Cisco tem o prazer de compartilhar que a Robust Intelligence, uma startup de segurança de IA recentemente adquirida, foi apresentada no primeiro relatório Gartner Cool Vendors for AI Security de 2024.
Conforme declarado pelo Gartner, “Os líderes de segurança e gerenciamento de riscos enfrentam desafios operacionais, problemas de conformidade e ataques direcionados a sistemas de IA. Esta pesquisa da Cool Vendor identifica fornecedores com formas inovadoras de proteger aplicações de IA, apoiando a confiança da IA, o gerenciamento de riscos e os recursos de segurança.”
Além disso, a inclusão do Robust Intelligence celebra o trabalho inovador que a equipe tem feito desde o primeiro dia: criando o primeiro firewall de IA, extensivamente pesquisado em tópicos como ajuste algorítmico e jailbreak, e desenvolvendo uma plataforma ponta a ponta para segurança de IA. que se tornou o modelo para a nossa indústria.
“Estamos extremamente entusiasmados e entusiasmados por termos sido reconhecidos no relatório Gartner Cool Vendors”, disse Yaron Singer, cofundador da Robust Intelligence e vice-presidente de IA e engenharia da Cisco. “Acreditamos que esta é uma prova não apenas do trabalho pioneiro que realizamos na Robust Intelligence, mas, de forma mais ampla, do estado atual da segurança da IA. Na nossa opinião, quando uma empresa líder global de análise como a Gartner publica um relatório como este, reafirma que a segurança da IA é um dos desafios mais prementes que as empresas enfrentam hoje.”
Por que a Robust Intelligence é um ótimo provedor de segurança de IA
O risco da IA não gerida pode introduzir numerosos riscos financeiros, jurídicos e de reputação para qualquer empresa que adote esta nova tecnologia transformadora. A responsabilidade pela segurança da IA é partilhada por aqueles que desenvolvem aplicações de IA e pelas equipas de segurança e governação que protegem dados sensíveis a nível organizacional. A solução certa de segurança de IA deve facilitar o desenvolvimento seguro e responsável, ao mesmo tempo que impõe controles de tempo de execução após a implantação.
Pioneira neste espaço, a Robust Intelligence trouxe ao mercado o primeiro firewall de IA como parte de sua plataforma abrangente de segurança de IA. As organizações na vanguarda da inovação em IA confiam na Robust Intelligence para proteger as suas aplicações de IA contra centenas de riscos de segurança.
A plataforma Robust Intelligence inclui três componentes principais, que protegem as aplicações de IA durante todo o seu ciclo de vida:
- Digitalizando o arquivo de modelo Identifica proativamente vulnerabilidades de segurança em componentes de código aberto da cadeia de fornecimento de IA, como modelos Hugging Face. Se não forem detectadas, essas inserções maliciosas poderão comprometer todo um sistema de IA.
- Validação de IA automatiza testes de segurança para modelos de IA, ajudando os desenvolvedores a identificar e mitigar esses riscos no início do processo. Esta equipe vermelha algorítmica analisa a suscetibilidade a centenas de técnicas de ataque e categorias de ameaças de IA.
- Proteção de inteligência artificial fornece segurança em tempo de execução para aplicativos de IA de produção contra uma ampla variedade de ataques e respostas indesejadas. Essa cobertura abrange centenas de categorias e continua a crescer com base em pesquisas de ponta sobre ameaças baseadas em IA.
O mecanismo por trás da plataforma Robust Intelligence é alimentado por três elementos proprietários: tecnologia algorítmica de red teaming, um pipeline de inteligência de ameaças de IA de classe mundial e mapeamentos de políticas. A equipe da Robust Intelligence também ajudou a estabelecer padrões de segurança de IA por meio de nossa colaboração com MITRE, NIST, OWASP e outras entidades. Esse profundo conhecimento ajuda nossos clientes a mitigar uma ampla variedade de ameaças relacionadas à IA e a monitorar a conformidade com políticas relevantes. Também nos permite fornecer atualizações em tempo real para proteger nossos clientes contra um cenário de ameaças dinâmico.
A Robust Intelligence continua na vanguarda da inovação em segurança de IA, desde a criação do primeiro firewall de IA do setor até a realização de pesquisas inovadoras em IA. Os tópicos incluíram jailbreak algorítmico, os riscos do ajuste fino de modelos subjacentes, treinamento de mineração de dados e explorações em vários LLMs de ponta.
A tecnologia Robust Intelligence, integrada ao Cisco Security Cloud, fortalece nossa capacidade de proteger aplicativos e modelos de IA contra uma ampla gama de ameaças.
Não poderíamos estar mais entusiasmados com o fato de a Robust Intelligence ter sido nomeada Cool Vendor e estamos ansiosos para levar a segurança de IA a um nível sem precedentes como parte da Cisco!
Gartner, Cool Vendors for AI Security, Jeremy D’Hoinne, Bart Willemsen, Avivah Litan, Dennis Xu, 23 de outubro,
GARTNER é uma marca registrada e marca de serviço e COOL VENDORS são marcas registradas da Gartner, Inc. e/ou suas afiliadas nos Estados Unidos e internacionalmente e são usadas aqui com permissão. Todos os direitos reservados. A Gartner não endossa nenhum fornecedor, produto ou serviço descrito em suas publicações de pesquisa e não aconselha os usuários de tecnologia a selecionar apenas os fornecedores com as classificações mais altas ou outra designação. As publicações de pesquisa do Gartner representam as opiniões da organização de pesquisa do Gartner e não devem ser interpretadas como declarações de fatos. O Gartner se isenta de todas as garantias, expressas ou implícitas, com relação a esta pesquisa, incluindo quaisquer garantias de comercialização ou adequação a uma finalidade específica.
Adoraríamos saber o que você pensa. Faça uma pergunta, comente abaixo e fique conectado com o Cisco Secure nas redes sociais!
Canais sociais de segurança da Cisco
Instagram
Facebook
Twitter
LinkedIn
Compartilhar: