Agente de IA da Meta causa falha interna de segurança

Meta registrou incidente de segurança com agente de IA (imagem: Vitor Pádua/Tecnoblog) Resumo Um agente de IA da Meta expôs dados corporativos e de usuários sem autorização após acessar sistemas internos por cerca de duas horas. A falha ocorreu quando um engenheiro usou o agente de IA para responder a uma dúvida técnica, resultando em acesso involuntário a dados sensíveis. Segundo o The Information, a Meta classificou o incidente como “Sev 1”, um dos níveis mais altos de criticidade. Um agente de inteligência artificial da Meta expôs dados corporativos e de usuários sem autorização. O caso ocorreu após uma interação comum em um fórum interno da empresa, mas evoluiu para uma falha de segurança considerada grave. De acordo com um relatório interno, obtido pelo site The Information, um funcionário publicou uma dúvida técnica na plataforma da companhia. Outro engenheiro, ao tentar ajudar, recorreu a um agente de IA para analisar o problema. O sistema, no entanto, respondeu diretamente ao tópico sem que houvesse solicitação explícita para publicar a resposta, desencadeando vários outros problemas. Como o erro levou à falha de segurança? Além de agir sem autorização, o agente forneceu orientações inadequadas. O funcionário que havia feito a pergunta seguiu as recomendações recebidas e liberou, de forma involuntária, o acesso a dados sensíveis da empresa e de usuários para outros engenheiros que não tinham permissão para visualizá-los. A exposição durou cerca de duas horas. Internamente, a Meta classificou o episódio como “Sev 1”, um dos níveis mais altos de criticidade em seu sistema de avaliação de incidentes de segurança. Um porta-voz da Meta disse ao The Information que “nenhum dado de usuário foi manipulado indevidamente”. Ainda assim, o relatório aponta que outros fatores não detalhados também contribuíram para a falha. Não há evidências de que os dados tenham sido utilizados de forma indevida ou divulgados durante o período em que o acesso ficou aberto. Situações se...

Fonte: Tecnoblog
Leia mais: https://tecnoblog.net/noticias/agente-de-ia-da-meta-causa-falha-interna-de-seguranca/