OpenAI adquire startup para aumentar segurança de seus agentes de IA

A OpenAI anunciou nesta segunda-feira (9) a aquisição da Promptfoo, uma startup de segurança em inteligência artificial (IA) fundada em 2024. O valor da transação não foi divulgado pela companhia. Líder de hardware da OpenAI se demite após acordo com o Pentágono NVIDIA não vai mais investir nas donas do ChatGPT e Claude A startup levantou US$ 23 milhões desde a sua fundação e foi avaliada em US$ 86 milhões após sua última rodada de investimentos, em julho de 2025. A tecnologia da Promptfoo será integrada diretamente ao OpenAI Frontier, plataforma da empresa voltada para a construção e operação de agentes de IA corporativos. -Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.- A ferramenta tem como objetivo ajudar empresas a identificar e corrigir vulnerabilidades em modelos de linguagem de grande escala (LLMs) durante o processo de desenvolvimento. Proteção para agentes autônomos A popularização de agentes autônomos gerou entusiasmo em relação a ganhos de produtividade. Mas, o avanço também entregou a cibercriminosos novas oportunidades para acessar dados sensíveis e manipular sistemas automatizados. Este negócio mostra o esforço de laboratórios de ponta para provar que a tecnologia pode ser usada com segurança em operações críticas. A plataforma da OpenAI incorporará testes de segurança automatizados e recursos de simulação de invasão (red-teaming). O sistema vai identificar riscos diretos, como injeções de prompt, jailbreaks, vazamentos de dados e uso indevido de ferramentas por parte da IA. As ferramentas de segurança e avaliação também farão parte dos fluxos de trabalho dos desenvolvedores, permitindo recursos de rastreabilidade para adequação a regras de conformidade e governança. O CTO de Aplicações B2B da OpenAI, Srinivas Narayanan, pontuou que a startup traz uma profunda expertise em engenharia para testar sistemas em escala empresarial. A Promptfoo foi criada por Ian We...

Fonte: Canaltech
Leia mais: https://canaltech.com.br/mercado/openai-adquire-startup-para-aumentar-seguranca-de-seus-agentes-de-ia/