{"id":22513,"date":"2025-06-22T00:10:00","date_gmt":"2025-06-22T03:10:00","guid":{"rendered":"https:\/\/www.ethicalhacker.com.br\/site\/?p=22513"},"modified":"2025-06-21T20:45:59","modified_gmt":"2025-06-21T23:45:59","slug":"langsmith-expos-chaves-da-openai-e-dados-de-usuarios","status":"publish","type":"post","link":"https:\/\/www.ethicalhacker.com.br\/site\/2025\/06\/basico\/langsmith-expos-chaves-da-openai-e-dados-de-usuarios\/","title":{"rendered":"LangSmith exp\u00f4s chaves da OpenAI e dados de usu\u00e1rios"},"content":{"rendered":"\n

Vazamento silencioso, como um bug no LangSmith exp\u00f4s chaves da OpenAI e dados de usu\u00e1rios<\/strong><\/p>\n

O avan\u00e7o acelerado das aplica\u00e7\u00f5es baseadas em intelig\u00eancia artificial trouxe uma nova onda de riscos para a seguran\u00e7a digital. Um exemplo recente e preocupante foi a descoberta de uma vulnerabilidade cr\u00edtica no LangSmith<\/strong>, plataforma usada para observa\u00e7\u00e3o e avalia\u00e7\u00e3o de modelos de linguagem em grande escala (LLMs). Embora a falha j\u00e1 tenha sido corrigida, o incidente escancara como agentes maliciosos podem se infiltrar em ecossistemas confi\u00e1veis e coletar dados sigilosos com discri\u00e7\u00e3o.<\/p>\n

\u00a0<\/p>\n

O que \u00e9 LangSmith e por que \u00e9 relevante?<\/strong><\/p>\n

LangSmith \u00e9 uma ferramenta amplamente utilizada por desenvolvedores que trabalham com LangChain<\/strong> e outros frameworks LLM. A plataforma oferece meios para testar, monitorar e avaliar o comportamento de agentes de IA, inclusive por meio de um reposit\u00f3rio p\u00fablico chamado LangChain Hub<\/strong>, onde usu\u00e1rios compartilham prompts, modelos e agentes.<\/p>\n

\u00c9 exatamente nessa funcionalidade colaborativa que a vulnerabilidade ganhou espa\u00e7o. A falha foi batizada de “AgentSmith”<\/strong> pela empresa de seguran\u00e7a Noma Security<\/strong>, em refer\u00eancia \u00e0 forma sorrateira com que o ataque ocorre.<\/p>\n

\u00a0<\/p>\n

A engenharia do ataque<\/strong><\/p>\n

Segundo os pesquisadores Sasi Levi e Gal Moyal, o ataque teve in\u00edcio com a publica\u00e7\u00e3o de um agente de IA aparentemente inofensivo no LangChain Hub. Esse agente, no entanto, foi projetado com um servidor proxy malicioso<\/strong> previamente configurado. Esse proxy, oculto para o usu\u00e1rio final, \u00e9 ativado no momento em que algu\u00e9m utiliza o bot\u00e3o “Try It” (Experimente) para testar o agente diretamente na plataforma.<\/p>\n

A partir desse ponto, todo o tr\u00e1fego gerado pela intera\u00e7\u00e3o do usu\u00e1rio com o agente \u2014 incluindo chaves de API<\/strong>, prompts personalizados<\/strong>, documentos anexados<\/strong>, imagens<\/strong> e at\u00e9 dados de voz<\/strong> \u2014 passa a ser capturado pelo servidor controlado pelo invasor.<\/p>\n

O mais alarmante \u00e9 que esse tipo de intercepta\u00e7\u00e3o ocorre de maneira totalmente invis\u00edvel. Nenhum alerta \u00e9 disparado, e o usu\u00e1rio segue interagindo com o sistema sem perceber que informa\u00e7\u00f5es sens\u00edveis est\u00e3o sendo desviadas em tempo real.<\/p>\n

\u00a0<\/p>\n

Consequ\u00eancias potenciais<\/strong><\/p>\n

Uma das maiores preocupa\u00e7\u00f5es associadas a esse ataque \u00e9 o roubo de chaves de API da OpenAI<\/strong>. Com acesso a essas credenciais, um invasor pode se infiltrar em ambientes privados da v\u00edtima, acessar ou clonar modelos personalizados<\/strong>, exfiltrar dados de uso, e at\u00e9 consumir os recursos da conta \u2014 gerando custos financeiros elevados<\/strong> e interrup\u00e7\u00f5es de servi\u00e7o.<\/p>\n

Mais grave ainda seria o caso de a v\u00edtima clonar o agente malicioso para dentro de seu pr\u00f3prio ambiente empresarial. Nessa situa\u00e7\u00e3o, o proxy malicioso se perpetua internamente, e o vazamento de dados pode ocorrer continuamente, sem levantar suspeitas, afetando diretamente informa\u00e7\u00f5es propriet\u00e1rias e ativos estrat\u00e9gicos.<\/p>\n

\u00a0<\/p>\n

Medidas corretivas e resposta<\/strong><\/p>\n

Ap\u00f3s a notifica\u00e7\u00e3o respons\u00e1vel feita em 29 de outubro de 2024<\/strong>, a equipe do LangChain agiu rapidamente. Em 6 de novembro<\/strong>, uma atualiza\u00e7\u00e3o de backend foi aplicada, eliminando a vulnerabilidade. Como medida adicional, agora a plataforma exibe um alerta vis\u00edvel<\/strong> sempre que um usu\u00e1rio tenta clonar um agente que contenha configura\u00e7\u00f5es de proxy personalizadas \u2014 um importante refor\u00e7o de seguran\u00e7a.<\/p>\n

Apesar da corre\u00e7\u00e3o, os pesquisadores alertam que os riscos associados ao uso indevido de APIs de IA v\u00e3o al\u00e9m dos impactos financeiros. A exposi\u00e7\u00e3o de dados internos<\/strong>, modelos propriet\u00e1rios<\/strong> e segredos comerciais<\/strong> pode acarretar s\u00e9rias implica\u00e7\u00f5es legais e comprometer a reputa\u00e7\u00e3o de organiza\u00e7\u00f5es inteiras.<\/p>\n

\u00a0<\/p>\n

Paralelo: a evolu\u00e7\u00e3o do WormGPT e seus novos clones<\/strong><\/p>\n

No rastro da divulga\u00e7\u00e3o da falha no LangSmith, outro tema emergente chamou a aten\u00e7\u00e3o da comunidade de seguran\u00e7a: a prolifera\u00e7\u00e3o de variantes do WormGPT<\/strong>. Essa ferramenta, inicialmente lan\u00e7ada em 2023, ganhou notoriedade por permitir o uso de IA generativa para fins il\u00edcitos, como a cria\u00e7\u00e3o de phishing altamente direcionado<\/strong> e a gera\u00e7\u00e3o de malwares por demanda<\/strong>.<\/p>\n

Embora o projeto original tenha sido encerrado ap\u00f3s a exposi\u00e7\u00e3o de seu criador \u2014 um programador portugu\u00eas de 23 anos \u2014 novas vers\u00f5es continuam circulando em f\u00f3runs de cibercrime como o BreachForums<\/strong>. Variantes como xzin0vich-WormGPT<\/code> e keanu-WormGPT<\/code> surgiram com o objetivo expl\u00edcito de fornecer respostas sem censura<\/strong> sobre qualquer assunto, inclusive os de natureza anti\u00e9tica ou ilegal<\/strong>.<\/p>\n

Segundo o pesquisador Vitaly Simonovich, essas novas vers\u00f5es n\u00e3o s\u00e3o modelos criados do zero, mas sim adapta\u00e7\u00f5es de modelos existentes como xAI Grok<\/strong> e Mistral Mixtral<\/strong>, reconfigurados com prompts manipulados<\/strong> e, possivelmente, afinados com dados obtidos de forma il\u00edcita<\/strong>.<\/p>\n

\u00a0<\/p>\n

Conclus\u00e3o<\/strong><\/p>\n

O caso do LangSmith e a ascens\u00e3o de ferramentas como WormGPT deixam um recado claro: a seguran\u00e7a no ecossistema de IA \u00e9 uma responsabilidade compartilhada<\/strong>, que come\u00e7a com pr\u00e1ticas de desenvolvimento seguro e se estende \u00e0 curadoria de conte\u00fado colaborativo em plataformas abertas.<\/p>\n

Desenvolvedores e empresas que utilizam agentes de IA precisam estar atentos \u00e0s configura\u00e7\u00f5es que adotam, questionar a origem dos componentes que integram aos seus sistemas e manter rotinas constantes de revis\u00e3o de seguran\u00e7a. Afinal, no universo da intelig\u00eancia artificial, um simples clique em “Try It” pode ser o gatilho para um vazamento massivo de dados \u2014 e para consequ\u00eancias que nenhuma empresa deseja enfrentar.<\/p>\n

\u00a0<\/p>\n

Fonte: https:\/\/thehackernews.com\/2025\/06\/langchain-langsmith-bug-let-hackers.html<\/a><\/p>\n\n\n","protected":false},"excerpt":{"rendered":"

Vazamento silencioso, como um bug no LangSmith exp\u00f4s chaves da OpenAI e dados de usu\u00e1rios O avan\u00e7o acelerado das aplica\u00e7\u00f5es baseadas em intelig\u00eancia artificial trouxe uma nova onda de riscos para a seguran\u00e7a digital. Um exemplo recente e preocupante foi a descoberta de uma vulnerabilidade cr\u00edtica no LangSmith, plataforma usada para observa\u00e7\u00e3o e avalia\u00e7\u00e3o de […]<\/p>\n","protected":false},"author":2,"featured_media":22515,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[89,100,105],"tags":[],"class_list":["post-22513","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-basico","category-diversos","category-noticias"],"_links":{"self":[{"href":"https:\/\/www.ethicalhacker.com.br\/site\/wp-json\/wp\/v2\/posts\/22513","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ethicalhacker.com.br\/site\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ethicalhacker.com.br\/site\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ethicalhacker.com.br\/site\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ethicalhacker.com.br\/site\/wp-json\/wp\/v2\/comments?post=22513"}],"version-history":[{"count":2,"href":"https:\/\/www.ethicalhacker.com.br\/site\/wp-json\/wp\/v2\/posts\/22513\/revisions"}],"predecessor-version":[{"id":22562,"href":"https:\/\/www.ethicalhacker.com.br\/site\/wp-json\/wp\/v2\/posts\/22513\/revisions\/22562"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ethicalhacker.com.br\/site\/wp-json\/wp\/v2\/media\/22515"}],"wp:attachment":[{"href":"https:\/\/www.ethicalhacker.com.br\/site\/wp-json\/wp\/v2\/media?parent=22513"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ethicalhacker.com.br\/site\/wp-json\/wp\/v2\/categories?post=22513"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ethicalhacker.com.br\/site\/wp-json\/wp\/v2\/tags?post=22513"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}