“Desculpe, não posso ajudar com isso”: como suas barreiras de segurança podem se tornar a melhor aliada do atacante

Tradução automática do conteúdo disponibilizado no feed de Cisco Talos. Original: https://blog.talosintelligence.com/sorry-i-cant-help-with-that-how-your-guardrails-might-become-the-attackers-best-friend/

Bem-vindos à edição desta semana da newsletter Threat Source. Olá a todos. Leitor antigo, escritor de primeira viagem aqui na newsletter Threat Source! Eu queria começar me apresentando. Meu colega e amigo Mick Baccio elevou bastante o padrão na semana passada, então eu planejava contar tudo sobre mim, incluindo: como fiz minha primeira operação real de resposta a incidentes sob a influência de The Cuckoo’s Egg quando era estudante de graduação (e fracassei); meu flerte com pesquisa de vulnerabilidades antes dos programas de bug bounty, incluindo uma sobrescrita arbitrária de arquivos em biff(1); e como invadi o site do MIT. Infelizmente, meu editor diz que não temos “espaço” para isso, que a parte do MIT pode me expor a “responsabilidade jurídica” e que isso não corresponde à imagem “profissional” que buscamos aqui na Talos. (Estou observando. Sempre observando. -Amy)

Em vez disso, vou jogar pelo seguro e dizer que estou no setor de segurança há pouco mais de 30 anos, concentrando-me principalmente no lado defensivo (Força, Blue Team!). Ajudei a criar SOCs, liderar equipes de threat hunting e publicar alguns trabalhos que talvez vocês conheçam. Falando de coisas que publiquei, já escrevi antes sobre o Dilema do Atacante. A ideia de que os defensores têm vantagens inerentes sobre os atacantes contraria o que muitos ouviram ao longo da carreira. Um atacante precisa evitar monitoramento e controles técnicos em cada etapa do ciclo de ataque, porque o defensor só precisa perceber uma vez para responder e impedir que o objetivo seja alcançado. Essa é uma das vantagens mais importantes de qualquer equipe de segurança, mas atualmente testemunhamos uma erosão autoimposta dessa vantagem com o surgimento de barreiras de segurança de IA mal projetadas.

Não sou contra barreiras de segurança, mas precisamos considerar cuidadosamente contra o que estamos protegendo e onde as implementamos. Como explorei em um artigo recente sobre a Penalidade de Segurança, ao permitir que provedores terceirizados de IA implementem e controlem filtros de segurança e as políticas por trás deles, podemos estar ajudando o atacante. Se processos agentivos de SOC sofrerem recusas, isso pode atrasar ou até interromper investigações. É claro que esses casos devem ser encaminhados para intervenção humana, mas isso leva tempo e pode dar ao atacante espaço para concluir sua missão.

Pode ser que o local das barreiras seja ainda mais importante que o conteúdo protegido. A soberania operacional depende de controlar nossos próprios limites. Qualquer visão de um SOC agentivo deve permitir que as equipes de segurança personalizem as barreiras de acordo com seu próprio modelo de ameaças. Elas também devem ter flexibilidade para remover temporariamente salvaguardas específicas em circunstâncias autorizadas, algo que não se obtém com barreiras de um provedor de fronteira. Esses controles pertencem ao harness agentivo da organização, onde é possível definir políticas e controles técnicos para analisar ameaças e garantir que os agentes permaneçam dentro de seus limites.

Em última análise, soberania operacional significa lidar com a realidade do cenário de ameaças e garantir que o adversário não possa desviar os processos de investigação e resposta do defensor, acidentalmente ou de propósito. Precisamos avançar para um modelo em que cada organização escolha as barreiras que funcionam para si, em vez de receber barreiras inflexíveis escolhidas por terceiros.

A grande novidade: a Cisco Talos avaliou recentemente 66 combinações de modelos de linguagem grandes (LLM) e modelos de raciocínio para tentar encontrar um vencedor claro para operações de segurança. Em vez disso, descobrimos que selecionar o modelo certo é um equilíbrio complexo entre eficácia, velocidade, custo e consistência. Aumentar o esforço de raciocínio de um modelo não garante uma análise melhor e pode até degradar o desempenho. Por fim, desenvolvemos uma metodologia repetível para ajudar as organizações a navegar por essas compensações em seus próprios fluxos de trabalho.

Por que isso importa? Escolher um modelo de IA apenas com base em pontuações genéricas de rankings é uma receita para um desastre operacional. Um modelo excepcionalmente inteligente pode custar uma fortuna, levar meia hora para analisar um único log ou falhar completamente ao formatar sua saída. Presumir que mais poder computacional equivale a resultados melhores é uma armadilha cara, pois configurações de raciocínio mais altas às vezes produzem respostas mais fracas ou bloqueadas. Os defensores devem lembrar que prompts, personas de analistas e consistência do modelo alteram drasticamente o resultado de uma investigação.

E agora? Teste os modelos nos fluxos de trabalho específicos da organização antes de implantá-los. Crie um conjunto focado de casos representativos e teste-os várias vezes usando exatamente os prompts e as ferramentas que os analistas usarão. Registre qualidade, custo, tempo, consistência e taxas de respostas utilizáveis em uma planilha simples para revelar as compensações no mundo real. Por fim, estabeleça limites aceitáveis para essas variáveis a fim de eliminar modelos com baixo desempenho e revise regularmente as decisões à medida que a tecnologia e os preços de IA mudarem.

Principais manchetes de segurança da semana

O trojan bancário ToxicPanda amadurece como ameaça empresarial
ToxicPanda 2.0 expandiu substancialmente em relação ao antecessor, adicionando 167 comandos remotos e ampliando o alvo de 16 instituições financeiras para 349 aplicações bancárias, de carteiras digitais e de criptomoedas. (Dark Reading)

A Operação Jackal IV da Interpol interrompe infraestrutura criminosa na África Ocidental
Autoridades de 22 países em seis continentes trabalharam juntas para prender 58 suspeitos e identificar outros 263. As duas primeiras operações Jackal, em 2022 e 2023, resultaram em aproximadamente 200 prisões no total e na apreensão de milhões de dólares em ativos. (Dark Reading)

Primeiro malware criado especificamente para centrais multimídia automotivas alimenta botnet
Pesquisadores encontraram o que parece ser o primeiro malware criado especificamente para centrais multimídia automotivas, com vínculos com a conhecida botnet BadBox, em um sistema de entretenimento automotivo aftermarket baseado em Android, fabricado pela empresa chinesa DoFun e amplamente usado na China e em outros países da região Ásia-Pacífico. (SecurityWeek)

Uma história de dois SOCs: percepções de duas avaliações de Red Team
Uma equipe de Red Team da CISA comprometeu completamente duas organizações de infraestrutura crítica no nível do domínio e alcançou sistemas empresariais sensíveis e recursos de nuvem. A Organização A não detectou nem conteve a atividade. A Organização B identificou rapidamente as tentativas de comprometimento inicial, isolou os sistemas afetados e forçou a equipe de Red Team a adotar um modelo de assume breach. (CISA)

Campanhas NovaCookies abusam de notificações genuínas da Docusign para roubar sessões do M365
O serviço, de US$ 320 por mês, é uma plataforma de phishing por assinatura que facilita o roubo de sessões do M365 em tempo real. O kit foi usado para atingir centenas de organizações em vários setores nos EUA, Reino Unido, Canadá, Alemanha e outros países. (The Hacker News)

Não consegue se satisfazer com a Talos?

Ofuscação de JavaScript: de truque de festa a kit de phishing
Passamos muito tempo desmontando JavaScript suspeito de kits de phishing, pacotes de malware, sites comprometidos e outros. Aprenda os fundamentos da ofuscação, por que um pesquisador tentaria revertê-la e algumas abordagens para o problema.

A penalidade de segurança: recuperando a soberania operacional na era da IA
À medida que os modelos de IA de fronteira se tornam cada vez mais restritivos, as equipes de segurança enfrentam uma “penalidade de segurança” que prejudica a resposta a incidentes em tempo real. Descubra como as organizações podem avançar em direção à soberania operacional para garantir que sua IA defensiva acompanhe adversários sem restrições.

Cibersegurança de volta às aulas: protegendo redes educacionais contra ransomware e ameaças
Com o início do novo ano letivo, os distritos escolares enfrentam um aumento nas ameaças cibernéticas, de phishing e ransomware à experimentação de estudantes com dispositivos de rede. Neste episódio, Amy conversa com o especialista da Cisco Talos Pierre Cadieux sobre estratégias práticas para profissionais de TI.

Próximos eventos onde você poderá encontrar a Talos
International European Cyber Threat Intelligence Conference (IECTIC) (9 de setembro) Kassel, Alemanha
Secure Iowa (9 de setembro) Altoona, IA
.conf26 (14–17 de setembro) Denver, CO
LABSCon (16–19 de setembro) Scottsdale, AZ
VB (14–16 de outubro) Sevilha, Espanha
CAMLIS (21–23 de outubro) Arlington, VA

Arquivos de malware mais prevalentes na telemetria da Talos na última semana
SHA256: 9f1f11a708d393e0a4109ae189bc64f1f3e312653dcf317a2bd406f18ffcc507
MD5: 2915b3f8b703eb744fc54c81f4a9c67f
Talos Rep: https://talosintelligence.com/talos_file_reputation?s=9f1f11a708d393e0a4109ae189bc64f1f3e312653dcf317a2bd406f18ffcc507
Nome de arquivo de exemplo: VID001.exe
Nome da detecção: W32.9F1F11A708-100.SBX.TG**

SHA256: e7e784cae8d37f12a5af0bc9b3975c8d3e668142e9c6b0b365ed4f4e80933c47
MD5: a4480423617d0b0d3b38c8471cbf594c
Talos Rep: https://talosintelligence.com/talos_file_reputation?s=e7e784cae8d37f12a5af0bc9b3975c8d3e668142e9c6b0b365ed4f4e80933c47
Nome de arquivo de exemplo: client32.exe
Nome da detecção: W32.Trojan.29ev.1201

SHA256: c4dd71e347a076ba24bdd2d0ee532ef991c1ef25a2431a19f850942ba2ab16b2
MD5: 9a47c4d379998ade2f8f99e23a630c06
Talos Rep: https://talosintelligence.com/talos_file_reputation?s=c4dd71e347a076ba24bdd2d0ee532ef991c1ef25a2431a19f850942ba2ab16b2
Nome de arquivo de exemplo: WCInstaller_NonAdmin.exe
Nome da detecção: W32.C4DD71E347-95.SBX.TG

SHA256: 38d053135ddceaef0abb8296f3b0bf6114b25e10e6fa1bb8050aeecec4ba8f55
MD5: 41444d7018601b599beac0c60ed1bf83
Talos Rep: https://talosintelligence.com/talos_file_reputation?s=38d053135ddceaef0abb8296f3b0bf6114b25e10e6fa1bb8050aeecec4ba8f55
Nome de arquivo de exemplo: content.js
Nome da detecção: W32.38D053135D-95.SBX.TG

SHA256: 9896a6fcb9bb5ac1ec5297b4a65be3f647589adf7c37b45f3f7466decd6a4a7f
MD5: 38de5b216c33833af710e88f7f64fc98
Talos Rep: https://talosintelligence.com/talos_file_reputation?s=9896a6fcb9bb5ac1ec5297b4a65be3f647589adf7c37b45f3f7466decd6a4a7f
Nome de arquivo de exemplo: SECOH-QAD.exe
Nome da detecção: Win.Tool.Procpatcher::1201

SHA256: a31f222fc283227f5e7988d1ad9c0aecd66d58bb7b4d8518ae23e110308dbf91
MD5: 7bdbd180c081fa63ca94f9c22c457376
Talos Rep: https://talosintelligence.com/talos_file_reputation?s=a31f222fc283227f5e7988d1ad9c0aecd66d58bb7b4d8518ae23e110308dbf91
Nome de arquivo de exemplo: d4aa3e7010220ad1b458fac17039c274_62_Exe.exe
Nome da detecção: Win.Dropper.Miner::95.sbx.tg**