A penalidade de segurança: recuperando a soberania operacional na era da IA

Tradução automática do conteúdo disponibilizado no feed de Cisco Talos. Original: https://blog.talosintelligence.com/the-safety-penalty-reclaiming-operational-sovereignty-in-the-age-of-ai/

À medida que os modelos de fronteira avançam em capacidade cibernética, suas barreiras de proteção também ficam mais restritivas. Defensores que dependem desses modelos para processos centrais do SOC não podem arcar com a “penalidade de segurança” de serem bloqueados por essas salvaguardas. As organizações devem monitorar as taxas de recusa dos modelos e usar os dados para criar uma estratégia que garanta soberania operacional.

A segurança cibernética apostou fortemente em IA hospedada na nuvem. A penalidade de segurança é o atrito que surge quando barreiras criadas para proteger o público impedem trabalhos legítimos de segurança. Se um modelo se recusa a desofuscar malware ou explicar um exploit funcional, o analista precisa fazer o trabalho manualmente. Em um incidente ativo, esse tempo perdido favorece o adversário.

O texto descreve como, após atores patrocinados por Estados serem banidos de APIs de fronteira, eles passaram a usar modelos hospedados por conta própria e menos restritos. Modelos como GLM-5.2 e Kimi k3 são citados como alternativas com menos restrições, e “abliteration” continua sendo uma opção para remover o treinamento de segurança de modelos existentes.

Soberania operacional significa que a organização controla a decisão final sobre o que sua IA pode fazer. As opções apresentadas são hospedar o modelo em infraestrutura privada; usar Model-as-a-Service, com provedores como Baseten ou Together AI e plataformas como Amazon Bedrock ou Microsoft Foundry; manter um fallback híbrido que encaminhe recusas para um modelo menor controlado pela organização; ou criar uma infraestrutura compartilhada de inferência coletiva no modelo de ISAC/ISAO.

A recomendação é medir a taxa de recusas, especialmente durante incidentes, e tratar recusas recorrentes como uma falha estrutural da arquitetura. Salvaguardas continuam necessárias, mas devem estar sob controle da organização, e não depender exclusivamente de políticas variáveis de fornecedores.