Ortogonalidade Arquitetural

Provar que o ganho independe da rede-base

Estratégia de argumentação experimental para artigos que propõem uma técnica plugável (uma camada, um pré-processamento, uma perda): demonstrar que o ganho se replica em várias arquiteturas hospedeiras. Complementa o ablation-study, que isola componentes internos, na estrutura descrita no redacao-academica-guia.

O que é

Quando a contribuição do artigo é uma peça que se acopla a sistemas existentes, um único experimento bem-sucedido não basta: o leitor pode suspeitar que o ganho é sorte daquela combinação específica. A demonstração de ortogonalidade consiste em aplicar a técnica a NN arquiteturas de design variado e mostrar que todas melhoram na mesma direção — a técnica é “ortogonal” ao design da rede-base.

O movimento argumentativo típico tem três passos:

  1. Variar o hospedeiro deliberadamente: escolher baselines que diferem entre si em profundidade, número de filtros, strides e tamanho dos feature maps — a diversidade é o que dá força à generalização.
  2. Reportar par a par: para cada arquitetura, mostrar baseline sem a técnica ao lado do resultado com a técnica, com o delta explícito (o artigo usa parênteses na tabela: o ganho fica visível sem leitura cruzada).
  3. Transformar em conjectura declarada: terminar afirmando que, se a técnica melhora arquiteturas tão diferentes, “é razoável conjecturar” que melhorará arquiteturas futuras mais profundas — convite explícito à adoção pela comunidade.

Anatomia: o caso SPP-net

O artigo do SPP-net (He et al., 2014) é o exemplar canônico. Na Tabela 2, ele aplica a camada SPP a quatro arquiteturas (ZF-5, Convnet*-5, Overfeat-5, Overfeat-7) e mostra que o erro top-1 cai em todas (de 0.55% a 1.65% de ganho). Um detalhe retórico elegante: os autores notam que o maior ganho veio da arquitetura mais precisa — sugerindo que a técnica escala com a qualidade do hospedeiro.

O artigo ainda vai além e inclui um experimento-controle contra a explicação alternativa:

Configuração testada Erro top-1 (%) O que prova
ZF-5 sem SPP 35.99 Baseline.
ZF-5 + SPP 50 bins (mais parâmetros) 34.98 A técnica melhora.
ZF-5 + SPP 30 bins (menos parâmetros) 35.06 O ganho não vem de mais parâmetros — vem da multi-escala.

Essa terceira linha desarma antecipadamente a objeção “melhorou porque a rede ficou maior”: o modelo com menos parâmetros que o baseline ainda assim o supera. É o análogo do “resultado negativo informativo” do ablation study.

Boas práticas

  • Declare o desenho do experimento: diga explicitamente por que as arquiteturas escolhidas diferem entre si (“various filter numbers/sizes, strides, depths”) — é isso que converte 4 números em evidência de generalização.
  • Separe ortogonalidade de ablação: ablação responde “cada peça minha é necessária?”; ortogonalidade responde “minha peça serve em outros sistemas?”. Artigos fortes fazem as duas, em seções distintas.
  • Inclua o controle da explicação alternativa: se a técnica adiciona parâmetros, compute ou qualquer outro recurso, mostre uma variante que remove esse confundidor e mantém o ganho.
  • Conclua com a conjectura de transferência: o valor da técnica plugável está justamente no uso por terceiros — feche a seção convidando esse uso.

⚠️ Armadilha comum: testar só em variações triviais da mesma rede (mesma família, mudando só a largura). Isso demonstra robustez interna, não ortogonalidade — os hospedeiros precisam vir de publicações ou famílias diferentes.

Referências e ferramentas

  • He, K., Zhang, X., Ren, S., Sun, J. “Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition” (2014). arXiv:1406.4729 — seção 3.1 e Tabela 2 como exemplar de demonstração de ortogonalidade + controle de confundidor.

Relacionadas: ablation-study · redacao-academica-guia · spp-net

Construído com Eleventy · busca por Lunr.js