실전 — QAP 로지스틱과 5단계 종합

1. 오늘의 질문 (The Question)

5단계 내내 우리는 ergm() 하나만 썼다. 그런데 사회network 문헌에는 훨씬 오래된 도구가 하나 더 있다 — QAP 로지스틱 회귀(sna::netlogit). 쓰는 법도 훨씬 간단하다. 쌍 하나를 관측치 하나로 보고 그냥 로지스틱 회귀를 돌린 뒤, p값만 순열 검정으로 바꾼다.

결론부터 말하면 답이 재미있다. 계수는 소수점 여섯째 자리까지 똑같이 나온다. 다른 것은 p값이고, 그리고 ERGM만 할 수 있는 일이 따로 있다.

2. QAP 로지스틱이란 무엇인가 (What QAP Logistic Regression Is)

발상은 단순하다. 무향 망에서 쌍은 $\binom{n}{2}$개다. 쌍 하나를 자료 한 줄로 놓는다.

그리고 보통의 로지스틱 회귀를 돌린다.

그러면 QAP는 어디에 붙는가 (Where QAP Comes In)

QAP는 Quadratic Assignment Procedure, 계수를 구하는 방법이 아니라 p값을 구하는 방법이다. 절차는 이렇다.

1. 원자료로 계수 $\hat\beta_1$을 구한다.
2. 사람들의 이름표를 무작위로 섞는다. 망 $A$는 그대로 두고 속성만 섞거나, 속성을 두고 $A$의 행·열을 같은 순열로 섞는다 (둘은 수학적으로 같다).
3. 섞은 자료로 계수를 다시 구한다. 이것을 수천 번 반복한다.
4. 이렇게 얻은 영 분포에서 $\hat\beta_1$이 얼마나 극단적인지를 센다.

"이름표를 섞는다"가 핵심이다. 이 조작은 망의 구조는 하나도 건드리지 않는다. 차수 분포도, 삼각형 수도, 덩어리 모양도 그대로다. 오직 누가 누구인지만 지운다.

3. 손 계산 ① — 6명 학급의 2×2 표 (Hand Calculation I: A 2×2 Table)

여학생 1·2·3, 남학생 4·5·6인 6명 학급을 놓자. 친구 관계는 6개다.

쌍은 $\binom{6}{2}=15$개다. 15줄을 전부 쓰자. 설명변수는 $x=1$(동성) 하나뿐이다.

세어 보면 2×2 표가 나온다.

닫힌 형태 최대가능도 추정 (Closed-Form MLE)

설명변수가 이진 하나뿐이면 모형이 포화(saturated)된다 — 모수 2개로 확률 2개 ($\pi_{\text{동}},\pi_{\text{이}}$)를 자유롭게 맞출 수 있다. 그래서 답이 손으로 나온다. 로그가능도는

이고 $\pi$에 대해 미분해 0으로 놓으면 각각

이다. 로그오즈로 바꾸면 — 여기가 이 절의 전부다.

4. 세 도구가 같은 계수를 낸다 (Three Tools, One Estimate)

y <- A[upper.tri(A)]; x <- M[upper.tri(M)]          # M = 동성이면 1
glm(y ~ x, family = binomial)
netlogit(A, M, mode = "graph", nullhyp = "qapy", reps = 2000)
ergm(nw ~ edges + nodematch("sex"), estimate = "MPLE")
ergm(nw ~ edges + nodematch("sex"))                  # MLE

MPLE와 MLE의 계수 차이는 $-1.33\times10^{-15}$ — 부동소수점 잡음이다. 우연이 아니라 정리다.

5. 손 계산 ② — 순열 20가지를 전부 (Hand Calculation II: All 20 Permutations)

이제 p값을 QAP 방식으로 구해 보자. 이름표를 섞는다는 것은 6명 중 누가 "여"인지를 다시 뽑는다는 뜻이다. 3명을 고르는 방법은 $\binom{6}{3}=20$가지뿐이다. 손으로 다 셀 수 있다.

먼저 중요한 관찰 하나. 어느 분할을 쓰든 여 3명·남 3명이므로 동성 쌍의 수는 항상

이고, 간선 수도 항상 6개다. 그러면 2×2 표가 $T$(동성 간선 수) 하나로 완전히 결정된다: $a=T,\; b=6-T,\; c=6-T,\; d=9-(6-T)=3+T$. 따라서 $\hat\beta_1$은 $T$의 증가함수이고, $\hat\beta_1$에 대한 순열 검정은 그냥 $T$에 대한 순열 검정이다.

간선 6개는 (1,2)(1,3)(2,3)(3,4)(4,5)(5,6)이다. 각 분할마다 양 끝이 같은 조에 들어간 간선을 센다. 스무 줄 전부:

분포를 세면 $T=1$이 4가지, $T=2$가 8가지, $T=3$이 6가지, $T=5$가 2가지다 (합 20 ✓). 관측값은 $T=5$이므로

720개 순열로 확인 (Checking All 720 Permutations)

P <- allp(1:6)                        # 6! = 720
tt <- apply(P, 1, function(p) { s <- sex[p]; sum(y * (outer(s,s,"==")*1)[up]) })
table(tt)
#   1   2   3   5
#  144 288 216  72        ← 20가지 × (3!·3! = 36) = 720 ✓
mean(tt >= 5)
# [1] 0.1

6. 같은 수를 재는 두 개의 자 (Two Rulers for the Same Number)

둘의 차이가 어디서 오는지 정확히 짚자. 두 검정 모두 같은 통계량 $T$를 본다. 다른 것은 "$T$가 우연히 얼마나 흔들리는가"를 재는 방식이다.

초기하 쪽은 공식이 있다. $m=15$쌍, 간선 $e=6$, 동성 쌍 $s=6$일 때

순열 쪽은 §5의 720개 값에서 직접 구한다.

여기서는 순열 쪽 분산이 더 컸다. 하지만 이것이 언제나 그런 것은 아니다 — 그게 §7의 주제다.

7. R 검증 ① — 효과가 0인데 몇 번이나 유의하다고 하는가 (Verification I: Type I Error Rate)

"어느 쪽이 옳으냐"는 말로 정할 문제가 아니다. 참 효과가 0인 자료를 일부러 만들어서 검정을 돌려 보면 된다. $\alpha=5\%$로 검정했으면 100번 중 5번만 "유의"가 나와야 한다.

설계 (Design)

망 $y$는 가라테(34명, 78간선)로 고정한다. 설명변수 $x$도 망으로 놓는다 ("이 두 사람이 다른 관계로도 이어져 있는가"). 참 효과를 0으로 만들려면 $x$가 $y$와 아무 상관이 없어야 한다.

gx <- sample_degseq(d, method = "vl")     # 가라테와 차수가 같은 무작위 망
B  <- as.matrix(as_adjacency_matrix(gx))
p  <- sample(34); B <- B[p, p]            # ★ 이름표까지 섞는다

결과 (Results)

왜 허브가 문제인가? 고전 로지스틱은 561개 쌍을 독립 관측치로 센다. 하지만 사람 34명이 561개 쌍을 만든다 — 한 사람이 33개 쌍에 등장한다. 차수가 큰 사람 하나가 있으면 그 사람이 걸린 33개 쌍이 한꺼번에 움직인다. 자유도가 561이 아니라 훨씬 작은 셈이고, 그래서 분산이 커진다. 가라테의 2-경로 수 $\sum_i\binom{d_i}{2}=528$이 그 의존의 크기다.

정직하게 — 반대 방향으로 틀리는 경우도 있다 (In Fairness: It Can Err the Other Way)

같은 실험을 노드 속성(§3처럼 "같은 조인가")으로 하면 이야기가 달라진다. 가라테 망은 그대로 두고 16/18 무작위 분할을 4000번 뽑았다.

덤 — netlogit()의 $p$를 그대로 믿지 말 것 (Aside: Don't Trust the Printed p-Value)

8. QAP가 못 하는 일 (What QAP Cannot Do)

p값 이야기만 하면 QAP가 더 나아 보인다. 하지만 QAP에는 구조적인 한계가 있다.

9. R 검증 ② — FMH에서 두 도구 맞대기 (Verification II: Both Tools on FMH)

이제 실제 크기의 자료로. FMH(Faux Magnolia High)는 1461명, 974간선, 쌍 1,066,530개다. 5-5에서 만든 종합 모형을 두 도구로 각각 적합했다.

## ERGM (쌍 독립 항만)
f5 <- ergm(fmh ~ edges + nodematch("Grade") + absdiff("Grade") +
                 nodematch("Sex") + nodefactor("Sex") + nodematch("Race"))

## QAP 로지스틱 — 같은 설계행렬을 손으로 만들어서
X <- list(sameGrade = outer(gr,gr,"==")*1,  absGrade = abs(outer(gr,gr,"-")),
          sameSex   = outer(sx,sx,"==")*1,  maleCnt  = outer((sx=="M")*1,(sx=="M")*1,"+"),
          sameRace  = outer(rc,rc,"==")*1)
netlogit(Y, xa, mode = "graph", nullhyp = "classical")

10. 뭉침을 넣으면 동질성이 줄어든다 (Adding Clustering Shrinks Homophily)

여기서부터가 ERGM만 할 수 있는 일이다. 같은 모형에 gwesp(0.25) 하나를 더한다.

f6 <- ergm(fmh ~ edges + nodematch("Grade") + absdiff("Grade") +
                 nodematch("Sex") + nodefactor("Sex") + nodematch("Race") +
                 gwesp(0.25, fixed = TRUE),
           control = control.ergm(MCMLE.maxit = 40, seed = 1))

28.5초 만에 수렴했다(수렴 $p=0.0070$, 5-7 기준대로 작아야 좋다). MCMC 표본 2870개, 번인 65536, 간격 2048, ESS 215~1704, Geweke $\lvert z\rvert$ 최대 1.44 — 5-7의 네 조건을 모두 통과한다.

11. R 검증 ③ — gof()로 채점 (Verification III: Grading with GOF)

5-7에서 배운 규칙대로 모형에 안 넣은 특성으로 채점한다. (모형 통계량은 두 모형 모두 $p=0.36$~0.96으로 통과한다 — 적률 방정식이 강제하므로 당연하고, 아무 의미도 없다.)

ESP — 쌍 독립의 참패 (ESP: Where Dyadic Independence Collapses)

공통 친구가 한 명이라도 있는 간선이 관측 348개인데, 쌍 독립 모형은 100번 모의해서 최대 19개를 만들었다. 삼각형으로 보면 더 극적이다 — 관측 169개, 쌍 독립 모의 평균 1.89개(범위 0~7), $z=119.4$. gwesp를 넣으면 평균 139.4(114~172), $z=2.37$로 내려온다.

차수 — gwesp가 거의 다 고쳤다 (Degree: GWESP Nearly Fixes It)

12. 세 도구를 언제 쓰는가 (Which Tool When)

13. 교실 데이터 적용 설계 (Designing a Classroom Study)

14. 5단계 정리 (Stage 5 Wrap-up)

15. 연습문제 (Exercises)

16. 해설과 답 (Solutions)

연습 1 해설 (Exercise 1)

(가) 21쌍을 전부 쓴다. $\binom{7}{2}=21$. 동성 쌍은 $\binom{4}{2}+\binom{3}{2}=6+3=9$개, 이성 쌍은 $4\times 3=12$개다(합 21 ✓).

(나) 닫힌 형태. 전개를 전부 쓰면:

(다) 순열. 여 4명을 고르는 방법은 $\binom{7}{4}=35$가지. 어느 분할이든 동성 쌍 수는 $\binom{4}{2}+\binom{3}{2}=9$로 항상 같다(§5의 확인 절차). 간선도 7개 고정이므로 2×2 표가 $T$ 하나로 결정되고, $\hat\beta_1$은 $T$의 증가함수다. 35가지를 세면:

(라) 두 자의 비교. $m=21$, $e=7$, $s=9$:

순열 쪽은 (다)의 분포에서:

연습 2 해설 (Exercise 2)

(가) 오즈비. 계수는 로그오즈비이므로 $\exp$를 씌운다.

(나) 남·남 쌍. nodefactor("Sex")는 기준(여)을 빼고 그 쌍의 남학생 수를 변화 통계량으로 갖는다. 여·여면 0, 여·남이면 1, 남·남이면 2다. 따라서 여·여 쌍 대비 로그오즈 차이는 $2\theta$다.

(다) 무엇을 보고할 것인가.

연습 3 해설 (Exercise 3)