용어집

📍 현재 위치: 5권 전체를 위한 책 말미의 참조 자료 — 신뢰, 규모, 추론의 프론티어를 관통하는 모든 반복 용어를 쉬운 말로 정리했습니다. 다른 탭에 열어 두고, 낯선 단어가 나올 때마다 돌아와 확인하세요.

추론의 프론티어는 4권의 미분 가능한 장치를 물려받아 다섯 번째 질문을 던집니다. 이 시스템의 숫자를 믿을 수 있는가, 그 설명이 정직한가, 그리고 그 속도가 책상 위 실험에서 데이터센터 규모로 넘어가도 살아남는가 하는 질문입니다. 아래는 이 권에서 반복되는 용어들을 쉬운 말로 정리하고 영문 알파벳순으로 배열한 목록입니다. 각 항목은 출발점일 뿐이며, 가리키는 챕터에 가면 온전하고 정확한 그림을 볼 수 있습니다.

기권 정책(abstention policy) — 추측 대신 답변을 보류할 수 있게 하는 결정 규칙. 5권이 다루는 세 종류는 보정된 신뢰도를 자르는 컷(Chow의 규칙(Chow's rule)), 지식 베이스 자신의 무지를 읽어내는 열린 세계 구간, 그리고 파싱 불가능한 입력을 애초에 받아들이지 않는 파서의 구조적 거부입니다. (See 기권: 모른다는 것을 아는 것.)

AURC(area under the risk-coverage curve, 위험-커버리지 곡선 아래 면적) — 모든 커버리지 수준에 걸친 평균 선택적 위험, $\frac{1}{N}\sum_k \text{risk}(k)$. 두 시스템의 곡선이 서로 교차하는 지점을 숨길 수 있는 단일 숫자 요약입니다. (See 기권: 모른다는 것을 아는 것.)

불리언 행렬 곱(Boolean matrix product, $\odot$) — OR-AND 세미링 위에서 정의되는 행렬 곱 $(X \odot Y)[i,j] = \bigvee_k X[i,k] \wedge Y[k,j]$이며, 0과 1로 된 행렬에 대한 평범한 부동소수점 행렬곱 뒤에 0보다 큰지 검사를 붙이는 것만으로 정확히 계산됩니다. 규칙 발화를 GPU 커널로 바꿔주는 트릭입니다. (See GPU 추론: 고정점을 배치로.)

보정(calibration) — 조건부 확률에 대한 약속 $P(\text{correct} \mid \text{confidence} = p) = p$입니다. 시스템이 신뢰도 $p$로 발표한 모든 답변 가운데, 실제로 정답인 비율이 $p$여야 한다는 뜻입니다. (See 보정: 의미 있는 신뢰도.)

사고 사슬(chain of thought, CoT) — 최종 답 이전에 디코딩되는 중간 토큰들로, 생성되는 토큰 하나당 디코딩 루프의 순차적 단계 하나를 소비합니다. 구조적으로 보면, 고정된 크기의 네트워크가 한 번의 순전파로는 계산할 수 없는 깊이를 되사오는 방법입니다. (See 사고 사슬: 디코딩 시점에 P를 회복하기.)

Chow의 규칙(Chow's rule, 기각 옵션) — 오류 비용이 1이고 기권 비용이 $c_r$일 때 기대 비용을 최적화하는 기권 정책입니다. 최상위 클래스로 답하되, 그 확률이 $\theta = 1 - c_r$ 아래로 떨어질 때만 거부합니다. (See 기권: 모른다는 것을 아는 것.)

커밋된 검사(committed check) — 실행 가능한 하니스 안에 있는 어서션으로, 기대값이 저장소에 고정되어 있어서 재실행하면 그 주장이 자릿수까지 그대로 재현되거나 시끄럽게 실패합니다. 순위표 대신 이 시리즈가 증명의 단위로 삼는 것입니다. (See 솔직한 평결: 뉴로-심볼릭 AI의 현주소.)

포괄성(comprehensiveness) — $p(\hat{y} \mid x) - p(\hat{y} \mid x \setminus r)$, 즉 근거 $r$을 입력에서 지웠을 때 모델이 잃는 신뢰도입니다. 값이 크다는 것은 그 근거가 실제로 예측을 떠받치고 있었다는 뜻입니다. (See 충실성: 설명이 정직할 때.)

개념 붕괴(concept collapse) — 개념 헤드의 출현 벡터에 대한 정규화된 섀넌 엔트로피를 1에서 뺀 값입니다. 모든 개념 값이 골고루 쓰이면 0, 하나의 값이 예측을 전부 흡수하면 1이 되며, 개념 정확도만으로는 보이지 않는, 자신 있게 틀리는 형제 지표입니다. (See 지름길 측정: rsbench와 개념 품질.)

일관성 비율(consistency rate) — 짝지어진 탐침 집합의 질문들 가운데 시스템의 답이 그 집합의 논리적 폐쇄(대우, 바꿔 말하기, 드모르간 쌍대성)를 지키는 비율입니다. 정답 레이블 없이도 계산할 수 있으며, 함의를 이해하는 시스템과 그저 추측하는 시스템을 갈라놓는 숫자입니다. (See 함의 벤치마크의 공백.)

커버리지(coverage) — 시스템이 기권하지 않고 답하기로 선택한 질문의 비율입니다. 모든 기권 정책과 모든 일관성 점수는 이 축에 비추어 읽어야 합니다. 줄어든 커버리지에서 만점을 받는 것과 전체 집합에서 만점을 받는 것은 서로 다른 주장이기 때문입니다. (See 기권: 모른다는 것을 아는 것.)

깊이(depth, 작업-깊이 의미) — 각 단계가 바로 앞 단계의 결과를 필요로 하는 연산 사슬 중 가장 긴 것의 길이입니다. 프로세서를 아무리 많이 투입해도 실행 시간의 하한이 됩니다. (See 작업-깊이 트릴레마.)

난이도 축(difficulty axis) — 벤치마크가 보통 채점하는 완전성(깊이별 재현율) 축과는 독립적으로, 추론 사례를 그 자체 기준에서 어렵게 만드는 기계적 성질입니다. 건전성, 종료, 증명 너비, 질의 조인, 의미론 변화, 그라운딩 신뢰, 규모가 그 일곱 가지입니다. (See 완전성을 넘어선 일곱 난이도 축.)

함의 공백(entailment gap) — 단순 정확도에서 탐침 집합의 일관성 비율을 뺀 값입니다. 이 권에 커밋된 실행은 확장 탐침과 바꿔 말하기 탐침에서 각각 27.3점, 50.4점의 공백을 기록하는데, 이는 정확도는 높으면서 논리적 일관성은 낮은 상태가 한 시스템 안에 공존할 수 있음을 뜻합니다. (See 함의 벤치마크의 공백.)

기대 보정 오차(expected calibration error, ECE) — 구간별로 나눈 뒤, 발표된 신뢰도와 관측된 정확도 사이의 절대 차이를 개수로 가중 평균한 값, $\sum_b (n_b/N)\,\lvert \mathrm{acc}_b - \mathrm{conf}_b \rvert$입니다. 편향되어 있고 구간 나누기 방식에 좌우되지만, 여전히 이 분야의 주력 요약 지표입니다. (See 보정: 의미 있는 신뢰도.)

전문가 반복(expert iteration) — 시도를 표집하고, 검증된 성공만 남기고, 그 단계들로 제안자를 다시 학습시키는 훈련 루프입니다. 학습된 가치 함수도 보상 모델도 필요 없는, 환경 보상에 대한 일종의 정책 개선입니다. (See 강화학습과 검증기 관문 추론.)

충실성(faithfulness) — 설명이 모델 출력의 원인을 정확하게 보고하는 성질이며, 인간 독자에게 얼마나 그럴듯해 보이는가가 아니라 모델 자체에 대한 반사실적 검사로 판정됩니다. (See 충실성: 설명이 정직할 때.)

충실도(fidelity, 추출) — 추출된 기호적 대리 모델(결정 트리, 규칙 집합)과 그것이 추출된 원래 네트워크 사이의 일치율로, 명시된 질의 분포에 대해 측정됩니다. 언제나 특정 입력들에 대한 충실도일 뿐 추상적인 값이 아니며, 충실도가 높다는 것이 대리 모델이 그릇된 규칙을 충실하게 보고하고 있다는 뜻일 수도 있습니다. (See 규칙 추출: 가중치에서 규칙 읽어내기.)

고정-L 절단(fixed-L truncation) — 정지 판정 없이 동일한 추론 레이어를 $L$번 적용하는 것입니다. 발화하지 않은 규칙은 그저 발화하지 않을 뿐이므로 모든 $L$에서 건전하며, $L$이 지식 베이스의 유도 지름 $D$에 도달했을 때만 완전해집니다. (See 기호 어텐션: 단 한 번의 섬광 같은 추론.)

굿하트의 법칙(Goodhart's law) — 어떤 척도가 목표가 되는 순간, 그것은 더 이상 좋은 척도가 아니게 된다는 법칙입니다. 개념적 의미처럼 잠재적인 성질에 대해서는, 이 권의 식별 가능성 정리가 이 실패를 단순한 불운이 아니라 구조적인 것으로 만듭니다. (See NeSy 벤치마크 스위트와 시뮬레이터.)

적중 집합 트리(hitting-set tree, HST) — 노드가 경로상에서 삭제된 공리들을 뺀 온톨로지의 정당화들이고, 각 간선이 부모 정당화의 공리 하나를 삭제하는 열거 트리입니다. 어떤 함의의 모든 정당화를 찾는 데 완전합니다. (See 정당화: 최소 증명과 핀포인팅.)

식별 가능성(identifiability, 레이블로부터의 개념) — 레이블 분포가 개념 의미론을 유일하게 결정하는 성질입니다. 지식 베이스의 대칭군이 자명군일 때 정확히 성립하며, 관측된 모든 레이블을 그대로 둔 채 개념 상태를 비자명하게 재배정하는 방법이 하나라도 있으면 성립하지 않습니다. (See 식별 가능성: 정확도가 의미를 보증하지 못하는 이유.)

정당화(justification, MinA, 최소 공리 집합) — 주어진 결론을 함의하면서, 그 어떤 진부분집합도 함의하지 않는 온톨로지의 부분집합 $J$입니다. 함의를 위한 최소 증거이며, 적중 집합 트리가 남김없이 열거하는 대상입니다. (See 정당화: 최소 증명과 핀포인팅.)

구체화(materialization) — 적재 시점에 규칙 집합의 최소 고정점을 기저 사실들 위에서 계산해 저장하는 것으로, 이후의 질의는 단순한 색인 조회가 됩니다. 한 번에 대가를 미리 치르고, 뒤따르는 모든 질의에 그 비용을 나누어 갚는 전략입니다. (See 구체화 대 재작성: 규모 확장의 두 길.)

메타인지(meta-cognition) — 시스템이 단순히 신뢰도 숫자를 보고하는 것을 넘어, 자신의 기계 장치가 신뢰할 만한 입력 영역인 역량 경계(competence boundary)를 스스로 모델링하고 그에 따라 라우팅하는 성질입니다. 조사된 문헌의 약 5퍼센트에서만 다루어지는, 이 권에서 가장 빈약하게 계측된 미해결 문제입니다. (See 미해결 문제: G1–G8 공백.)

오라클 우선 설계(oracle-first design) — 학습된 시스템이 손대기 전에 목표 의미론의 정확한 참조 구현부터 만드는 연구 원칙으로, 이후의 모든 주장이 그것을 반증할 수 있는 커밋된 절차를 갖게 만듭니다. (See 다음 연구 하기: 사각지대와 첫걸음.)

핀포인팅(pinpointing) — 어떤 함의에 책임이 있는 공리들을 정확히 찾아내는 것으로, 함의 오라클만을 사용하는 블랙박스(black-box) 방식과 추론기 자체를 계측해 그 만족 평가가 곧 정당화가 되는 단조 불리언 논리식을 뽑아내는 글래스박스(glass-box) 방식이 있습니다. (See 정당화: 최소 증명과 핀포인팅.)

심어진 규칙 프로토콜(planted-rule protocol) — 학습기에게 알려진 규칙을 숨기고, 오직 그 규칙의 질의 응답만으로 학습시킨 뒤, 학습된 가중치가 숨겨진 규칙을 정확히 디코딩해 내도록 요구하는 것입니다. 유사성이 아니라 구문적 동일성을 요구하는, 더 엄격한 복원 기준입니다. (See SATORI 아키텍처: 하나의 연산자, 네 가지 성질.)

과정 지도(process supervision) — 최종 답에 대한 결과만 판단하는 대신, 추론 흔적의 각 단계에 대한 판단으로 학습시키는 방식입니다. 기호적 검증기가 모든 단계를 채점할 수 있는 곳에서는 정확하고 공짜이며, 그 밖의 모든 곳에서는 학습된 과정-보상 모델로 근사됩니다. (See 강화학습과 검증기 관문 추론.)

질의 재작성(query rewriting) — 질의를 규칙 집합을 거슬러 풀어내어 기저 술어들에 대한 합접 질의들의 합집합으로 만들고, 이를 구체화되지 않은 원시 데이터에 대해 곧바로 평가하는 것입니다. 미리 대가를 치르는 대신 질의마다 값을 치르는, 구체화의 적재 없는 대안입니다. (See 구체화 대 재작성: 규모 확장의 두 길.)

추론 지름길(reasoning shortcut, RS) — 레이블 가능도는 극대화하면서 내부 개념 분포는 참값에서 벗어나 있는 매개변수화입니다. 모든 레이블에서는 맞지만 잘못된 이유로 맞는, 의도되지 않은 최적점입니다. (See 추론 지름길: 맞는 답, 틀린 이유.)

재배정($\alpha$, relabeling) — 참값 개념 상태를 모델의 개념 상태로 옮기는 함수로, 체계적인 의미 오류를 기술합니다. 훈련 데이터가 실제로 방문하는 상태들 위에서 과제의 레이블 사상과 교환 가능할 때 정확히 허용 가능하며, 그런 경우 후보 최적점이 됩니다. (See 추론 지름길: 맞는 답, 틀린 이유.)

신뢰도 다이어그램(reliability diagram) — 보정에 대한 구간별 추정치입니다. 각 신뢰도 구간마다 개수, 평균 발표 신뢰도, 관측된 정확도를 기록하며, 뒤의 두 값 사이의 차이가 그 구간이 드러내는 오보정입니다. (See 보정: 의미 있는 신뢰도.)

반복 제곱(repeated squaring) — 도달 가능성 관계를 $I \vee M$ 자신과 제곱해 나가며 완결 짓는 방법으로, 지름을 $D$라 할 때 $\lceil \log_2 D \rceil$번의 생산적인 라운드 안에 고정점에 도달합니다. 준소박(semi-naive) 방법의 희소하고 라운드 수가 선형인 비용을, 조밀하고 라운드 수가 로그인 작업량과 맞바꿉니다. (See 작업-깊이 트릴레마.)

보상 해킹(reward hacking) — 최적화기가 대리 보상이 원래 대변하려던 의도를 희생시키면서 그 대리 보상만 극대화하는 현상입니다. 이 권에 커밋된 사례는 소속 여부로 보상받는 정책이 타당하지만 무관한 사실들만 양산해, 관련 사실 비율을 0.382에서 0.154로 무너뜨리는 모습입니다. (See 강화학습과 검증기 관문 추론.)

위험-커버리지 곡선(risk-coverage curve) — 신뢰도 임계값이 전체 범위를 훑는 동안 선택적 위험을 커버리지에 대해 그린 곡선입니다. 신뢰도순으로 정렬된 질문 목록을 자르는 지점마다 한 점씩 찍히며, 모든 기권 정책이 이 곡선에 비추어 값이 매겨집니다. (See 기권: 모른다는 것을 아는 것.)

규칙 추출(rule extraction) — 훈련된 네트워크에 대해 트리, 논리곱 표준형, 또는 사슬 규칙 집합과 같은 명시적 기호 대리 모델을 만들어내고, 그 대리 모델과 원래 네트워크가 읽어내어진 대상 사이의 일치도를 측정하는 것입니다. (See 규칙 추출: 가중치에서 규칙 읽어내기.)

선택적 예측(selective prediction, 선택적 분류) — 예측기가 답변을 거부할 수 있는 설정입니다. 형식적으로는 예측기와 선택 함수의 쌍이며, 정확도 하나만이 아니라 커버리지와 선택적 위험을 함께 놓고 채점됩니다. (See 기권: 모른다는 것을 아는 것.)

준소박(델타) 평가(semi-naive/delta evaluation) — 직전 라운드에서 새로 생긴 전제들을 통해서만 규칙을 발화시키고, 규칙의 다른 전제들에 대해서는 전체 상태와 조인하는 방식입니다. 이미 알려진 사실을 재유도하기만 할 규칙 인스턴스는 구조적으로 전혀 반복되지 않고 모두 건너뜁니다. (See 구체화 대 재작성: 규모 확장의 두 길.)

충분성(sufficiency) — $p(\hat{y} \mid x) - p(\hat{y} \mid r)$, 즉 근거 $r$만 남기고 나머지를 모두 지웠을 때 모델이 유지하는 신뢰도입니다. 값이 낮거나 심지어 음수라면, 그 근거 하나만으로 이미 예측을 지탱하고 있다는 뜻입니다. (See 충실성: 설명이 정직할 때.)

기호 어텐션(symbolic attention) — 고정점 완결 절차를 어텐션 연산자로 표현한 것입니다. 규칙 본문은 전제들에 대한 완화된 최솟값으로 점수가 매겨지고, 경쟁하는 유도들은 완화된 최댓값으로 합쳐지며, 역할 합성은 완화된 인접 행렬들 위에서의 메시지 전달로 실행됩니다. (See 기호 어텐션: 단 한 번의 섬광 같은 추론.)

지식의 대칭군(symmetry group, of knowledge) — 지식 베이스의 레이블 사상을 그대로 유지하는, 개념 상태에 대한 모든 전단사 재배정들이 합성 연산 아래에서 이루는 군입니다. 이 군이 자명군일 때 정확히 식별 가능성이 성립합니다. (See 식별 가능성: 정확도가 의미를 보증하지 못하는 이유.)

TC⁰ — 무제한 팬인을 갖는 AND/OR 게이트에 문턱 게이트를 더해 만든, 상수 깊이·다항 크기 회로들의 회로 복잡도 클래스입니다. 천장 정리는 중간 디코딩이 없는 고정 깊이·로그 정밀도 트랜스포머라면, 가중치를 어떻게 설정하든 모두 이 안에 들어간다고 말합니다. (See 트랜스포머 깊이의 천장: TC⁰과 P.)

온도 스케일링(temperature scaling) — 유보된 데이터에 대한 음의 로그가능도를 최소화해 맞추는, 스칼라 하나짜리 보정 수선책 $p = \sigma(s/\tau)$입니다. 1보다 큰 온도는 과신하는 모델을 누그러뜨리고, 1보다 작은 온도는 과소 확신하는 모델을 날카롭게 만들며, 이 재조정은 어떤 순위도 건드리지 않으므로 정확도는 전혀 변하지 않습니다. (See 보정: 의미 있는 신뢰도.)

흔적 지우기 프로토콜(trace-erasure protocol) — 일반적인 양방향 충실성 검사입니다. 설명이 인용한 증거를 지우면 예측이 반드시 움직여야 하고, 인용하지 않은 증거를 지우면 예측이 움직이지 않아야 합니다. 정당화는 이를 정리로서 통과하고, 통계적 설명은 이를 측정으로써 통과해야 합니다. (See 충실성: 설명이 정직할 때.)

검증기 제약 디코딩(verifier-constrained decoding) — 생성 과정에서 제안되는 모든 추론 단계에 정확한 검증기를 적용해, 유효하지 않은 단계가 아예 유도된 기록에 들어오지 못하게 하는 것입니다. 완료된 출력만을 사후에 채점하는 재순위화(reranking)와 대비됩니다. (See 강화학습과 검증기 관문 추론.)

쐐기(wedge, 연구) — 기존의 어떤 시스템 계열도 한꺼번에 갖추지 못한, 성질들의 공집합 조합을 짚어내는 관련 연구 논증입니다. 문헌에 대한 기회 주장일 뿐, 그 자체로 세계에 대한 결과는 결코 아닙니다. (See 여덟 가지 주장: C1–C8과 쐐기.)

작업(work) — 어떤 계산을 실행하는 모든 프로세서에 걸쳐 합산한, 그 계산이 수행하는 연산의 총 개수입니다. 벽시계가 아무리 빠르게 읽히더라도, 에너지와 하드웨어로 누군가는 반드시 치르게 되는 대가입니다. (See 작업-깊이 트릴레마.)