용어집

📍 현재 위치: 3권 전체를 위한 책 뒤편 참고 자료입니다 — 신경 표현에서 반복해서 등장하는 모든 용어를 쉬운 말로 풀어 놓았습니다. 두 번째 탭에 열어 두었다가, 어떤 낱말이 더 이상 이해되지 않을 때마다 돌아와 확인하십시오.

신경 표현(neural representation)은 그 어휘를 선형대수, 기하학, 확률론에서 빌려 오고, (이 시리즈가 뉴로-심볼릭 시리즈이기 때문에) 2권의 논리학에서도 빌려 온 다음, 하나의 작은 학계 지식 그래프를 중심으로 모든 용어를 벼립니다. 아래에는 이 권에서 반복해서 등장하는 용어들을 쉬운 말로 정리해, 찾아보기 쉽도록 영어 용어의 알파벳순으로 나열했습니다. 각 항목은 출발점일 뿐이며, 그것이 가리키는 장으로 가면 완전하고 정확한 그림을 얻을 수 있습니다.

대수적 천장(Algebraic ceiling) — 잘못 훈련된 개별 인스턴스가 아니라 모델 계열의 모든 파라미터 설정에 대해 증명 가능한 한계입니다: DistMult의 강제된 점수 동점, 공의 렌즈 거짓양성, 메시지 전달에 대한 1-WL 상한이 모두 이런 종류의 천장입니다. (참고: 솔직한 평결: 벡터가 담을 수 있는 것과 없는 것.)

어텐션(Attention) — 미분 가능하고 내용으로 주소를 찾는 읽기 연산입니다: 질의(query)와 키(key)가 스케일된 내적들에 대한 소프트맥스를 통해 관련성을 결정하고, 값(value)이 내용을 실어 나르며, 출력은 그 값들의 관련성 가중 평균입니다. 키들이 직교하고 로짓이 뾰족할 때는 정확한 딕셔너리 조회로 퇴화하는데, 이는 미분 가능한 연산의 극한으로 되찾은 상징적 연산입니다. (참고: 어텐션: 관련성에 의한 추론.)

공 포함 판정 기준(Ball containment criterion) — B(c_A, r_A) ⊆ B(c_B, r_B)는 정확히 ‖c_A − c_B‖ + r_A ≤ r_B일 때 성립합니다: 삼각부등식에 의해 건전하고, 최악의 점 구성에 의해 정확하며, ELEm의 모든 손실과 건전성 탐침의 씨앗입니다. (참고: 공과 원뿔: 영역으로서의 개념.)

기저 분해(Basis decomposition) — R-GCN의 모든 관계 행렬을 소수의 공유된 원형 행렬들의 혼합 W_r = Σ_b a_rb V_b로 적는 것으로, 그래서 파라미터 개수가 관계의 수가 아니라 기저의 수에 따라 늘어나게 됩니다. (참고: 관계형 GNN: R-GCN 그리고 그 너머.)

베타 임베딩(Beta embedding) — 개체나 질의를 딱딱한 영역이 아니라 Beta(α, β) 확률 밀도들의 벡터로 나타내는 것입니다; 교집합은 밀도들을 곱하고(파라미터는 더해집니다), 부정은 닫힌 형식의 맞바꿈 (α, β) → (1/α, 1/β)으로, 대합(involution)이므로 이중 부정은 정확히 항등 연산입니다. (참고: 베타·확률 임베딩: 밀도로 사는 부정.)

쌍선형 모델(Bilinear model) — 이동시키는 대신 곱하는 점수 함수입니다: DistMult의 Σ_i e_h[i] w_r[i] e_t[i]처럼, 머리 벡터와 관계 벡터, 꼬리 벡터를 항별로 결합해 더합니다. (참고: 쌍선형 모델: DistMult와 ComplEx.)

결합(Binding) — 역할과 필러를 두 입력 어느 쪽과도 닮지 않은 하나의 벡터로 합성하는 벡터 기호 연산으로, 그래서 "어떤 필러가 어떤 역할을 채우는가"가 저장을 거치고도 살아남게 합니다; 홀로그래픽 축약 표현(holographic reduced representation)에서 결합 연산자는 순환 합성곱입니다. (참고: 벡터 기호 구조: 결합과 중첩.)

결합 문제(Binding problem) — 가중 평균이 어떤 필러가 어떤 역할과 짝을 이루는지를 기록하지 못한다는 무능력입니다; 어텐션이 열어 둔 채 남긴 질문이며, 벡터 기호 구조의 결합 연산자가 그에 답합니다. (참고: 어텐션: 관련성에 의한 추론.)

박스 임베딩(Box embedding) — 개념이나 질의를 축에 정렬된 박스, 즉 차원마다 하나의 아래쪽 모서리와 위쪽 모서리로 나타내는 것입니다; 소속 여부는 좌표별로 "두 모서리 사이에 있는가"를 검사하는 것이고, 두 박스의 교집합은 정확히 계산됩니다(아래쪽 모서리들의 좌표별 최댓값, 위쪽 모서리들의 좌표별 최솟값). (참고: 박스 임베딩: Query2Box 기하.)

BoxEL — 각 EL++ 개념을 모서리별 힌지 손실로 훈련되는 축 정렬 박스로 그려 내는 온톨로지 임베딩 계열입니다; 논리곱은 정확한 모서리 산술이 되고, 박스는 진짜로 비어 있을 수 있어서, 공은 결코 갖지 못했던 실제 의미를 바닥 개념 ⊥에 부여합니다. (참고: BoxEL과 Box²EL: 충실한 온톨로지 임베딩.)

Box²EL — BoxEL의 후속 모델로, 각 역할에 머리/꼬리 역할 박스 쌍을, 각 개념에 존재 제약의 출발점에 더해지는 범프 벡터(bump vector)를 추가로 부여해, 같은 역할이 필러마다 다른 곳에 도달할 수 있게 합니다; 역할당 이동 하나라는 병목의 온톨로지 수준 수리입니다. (참고: BoxEL과 Box²EL: 충실한 온톨로지 임베딩.)

C²(two-variable counting logic) — 재사용 가능한 두 개의 변수와 세기 한정사("적어도 n개가 존재한다")만으로 제한된 1차 논리입니다; 두 노드가 같은 안정 1-WL 색을 받는 것은 정확히 모든 C² 식에서 일치할 때이며, 그래서 C²는 메시지 전달 천장의 논리학적 이름입니다. (참고: 표현력의 천장: 1-WL, C², 등급 양상 논리.)

용량(Capacity) — 고정 너비 벡터가 더 이상 해독 불가능해지기 전까지 얼마나 담을 수 있는가입니다: 하나의 중첩에 저장된 트리플의 수가 차원에 비해 늘어남에 따라, 정리(cleanup) 정확도는 절벽에서 떨어지듯 무너지는 대신 완만하게 저하됩니다. (참고: 벡터 기호 구조: 결합과 중첩.)

순환 합성곱(Circular convolution, ⊛) — 홀로그래픽 축약 표현의 결합 연산자입니다: 두 d차원 벡터의 랩어라운드(wrap-around) 합성곱으로, FFT를 통해 O(d log d)에 계산할 수 있으며, 그 출력은 두 입력 어느 쪽과도 닮지 않습니다. (참고: 벡터 기호 구조: 결합과 중첩.)

정리 메모리(Cleanup memory) — 알려진 항목 벡터들을 저장해 둔 목록으로, 잡음 섞인 결합 해제 결과를 최근접 코사인으로 이 목록과 맞춰 봅니다; 근사적인 벡터 답을 다시 정확한 기호로 되돌려 놓는 단계입니다. (참고: 벡터 기호 구조: 결합과 중첩.)

교집합에 대한 닫힘(Closure under intersection) — 논리곱이 계열 안에 머물기 위해 영역 계열이 갖춰야 하는 성질입니다: 박스는 이를 갖고 있고(모서리 산술), 공은 갖고 있지 않으며(겹치는 두 공은 렌즈에서 만나고, 렌즈는 공이 아닙니다), 이 하나의 기하학적 사실이 어느 도형이 온톨로지 임베딩 장들을 짊어질지를 결정합니다. (참고: 박스 대 공: 표현력 이야기.)

ComplEx — 복소수 값 벡터 위에서 작동하는 쌍선형 모델로, Re⟨e_h, w_r, conj(e_t)⟩로 점수를 매깁니다; 꼬리에 붙는 복소 켤레가 점수를 비대칭으로 만들어, cites처럼 비대칭적인 관계에서 DistMult가 강제로 만들어 내던 동점을 고칩니다. (참고: 쌍선형 모델: DistMult와 ComplEx.)

DistMult — 대각 쌍선형 모델 s(h, r, t) = Σ_i e_h[i] w_r[i] e_t[i]입니다: 우아하고 강력하지만, 모든 관계에 대해 s(h, r, t) = s(t, r, h)를 부여한다는 점에서 증명 가능하게 대칭적이며, 이는 비대칭적 관계에 치명적입니다. (참고: 쌍선형 모델: DistMult와 ComplEx.)

왜곡(Distortion) — 그래프 거리와 임베딩 거리 사이의 불일치로, 여기서는 모든 노드 쌍에 걸친 |d_emb/(s·d_graph) − 1|의 스케일 보정 평균으로 측정합니다; 평평한 공간은 패킹 논증에 의해 낮출 수 없지만 쌍곡 공간은 낮춰 내는 수치입니다. (참고: 쌍곡 임베딩: 곡률 공간의 계층.)

EL++ 폐포(EL++-closure) — 영역 계열이 (그 역할 해석과 함께) 교집합, 존재 투영, 역할 합성에 대해 닫혀 있다는 성질로, EL++ 문법의 모든 복합 개념이 운이 아니라 구성에 의해 부분들의 영역으로부터 지어진 영역을 얻게 합니다. (참고: TransBox와 mOWL: 폐포와 도구.)

ELEm(EL Embeddings) — EL++ TBox의 각 개념을 공으로, 각 역할을 이동 벡터로 사상하고, 각 정규형 공리의 기하학적 제약이 성립하도록 훈련하는 구성입니다; 논리곱이 스스로 고백한 약점인데, 두 공의 교집합은 공이 아니기 때문입니다. (참고: EL 임베딩: 기하와 논리의 만남.)

임베딩(Embedding) — 이산적인 기호를 대신하는 학습된 벡터(또는 영역, 또는 밀도)로, 기하학이 그 기호의 관계들을 인코딩하도록 배치됩니다; 이 권의 모델들은 변환적(transductive)이어서, 알려진 개체와 관계 각각에 대해 임베딩을 하나씩 학습합니다. (참고: 링크 예측: 그래프 완성하기.)

귀결 원뿔(Entailment cone) — 순서 임베딩에서 한 개념이 차지하는 영역으로, 그 벡터보다 좌표별로 크거나 같은 모든 점입니다. 하위 개념의 원뿔은 그 조상의 원뿔 안에 포개어 들어가므로, is-a 위계 전체가 원뿔 포함 관계가 됩니다; 쌍곡 변형은 푸앵카레 공의 원점에서 멀어지는 쪽으로 원뿔을 엽니다. (참고: 공과 원뿔: 영역으로서의 개념.)

EPFO 질의(EPFO query) — 존재 긍정 1차(existential positive first-order) 질의입니다: 존재 변수, 논리곱, 논리합으로만 지어지고 부정은 없는 다중 홉 질문으로, Query2Box가 기하학적으로 답하는 질의 부류이며 베타 임베딩이 그 경계를 넘어섭니다. (참고: 박스 임베딩: Query2Box 기하.)

표현력의 천장(Expressiveness ceiling) — 잘못 훈련된 개별 인스턴스만이 아니라 모델 계열의 모든 파라미터 설정에 대해 성립하는 한계입니다: 메시지 전달 GNN은 가중치가 무엇이든 1-WL 색 정련(color refinement)이 구별하지 못하는 두 그래프를 결코 구별하지 못합니다. (참고: 표현력의 천장: 1-WL, C², 등급 양상 논리.)

필터링된 순위(Filtered ranking) — 참인 답의 순위를 기록하기 전에, 이미 참으로 알려진 다른 답들을 질의의 후보 목록에서 제거하는 평가 프로토콜로, 그래서 모델이 자신이 아는 지식을 올바르게 점수 매긴 것으로 벌점을 받는 일이 없게 합니다. (참고: 링크 예측: 그래프 완성하기.)

다섯 가지 긴장(Five tensions) — 정확함 대 견고함, 증명 대 점수, 이산 대 미분 가능, 구성됨 대 학습됨, 닫힘 대 용량: 이 권의 평결이 적히는 축들이자, 4권의 모든 통합 방법이 자신의 위치를 선언해야 하는 축들입니다. (참고: 솔직한 평결: 벡터가 담을 수 있는 것과 없는 것.)

GCN(그래프 합성곱 신경망, graph convolutional network) — 메시지 전달의 정전적인 구현체입니다: 대칭적으로 정규화된 인접 행렬 D^(−1/2)(A + I)D^(−1/2)로 이웃을 취합한 다음, 공유된 선형 사상과 ReLU로 갱신합니다; 자기 루프(self-loop)는 노드 자신의 상태를 지켜 주고, 정규화는 차수가 높은 노드가 폭주하는 것을 막아 줍니다. (참고: 메시지 전달: GNN의 청사진.)

GIN(그래프 동형 네트워크, graph isomorphism network) — 합 취합(sum aggregation)을 사용함으로써 1-WL 천장에 도달하는 메시지 전달 아키텍처입니다; 합 취합은 이웃의 다중집합을 요약하는 단사적인 방법으로, 평균이나 최댓값은 실제로 다른 이웃 구조들을 뭉개 버립니다. (참고: 표현력의 천장: 1-WL, C², 등급 양상 논리.)

등급 양상 논리(Graded modal logic) — 셈하기를 갖춘 양상 논리로, "적어도 n개의 이웃이 C를 만족한다"를 말할 수 있습니다; 이변수 세기 논리(two-variable counting logic) C²의 국소적 파편이며, 메시지 전달 GNN이 표현할 수 있는 노드 속성들을 정확히 나타내는 논리 언어입니다. (참고: 표현력의 천장: 1-WL, C², 등급 양상 논리.)

그래프 신경망(Graph neural network, GNN) — 각 노드의 이웃으로부터 온 메시지를 되풀이해서 취합하고 그 상태를 갱신함으로써 노드마다 벡터 하나를 계산하는 네트워크입니다; 층의 수가 각 노드가 볼 수 있는 구조의 홉 수를 정합니다. (참고: 메시지 전달: GNN의 청사진.)

Hits@k — 참인 답이 상위 k개의 후보 안에 드는 순위 질의들의 비율입니다; MRR과 함께 k = 1, 3, 10에서 보고됩니다. (참고: 링크 예측: 그래프 완성하기.)

쌍곡 공간(Hyperbolic space) — 부피가 반지름에 대해 지수적으로 늘어나는, 음의 곡률을 가진 공간으로, 트리의 지수적 분기와 들어맞습니다; 평평한 공간에서는 심하게 왜곡되는 위계 구조가 이 공간에서는 왜곡이 적게 임베딩됩니다. (참고: 쌍곡 임베딩: 곡률 공간의 계층.)

역관계(Inverse relation) — r이 a에서 b로 성립할 때 정확히 그때만 b에서 a로 성립하는 관계 r⁻¹입니다. R-GCN은 역관계마다 채널을 하나씩 추가해, 방향 있는 엣지가 자신의 양 끝점 모두에 정보를 전달하게 합니다; 평가에서는, 미처 인식되지 못한 역관계가 분할들에 걸쳐 중복되는 것이 전형적인 정보 누출(leakage)의 원인입니다. (참고: 관계형 GNN: R-GCN 그리고 그 너머.)

KL 발산(KL divergence) — 한 확률분포가 다른 확률분포와 얼마나 다른지를 재는 표준적인 비대칭 척도입니다; 베타 분포들 사이에서는 다이감마 함수로 된 닫힌 형식을 가지며, 베타 임베딩은 이를 질의의 밀도로부터 개체의 밀도까지의 거리로 사용합니다. (참고: 베타·확률 임베딩: 밀도로 사는 부정.)

지식 그래프(Knowledge graph) — 방향과 라벨이 있는 엣지로 연결된 개체들로, 각 엣지는 머리, 관계, 꼬리로 이루어진 트리플 (h, r, t)입니다; 이 권의 모든 모델이 학습하는 데이터 구조이며, 여기서는 하나의 작은 학계 세계로 고정되어 있습니다. (참고: 링크 예측: 그래프 완성하기.)

렌즈(Lens) — 겹치는 두 공의 교집합입니다: 두 꼭짓점에서 만나는 두 원호로 둘러싸인 볼록 영역이며, 공이 아닙니다; 공이 교집합에 대해 닫혀 있지 않음을 보여 주는 구체적인 증인으로, 렌즈를 감싸는 가장 작은 공은 증명 가능한 거짓양성들을 덮도록 강제됩니다. (참고: 박스 대 공: 표현력 이야기.)

링크 예측(Link prediction) — 순위 매김 문제로 다시 짜인 지식 그래프 완성 과제입니다: 질의 (h, r, ?) 또는 (?, r, t)에 대해 모든 후보 개체에 점수를 매기고, 정렬한 다음, 감춰 둔 참인 답이 어디에 떨어지는지를 측정합니다. 이 권 전체가 공유하는 채점판입니다. (참고: 링크 예측: 그래프 완성하기.)

로지스틱 손실(Logistic loss, softplus) — L = softplus(−y·s) = −ln σ(y·s), 즉 점수의 시그모이드 아래에서 트리플의 올바른 ±1 라벨이 갖는 음의 로그 가능도로, 도함수는 −y·σ(−y·s)입니다; 쌍선형 모델들이 L2 가중치 감쇠와 짝지어 훈련에 사용하는 손실입니다. (참고: 쌍선형 모델: DistMult와 ComplEx.)

마진 랭킹 손실(Margin ranking loss) — 힌지 max(0, γ + d_pos − d_neg)로, 참인 트리플마다 손상된 트리플보다 적어도 마진 γ만큼은 앞서도록 밀어붙여 점수 매김기를 훈련시키며, 절대적인 점수가 아니라 상대적인 순서를 요구합니다. (참고: 이동 모델: TransE와 그 계열.)

메시지 전달(Message passing) — 모든 GNN의 근간을 이루는 청사진입니다: 매 라운드마다, 한 노드는 이웃들의 현재 벡터들을 하나의 메시지로 취합하고, 그 메시지와 자신의 이전 상태로부터 자신의 벡터를 갱신합니다. (참고: 메시지 전달: GNN의 청사진.)

mOWL — 온톨로지 임베딩 파이프라인을 표준화하는 파이썬 라이브러리입니다: OWL 적재, jcel/ELK를 통한 정규화, 하나의 손실 배분 계약 아래 모인 기하 모델들, 그리고 공유된 순위 기반 평가기를 SNOMED CT와 유전자 온톨로지 규모에서 제공합니다. (참고: TransBox와 mOWL: 폐포와 도구.)

MRR(평균 역순위, mean reciprocal rank) — 모든 순위 질의에 걸친 1/순위의 평균입니다; 설계상 상위권에 무게가 실려 있으며(순위 1인 답은 1을 기여하고, 순위 10인 답은 겨우 0.1을 기여합니다), 1.0이 완벽한 값입니다. (참고: 링크 예측: 그래프 완성하기.)

멀티헤드 어텐션(Multi-head attention) — 여러 개의 어텐션 헤드가 학습된 부분공간들 위에서 병렬로 실행된 다음 이어붙여져 섞이는 방식입니다; 여러 개의 관련성 패턴을 동시에 추적하는 능력으로, 대략 헤드 하나당 관계 하나꼴입니다. (참고: 어텐션: 관련성에 의한 추론.)

부정(Negation, BetaE involution) — 각 베타 성분에 적용되는 닫힌 형식의 파라미터 맞바꿈 (α, β) → (1/α, 1/β)입니다; 대합(자기 자신이 자신의 역원인 사상)이므로 이중 부정은 정확히 항등이며, 공과 박스는 여집합이 계열을 벗어나기 때문에 표현할 수 없는 연산자를 밀도에게 공급합니다. (참고: 베타·확률 임베딩: 밀도로 사는 부정.)

음성 샘플링(Negative sampling) — 참인 트리플의 머리나 꼬리를 무작위 개체로 바꿔치기해 훈련용 음성 예시를 만들어 내는 것으로, 진짜 사실이 거짓으로 제시되는 일이 없도록 이미 참으로 알려진 트리플 목록을 참조합니다. (참고: 링크 예측: 그래프 완성하기.)

노름 제약(Norm constraint) — 매 경사 단계 후 개체 벡터를 단위 길이로 다시 스케일링하는 것입니다; 모든 임베딩이 함께 줄어들어 마진을 손쉽게 만족시켜 버리는 퇴화 해를 없애 주며, 그래서 훈련이 무너지는 대신 구조를 학습하게 됩니다. (참고: 이동 모델: TransE와 그 계열.)

정규형(Normal form, NF1–NF4) — 2권의 정규화가 임의의 EL++ TBox를 환원해 도달하는 네 가지 공리 모양입니다: C ⊑ D, C ⊓ D ⊑ E, C ⊑ ∃r.D, ∃r.C ⊑ D. 온톨로지 임베딩은 각 모양을 저마다의 기하학적 손실 항으로 바꾸므로, 정규형은 논리와 기하 사이의 접촉면입니다. (참고: EL 임베딩: 기하와 논리의 만남.)

순서 임베딩(Order embedding) — 위계가 좌표로부터 곧바로 읽히는 임베딩입니다: 더 구체적인 벡터가 모든 좌표에서 더 일반적인 벡터를 지배할 때 한 개념이 다른 개념을 포섭하며, 그래서 is-a는 성분별 ≥ 검사가 됩니다. (참고: 공과 원뿔: 영역으로서의 개념.)

순열 등변성(Permutation equivariance) — 그래프 노드들의 번호를 다시 매기면 GNN의 출력들도 그저 똑같은 방식으로 번호가 다시 매겨질 뿐이라는 보장입니다; 네트워크는 노드가 우연히 나열된 임의의 순서가 아니라 구조 위에서 계산합니다. (참고: 메시지 전달: GNN의 청사진.)

푸앵카레 공(Poincaré ball) — 단위 공 안에 담긴 쌍곡 공간의 모델로, 거리 d(u, v) = arcosh(1 + 2‖u−v‖² / ((1−‖u‖²)(1−‖v‖²)))는 경계 근처에서 폭주합니다; 일반적인 개념은 중심 근처에, 구체적인 개념은 가장자리 근처에 자리 잡으며, 위계에서의 깊이는 노름으로부터 읽어낼 수 있습니다. (참고: 쌍곡 임베딩: 곡률 공간의 계층.)

투영(Projection, 관계) — Query2Box가 영역에 대해 관계마다 적용하는 연산자입니다: 관계 r을 따라가는 것은 현재 박스를 r의 오프셋만큼 이동시키고 r의 softplus-양수 크기만큼 넓히는 것으로, "r을 한 홉 따라간 모든 것"을 영역을 오직 키울 수만 있는 단 하나의 기하학적 단계로 취합니다. (참고: 박스 임베딩: Query2Box 기하.)

Query2Box — 다중 홉 질의 전체를 하나의 박스로 임베딩하는 모델입니다: 앵커 개체는 점이고, 관계 홉마다 박스를 투영하며, 논리곱은 박스들을 정확히 교집합시키고, 논리합은 논리곱 가지들의 합집합으로 다시 써서 처리하며, 답은 최종 박스 안에 들거나 그에 가장 가까운 점을 가진 개체들입니다. (참고: 박스 임베딩: Query2Box 기하.)

Query2Box 거리(Query2Box distance) — dist_outside + α·dist_inside: 개체의 점에서 박스 표면까지의 L1 거리에, α로 할인된 박스 중심으로의 끌림을 더한 것입니다; 바깥 항이 0이라는 것은 개체가 박스 안에 있다는 뜻입니다. (참고: 박스 임베딩: Query2Box 기하.)

RBF 커널(RBF kernel) — 기호 임베딩 위의 k(p, q) = exp(−‖u_p − u_q‖²/2σ²)입니다: 동일한 기호는 정확히 1점을, 준동의어는 높은 점수를, 무관한 기호는 0에 가까운 점수를 받습니다. 폭 σ는 관용의 다이얼로, σ → 0 극한에서 딱딱한 동등성 검사를 되찾습니다. (참고: 소프트 단일화: 벡터 공간에서 기호 맞추기.)

수용 영역(Receptive field) — T층 GNN의 출력이 증명 가능하게 의존하는 T-홉 이웃이며, 그 바깥에는 전혀 의존하지 않습니다; 메시지 전달의 국소성을 정확히 진술한 것으로, 동반 코드에서 비트 단위로 검증됩니다. (참고: 메시지 전달: GNN의 청사진.)

R-GCN(관계형 그래프 합성곱 신경망, relational graph convolutional network) — 유형이 있는 다중 그래프로 확장된 GCN입니다: 관계마다 하나씩의 가중치 행렬을 두고, 여기에 역관계 채널과 자기 루프 행렬을 더하며, 각 관계의 메시지는 자신의 진입 차수로 평균을 낸 다음 비선형성 이전에 모든 채널을 더합니다. (참고: 관계형 GNN: R-GCN 그리고 그 너머.)

리만 SGD(Riemannian SGD) — 곡률 공간에 맞춰 보정된 경사 하강입니다: 유클리드 경사를 걸음을 내딛기 전에 역계량(푸앵카레 공에서는 (1 − ‖θ‖²)²/4)으로 다시 스케일링하며, 그래서 갱신이 평평한 거리가 아니라 쌍곡 거리를 존중하게 됩니다. (참고: 쌍곡 임베딩: 곡률 공간의 계층.)

스케일된 내적 어텐션(Scaled dot-product attention) — A = softmax(QKᵀ/√d_k), O = AV: 질의–키 내적으로 관련성 점수를 얻고, 어떤 키 너비에서도 로짓 분산이 1로 유지되도록 √d_k로 나눈 다음, 행별로 정규화해 값들의 가중 평균에 사용합니다. (참고: 어텐션: 관련성에 의한 추론.)

점수 함수(Score function, s(h, r, t)) — 후보 트리플로부터 실수로 가는 임의의 사상으로, 값이 클수록 더 그럴듯하다는 뜻입니다; 이 권의 모든 링크 예측 모델은 근본적으로 점수 함수 하나를 고르는 선택입니다. (참고: 링크 예측: 그래프 완성하기.)

소프트 단일화(Soft unification) — 상징적 단일화의 예/아니오식 매칭을 기호들의 임베딩 벡터 위 커널 점수로 대체한 것입니다: 동일한 기호는 정확히 1점을 얻고, 비슷한 기호는 높은 점수를, 닮지 않은 기호는 0에 가까운 점수를 얻으며, 그래서 증명기는 한 번도 배운 적 없는 어휘로 적힌 사실도 사용할 수 있습니다. (참고: 소프트 단일화: 벡터 공간에서 기호 맞추기.)

소프트맥스 야코비안(Softmax Jacobian) — 몫의 법칙으로 유도되는, 소프트맥스의 도함수 행렬 diag(p) − p pᵀ입니다; 분포가 원-핫(one-hot)에 가깝도록 포화될수록 0에 가까워지며, 이것이 지나치게 뾰족한 어텐션이 학습을 멈추는 이유입니다. (참고: 어텐션: 관련성에 의한 추론.)

건전성 탐침(Soundness probe) — 경험적인 혼동 표입니다: 이름 붙은 개념들의 순서 있는 쌍마다 기하학적 포함 여부를 검사하고, 정확한 추론기가 귀결하는 포섭 관계와 비교한 다음, 참양성과 거짓양성을 셉니다. 건전성의 측정치일 뿐, 결코 건전성의 정리는 아닙니다. (참고: EL 임베딩: 기하와 논리의 만남.)

중첩(Superposition) — 결합된 여러 쌍을 단순한 덧셈으로 하나의 벡터 안에 저장하는 것입니다; 저장된 항목 각각은 근사적으로 복원 가능한 채로 남으며, 학계 지식 그래프 전체가 잡음 섞인 채로 단 하나의 d = 1024 벡터 안에 들어맞습니다. (참고: 벡터 기호 구조: 결합과 중첩.)

t-노름 합성(t-norm composition) — 다단계 증명의 점수를, 각 단계의 매칭 점수를 t-노름으로 결합해 매기는 것입니다; 소프트 단일화는 min(괴델 t-노름)을 사용하므로, 증명은 가장 약한 단계만큼의 강도밖에 갖지 못하며, 이는 2권의 신뢰도 격자와 같은 최약 고리 대수입니다. (참고: 소프트 단일화: 벡터 공간에서 기호 맞추기.)

TransBox — 모든 역할을 허용된 이동들의 박스로 해석하고, 복합 개념의 영역을 모서리 산술과 민코프스키 합(두 집합의 모든 쌍별 합의 집합으로, 박스에 대해서는 다시 박스입니다)으로 부분들로부터 지어 올리는 구성으로, EL++ 개념 문법 전체에 대한 닫힘을 겨냥합니다. (참고: TransBox와 mOWL: 폐포와 도구.)

TransE — 가장 최소한의 임베딩 모델입니다: 각 개체는 점 하나, 각 관계는 이동 벡터 하나이며, e_h + w_r이 e_t 가까이에 떨어지는 정도만큼 트리플이 참이 되고, 음의 거리로 점수를 매깁니다. (참고: 이동 모델: TransE와 그 계열.)

이동(Translation, 관계로서의) — 관계를 공간의 고정된 변위로 읽는 기하학적 해석입니다: advises는 화살표 하나로, 어떤 지도교수의 점에든 더하면 그 학생의 점에 이릅니다. 단순하고 훈련하기 쉽지만, 대칭적이거나 일대다 관계는 정확히 나타낼 수 없음이 증명 가능하며, 이는 TransH, TransR, RotatE가 각각 고쳐 내는 실패 양상입니다. (참고: 이동 모델: TransE와 그 계열.)

결합 해제(Unbinding) — 결합 연산자의 근사적인 역연산(순환 합성곱의 경우, 단서의 대합과 결합하는 것)을 중첩된 메모리에 적용하는 것입니다; 저장되어 있던 짝의 잡음 섞인 버전을 복원하며, 이를 정리(cleanup)가 정확한 기호로 다듬어 냅니다. (참고: 벡터 기호 구조: 결합과 중첩.)

벡터 기호 구조(Vector symbolic architecture, VSA) — 고차원 벡터 위의 대수(결합하고, 중첩하고, 결합 해제하고, 정리하는)로, 상징적 구조 전체를 고정 너비 벡터 안에 저장하고 질의하며, 정확성을 완만한 저하와 맞바꿉니다. (참고: 벡터 기호 구조: 결합과 중첩.)

바이스파일러-레만(Weisfeiler-Leman, 1-WL) — 색 정련(color-refinement) 검사입니다: 모든 노드를 자신의 색과 이웃들 색의 다중집합을 함께 사용해 채색이 안정될 때까지 되풀이해서 다시 칠합니다. 색 히스토그램이 결코 갈라지지 않는 두 그래프는 1-WL로 구별 불가능하며, 어떤 메시지 전달 GNN도 이 둘을 구별해 내지 못합니다. (참고: 표현력의 천장: 1-WL, C², 등급 양상 논리.)

영손실 건전성 정리(Zero-loss soundness theorem) — 훈련 손실이 정확히 0인 기하는 온톨로지의 모델이고, 따라서 귀결되는 모든 진술을 만족한다는 보장입니다: 완벽한 재현율이지 완벽한 정밀도가 아니며, 손실이 조금이라도 남는 순간 손에 넣을 수 없게 됩니다. (참고: TransBox와 mOWL: 폐포와 도구.)

여기 실린 어떤 용어가 여전히 흐릿하게 느껴진다면, 그 용어가 살고 있는 장으로 되돌아가 보십시오. 맥락 속에서 훨씬 더 뚜렷하게 이해될 것입니다.