본문으로 건너뛰기

참고문헌

📍 현재 위치: 이 권 전체의 근거를 한곳에 모았습니다.

각 장에서 [1]처럼 등장하는 모든 인라인 표시는 이곳으로 연결됩니다. 참고문헌은 장별로 묶여 있으며, 번호는 각 장마다 독립적입니다 — 각 장의 목록은 [1]부터 다시 시작하므로, 먼저 장 제목을 찾은 다음 번호를 찾으십시오. 각 항목은 저자, 제목, 게재지, 연도를 밝히고, 무엇을 뒷받침하는지 주석을 달며, 대괄호로 묶인 근거 등급 태그로 마무리합니다.

정당화: 최소 증명과 핀포인팅​

  1. Reiter, R. "A Theory of Diagnosis from First Principles." Artificial Intelligence, 1987. — 히팅셋 트리(hitting-set tree)와, 이 장이 구현하는 진단/수리 쌍대성. [근거 등급: 동료 심사]
  2. Schlobach, S., and Cornet, R. "Non-Standard Reasoning Services for the Debugging of Description Logic Terminologies." IJCAI, 2003. — 공리 핀포인팅(axiom pinpointing)이라는 이름과 동기: 온톨로지 디버깅을 위한 MinA/MUPS. [근거 등급: 동료 심사]
  3. Kalyanpur, A., Parsia, B., Horridge, M., and Sirin, E. "Finding All Justifications of OWL DL Entailments." ISWC/ASWC, 2007. — 실용적인 전체-정당화 알고리즘: 히팅셋을 사용한 블랙박스 탐색. [근거 등급: 동료 심사]
  4. Baader, F., and Peñaloza, R. "Axiom Pinpointing in General Tableaux." Journal of Logic and Computation, 2010. — 글래스박스 핀포인팅: 핀포인팅 공식과 그 복잡도. [근거 등급: 동료 심사]
  5. Horridge, M., Parsia, B., and Sattler, U. "Laconic and Precise Justifications in OWL." ISWC, 2008. — 공리 이하 수준의 정밀도: 공리 단위보다 더 세밀하게 다듬은 정당화. [근거 등급: 동료 심사]
  6. Baader, F., Peñaloza, R., and Suntisrivaraporn, B. "Pinpointing in the Description Logic EL+." KI, 2007. — 핀포인팅을 EL 계열로 가져온 논문: 지수적으로 많은 MinA를 갖는 선형 크기 TBox 계열과, 크기 한도 안의 MinA 존재 판정의 NP-완전성. [근거 등급: 동료 심사]
  7. Suntisrivaraporn, B., Qi, G., Ji, Q., and Haase, P. "A Modularization-Based Approach to Finding All Justifications for OWL DL Entailments." ASWC, 2008. — 지역성 기반 모듈이 목표 함의의 모든 정당화를 담고 있음을 증명: 모듈을 먼저 추출하고, 그 안에서 핀포인팅. [근거 등급: 동료 심사]
  8. Kazakov, Y., Krötzsch, M., and Simančík, F. "The Incredible ELK: From Polynomial Procedures to Efficient Reasoning with EL Ontologies." Journal of Automated Reasoning, 2014. — 증명 기반 정당화 도구의 토대가 되는 귀결 기반(consequence-based) 증명. [근거 등급: 동료 심사]
  9. Kazakov, Y., and Skočovský, P. "Enumerating Justifications Using Resolution." IJCAR, 2018. — 증명 기반 열거: 귀결 기반 추론기가 기록한 추론들로부터 리졸루션으로 정당화를 캐내는 방법. [근거 등급: 동료 심사]

충실성: 설명이 정직할 때​

  1. Jain, S., and Wallace, B. C. "Attention Is Not Explanation." NAACL, 2019. — 적대적 어텐션 분포: 어텐션 가중치가 계산 과정을 반드시 보고하지는 않는다는 것. [근거 등급: 동료 심사]
  2. Wiegreffe, S., and Pinter, Y. "Attention Is Not Not Explanation." EMNLP, 2019. — 반박: 그 적대적 구성이 실제로 보여주는 것과 보여주지 못하는 것. [근거 등급: 동료 심사]
  3. DeYoung, J., Jain, S., Rajani, N. F., Lehman, E., Xiong, C., Socher, R., and Wallace, B. C. "ERASER: A Benchmark to Evaluate Rationalized NLP Models." ACL, 2020. — 포괄성(comprehensiveness)과 충분성(sufficiency)의 표준화; 삭제 기반 벤치마크. [근거 등급: 동료 심사]
  4. Turpin, M., Michael, J., Perez, E., and Bowman, S. R. "Language Models Don't Always Say What They Think: Unfaithful Explanations in Chain-of-Thought Prompting." NeurIPS, 2023. — 프론티어 수준 모델에서 측정된, 자유 형식 추론의 불충실성. [근거 등급: 동료 심사]
  5. Hooker, S., Erhan, D., Kindermans, P.-J., and Kim, B. "A Benchmark for Interpretability Methods in Deep Neural Networks." NeurIPS, 2019. — ROAR: 삭제된 입력으로 재학습해 정보 손실과 분포 이탈 충격을 분리. [근거 등급: 동료 심사]
  6. Lipton, Z. C. "The Mythos of Model Interpretability." Communications of the ACM, 2018. — 개념 지도: 그럴듯함, 투명성, 사후 설명을 서로 풀어낸 논의. [근거 등급: 동료 심사]

규칙 추출: 가중치에서 규칙 읽어내기​

  1. Andrews, R., Diederich, J., and Tickle, A. B. "Survey and Critique of Techniques for Extracting Rules from Trained Artificial Neural Networks." Knowledge-Based Systems, 1995. — 분류 체계(분해적/교육적/절충적)와 충실도 기준. [근거 등급: 동료 심사]
  2. Quinlan, J. R. "Induction of Decision Trees." Machine Learning, 1986. — ID3: 교육적 실험이 실행하는 정보 이득 결정 트리 학습기. [근거 등급: 동료 심사]
  3. McCluskey, E. J. "Minimization of Boolean Functions." Bell System Technical Journal, 1956. — 실험의 전수 탐색 뒤에 있는 콰인-매클러스키 주 함의항 최소화. [근거 등급: 동료 심사]
  4. Craven, M., and Shavlik, J. "Extracting Tree-Structured Representations of Trained Networks." NeurIPS, 1996. — TREPAN: 소속 질의와 충실도 주도 성장을 사용하는 교육적 추출. [근거 등급: 동료 심사]
  5. Towell, G. G., and Shavlik, J. W. "Knowledge-Based Artificial Neural Networks." Artificial Intelligence, 1994. — KBANN: 왕복 과정의 삽입과 정제 구간(이론 삽입, 그다음 역전파 정제). [근거 등급: 동료 심사]
  6. Towell, G. G., and Shavlik, J. W. "Extracting Refined Rules from Knowledge-Based Neural Networks." Machine Learning, 1993. — KBANN 왕복 과정의 추출 구간: 정제된 네트워크에서 읽어낸 MofN 규칙이 삽입된 이론을 능가함을 측정. [근거 등급: 동료 심사]
  7. Yang, F., Yang, Z., and Cohen, W. W. "Differentiable Learning of Logical Rules for Knowledge Base Reasoning." NeurIPS, 2017. — Neural-LP의 어텐션-펼침(unrolling) 추출로, 이 장에서는 4권에서 학습된 모델에 재사용됩니다. [근거 등급: 동료 심사]
  8. Sadeghian, A., Armandpour, M., Ding, P., and Wang, D. Z. "DRUM: End-to-End Differentiable Rule Mining on Knowledge Graphs." NeurIPS, 2019. — 저랭크 주의 사슬을 통한, 신뢰도를 실어 나르는 규칙 판독; 랭크-1 뒤엉킴 정리. [근거 등급: 동료 심사]

추론 지름길: 맞는 답, 틀린 이유​

  1. Marconato, E., Teso, S., Vergari, A., and Passerini, A. "Not All Neuro-Symbolic Concepts Are Created Equal: Analysis and Mitigation of Reasoning Shortcuts." NeurIPS, 2023. — 정의, 재라벨링에 대한 계수 정리, 네 가지 요인, 그리고 완화 수단. [근거 등급: 동료 심사]
  2. Geirhos, R., Jacobsen, J.-H., Michaelis, C., Zemel, R., Brendel, W., Bethge, M., and Wichmann, F. A. "Shortcut Learning in Deep Neural Networks." Nature Machine Intelligence, 2020. — 이 장의 정식화된 판본이 구체화하는 더 넓은 지름길 현상. [근거 등급: 동료 심사]
  3. Marconato, E., Bortolotti, S., van Krieken, E., Vergari, A., Passerini, A., and Teso, S. "BEARS Make Neuro-Symbolic Models Aware of Their Reasoning Shortcuts." UAI, 2024. — 보정된 개념 앙상블을 통한 지름길 인지; 탐지 계통. [근거 등급: 동료 심사]
  4. Manhaeve, R., Dumančić, S., Kimmig, A., Demeester, T., and De Raedt, L. "Neural Probabilistic Logic Programming in DeepProbLog." Artificial Intelligence, 2021. — 이 장이 세부 사항을 읽어내는 원격 감독(distant-supervision) 예측기의 형태. [근거 등급: 동료 심사]

식별 가능성: 정확도가 의미를 보증하지 못하는 이유​

  1. Marconato, E., Teso, S., Vergari, A., and Passerini, A. "Not All Neuro-Symbolic Concepts Are Created Equal: Analysis and Mitigation of Reasoning Shortcuts." NeurIPS, 2023. — 정의 1, 정리 2, 명제 4–5: 추론 지름길 최적점의 특성화와 그 개수, 그리고 완화책. 이 장은 그것을 대칭군으로 다시 표현합니다. [근거 등급: 동료 심사]
  2. Locatello, F., Bauer, S., Lucic, M., Rätsch, G., Gelly, S., Schölkopf, B., and Bachem, O. "Challenging Common Assumptions in the Unsupervised Learning of Disentangled Representations." ICML, 2019. — 비지도 분리(disentanglement)의 불가능성: 표현 학습에서의 같은 파이버(fiber) 논증. [근거 등급: 동료 심사]
  3. Khemakhem, I., Kingma, D. P., Monti, R. P., and Hyvärinen, A. "Variational Autoencoders and Nonlinear ICA: A Unifying Framework." AISTATS, 2020. — 조건화로 회복되는 식별 가능성: 잠재 변수 모델에서의 보조 변수 탈출로. [근거 등급: 동료 심사]
  4. D'Amour, A., et al. "Underspecification Presents Challenges for Credibility in Modern Machine Learning." Journal of Machine Learning Research, 2022. — 같은 테스트 지표를 갖는 여러 최적해, 서로 다른 배포 행동: 산업 규모에서의 그 현상. [근거 등급: 동료 심사]
  5. Koh, P. W., Nguyen, T., Tang, Y. S., Mussmann, S., Pierson, E., Kim, B., and Liang, P. "Concept Bottleneck Models." ICML, 2020. — 이 수학이 지배하는 개념 의미론을 갖는 아키텍처 계열. [근거 등급: 동료 심사]

지름길 측정: rsbench와 개념 품질​

  1. Bortolotti, S., Marconato, E., Carraro, T., Morettin, P., van Krieken, E., Vergari, A., Teso, S., and Passerini, A. "A Neuro-Symbolic Benchmark Suite for Concept Quality and Reasoning Shortcuts." NeurIPS Datasets and Benchmarks, 2024. — rsbench: 생성기, count-rss #SAT 계수기, 개념-품질 지표 패널. [근거 등급: 동료 심사]
  2. Marconato, E., Teso, S., Vergari, A., and Passerini, A. "Not All Neuro-Symbolic Concepts Are Created Equal: Analysis and Mitigation of Reasoning Shortcuts." NeurIPS, 2023. — 이 스위트가 실행에 옮기는 이론. [근거 등급: 동료 심사]
  3. Chakraborty, S., Meel, K. S., and Vardi, M. Y. "A Scalable Approximate Model Counter." CP, 2013. — 규모 확장된 지름길 계수 뒤의 근사 #SAT 계수. [근거 등급: 동료 심사]
  4. Koh, P. W., Nguyen, T., Tang, Y. S., Mussmann, S., Pierson, E., Kim, B., and Liang, P. "Concept Bottleneck Models." ICML, 2020. — 이 스위트의 하네스에 포함된 개념-감독 기준선 계열. [근거 등급: 동료 심사]
  5. Geirhos, R., Jacobsen, J.-H., Michaelis, C., Zemel, R., Brendel, W., Bethge, M., and Wichmann, F. A. "Shortcut Learning in Deep Neural Networks." Nature Machine Intelligence, 2020. — 분포 밖(OOD) 평가가 왜 범용 지름길 경보 장치인가. [근거 등급: 동료 심사]
  6. Marconato, E., Bortolotti, S., van Krieken, E., Vergari, A., Passerini, A., and Teso, S. "BEARS Make Neuro-Symbolic Models Aware of Their Reasoning Shortcuts." UAI, 2024. — 참값 개념이 없을 때, 독립적으로 훈련된 모델들 사이의 앙상블 불일치를 지름길 인지 신호로 삼는 것. [근거 등급: 동료 심사]

보정: 의미 있는 신뢰도​

  1. Guo, C., Pleiss, G., Sun, Y., and Weinberger, K. Q. "On Calibration of Modern Neural Networks." ICML, 2017. — 현대 신경망은 잘못 보정되어 있다는 것; 최소한으로 효과적인 수리책으로서의 온도 스케일링. [근거 등급: 동료 심사]
  2. Naeini, M. P., Cooper, G. F., and Hauskrecht, M. "Obtaining Well Calibrated Probabilities Using Bayesian Binning." AAAI, 2015. — 구간화된 보정 요약으로서의 ECE; 이 장이 구현하는 추정량. [근거 등급: 동료 심사]
  3. Brier, G. W. "Verification of Forecasts Expressed in Terms of Probability." Monthly Weather Review, 1950. — 브라이어 점수와 확률적 예보 검증의 기원. [근거 등급: 동료 심사]
  4. DeGroot, M. H., and Fienberg, S. E. "The Comparison and Evaluation of Forecasters." The Statistician, 1983. — 예보 점수를 보정 더하기 정련으로 읽는 관점; 이 장이 유도하는 두 부분짜리 분해의 출처. [근거 등급: 동료 심사]
  5. Niculescu-Mizil, A., and Caruana, R. "Predicting Good Probabilities with Supervised Learning." ICML, 2005. — 어떤 학습기가 어떻게 잘못 보정되는지: 마진 극대화 학습기의 시그모이드 모양의 너무-온건한 왜곡, 나이브 베이즈의 너무-극단적인 왜곡, 그리고 플랫/등장회귀(isotonic) 수리. [근거 등급: 동료 심사]
  6. Tabacof, P., and Costabello, L. "Probability Calibration for Knowledge Graph Embedding Models." ICLR, 2020. — KGE 모델은 기본 상태에서 보정되어 있지 않다는 측정; 플랫 스케일링과 등장회귀를 통한 사후 수리. [근거 등급: 동료 심사]
  7. Marconato, E., Bortolotti, S., van Krieken, E., Vergari, A., Passerini, A., and Teso, S. "BEARS Make Neuro-Symbolic Models Aware of Their Reasoning Shortcuts." UAI, 2024. — 지름길 문제를 만나는 보정: 개념 불확실성을 추적하는 신뢰도. [근거 등급: 동료 심사]

기권: 모른다는 것을 아는 것​

  1. Chow, C. K. "On Optimum Recognition Error and Reject Tradeoff." IEEE Transactions on Information Theory, 1970. — 이 장이 유도하는 비용-최적 기각 규칙. [근거 등급: 동료 심사]
  2. El-Yaniv, R., and Wiener, Y. "On the Foundations of Noise-free Selective Classification." Journal of Machine Learning Research, 2010. — 정식화된 선택적 예측: 커버리지, 선택적 위험, 완전-선택 체제. [근거 등급: 동료 심사]
  3. Geifman, Y., and El-Yaniv, R. "Selective Classification for Deep Neural Networks." NeurIPS, 2017. — 심층 모델을 위한 위험-커버리지 곡선; 이 장이 구현하는 선택적 위험 실무. [근거 등급: 동료 심사]
  4. Hendrycks, D., and Gimpel, K. "A Baseline for Detecting Misclassified and Out-of-Distribution Examples in Neural Networks." ICLR, 2017. — 기본 신뢰도 신호로서의 최대 소프트맥스 확률과 그 한계. [근거 등급: 동료 심사]
  5. Geifman, Y., Uziel, G., and El-Yaniv, R. "Bias-Reduced Uncertainty Estimation for Deep Neural Classifiers." ICLR, 2019. — AURC와 E-AURC의 정의: 이 장이 계산하는 위험-커버리지 면적 요약. [근거 등급: 동료 심사]
  6. Marconato, E., Bortolotti, S., van Krieken, E., Vergari, A., Passerini, A., and Teso, S. "BEARS Make Neuro-Symbolic Models Aware of Their Reasoning Shortcuts." UAI, 2024. — 라벨 신뢰도뿐 아니라 개념 불확실성에 대해서도 기권하는 것. [근거 등급: 동료 심사]

구체화 대 재작성: 규모 확장의 두 길​

  1. Motik, B., Nenov, Y., Piro, R., Horrocks, I., and Olteanu, D. "Parallel Materialisation of Datalog Programs in Centralised, Main-Memory RDF Systems." AAAI, 2014. — 반순진(semi-naive) 병렬 구체화: 트리플 단위 분할과 락-경량 설계. [근거 등급: 동료 심사]
  2. Nenov, Y., Piro, R., Motik, B., Horrocks, I., Wu, Z., and Banerjee, J. "RDFox: A Highly-Scalable RDF Store." ISWC, 2015. — 규모 확장된 구체화 엔진: 보고된 멀티코어 확장성과 처리량. [근거 등급: 동료 심사]
  3. Calvanese, D., De Giacomo, G., Lembo, D., Lenzerini, M., and Rosati, R. "Tractable Reasoning and Efficient Query Answering in Description Logics: The DL-Lite Family." Journal of Automated Reasoning, 2007. — FO-재작성 가능성(FO-rewritability): 재작성이 정리에 의해 완전한 단편. [근거 등급: 동료 심사]
  4. Motik, B., Nenov, Y., Piro, R., and Horrocks, I. "Incremental Update of Datalog Materialisation: the Backward/Forward Algorithm." AAAI, 2015. — 과도 삭제 없는 삭제: 대안 유도 검사. [근거 등급: 동료 심사]
  5. Gupta, A., Mumick, I. S., and Subrahmanian, V. S. "Maintaining Views Incrementally." SIGMOD, 1993. — DRed: 고전적인 삭제-후-재유도 규율. [근거 등급: 동료 심사]
  6. Libkin, L. Elements of Finite Model Theory. Springer, 2004. — 도입된 정리 뒤의 국소성(locality) 논증: 추이 폐쇄는 1차 논리로 표현될 수 없다. [근거 등급: 교재]
  7. Steigmiller, A., Liebig, T., and Glimm, B. "Konclude: System Description." Journal of Web Semantics, 2014. — 타블로 추론기 안의 흡수(absorption): 일반 공리를 게으르게 발동하도록 다시 쓰는 전처리; 혼(Horn) 너머의 재작성 직감에 대한 이 장의 유비. [근거 등급: 동료 심사]

GPU 추론: 고정점을 배치로​

  1. Baader, F., Lutz, C., and Suntisrivaraporn, B. "CEL — A Polynomial-Time Reasoner for Life Science Ontologies." IJCAR, 2006. — 이 장이 벡터화하는 포화(saturation)의 토대가 되는 EL 완성 계산법. [근거 등급: 동료 심사]
  2. Kazakov, Y., Krötzsch, M., and Simančík, F. "The Incredible ELK: From Polynomial Procedures to Efficient Reasoning with EL Ontologies." Journal of Automated Reasoning, 2014. — 최적화된 CPU 포화 기준선: 작업목록 공학이 벡터화 이전에 달성하는 것. [근거 등급: 동료 심사]
  3. Motik, B., Nenov, Y., Piro, R., Horrocks, I., and Olteanu, D. "Parallel Materialisation of Datalog Programs in Centralised, Main-Memory RDF Systems." AAAI, 2014. — 규모 확장된 병렬 고정점: 배치화 논지의 멀티코어 닻점. [근거 등급: 동료 심사]
  4. Nenov, Y., Piro, R., Motik, B., Horrocks, I., and Wu, Z. "RDFox: A Highly-Scalable RDF Store." ISWC, 2015. — 병렬-구체화 계열의 시스템 보고서: 128코어에서 최대 87배의 속도 향상, 초당 수백만 개의 트리플 지속 처리. [근거 등급: 동료 심사]
  5. Hohenecker, P., and Lukasiewicz, T. "Ontology Reasoning with Deep Neural Networks." Journal of Artificial Intelligence Research, 2020. — Datalog 구체화 추론기(RDFox)의 성숙한 신경망 모사: 함의-가능-관계 F1 0.916–0.999, 온톨로지마다 훈련(맞바꿈의 정확도 쪽). [근거 등급: 동료 심사]
  6. Hohenecker, P., and Lukasiewicz, T. "Deep Learning for Ontology Reasoning." arXiv:1705.10342, 2017. — 모사 계열의 더 앞선 보고서: RDFox보다 최대 두 자릿수 빠름, F1은 0.95 근처(맞바꿈의 속도 쪽). [근거 등급: 프리프린트]
  7. Maene, J., Derkinderen, V., and Zuidberg Dos Martires, P. "KLay: Accelerating Arithmetic Circuits for Neurosymbolic AI." ICLR, 2025. — 한 층 아래에서의 자매 격 행보: 가속기를 위해 층화된 회로 평가(4권의 장을 시스템 친척으로 다시 살펴봄). [근거 등급: 동료 심사]

작업-깊이 트릴레마​

  1. JáJá, J. An Introduction to Parallel Algorithms. Addison-Wesley, 1992. — 작업(work), 깊이(depth), 그리고 PRAM 도구 상자: 이 장이 세는 방식의 교과서적 틀. [근거 등급: 교재]
  2. Greenlaw, R., Hoover, H. J., and Ruzzo, W. L. Limits to Parallel Computation: P-Completeness Theory. Oxford University Press, 1995. — P-완전 문제들과 그것들이 왜 다항로그 깊이에 저항하는지: 정확히 이름 붙여진 벽. [근거 등급: 교재]
  3. Merrill, W., and Sabharwal, A. "The Parallelism Tradeoff: Limitations of Log-Precision Transformers." TACL, 2023. — 신경망 아키텍처 내부의 같은 트릴레마: 복잡도 부류로서의 상수 깊이. [근거 등급: 동료 심사]
  4. Immerman, N. Descriptive Complexity. Springer, 1999. — 전이 폐포(transitive closure), NC, 그리고 병렬 복잡도 부류에 대한 논리적 관점. [근거 등급: 교재]
  5. Baader, F., Brandt, S., and Lutz, C. "Pushing the EL Envelope." IJCAI, 2005. — EL 계열에 대한 PTIME 소속 정리: 깊이 하한 뒤에 있는 다항 시간 완성 알고리즘(PTIME-완전성의 어려움 쪽 절반은 혼 충족 가능성에 실려 있습니다; [2] 참조). [근거 등급: 동료 심사]

트랜스포머 깊이의 천장: TC⁰과 P​

  1. Merrill, W., and Sabharwal, A. "The Parallelism Tradeoff: Limitations of Log-Precision Transformers." TACL, 2023. — 로그-정밀도 트랜스포머에 대한 TC⁰ 포함 관계; 천장 정리. [근거 등급: 동료 심사]
  2. Merrill, W., Sabharwal, A., and Smith, N. A. "Saturated Transformers are Constant-Depth Threshold Circuits." TACL, 2022. — 포화 어텐션 회로 부류: 어텐션 형태가 어떻게 그 부류를 정하는가. [근거 등급: 동료 심사]
  3. Hao, Y., Angluin, D., and Frank, R. "Formal Language Recognition by Hard Attention Transformers: Perspectives from Circuit Complexity." TACL, 2022. — AC⁰ 안의 하드 유일 어텐션; 이 사다리의 아래 단. [근거 등급: 동료 심사]
  4. Furst, M., Saxe, J. B., and Sipser, M. "Parity, Circuits, and the Polynomial-Time Hierarchy." Mathematical Systems Theory, 1984. — AC⁰ 밖의 패리티: 사다리를 고정하는 무조건적 분리 결과. [근거 등급: 동료 심사]
  5. Strobl, L., Merrill, W., Weiss, G., Chiang, D., and Angluin, D. "What Formal Languages Can Transformers Express? A Survey." TACL, 2024. — 이 장이 발췌하는 트랜스포머 표현력 결과들의 지도. [근거 등급: 동료 심사]
  6. Barrington, D. A. M., and Thérien, D. "Finite Monoids and the Fine Structure of NC¹." Journal of the ACM, 1988. — 가해군의 단어 문제는 ACC⁰ ⊆ TC⁰ 안에 있다는 결과: S₃ 과제가 결코 분리의 증인이 될 수 없는 이유. [근거 등급: 동료 심사]
  7. Barrington, D. A. "Bounded-Width Polynomial-Size Branching Programs Recognize Exactly Those Languages in NC¹." Journal of Computer and System Sciences, 1989. — 배링턴의 정리: 비가해군 S₅에서의 반복 합성은 NC¹-완전이라는 것; 표의 조건부 배제 행. [근거 등급: 동료 심사]

사고 사슬: 디코딩 시점에 P를 회복하기​

  1. Merrill, W., and Sabharwal, A. "The Expressive Power of Transformers with Chain of Thought." ICLR, 2024. — 사다리: 복잡도 부류로서의 디코드-단계 예산, P에 도달하는 다항 단계 수. [근거 등급: 동료 심사]
  2. Feng, G., Zhang, B., Gu, Y., Ye, H., He, D., and Wang, L. "Towards Revealing the Mystery behind Chain of Thought: A Theoretical Perspective." NeurIPS, 2023. — 정식화된 CoT의 표현력 이득; 단계 유무에 따라 분리되는 산술·DP 과제. [근거 등급: 동료 심사]
  3. Nye, M., et al. "Show Your Work: Scratchpads for Intermediate Computation with Language Models." arXiv:2112.00114, 2021. — 중간 계산에 대한 학습: 스크래치패드 선례. [근거 등급: 프리프린트]
  4. Wei, J., Wang, X., Schuurmans, D., Bosma, M., Ichter, B., Xia, F., Chi, E., Le, Q., and Zhou, D. "Chain-of-Thought Prompting Elicits Reasoning in Large Language Models." NeurIPS, 2022. — 이 흐름을 유명하게 만든 프롬프팅 결과. [근거 등급: 동료 심사]
  5. Merrill, W., and Sabharwal, A. "The Parallelism Tradeoff: Limitations of Log-Precision Transformers." TACL, 2023. — 사다리를 견주는 기준이 되는 디코딩-없음 기준선. [근거 등급: 동료 심사]

강화학습과 검증기 관문 추론​

  1. Cobbe, K., et al. "Training Verifiers to Solve Math Word Problems." arXiv:2110.14168, 2021. — 풀이들을 재순위화하는 학습된 검증기: 현대 검증기 계통의 시작. [근거 등급: 프리프린트]
  2. Lightman, H., et al. "Let's Verify Step by Step." ICLR, 2024. — 결과 감독을 이기는 과정 감독; 유용한 신호로서의 단계별 판단. [근거 등급: 동료 심사]
  3. Zelikman, E., Wu, Y., Mu, J., and Goodman, N. D. "STaR: Bootstrapping Reasoning with Reasoning." NeurIPS, 2022. — 스스로 생성해 최종 답으로 검사한 논거에 대한 전문가 반복(expert iteration). [근거 등급: 동료 심사]
  4. Yang, K., Deng, J., and Chen, D. "Generating Natural Language Proofs with Verifier-Guided Search." EMNLP, 2022. — 검증기 유도 단계별 증명 탐색; 단계 점수들의 병목(bottleneck) 집계. [근거 등급: 동료 심사]
  5. DeepSeek-AI. "DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning." arXiv:2501.12948, 2025. — 프론티어 규모에서의 검증 가능-보상 강화학습, 그리고 그 문서화된 보상 모델 유의사항. [근거 등급: 프리프린트]

완전성을 넘어선 일곱 난이도 축​

  1. Clark, P., Tafjord, O., and Richardson, K. "Transformers as Soft Reasoners over Language." IJCAI, 2020. — 깊이 층화와 균형 잡힌 질문 뱅크: 통제된 규칙베이스 계통. [근거 등급: 동료 심사]
  2. Poulis, A., Tsalapati, E., and Koubarakis, M. "Transformer-Based Language Models for Reasoning in the Description Logic ALCQ." NeLaMKRR@KR, 2024. — 보류된 수준을 지닌 깊이-대-언어적 복잡도 요인 격자. [근거 등급: 동료 심사]
  3. Sanyal, S., Liao, Z., and Ren, X. "RobustLR: A Diagnostic Benchmark for Evaluating Logical Robustness of Deductive Reasoners." EMNLP, 2022. — 반전 탐침이 재연하는, 증명기로 정답을 다시 매긴 논리 변경 규칙-편집 진단. [근거 등급: 동료 심사]
  4. Saparov, A., and He, H. "Language Models Are Greedy Reasoners: A Systematic Formal Analysis of Chain-of-Thought." ICLR, 2023. — 축별 손잡이(홉 수, 순서, 방해 요소)를 갖춘 통제된 온톨로지 생성. [근거 등급: 동료 심사]
  5. Li, B., et al. "LogiCity: Advancing Neuro-Symbolic AI with Abstract Urban Simulation." NeurIPS Datasets and Benchmarks, 2024. — 시뮬레이터 난이도 모드: 추상화 복잡도, 지평(horizon), 구성적 분할. [근거 등급: 동료 심사]
  6. Sinha, K., Sodhani, S., Dong, J., Pineau, J., and Hamilton, W. L. "CLUTRR: A Diagnostic Benchmark for Inductive Reasoning from Text." EMNLP, 2019. — 진단 축으로서의 길이/구성적 일반화. [근거 등급: 동료 심사]

NeSy 벤치마크 스위트와 시뮬레이터​

  1. Bortolotti, S., Marconato, E., Carraro, T., Morettin, P., van Krieken, E., Vergari, A., Teso, S., and Passerini, A. "A Neuro-Symbolic Benchmark Suite for Concept Quality and Reasoning Shortcuts." NeurIPS Datasets and Benchmarks, 2024. — 개념-품질 스위트: 생성기, 계수기, 지표 패널. [근거 등급: 동료 심사]
  2. Li, B., et al. "LogiCity: Advancing Neuro-Symbolic AI with Abstract Urban Simulation." NeurIPS Datasets and Benchmarks, 2024. — FOL 시뮬레이터: 조정 가능한 추상화, 장기 지평 과제, 구성적 분할. [근거 등급: 동료 심사]
  3. Lorello, L. S., Lippi, M., and Melacci, S. "The KANDY Benchmark: Incremental Neuro-Symbolic Learning and Reasoning with Kandinsky Patterns." Machine Learning, 2025 (초기 프리프린트: arXiv:2402.17431, 2024). — 알려진 기호 규칙과 희박한 감독을 갖춘 절차적 커리큘럼. [근거 등급: 동료 심사]
  4. Lorello, L. S., Manginas, N., Lippi, M., and Melacci, S. "LTLZinc: A Benchmarking Framework for Continual Learning and Neuro-Symbolic Temporal Reasoning." arXiv:2507.17482, 2025. — 시간 제약 스트림: 연속 학습 지표를 갖춘, 제약 위의 LTL. [근거 등급: 프리프린트]
  5. Herron, D., Jiménez-Ruiz, E., Tarroni, G., and Weyde, T. "NeSy4VRD: A Multifaceted Resource for Neurosymbolic AI Research Using Knowledge Graphs in Visual Relationship Detection." arXiv:2305.13258, 2023. — 실제 OWL 온톨로지에 정렬된 시각 자료; 감독으로서의 구체화. [근거 등급: 프리프린트]

함의 벤치마크의 공백​

  1. Sanyal, S., Liao, Z., and Ren, X. "RobustLR: A Diagnostic Benchmark for Evaluating Logical Robustness of Deductive Reasoners." EMNLP, 2022. — 연역적 규칙베이스에 대한 섭동-일관성 진단. [근거 등급: 동료 심사]
  2. Ribeiro, M. T., Wu, T., Guestrin, C., and Singh, S. "Beyond Accuracy: Behavioral Testing of NLP Models with CheckList." ACL, 2020. — 방법론으로서의 불변성과 방향성-기대 검사. [근거 등급: 동료 심사]
  3. Han, S., et al. "FOLIO: Natural Language Reasoning with First-Order Logic." EMNLP, 2024. — 증명기로 검증된 삼항 함의: 공백을 재는 기준이 되는 황금 표준 프로토콜. [근거 등급: 동료 심사]
  4. Poulis, A., Tsalapati, E., and Koubarakis, M. "Transformer-Based Language Models for Reasoning in the Description Logic ALCQ." NeLaMKRR@KR, 2024. — 열린 세계 가정(OWA) 라벨과 구성적 일반화를 갖춘 통제된 함의. [근거 등급: 동료 심사]
  5. Guo, Y., Pan, Z., and Heflin, J. "LUBM: A Benchmark for OWL Knowledge Base Systems." Journal of Web Semantics, 2005. — 벤치마크 지표로서의 질의 완전성과 건전성: 온톨로지 세계 버전의 불변성 원리. [근거 등급: 동료 심사]

기호 어텐션: 단 한 번의 섬광 같은 추론​

  1. Baader, F., Brandt, S., and Lutz, C. "Pushing the EL Envelope." IJCAI, 2005. — 이 연산자가 어텐션으로 표현하는 완성 규칙들. [근거 등급: 동료 심사]
  2. Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., and Polosukhin, I. "Attention Is All You Need." NeurIPS, 2017. — 용도가 재조정되는 어텐션 기제: 소프트맥스 관련도와 스케일드 닷-프로덕트 온도; 그리고 이 장이 추가로 가중치를 묶는 고정-깊이 층 스택. [근거 등급: 동료 심사]
  3. Hájek, P. Metamathematics of Fuzzy Logic. Kluwer, 1998. — 소프트민/소프트맥스를 휴리스틱이 아니라 논리로 만드는 괴델 t-노름 의미론. [근거 등급: 교재]
  4. Rocktäschel, T., and Riedel, S. "End-to-End Differentiable Proving." NeurIPS, 2017. — 증명 탐색과 미분 가능한 채점의 원조 융합; 섬광 아키텍처가 후방 연쇄 대신 대체하는 것. [근거 등급: 동료 심사]
  5. Kazakov, Y., Krötzsch, M., and Simančík, F. "The Incredible ELK: From Polynomial Procedures to Efficient Reasoning with EL Ontologies." Journal of Automated Reasoning, 2014. — 정합 계층(lockstep layer)을 정당화하는 포화 규율(고정점까지 규칙을 발화, 순서 독립적). [근거 등급: 동료 심사]

SATORI 아키텍처: 하나의 연산자, 네 가지 성질​

  1. Xiong, B., Potyka, N., Tran, T.-K., Nayyeri, M., and Staab, S. "Faithful Embeddings for EL++ Knowledge Bases." ISWC, 2022. — 온톨로지를 위한 박스 기반 토대: 포함 관계로 표현되는 포섭, 충실한 임베딩 계통. [근거 등급: 동료 심사]
  2. Ren, H., Hu, W., and Leskovec, J. "Query2box: Reasoning over Knowledge Graphs in Vector Space Using Box Embeddings." ICLR, 2020. — 질의 공간과 같은 기하: 토대의 통일자. [근거 등급: 동료 심사]
  3. Green, T. J., Karvounarakis, G., and Tannen, V. "Provenance Semirings." PODS, 2007. — 이 토대가 추론 전 과정에 실어 나르는 주석 대수. [근거 등급: 동료 심사]
  4. Merrill, W., and Sabharwal, A. "The Parallelism Tradeoff: Limitations of Log-Precision Transformers." TACL, 2023. — 규모 확장 법칙의 정직한 등급을 지배하는 깊이 물리학. [근거 등급: 동료 심사]
  5. Minervini, P., Riedel, S., Stenetorp, P., Grefenstette, E., and Rocktäschel, T. "Learning Reasoning Strategies in End-to-End Differentiable Proving." ICML, 2020. — 질의 조건부 규칙 선택: 라우팅 성질에 가장 가까운 선조. [근거 등급: 동료 심사]

여덟 가지 주장: C1–C8과 쐐기​

  1. Ren, H., and Leskovec, J. "Beta Embeddings for Multi-Hop Logical Reasoning in Knowledge Graphs." NeurIPS, 2020. — C1의 기준선 계열과 그 평가 프로토콜. [근거 등급: 동료 심사]
  2. Yang, F., Yang, Z., and Cohen, W. W. "Differentiable Learning of Logical Rules for Knowledge Base Reasoning." NeurIPS, 2017. — C2의 대조 부류: 관계 연산자에 대한 순환 어텐션에 의한 미분 가능한 규칙 학습이며, 열거가 아니라 사슬 모양과 길이 상한을 대가로 치름. [근거 등급: 동료 심사]
  3. DeYoung, J., Jain, S., Rajani, N. F., Lehman, E., Xiong, C., Socher, R., and Wallace, B. C. "ERASER: A Benchmark to Evaluate Rationalized NLP Models." ACL, 2020. — C3의 측정 도구: 삭제 기반 충실성. [근거 등급: 동료 심사]
  4. Guo, C., Pleiss, G., Sun, Y., and Weinberger, K. Q. "On Calibration of Modern Neural Networks." ICML, 2017. — C5의 기준선 측정 도구: 온도 스케일링과 맞춰진 온도. [근거 등급: 동료 심사]
  5. Naeini, M. P., Cooper, G. F., and Hauskrecht, M. "Obtaining Well Calibrated Probabilities Using Bayesian Binning." AAAI, 2015. — C5의 보정 숫자를 계산하는 구간화된 ECE 추정기; III부가 같은 공식의 출처로 삼는 문헌. [근거 등급: 동료 심사]
  6. Nenov, Y., Piro, R., Motik, B., Horrocks, I., Wu, Z., and Banerjee, J. "RDFox: A Highly-Scalable RDF Store." ISWC, 2015. — C4의 선행 연구: 넘어서야 할 CPU-병렬 구체화 처리량. [근거 등급: 동료 심사]
  7. Aditya, D., et al. "PyReason: Software for Open World Temporal Logic." AAAI Spring Symposium Series, 2023. — 열린 세계 일반화 주석(구간) 의미론을 실어 나르는 C4 기준선; 병렬성 제약 탓에 엔진은 CPU에 매여 있음. [근거 등급: 동료 심사]
  8. Li, Z., Huang, J., and Naik, M. "Scallop: A Language for Neurosymbolic Programming." PLDI, 2023. — CPU 기호 코어 위에서 출처 세미링 추론을 수행하는 C4 기준선. [근거 등급: 동료 심사]
  9. Jackermeier, M., Chen, J., and Horrocks, I. "Dual Box Embeddings for the Description Logic EL++." WWW, 2024. — Box2EL: 포함 손실이 TBox 구조를 인코딩하는 박스-임베딩 계열; 온톨로지 규모에서의 C6의 기하학적 증거. [근거 등급: 동료 심사]
  10. Yang, H., Chen, J., and Sattler, U. "TransBox: EL++-closed Ontology Embedding." WWW, 2025. — TransBox: 같은 박스-임베딩 계열의 EL++ 폐포와 건전성; Box2EL과 함께 C6의 소거 격자가 돌아갈 곳. [근거 등급: 동료 심사]
  11. Hohenecker, P., and Lukasiewicz, T. "Ontology Reasoning with Deep Neural Networks." Journal of Artificial Intelligence Research, 2020. — C7의 대조군: 전이 주장이 개선해야 할 온톨로지별 재학습. [근거 등급: 동료 심사]

미해결 문제: G1–G8 공백​

  1. Garcez, A. d'Avila, and Lamb, L. C. "Neurosymbolic AI: The 3rd Wave." Artificial Intelligence Review, 2023. — 여덟 가지 공백 지도가 정제하는 분야 차원의 공백 분석. [근거 등급: 동료 심사]
  2. Kautz, H. "The Third AI Summer: AAAI Robert S. Engelmore Memorial Lecture." AI Magazine, 2022. — 쐐기의 계열 지도 뒤에 있는 신경-기호 통합 패턴의 분류 체계. [근거 등급: 동료 심사]
  3. Marra, G., Dumančić, S., Manhaeve, R., and De Raedt, L. "From Statistical Relational to Neurosymbolic Artificial Intelligence: A Survey." Artificial Intelligence, 2024. — 논리·확률·학습의 어떤 조합이 실제로 지어졌는지를 지도로 그린 설계 공간 개관; G1의 두-모서리 틀과 G3의 추론 비용 진술의 출처. [근거 등급: 동료 심사]
  4. van Harmelen, F., and ten Teije, A. "A Boxology of Design Patterns for Hybrid Learning and Reasoning Systems." Journal of Web Engineering, 2019. — 하이브리드 시스템을 위한 패턴 언어; 그 제어를-위한-메타추론 패턴이 G8의 라우팅 산물에 가장 가까운, 이름 붙은 패턴. [근거 등급: 동료 심사]
  5. Marconato, E., Teso, S., Vergari, A., and Passerini, A. "Not All Neuro-Symbolic Concepts Are Created Equal: Analysis and Mitigation of Reasoning Shortcuts." NeurIPS, 2023. — G7의 이론적 바닥: 보정이 추적해야 할 것. [근거 등급: 동료 심사]
  6. Minervini, P., Riedel, S., Stenetorp, P., Grefenstette, E., and Rocktäschel, T. "Learning Reasoning Strategies in End-to-End Differentiable Proving." ICML, 2020. — CTP 그 자체: 질의-조건부 규칙 부분집합 선택, G2의 두 번째 부분적 답. [근거 등급: 동료 심사]
  7. Merrill, W., and Sabharwal, A. "The Parallelism Tradeoff: Limitations of Log-Precision Transformers." TACL, 2023. — G3의 야심을 제약하는 깊이 물리학. [근거 등급: 동료 심사]
  8. Colelough, B. C., and Regli, W. "Neuro-Symbolic AI in 2024: A Systematic Review." LNSAI Workshop, CEUR Vol-3819, 2024. — G8의 5퍼센트 수치 뒤에 있는 전수 조사: 검토된 167편 가운데 8편, 가장 덜 탐구된 범주로서의 메타인지. [근거 등급: 동료 심사]

다음 연구 하기: 사각지대와 첫걸음​

  1. Lipton, Z. C., and Steinhardt, J. "Troubling Trends in Machine Learning Scholarship." ACM Queue, 2019. — 자기 점검 체크리스트가 방어하는 실패 패턴들. [근거 등급: 입장 논문(ACM Queue 매거진; ICML 2018 Debates 워크숍)]
  2. Ruffinelli, D., Broscheit, S., and Gemulla, R. "You CAN Teach an Old Dog New Tricks! On Training Knowledge Graph Embeddings." ICLR, 2020. — 프로토콜의 엄밀함이 결론을 바꾼다는 것: 3권에서 이 시리즈가 물려받은 방법론적 교훈. [근거 등급: 동료 심사]
  3. Bortolotti, S., Marconato, E., Carraro, T., Morettin, P., van Krieken, E., Vergari, A., Teso, S., and Passerini, A. "A Neuro-Symbolic Benchmark Suite for Concept Quality and Reasoning Shortcuts." NeurIPS Datasets and Benchmarks, 2024. — 그 자체로 하나의 연구 기여로서의 도구 구축. [근거 등급: 동료 심사]
  4. Pineau, J., et al. "Improving Reproducibility in Machine Learning Research: A Report from the NeurIPS 2019 Reproducibility Program." Journal of Machine Learning Research, 2021. — 제도화된 재현성 규율: 체크리스트, 시드, 코드. [근거 등급: 동료 심사]

솔직한 평결: 뉴로-심볼릭 AI의 현주소​

  1. Kautz, H. "The Third AI Summer: AAAI Robert S. Engelmore Memorial Lecture." AI Magazine, 2022. — 이 시리즈의 아키텍처들이 채워 넣는 통합 분류 체계. [근거 등급: 동료 심사]
  2. Garcez, A. d'Avila, and Lamb, L. C. "Neurosymbolic AI: The 3rd Wave." Artificial Intelligence Review, 2023. — 이 평결이 저울질하는 분야 차원의 사례. [근거 등급: 동료 심사]
  3. Marra, G., Dumančić, S., Manhaeve, R., and De Raedt, L. "From Statistical Relational to Neurosymbolic Artificial Intelligence: A Survey." Artificial Intelligence, 2024. — 다섯 권이 함께 걸어온 설계 공간 지도. [근거 등급: 동료 심사]
  4. Merrill, W., and Sabharwal, A. "The Parallelism Tradeoff: Limitations of Log-Precision Transformers." TACL, 2023. — 정착된 칸 안의 깊이 물리학. [근거 등급: 동료 심사]
  5. Marconato, E., Teso, S., Vergari, A., and Passerini, A. "Not All Neuro-Symbolic Concepts Are Created Equal: Analysis and Mitigation of Reasoning Shortcuts." NeurIPS, 2023. — 정착된 칸 안의 신뢰 수학. [근거 등급: 동료 심사]