머리말 — 기계에게 추론을 가르치기

📍 Where we are: 다섯 권 중 첫 번째 권의 문 바로 앞에 서 있습니다. 정리 하나를 증명하거나 모델 하나를 학습시키기 전에, 먼저 뉴로-심볼릭 AI(neuro-symbolic AI)가 실제로 무엇인지, 그리고 논리와 학습 어느 한쪽만으로는 왜 충분하지 않은지에 합의해 봅시다.

환영합니다. 이 책은 컴퓨터 과학에서 가장 오래된 야심 중 하나를 다루는 다섯 권짜리 시리즈의 첫 번째 책입니다. 그 야심이란 추론(reason)할 수 있는 기계 — 자신이 아는 것을 가지고 무엇이 반드시 뒤따르는지 알아낼 수 있는 기계 — 를 만드는 일입니다. 두 개의 위대한 전통이 칠십 년 동안 그 목표를 좇아왔고, 각자가 그 절반씩을 붙잡았습니다. 기호 논리(symbolic logic)는 정확하게 추론합니다. 결론을 한 단계씩 증명하며 그 과정을 보여주지만, 부서지기 쉬워서 사실 하나가 빠지거나 이름 하나가 잘못 표기되는 순간 침묵해 버립니다. 신경망 학습(neural learning)은 견고하게 추론합니다. 예시로부터 일반화하며 언제나 답을 시도하지만, 불투명해서 유창하고 자신 있게 틀릴 수 있습니다. 뉴로-심볼릭 AI는 이 두 절반을 하나로 합쳐, 한 시스템이 전자처럼 추론하면서 동시에 후자처럼 일반화하도록 만드는 프로젝트입니다. 이 다섯 권의 책이 다루는 것이 바로 이 프로젝트이며, 이 책은 그 토대를 놓습니다.

시작하는 데 배경지식은 필요 없습니다. 증명을 써본 적이 없어도, 모델을 학습시켜본 적이 없어도, 혼 규칙(Horn rule)이나 경사 하강법(gradient descent)이라는 말을 들어본 적이 없어도, 바로 당신이 우리가 염두에 두고 쓴 독자입니다. 전문 용어는 처음 등장할 때마다 정의합니다. 바로 다음 장에서 수학에서 가장 단순한 개념 — 사물들의 모임 — 으로 시작해, 이후의 모든 개념을 그 위에 쌓아 올립니다.

쉽게 말하면

작은 대학교에 관한 질문 — 누가 누구를 지도하는지, 어느 논문이 어느 논문을 인용하는지, 누가 어디서 일하는지 — 에 답해줄 기계를 원한다고 상상해 봅시다. 당신은 변호사를 고용할 수 있습니다. 그녀는 빈틈없는 증거의 사슬을 처음부터 끝까지 보여줄 수 있을 때만 답하며, 서류 하나가 빠지면 아예 아무 말도 하지 않습니다. 아니면 탐정을 고용할 수도 있습니다. 그는 수천 건의 사건을 봐 왔고, 한 번도 들어본 적 없는 질문에도 늘 직감을 내놓지만, 자신만만하게 틀릴 수 있습니다. 변호사는 기호 논리이고, 탐정은 신경망 학습입니다. 둘은 각각 상대가 무력한 바로 그 지점에서 빛을 발합니다. 뉴로-심볼릭 AI는 이 둘을 한 방에 넣어 변호사의 확실성과 탐정의 도달 범위를 동시에 얻으려는 시도입니다. 이 책은 이 두 전문가를 아주 작은 하나의 세계 위에서 처음부터 만들어 나가며, 그래서 여러분은 각자가 정확히 무엇을 하는지 지켜보고 — 왜 둘을 합치는 일이 그토록 어려운지 알게 될 것입니다.

이 장에서 다루는 내용

이 머리말을 빠르게 훑어보면 다음과 같습니다. 이 책들이 누구를 위한 것이며 어떤 약속을 하는지 — 다섯 권에 걸쳐 신입생에서 연구의 최전선까지 이어지는 하나의 길이며, 이 책이 그 토대가 된다는 것; 정직한 논지, 즉 뉴로-심볼릭 AI는 서로 보완하는 두 절반을 합치는 것이며 어느 한쪽만으로는 충분하지 않다는 것; 다섯 명의 사람, 세 편의 논문, 두 개의 기관, 몇 개의 주제, 그리고 이들을 잇는 관계들로 이루어진 하나의 작은 "학술 세계" — 모든 권을 관통하며 다섯 가지 방식으로 다시 읽히고, 순수 파이썬(Python) 동반 코드에서 전부 실행 가능한 그 세계; 다섯 권을 한 단락으로, 그리고 이 책의 다섯 개 부; 그리고 모든 페이지에 걸쳐 이어지는 이 시리즈만의 관례들 — 각 장을 여는 쉬운 비유, 처음 등장할 때 정의되는 용어, 계속 이어지는 정직함 절, 실제로 실행 가능한 코드 — 입니다.

이 책들은 누구를 위한 것인가

이 책들은 뉴로-심볼릭 AI를 멀리서 감탄만 하는 것이 아니라 제대로 이해하고 싶은 호기심 많은 초심자를 위한 것입니다. 1권은 고등학교 수준의 수학과 천천히 생각하려는 의지만을 전제로 하며, 마지막 권에 이르면 같은 독자가 연구의 최전선에 서서 논문을 읽고 주장을 저울질하게 됩니다. 그 어떤 것도 블랙박스로 그냥 들여오지 않습니다. 논리가 필요하면 논리를 직접 만들고, 신경망이 필요하면 손으로 따라갈 수 있을 만큼 작은 신경망을 직접 만듭니다. 이 책은 토대가 되는 권이며, 이후의 권들이 그 위에 쌓아 올리는 모든 것이 여러분 스스로 놓은 바탕 위에 서도록 하는 것이 이 책의 임무입니다.

논지: 하나의 문제, 두 개의 절반

이 시리즈 전체가 의지하는 확신을 분명히 밝히면 이렇습니다. 추론에는 두 개의 절반이 있고, 우리는 수십 년 전부터 각각을 따로 만드는 법을 알아왔습니다. 기호적 절반은 정확하지만 부서지기 쉽습니다(exact but brittle). 증명은 확실하고 검증 가능하지만, 세계에 빈틈이나 오타, 혹은 아무도 적어두지 않은 사실이 하나라도 있으면 경고도 없이 무너져 버립니다. 신경망 쪽 절반은 견고하지만 불투명합니다(robust but opaque). 학습된 모델은 지저분하고 불완전한 데이터에서도 완만하게 성능이 떨어질 뿐 항상 무언가를 내놓지만, 그 이유는 말해주지 못하며 단순히 틀린 답을 자신 있게 돌려줄 수 있습니다. 결정적으로, 이 두 가지 실패 양상은 단순히 다른 것이 아니라 서로의 거울상입니다. 논리가 침묵하는 곳에서도 학습은 여전히 추측을 내놓고, 학습이 환각을 일으키는 곳에서도 논리는 불가능한 것을 거부할 수 있습니다. 이것이야말로 둘을 결합해야 할 이유이자 동시에 어려움입니다. 증명기(prover)를 학습기에 연결하는 뻔한 방법들은 대개 지키고자 했던 바로 그 보증이나 바로 그 견고함을 파괴해 버리기 때문입니다. 이 긴장을 정확히 짚어내는 것 — 서로를 보완하는 강점을 지닌 두 문화 — 이 바로 "여기 두 가지 기법이 있다"를 "이 둘을 하나로 합쳐야 할 이유가 여기 있다"로 바꾸어 놓습니다.

실행 예제: 하나의 작은 학술 세계

장마다 새로운 장난감 문제를 흩뿌리는 대신, 이 시리즈는 머릿속에 다 담길 만큼 작으면서도 시리즈의 모든 개념을 실어 나를 만큼 풍부한 하나의 공유된 지식 베이스(knowledge base)를 놓고 학습하고 추론합니다. 그것은 작은 학술 세계입니다. 다섯 명의 사람 — alice, bob, carol, dave, erin — 세 편의 논문 p1, p2, p3, 두 개의 기관 mit와 cmu, 그리고 몇 가지 연구 주제가 advises, authored, cites, affiliated, about라는 다섯 개의 관계로 연결되어 있습니다. 단 23개의 명시된 사실에서 출발해, 몇 개의 규칙이 돌아가며 47개의 사실로 이루어진 안정된 세계를 만들어냅니다 — 그중 24개는 기계가 유도한 것으로, alice가 지도 사슬 alice → bob → carol → erin을 따라 carol을 '지도의 지도'(grand-advises)한다는 사실과, p3가 인용 사슬 p3 → p2 → p1을 따라 p1에 도달한다는 사실이 포함됩니다. 이 책의 모든 개념은 바로 이 세계 위에 정확히 내려앉으며, 그중 어느 것도 손짓으로 얼버무리지 않습니다. 이 세계는 순수 파이썬(Python) 동반 코드 examples/logic 안에 실제로 살아 있습니다. 여기서 kb.py가 사실들을 명시하고, 전방 연쇄(forward-chaining) 엔진이 나머지를 유도하며, 후방 연쇄(backward-chaining) 증명기가 여러분이 읽을 수 있는 증명과 함께 질문에 답하고, 처음부터 만든 임베딩(embedding)이 같은 기호들을 지도 위의 점으로 배치합니다.

하나의 지식 베이스, 다섯 개의 렌즈

이 하나의 세계는 시리즈 전체의 척추입니다. 다섯 권 각각이 세계 자체는 조금도 바꾸지 않은 채 저마다 다른 방식으로 그것을 다시 읽어내기 때문입니다. 1권, 기초(Foundations)(이 책)는 그것을 처음부터 만들어낸 논리와 학습으로 읽습니다 — 사실들이 전방 연쇄를 거쳐 모델로 이어지고, 목표가 손으로 증명되며, 기호가 점으로 배치됩니다. 2권, 기호적 추론(Symbolic Reasoning)은 같은 사실들을 형식적 온톨로지(ontology)로 읽어 세계를 분류하는 추론기(reasoner)에 건넵니다. 3권, 신경 표현(Neural Representation)은 개체와 관계를 대규모 기하학(geometry)으로 학습시켜, 위계가 말 그대로의 포함 관계가 되도록 합니다. 4권, 뉴로-심볼릭 통합(Neuro-Symbolic Integration)은 alice가 누구를 지도의 지도(grand-advise)하는가와 같은 다중 홉(multi-hop) 질문에, 증명이 손이 닿지 않는 곳에 있을 때 기하학으로 답합니다. 5권, 추론의 최전선(The Reasoning Frontier)은 시간과 불확실성을 더해, 명시된 확신도를 신뢰할 수 있는지 묻고, 시리즈가 지향해 온 통합 시스템을 측정합니다. 세계가 마지막 사실 하나까지 고정되어 있기 때문에, 여러 권 사이에서 보이는 어떤 차이든 데이터의 차이가 아니라 방법의 차이일 수밖에 없습니다 — 이것이 바로 이 시리즈의 주장들을 일화적인 것이 아니라 비교 가능한 것으로 만들어주는 지점입니다.

하나의 문제를 이루는 두 절반이 하나의 공유된 세계 위에서 만납니다. 정확하지만 부서지기 쉬운 기호 논리와 견고하지만 불투명한 신경망 학습은 학술-세계 지식 베이스 위에서 마주하고, 다섯 권짜리 사다리는 이 토대에서 추론의 최전선을 향해 올라갑니다. 저자가 AI의 도움을 받아 직접 제작한 원본 도해.

이 책의 다섯 개 부

1권은 가장 단순한 수학에서 뉴로-심볼릭 발상까지 이어지는 하나의 연속적인 오름길이며, 다섯 개의 부로 이루어져 있습니다.

1. 제1부 — 처음부터 시작하는 논리(Logic from Scratch). 집합, 관계, 함수; 순서와 격자(lattice); 그리고 명제 논리와 1차 논리(first-order logic) — 참을 말하기 위한 어휘를 한 번에 돌 하나씩 놓아 쌓아 올립니다.
2. 제2부 — 계산으로서의 추론(Reasoning as Computation). 참을 메커니즘으로 바꾸는 과정: 모든 귀결을 낱낱이 뽑아내는 전방 연쇄(forward chaining), 하나의 목표를 사실까지 끝까지 뒤쫓는 후방 연쇄(backward-chaining) 증명, 그리고 둘을 하나로 묶어주는 고정점(fixpoint).
3. 제3부 — 처음부터 시작하는 학습(Learning from Scratch). 나머지 절반: 학습이란 도대체 무엇인지, 어떤 직선도 맞출 수 없는 패턴에 맞춰 휘어지는 신경망, 그리고 alice나 advises 같은 기호를 신경망이 계산할 수 있는 점으로 바꾸어주는 임베딩(embedding).
4. 제4부 — 뉴로-심볼릭 발상(The Neuro-Symbolic Idea). 두 절반이 마주하는 자리: 거울처럼 서로 반대되는 강점을 지닌 두 문화, 이 분야가 이름 붙인 여섯 가지 결합 방법, 그리고 모든 방법이 그 위에서 측정되는 실행 예제.
5. 제5부 — 판정(The Verdict). 정직한 결산: 논리와 학습이 각각 실제로 무엇을 해내는지, 오늘날 그 융합이 무엇을 가져다주는지, 그리고 — 바로 이 공유된 세계 위에서 — 진짜 최전선이 아직 어디에 남아 있는지.

이 책을 읽는 법

몇 가지 관례가 페이지마다 되풀이되므로, 한 번쯤 미리 짚어볼 만합니다.

• 쉽게 말하면. 모든 장은 형식적 논의가 나오기 전에 변호사와 탐정, 연락처 목록, 가계도 같은 일상적인 비유로 전체 개념을 서술하는 :::tip[쉽게 말하면] 상자로 시작합니다. 그 상자들만 읽어도 이야기의 줄거리는 얻을 수 있습니다.
• 모든 용어는 처음 등장할 때 정의됩니다. 어떤 단어도 당연하게 여기지 않습니다. 용어가 처음 등장하는 바로 그 자리에서 평이한 말로 정의하며, 각 장 끝의 핵심 용어(Key terms) 상자가 그것들을 한데 모아두어 앞으로 되돌아가 찾을 필요가 없게 합니다.
• 아직 풀리지 않은 부분. 모든 장에는 풀리지 않은 것 — 빈틈, 열린 문제, 이 분야가 여전히 막혀 있는 지점 — 을 짚어주는 짧은 정직함 절이 실려 있습니다. 이런 것들은 나중에 발견하기보다 미리 인정해 둘 때 이 책이 더 쓸모 있어집니다.
• 직접 실행할 수 있는 코드. 모든 코드 블록은 examples/logic 동반 코드 안에 있는 실제 파일에서 그대로 가져온 발췌이며, 진짜처럼 꾸며낸 의사코드(pseudocode)가 아닙니다. 코드 조각이 실행 가능한 것이 아니라 예시일 뿐인 경우에는 그렇다고 명시합니다.

이 길이 향하는 곳

이제 전체 그림이 갖추어졌습니다. 서로를 필요로 하는 두 절반, 그것을 시험할 하나의 작은 세계, 올라야 할 다섯 권과 다섯 개의 부. 이 토대는 수학 자체가 시작하는 바로 그 지점 — 사물들의 모임이라는 개념 — 에서 시작합니다. 첫 번째 장인 집합, 관계, 함수는 가장 밑바닥을 놓습니다. 집합이란 무엇인지, 관계가 그저 순서쌍들의 집합에 지나지 않는다는 것, 그리고 advises를 그 자신과 합성하면 지도의 지도(grand-advising)가 나온다는 것 — 우리의 학술 세계가 아무도 적어두지 않은 무언가를 처음으로 말해주는 순간입니다. 이 시리즈의 나머지 모든 것은 그 위에, 정직한 돌 하나하나를 쌓아 세워집니다.