지식을 얻는다
세계의 사례·증거·규칙을 데이터와 환경, 전문가와 사용자 상호작용에서 모은다.
Chapter 2 · Focused Review
지능은
아는 것과
판단하는 것 사이에 있다
지능형 시스템의 참모습은 그럴듯한 답 한 줄에 있지 않다. 무엇을 지식으로 삼고, 그 지식을 어떤 방식으로 헤아리며, 판단의 책임을 누구에게 남겨 두는가에 있다. 제2장은 지식표현과 추론이라는 두 기둥 위에 지식그래프와 LLM을 함께 올려놓고, 인간의 결정을 돕는 하이브리드 지능의 골격을 차근차근 세운다.
Chapter Argument00
지능을 해체해야 지능을 설계할 수 있다
사람은 결과만 보고 시스템을 영리하다고 부르기 쉽다. 그러나 고위험 영역에서 중요한 것은 인상보다 구조다. 제2장은 지능형 시스템을 지식베이스와 추론 엔진으로 나누고, 지식 획득과 피드백의 순환을 따라가며 실제 능력과 부여해서는 안 될 능력을 구분한다.
지식을 표현한다
KG, 예측모델, 신경망, 규칙 등 추론 엔진이 사용할 수 있는 형태로 지식을 조직한다.
지식으로 판단한다
연역·귀납·확률적 추론을 조합해 답, 제안, 다음 행동을 만들고 피드백으로 다시 고친다.
Core Thesis
지능형 시스템은 하나의 거대한 모델이 아니라, 서로 다른 지식표현과 추론 방식이 질서 있게 협력하는 생태계다.
2.1 What Is Intelligence?01
지능의 첫걸음은 세상을 기억하는 방식이다
제2장은 지능을 지식을 획득하고 적용하는 능력으로 본다. 경험에서 배우고, 문제를 풀고, 환경과 상호작용하는 능력이다. 이를 기계 안에 옮기려면 자연스러운 인간 활동을 두 부분으로 분해해야 한다.
지식표현은 시스템이 세계를 기록하는 언어다
도메인의 사실과 관계를 구조화·부호화·전달하는 방식이다. 표현 방식의 선택은 무엇을 쉽게 추론할 수 있고 무엇을 놓치게 되는지를 결정한다. 표현력이 커질수록 처리 비용이 커지는 절충도 존재한다.
추론은 기록된 지식에서 다음 결론으로 건너가는 다리다
정보와 증거를 분석하고 규칙 또는 패턴을 적용해 결론을 도출한다. 연역은 논리적 필연성을, 귀납은 관찰에서 일반화하는 능력을 제공하며, 실제 시스템은 여러 방식을 직렬·병렬로 결합한다.
Figure 2.1 재구성 · 지능형 시스템의 고수준 정신모형지식베이스와 추론 엔진은 하나가 아니라 여러 개일 수 있다.
DESIGN TENSION
표현력이 풍부한 지식은 더 많은 것을 말할 수 있지만, 그만큼 처리하기 어려워진다. 좋은 설계는 도메인과 과업에 맞는 균형을 찾는다.
2.2 Designing an Intelligent System02
좋은 시스템은 대신 결정하기 전에 먼저 잘 돕는다
장은 자동 의료진단 시스템을 가상의 설계 사례로 삼는다. 질의, 검사, 치료의 순서를 제안하되, 최종 판단은 의사에게 남긴다. 여기서 지능은 사람을 밀어내는 힘이 아니라 복잡한 선택을 더 분명하게 만드는 능력으로 정의된다.
INTELLIGENT SYSTEM
사용자와 AI·ML을 연결해 의미 있는 목표를 달성하고, 사용자 상호작용과 피드백을 관찰하면서 시간에 따라 지능이 개선되는 시스템.
지능형 자율 시스템 AUTONOMOUS
기계가 사용자를 대신해 판단하고 행동한다. 사용자는 과업을 맡기고 완료 결과를 전달받는다.
A1완전 자동화
인간 개입이 없거나 최소인 상태에서 의사결정과 실행을 수행한다.
인간 개입이 없거나 최소인 상태에서 의사결정과 실행을 수행한다.
A2실시간 판단
센서와 환경 데이터를 즉시 분석해 행동을 선택한다.
센서와 환경 데이터를 즉시 분석해 행동을 선택한다.
A3적응성
변화하는 환경과 예외 상황에 맞게 행동을 조정한다.
변화하는 환경과 예외 상황에 맞게 행동을 조정한다.
지능형 조언 시스템 IAS
기계는 정보와 권고를 제공하고, 사용자가 탐색·질문·설명을 거쳐 최종 결정을 내린다.
I1의사결정 지원
통찰과 선택지를 제공하되 스스로 실행하지 않는다.
통찰과 선택지를 제공하되 스스로 실행하지 않는다.
I2맥락 인식
사용자 선호와 현재 상황을 반영해 조언을 조정한다.
사용자 선호와 현재 상황을 반영해 조언을 조정한다.
I3상호작용
질문, 대안 탐색, 상세 설명을 통해 판단 과정을 돕는다.
질문, 대안 탐색, 상세 설명을 통해 판단 과정을 돕는다.
법집행범죄 데이터에서 위험 지역과 발생 가능성을 분석하지만, 조치의 결정은 사람이 맡는다.
금융거래 패턴에서 사기 의심 활동을 표시하지만, 조사·차단 여부는 담당자가 판단한다.
바이오·의료가능한 진단과 치료 후보를 제시하지만, 임상적 책임과 최종 결정은 의료진에게 남는다.
설계와 구현을 이끄는 네 가지 성질
의미 있는 목표
최종 사용자가 중요하게 여기는 구체적이고 달성 가능한 목적이 개발 전체를 이끈다. 기술은 목적을 대신하지 못한다.
지능적 경험
예측이 맞을 때의 가치를 키우고 틀릴 때의 비용을 줄이는 인터페이스가 필요하다. 명시적·암묵적 피드백 통로도 함께 설계한다.
지식 생성과 갱신
지능적 행동은 지식을 지속해서 만들고 유지하고 추론하는 능력에 기대며, KG와 LLM의 결합은 변화하는 지식과 피드백을 함께 다룬다.
오케스트레이션
여러 알고리즘과 도구의 출력을 다음 단계 입력으로 연결하고, 지식 획득·위험·품질을 전체 생명주기에서 통제한다.
01Advisor First행동을 대신하기보다 제안한다.
→
02Established Knowledge논문·온톨로지·구조화 데이터와 전문가 지식을 사용한다.
→
03Learn from Experience제안의 결과와 사용자 피드백으로 지식베이스를 확장한다.
2.3 Knowledge Acquisition & Representation03
같은 세계를 두 기술은 서로 다른 필체로 기록한다
지식 획득은 원시 데이터를 추론 가능한 표현으로 바꾸는 과정이다. KG는 관계를 드러내며 기록하고, LLM은 언어의 패턴을 파라미터 속에 눌러 담는다. 한쪽은 읽을 수 있고 고치기 쉽지만 준비가 무겁고, 다른 한쪽은 문맥을 잘 다루지만 내부 지식이 보이지 않는다.
원천
- 관계형·반정형 데이터
- 문서와 환경 관찰
- 도메인 전문가 지식
→
변환
온톨로지와 스키마를 기준으로 엔터티를 노드에, 관계를 간선에, 세부 맥락을 속성에 매핑한다. 이질적 식별자와 의미를 통합하는 정교한 준비가 필요하다.
→
결과
사람과 기계가 함께 읽고 검증할 수 있는 명시적 지식베이스. 규칙 추론, 임베딩, 탐색, 시각화의 공통 기반이 된다.
원천
- 대규모 비정형 텍스트
- 이메일·채팅·문서
- 텍스트로 해석된 데이터
→
변환
대부분 비지도 학습으로 언어 패턴을 고차원 벡터와 신경망 파라미터에 압축한다. 전문가의 핵심 역할은 데이터 선택·정제, 감독학습·미세조정, 결과 평가에 있다.
→
결과
미묘한 문맥과 언어관계를 포착하는 암묵적 지식모델. 강력한 언어능력을 얻는 대신 지식을 직접 열람·부분 수정하기 어렵다.
비교 기준
Knowledge Graph
Large Language Model
접근성
노드·관계·속성이 명시되어 사람과 기계가 직접 해석하고 검증할 수 있다.
수십억 개 파라미터와 연속 벡터 공간에 암묵적으로 저장되어 내부 지식을 직접 보기 어렵다.
갱신
노드와 관계를 추가·삭제·수정해 필요한 부분을 직접 바꿀 수 있다.
재학습이나 미세조정이 필요하며 비용이 크고 국소적 수정도 어렵다.
강점
도메인 스키마와 접근 패턴이 잘 설계되면 명시적 추론과 추적 가능한 설명에 강하다.
자연어 이해·생성, 모호성 처리, 문맥 파악과 패턴 기반 일반화에 강하다.
약점
구축과 정규화에 전문가의 공력이 많이 들고 언어 인터페이스가 본래 내장되어 있지 않다.
불투명하며 사실을 직접 검증·수정하기 어렵고, 학습된 패턴에 과도하게 기대기 쉽다.
HYBRID REPRESENTATION
KG는 지식을 보이게 하고, LLM은 보이지 않는 문맥을 다룬다. 둘의 차이는 충돌이 아니라 더 넓은 과업을 맡기 위한 분업의 근거다.
2.4 Reasoning04
추론은 기억을 넘어, 보지 못한 경우에 답하는 힘이다
저장된 사례와 완전히 같은 입력만 찾는 것은 기억이지 학습이 아니다. 제2장은 스팸 필터 사례를 통해 이미 본 메일을 외우는 방식과, 보지 못한 메일을 일반화해 분류하는 방식의 차이를 보여 준다.
불확실성을 어떻게 다룰 것인가
초기 진술이 모두 참·정확·명료하지 않으므로 결론의 신뢰도와 가정 조건을 함께 관리해야 한다.
없는 지식을 어떻게 유도할 것인가
규칙과 관계, 관찰된 패턴을 사용해 명시적으로 저장되지 않은 정보를 새롭게 도출해야 한다.
관찰을 어떻게 일반화할 것인가
개별 사례를 그대로 외우지 않고 도메인의 더 넓은 구조와 반복되는 패턴을 추상화해야 한다.
연역 추론 · Deduction
일반 규칙과 참인 전제에서 특정한 필연적 결론을 얻는다. 전제가 맞고 규칙 적용이 올바르면 결론도 참이다.
모든 사람은 죽는다 → 알레산드로는 사람이다 → 알레산드로는 죽는다
↔
귀납 추론 · Induction
일부 관찰에서 더 넓은 일반화를 만든다. 불완전한 데이터에서도 예측할 수 있지만, 참인 관찰이 참인 일반화를 보장하지는 않는다.
꺼낸 동전 세 개가 모두 1센트였다 → 가방 속 모든 동전도 1센트일 것이라고 추정한다
BOOK EXPERIMENT · Claude 3.5 Sonnet 당시 사례
강가에 농부와 양 한 마리가 있다. 배에는 한 사람과 한 동물만 탈 수 있다. 가장 적은 횟수로 둘이 강을 건너려면 어떻게 해야 하는가?
익숙한 문제의 그림자가 실제 문제를 가렸다
문제는 농부와 양이 함께 한 번 건너면 끝난다. 그러나 책에 소개된 당시 응답은 늑대와 채소가 포함된 유명 퍼즐의 절차를 끌어와 불필요한 왕복을 제안했다.
제2장이 여기서 강조하는 바는 단순한 오답이 아니다. 익숙한 학습 패턴과 아주 비슷하지만 조건이 달라진 반사실적 문제에서 성능이 급격히 떨어질 수 있다는 점이다. 그럴듯한 절차는 실제 제약을 이해했다는 증거가 아니다.
정확한 규칙과 명시적 근거
정밀한 규칙 기반 추론, 추적 가능한 경로, 명시적으로 표현된 도메인 지식이 필요한 과업에 적합하다.
패턴과 문맥, 모호성
불완전한 정보, 언어적 모호성, 맥락 이해, 확률적 후보 평가와 자연어 상호작용에 강하다.
공통의 한계
둘 모두 인간과 같은 상식 추론을 본질적으로 보장하지 않으며, 암묵적 맥락이나 직관적 도약에서 실패할 수 있다.
2.5 Reasoning Engines05
하나의 엔진으로 모든 판단을 맡기지 않는다
추론 엔진은 지식베이스를 읽기만 하는 계산기가 아니다. 제안의 결과가 환경을 바꾸고, 새 관찰이 다시 지식으로 돌아오는 순환 속에서 읽고 쓰며 개선된다. 복잡한 시스템은 서로 다른 추론 엔진을 직렬과 병렬로 배치한다.
순수 연역 엔진
의료진단에서 질병·증상·검사 비용·치료 결과·환자 선호가 모두 정확히 들어 있다면 논리적으로 최적 행동을 계산할 수 있다. 그러나 현실의 지식베이스는 거의 언제나 불완전하다.
- 강점: 명료한 규칙, 일관된 결론
- 조건: 완전하고 정확한 지식베이스
- 한계: 누락·모호성·새로운 사례에 취약
귀납 엔진과 머신러닝
관찰된 데이터에서 온톨로지와 관계, 예측모델을 학습해 지식베이스를 넓히고, 모든 정보가 없더라도 불확실성 아래에서 일반화한다.
- 원시 데이터를 구조화된 지식으로 변환
- NLP·LLM으로 엔터티와 관계 추출
- 복잡한 도메인의 수동 특징선택 비용이 문제
확률적 해석 계층으로서의 LLM
비특이적 증상과 불완전한 환자기록처럼 단일 규칙으로 멈추는 상황에서 여러 가능성을 동시에 평가하고 우선순위가 있는 진단 접근을 제안한다.
- 누락된 지식 사이의 간극을 연결
- 모호한 입력을 맥락적으로 해석
- KG 기반 근거와 결합할 때 실제 IAS에 적합
연역과 귀납의 역할 차이자동 의료 조언 사례를 기준으로 재구성
| 구분 | 순수 연역 엔진 | 귀납·ML 엔진 | LLM 결합 계층 |
|---|---|---|---|
| 입력 지식 | 논리문과 명시 규칙 | 관찰 데이터와 학습 가능한 특징 | 문헌에서 학습한 언어 패턴 + 현재 맥락 |
| 주요 행동 | 규칙을 적용해 결론 도출 | 모델을 만들고 일반화·예측 | 모호성을 해석하고 후보를 우선순위화 |
| 불완전성 대응 | 필요 지식이 없으면 쉽게 중단 | 통계적 일반화로 일부 대응 | 확률적 제안으로 지식 간극을 연결 |
| 의료 사례 | 완전한 KB에서 검사·치료 순서 계산 | 새 질환·패턴까지 예측 범위를 확장 | 비특이적 증상의 여러 진단 가능성을 비교 |
| 주의점 | KB 완전성 가정이 비현실적 | 특징설계와 데이터 편향 문제 | 확률적 그럴듯함을 사실과 혼동하면 안 됨 |
2.6 A KG Approach to IASs06
데이터부터 쌓지 말고, 먼저 무슨 일을 도울지 정한다
지식그래프를 여러 데이터의 창고로만 보면 목적을 놓치기 쉽다. 제2장은 모든 데이터를 먼저 적재한 뒤 그 안에서 이야기를 찾는 상향식 접근을 비판하고, 비즈니스 목표에서 출발하는 목적 주도형 구축을 제안한다.
데이터가 있으니 일단 그래프부터 만든다
원천의 구조와 식별자를 통합하는 데 막대한 비용이 들고, 실제 과업과 무관한 데이터까지 적재된다. 모든 데이터를 넣은 뒤에는 스키마를 바꾸기도 어려워진다.
사용 가능한 데이터 소스를 먼저 찾는다.
원천 구조를 기준으로 KG 스키마를 정한다.
모든 데이터를 가져와 그래프로 바꾼다.
그 뒤에야 탐색·분석·스토리텔링 과업을 찾는다.
사용자가 이루려는 목표에서 시작한다
비즈니스 이해가 필요한 데이터와 그래프 범위를 정한다. KG는 도메인별로 맞춤화된 자족적 지식원으로 성장하고, 매 반복마다 이전 결과를 보존한 채 차이만 확장한다.
달성할 의사결정 목표와 사용자를 정의한다.
목표에 필요한 데이터만 이해하고 선택한다.
현재 과업 범위에 맞는 KG 부분을 설계·갱신한다.
모델링·평가·배포 후 피드백으로 다음 순환을 시작한다.
Knowledge Graph
도메인별 지식베이스
모델 생성·갱신의 중심
도메인별 지식베이스
모델 생성·갱신의 중심
01 · Business Understanding사용자 목표와 가치에서 출발한다.
02 · Data Understanding목표에 필요한 기존 데이터만 선별한다.
03 · Data Preparation현재 범위에 맞게 정제·정규화·추출한다.
04 · ModelingML 알고리즘과 추론 방법을 정의·시험한다.
05 · Evaluation목표 적합성과 모델 품질을 검증한다.
06 · Deployment스키마·파이프라인·모델을 제품에 배치한다.
관심 대상인 미지의 값을 추정하는 공식 또는 압축된 학습 결과다. 훈련 데이터에서 얻은 패턴을 효율적으로 저장하고 실제 예측 시 호출한다.
데이터 항목의 형식과 관계에 대한 제약을 적게 두는 유연성이다. 그래프는 새 노드·관계 유형을 추가하면서 기존 데이터와 기능을 깨뜨리지 않고 확장하기 쉽다.
지식 획득에서의 LLM
비정형 자료에서 과업에 필요한 엔터티와 관계를 추출하고, 감성·주제처럼 일반적 의미를 보충한다.
KG 위 추론에서의 LLM
사용자 질문의 의도를 해석하고, 그래프와 모델의 결과를 자연어로 설명하며 불확실한 맥락을 연결한다.
반복에서의 확장
두 번째 순환부터는 빈 그래프에서 다시 시작하지 않는다. 이전 지식을 보존하며 새 과업에 필요한 차이만 더한다.
Interactive Design Check
지능형 조언 시스템 설계 점검
선택한 요구에 따라 제2장의 설계 원칙을 조합한다.
설계 해석: 항목을 선택하면 권장 구조가 표시된다.
Chapter Summary07
제2장이 남기는 설계 원칙
하이브리드 지능의 가치는 기술 두 개를 나란히 놓는 데 있지 않다. 명시적 지식과 암묵적 패턴, 논리적 필연성과 확률적 해석, 자동화와 인간 책임을 어느 지점에서 연결하고 분리할지를 설계하는 데 있다.
오래된 건축물을 제대로 보려면 지붕의 화려함보다 기단과 기둥을 먼저 보아야 한다. 지능형 시스템도 그렇다. 답변의 유창함은 지붕이고, 지식표현과 추론은 그 아래 숨은 기단이다. 지식그래프는 사실과 관계를 사람이 확인할 수 있는 자리에 놓고, LLM은 언어의 모호함과 빠진 맥락을 건너간다. 그러나 어느 한쪽도 인간의 상식을 온전히 대신하지 못한다. 그래서 제2장이 택한 길은 자율성의 과시가 아니라 조언의 책임성이다. 좋은 시스템은 사람을 밀어내지 않고, 더 나은 판단을 내릴 수 있도록 근거·대안·불확실성을 함께 내놓는다.
목표 우선
데이터와 알고리즘보다 사용자와 의사결정 목표를 먼저 정의한다.
표현의 복수성
KG, 예측모델, 신경망, 규칙을 과업에 따라 조합한다.
추론의 분업
정확한 규칙은 KG·연역에, 모호한 문맥은 LLM·귀납에 맡긴다.
인간의 최종 책임
고위험 영역에서는 시스템이 제안하고 사용자가 결정한다.
피드백 순환
행동의 결과를 새 지식으로 되돌려 시스템을 지속해서 고친다.
차이로 확장
반복마다 처음부터 다시 만들지 않고 기존 KG를 보존하며 확장한다.