Download document 8561657

From Pythagoras
to the Digital Computer:
The Intellectual Roots of
Symbolic Artificial Intelligence
Volume I of
Word and Flux:
The Discrete and the Continuous
In Computation, Philosophy, and
Psychology
Bruce MacLennan
c
Copyright 2006
Draft of
June 12, 2009
4
Contents
Preface
2
1 Overview
1.1 Method of Presentation . . . . . . . . . . . .
1.2 Artificial Intelligence and Cognitive Science
1.3 The Theory of Computation . . . . . . . . .
1.4 Themes in the History of Knowledge . . . .
1.5 Alternative Views of Cognition . . . . . . .
1.6 Connectionism . . . . . . . . . . . . . . . .
.
.
.
.
.
.
2 The Continuous and the Discrete
2.1 Word Magic . . . . . . . . . . . . . . . . . . .
2.2 Pythagoras: Rationality & the Limited . . . .
2.2.1 Discovery of the Musical Scale . . . . .
2.2.2 The Rational . . . . . . . . . . . . . .
2.2.3 The Definite and the Indefinite . . . .
2.2.4 The Discovery of the Irrational . . . .
2.2.5 Arithmetic vs. Geometry . . . . . . . .
2.3 Zeno: Paradoxes of the Continuous & Discrete
2.3.1 Importance of the Paradoxes . . . . . .
2.3.2 Paradoxes of Plurality . . . . . . . . .
2.3.3 Paradoxes of Motion . . . . . . . . . .
2.3.4 Summary . . . . . . . . . . . . . . . .
2.4 Socrates and Plato: Definition & Categories .
2.4.1 Background . . . . . . . . . . . . . . .
2.4.2 Method of Definition . . . . . . . . . .
2.4.3 Knowledge vs. Right Opinion . . . . .
2.4.4 The Platonic Forms . . . . . . . . . . .
5
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
3
. 3
. 5
. 5
. 7
. 9
. 10
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
13
13
15
16
18
25
29
31
32
32
33
35
39
39
39
40
41
41
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
6
CONTENTS
2.5
2.6
2.4.5 Summary: Socrates and Plato . . . . . . .
Aristotle: Formal Logic . . . . . . . . . . . . . . .
2.5.1 Background . . . . . . . . . . . . . . . . .
2.5.2 Structure of Theoretical Knowledge . . . .
2.5.3 Primary Truths . . . . . . . . . . . . . . .
2.5.4 Formal Logic . . . . . . . . . . . . . . . .
2.5.5 Epistemological Implications . . . . . . . .
Euclid: Axiomatization of Continuous & Discrete
2.6.1 Background . . . . . . . . . . . . . . . . .
2.6.2 Axiomatic Structure . . . . . . . . . . . .
2.6.3 Theory of Magnitudes . . . . . . . . . . .
2.6.4 Summary . . . . . . . . . . . . . . . . . .
3 Words and Images
3.1 Hellenistic Logic . . . . . . . . . . . . .
3.1.1 Modal Logic . . . . . . . . . . .
3.1.2 Propositional Logic . . . . . . .
3.1.3 Logical Paradoxes . . . . . . . .
3.2 Medieval Logic . . . . . . . . . . . . .
3.2.1 Debate about Universals . . . .
3.2.2 Language of Logic . . . . . . .
3.3 Combining Images and Letters . . . . .
3.3.1 The Art of Memory . . . . . . .
3.3.2 Combinatorial Inference . . . .
3.3.3 Kabbalah . . . . . . . . . . . .
3.4 Lull: Mechanical Reasoning . . . . . .
3.4.1 Background . . . . . . . . . . .
3.4.2 Ars Magna . . . . . . . . . . .
3.4.3 From Images to Symbols . . . .
3.4.4 Significance . . . . . . . . . . .
3.4.5 Ramus and the Art of Memory
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
46
46
46
46
47
50
51
52
52
53
54
56
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
59
59
60
60
62
63
64
67
75
75
77
78
81
83
83
93
94
95
4 Thought as Computation
4.1 Hobbes: Reasoning as Computation . . . . . . .
4.2 Wilkins: Ideal Languages . . . . . . . . . . . . .
4.3 Leibniz: Calculi and Knowledge Representation
4.3.1 Chinese and Hebrew Characters . . . . .
4.3.2 Knowledge Representation . . . . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
99
99
103
112
112
115
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
CONTENTS
7
4.3.3 Computational Approach to Inference .
4.3.4 Epistemological Implications . . . . . .
4.4 Boole: Symbolic Logic . . . . . . . . . . . . .
4.4.1 Background . . . . . . . . . . . . . . .
4.4.2 Class Logic . . . . . . . . . . . . . . .
4.4.3 Propositional Logic . . . . . . . . . . .
4.4.4 Probabilistic Logic . . . . . . . . . . .
4.4.5 Summary . . . . . . . . . . . . . . . .
4.5 Jevons: Logic Machines . . . . . . . . . . . . .
4.5.1 Combinatorial Logic . . . . . . . . . .
4.5.2 Logic Machines . . . . . . . . . . . . .
4.5.3 Discussion . . . . . . . . . . . . . . . .
5 The Arithmetization of Geometry
5.1 Descartes: Geometry and Algebra . . . . . .
5.1.1 Arabian Mathematics . . . . . . . . .
5.1.2 Analytic Geometry . . . . . . . . . .
5.1.3 Algebra and the Number System . .
5.1.4 The Importance of Informality . . . .
5.2 Magic and the New Science . . . . . . . . .
5.2.1 Pythagorean Neoplatonism . . . . . .
5.2.2 Hermeticism . . . . . . . . . . . . . .
5.2.3 Alchemy . . . . . . . . . . . . . . . .
5.2.4 Renaissance Magic and Science . . .
5.2.5 The Witches’ Holocaust . . . . . . .
5.2.6 Belief and the Practice of Science . .
5.3 Reduction of Continuous to Discrete . . . .
5.3.1 The Problem of Motion . . . . . . .
5.3.2 Berkeley: Critique of Infinitesmals . .
5.3.3 The Rational Numbers . . . . . . . .
5.3.4 Plato: The Monad and the Dyad . .
5.3.5 Cantor: The Real Line . . . . . . . .
5.3.6 Infinities and Infinitesmals . . . . . .
5.4 Summary . . . . . . . . . . . . . . . . . . .
5.4.1 Technical Progress . . . . . . . . . .
5.4.2 Psychology and Sociology of Science
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
118
122
123
124
125
130
131
132
134
134
138
144
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
147
147
147
152
158
161
162
162
164
168
172
174
176
180
180
186
195
199
204
207
211
211
212
8
6 Theory of Computation
6.1 Philosophies of Mathematics . . . . . . . .
6.1.1 Peano and the Move Toward Rigor
6.1.2 Logicism . . . . . . . . . . . . . . .
6.1.3 Intuitionism . . . . . . . . . . . . .
6.1.4 Formalism . . . . . . . . . . . . . .
6.2 Interpretations and Models . . . . . . . . .
6.3 Metamathematics . . . . . . . . . . . . . .
6.4 Models of Computation . . . . . . . . . . .
6.4.1 Introduction . . . . . . . . . . . . .
6.4.2 Markov’s Normal Algorithms . . .
6.5 General Assumptions of the Discrete . . .
6.5.1 Invariants of Calculi . . . . . . . .
6.5.2 Atomic Constituents . . . . . . . .
6.5.3 Texts and Schemata . . . . . . . .
6.5.4 Processes . . . . . . . . . . . . . .
6.5.5 Formal Semantics . . . . . . . . . .
CONTENTS
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
7 Limitations of the Discrete
7.1 Undecidable Propositions . . . . . . . . . . . .
7.1.1 Gödel’s Incompleteness Theorem . . .
7.1.2 Corollaries to Gödel’s Theorem . . . .
7.2 The Undecidable and the Uncomputable . . .
7.2.1 Introduction . . . . . . . . . . . . . . .
7.2.2 Undecidability of the Halting Problem
7.2.3 General Undecidability . . . . . . . . .
7.3 The Löwenheim-Skolem Theorem . . . . . . .
7.3.1 Background . . . . . . . . . . . . . . .
7.3.2 The Theorem . . . . . . . . . . . . . .
7.4 Epistemological Implications . . . . . . . . . .
7.4.1 Limitations of the Discrete . . . . . . .
7.4.2 Transcending the Discrete . . . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
8 Logical Positivism
8.1 Historical Background . . . . . . . . . . . . . .
8.2 Logical Atomism . . . . . . . . . . . . . . . . .
8.2.1 Russell: Knowledge by Acquaintance and
8.2.2 Wittgenstein: The Tractatus . . . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
215
. 215
. 215
. 219
. 224
. 231
. 232
. 237
. 241
. 241
. 243
. 256
. 256
. 258
. 260
. 262
. 265
.
.
.
.
.
.
.
.
.
.
.
.
.
269
. 270
. 270
. 274
. 284
. 284
. 285
. 286
. 291
. 291
. 292
. 295
. 296
. 297
. . . . . . .
. . . . . . .
Description
. . . . . . .
303
. 303
. 306
. 306
. 308
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
CONTENTS
8.3
The Vienna Circle and Verifiability
8.3.1 Background . . . . . . . . .
8.3.2 Verifiability and Meaning .
8.3.3 Reductionism and the Unity
8.4 The Collapse of Logical Positivism
8.4.1 Nature of Atomic Facts . . .
8.4.2 Verifiability Problems . . . .
8.4.3 External Criticism . . . . .
8.4.4 Summary . . . . . . . . . .
8.5 Influence of Logical Positivism . . .
8.5.1 Quantum Mechanics . . . .
8.5.2 Behaviorism . . . . . . . . .
8.5.3 The Turing Test . . . . . . .
8.5.4 Conclusions . . . . . . . . .
1
. . . . . .
. . . . . .
. . . . . .
of Science
. . . . . .
. . . . . .
. . . . . .
. . . . . .
. . . . . .
. . . . . .
. . . . . .
. . . . . .
. . . . . .
. . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
9 The Computational Theory of Mind
9.1 Historical Background . . . . . . . . . . . . . .
9.1.1 Gestation . . . . . . . . . . . . . . . . .
9.1.2 Birth . . . . . . . . . . . . . . . . . . . .
9.1.3 Growth . . . . . . . . . . . . . . . . . .
9.1.4 Characteristics of Cognitive Science . . .
9.2 Chomsky: Formal Linguistics . . . . . . . . . .
9.2.1 Phrase-Structure Grammars . . . . . . .
9.2.2 Transformational Grammars . . . . . . .
9.2.3 Government-Binding Theory . . . . . . .
9.2.4 The Problem of Language Acquisition .
9.3 Symbolic Knowledge Representation . . . . . .
9.3.1 Newell & Simon: The Physical Symbol
pothesis . . . . . . . . . . . . . . . . . .
9.3.2 Schank: Conceptual Dependency Theory
9.3.3 Abelson: Scripts . . . . . . . . . . . . .
9.3.4 Expert Systems . . . . . . . . . . . . . .
9.3.5 The Frame Problem . . . . . . . . . . .
BIBLIOGRAPHY
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
System Hy. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
311
311
311
314
315
315
317
319
320
321
321
323
326
328
331
. 331
. 331
. 334
. 336
. 337
. 340
. 340
. 340
. 340
. 340
. 340
.
.
.
.
.
340
340
340
340
340
341