고전적인 집합론에서는 객관적인 것들은 모두 원소가 될 수 있고, 이런 원소들 중 아무거나 모아 놓으면 그게 집합이 된다.
그리고 집합을 모아 놓은 것도 집합이므로, 합집합과 교집합을 각각 (항이 2개인)함수라고 생각할 수 있다.
그러면, 합집합 U의 정의역과 공역은 어떻게 될까?
정의역은 {(x, y) | x와 y는 집합}일 것이고, 공역은 { x | x는 집합}일 것이다. 즉, 모든 집합의 집합이 U의 공역이다.
근데, 모든 집합의 집합이라는 게 좀 신기하다. 이 집합은 자기 자신을 원소로 가지고 있다.
자기 자신을 원소로 갖는 집합이라.. 생소한 집합이다. 이에 대해 한 번 살펴 보자.
A={x | x는 집합} 이라고 하자.
그리고 B={ x | x는 자기 자신을 원소로 갖는 집합}, C=A-B={ x | x는 자기 자신을 원소로 갖지 않는 집합} 이라고 하자.
그러면, B와 C는 당연히 A의 원소이면서 A의 부분 집합이다. 그리고 A는 C의 원소이며, B의 원소가 아니다.
이때, 과연 B는 B의 원소일까?
B가 B의 원소라면, B는 그냥 B의 원소이다.
B가 B의 원소가 아니라면, B는 자기 자신을 원소로 갖지 않는다. 따라서, B는 C의 원소이다.
흠.. 잘 모르겠다.
C를 살펴 보자.
과연 C는 C의 원소일까?
C가 C의 원소라면, C의 정의에 따라 C는 자기 자신을 원소로 갖지 않는 집합이므로 C는 C의 원소가 아니다. 즉, 모순이 발생했으므로 귀류법에 따르면 가정에 문제가 있는 것이다.
어느 부분이 잘못됐을까? C는 C의 원소라는 가정이 잘못됐을 수도 있다.
이제 C가 C의 원소가 아니라고 해 보자. 그러면, C는 C의 원소여야 한다. 또 모순이다.
즉, C는 C의 원소여도 안 되고, C의 원소가 아니여도 안 된다.
큰일났다. 참과 거짓이 분명해야 하는 논리 체계에서 수학적으로 객관적인 수식이 참과 거짓이 둘 다 아니거나 혹은 둘 다 해당되게 되는 모순이 발생했다.
이 역설을 러셀의 역설이라고 한다.
러셀이 이러한 역설을 발표함으로 인해 당시 수학계는 큰 충격을 받았다고 한다.
충격 받은 건 둘째 치고, 대체 어디서 잘못된 것일까?
집합과 집합 사이에 서로가 서로의 원소인지 비교하는 부분이 잘못됐을까? 근데, 이것을 잘못됐다고 하기에는, 집합을 원소로 갖는 집합은 존재하는 게 나아 보인다.
그러면, 저 역설을 피하려면 아마 C의 존재 자체가 없어야 할 것이다.
C는 A에서 특정 조건을 만족하는 원소들을 모아 놓은 부분 집합이다.
그러면, C를 위해 인위적으로 설정한 '특정 조건' 이 잘못된 것일까?
근데, A가 아닌 우리가 아는 다른 집합들 (자연수 집합, 자연수 집합의 부분 집합을 원소로 갖는 집합 등)을 전체 집합으로 놓고, C와 같은 조건을 적용해서 부분 집합을 만들 때, 비록 공집합이 되긴 하지만 그래도 일단 가능하다. 그렇다고 저 C가 공집합일리는 없다. 확실히 C는 이질적이다.
그러면, 집합과 집합 사이에 서로가 서로의 원소인지 비교하는 것도 가능하게 하고 싶고, 어떤 집합에서 특정 조건을 만족하는 원소들을 모아 놓는 행위를 가능하게 한다면, A의 존재성으로부터 C의 존재성은 따라 오는 것이다.
그러면, A의 존재성 자체에 문제가 있는 것은 아닐까? 그렇다고 하기에 A는 충분히 객관적이지 않은가? 어떤 대상이 집합인지 아닌지 수학적으로 명확한 것 같다.
그러면, 혹시 수학적으로 집합의 정의에 문제가 있는 것일까? 집합이라는 대상으로 정말 자유롭게 아무 거나 할 수 있는 것일까?
집합이란 무엇인가? 단순히 수학적 대상을 모아 놓은 것이라면, 수학적 대상이란 무엇인가?
집합은 수학에서 어떤 기능을 하는가? 집합이 존재한다면 그것을 가지고 무엇을 할 수 있다고 해야 할까?
어쨌든 지금까지의 고전적인 집합론에서 다루던 집합의 개념은 이미 그 자체로 모순을 유도해 버렸다.
그렇게 수학자들은 그 동안의 집합론의 기초를 완전히 허물어 버리고 새로이 시작해야 했다.
그리고 그들이 선택한 방법은, 바로 집합이 무엇인지를 언어적으로 포괄적으로 정의하는 게 아니라, 집합을 갖고 무엇을 할 수 있는지를 명확하게 정하고, 그 방식에 따라 집합을 다루는 것이었다. 그 방식이 바로 공리이고, 그러한 공리를 모아 놓은 체계가 공리계이다.
수학에서 공리계 자체는 무한하며, 저 러셀의 역설을 어떻게 해결하는지도 수학적으로 획일되어 있지는 않다. 어쩌면, 공리계 말고 논리 체계 자체의 명제의 TF 여부를 수정해서 TF의 두 가지로 안 나누는 방법도 있을지도 모른다.
그리고 그렇게 만들어진 결과물 중 가장 널리 쓰이는 것이 바로 ZFC 공리계이다. (체르멜로-프랑켈 공리계+선택 공리)
현대의 수학은 대체로 ZF 공리계 혹은 ZFC 공리계(ZF 공리계에 선택 공리를 추가한 공리계) 위에서 돌아간다.
ZFC 공리계는 대다수의 수학적 대상을 집합으로 본다. 심지어, 자연수나 실수, 함수나 부등호 등도 모두 집합으로 본다.
그리고 ZFC 공리계에서는 고전적인 집합론에서 논의된 모든 집합의 집합 A가 존재할 수 없다. 이로써 ZFC에서는 러셀의 역설을 나름 해결한 듯 싶다.
그리고 이러한 러셀의 역설을 극복한 러셀, 힐베르트 등의 수학자들 사이에서는 논리적으로 완벽한 공리계를 통해 수학을 완성시킬 수 있을 것이라는 생각이 퍼졌다.
....적어도 괴델이 괴델의 불완전성 정리를 발표하기 전까지는 말이다....
아, 맞다. 저 위에서 집합 B는 B의 원소일까, 아닐까?
이에 대해 궁금하다면 한 번 다음의 문장의 참, 거짓을 판단해 보자.
'이 명제는 참이다.'
참이어도 문제 없고, 거짓이어도 문제 없는 것 같다.
