그제 인공지능 뇌피셜 올린거에서 힌트 받아서 아이디어 써봄.
중국어 방 사고실험은 튜링 테스트와 인공지능의 사고력을 구분하는 절차가 어떻게 시행되야 하는가에 대한 생각임.
간단히 설명하면
기계는 거의 모든 입력에 대해 정해진 매뉴얼 대로 대답을 함. 기계는 그냥 입력이 오면 해당되는 답변을 출력할 뿐임. 그러나 외부에서 질문을 하고 대답을 듣는 사람은 이 기계가 스스로 사고할 수 있는 인공지능이라고 생각할 거란 거임.
이 사고실험에 대한 논의는 굉장히 오래 이루어졌음. 통사론과 의미론에 대한 이야기도 있고, 그런 매뉴얼 (즉 데이터베이스)가 있다면 복잡성 자체만으로 이미 하나의 의식체계로 보아야 한다는 의견도 있음.
물론 깊게 파고들 필요는 없으므로 겉부분만 핥아봄.
만약 현실에서 중국어-방 기계를 만들어 테스트하려는 사람이 있다고 해보자.
인간처럼 생긴 생체 안드로이드를 만들어서 안에 데이터베이스를 집어 넣어서 사회에 내보내는 거임. (뭐 부신교 하위 하위 종파나.. 변칙 예술가나 그런 사람이)
이 사람의 계획이 성공하기 위해서 가장 중요한 부분은 데이터베이스 일거임.
사고 실험에서는 무한대의 문답을 제시할 수 있다고 가정했지만 현실은 그렇지 않고, 유한한 수의 질문만 가능할 거임.
따라서 제작자는 같은 질문이라도 상황이나 시간에 따라 다른 답을 하게끔 만들어야 하고, 변수가 되는 질문을 접하지 않도록 통제해야 함. 아마 상황에 맞는 알고리즘 모듈을 사용하겠지. 만약 누가 나의 기분을 물어봤는데, 그 때 친한 친구가 병원에 입원해 있다면, 하는 식으로 저장된 데이터에 따라 올바른 대답-집합을 찾아 대응하겠지.
그런데 이런 안드로이드 중 하나가 재단의 변칙물체 수거에 연루되어 기억 소거를 받게 됨. 기억 소거는 일반 인간들에게는 정해진 기간의 기억을 제거하는 것에 불과하지만 안드로이드에게는 알고리즘의 작동에 필요한 데이터가 포맷되는 거임. 그래서 이상이 생겨서 기억 소거 후 재단 인원이 확인차 하는 질문에서 계속 같은 말을 반복함.
예를 들어
O1-1: 좋습니다. ㅇㅇㅇ씨. 괜찮으신가요?
SCP-XXX-KO-1: 저는 좋습니다.
O1-1: 괜찮으신 거 맞죠? 이상한 기억이 떠오르시진 않나요?
SCP-XXX-KO-1: 저는 좋습니다.
O1-1: 네. 다행이네요. 그러면 다음
SCP-XXX-KO-1: (O1-1의 말을 끊으며) 저는 좋습니다.
이런 식으로 대답해서 재단 인원이 이상함을 느끼고, 재 기억 소거를 진행함.
근데 기억 소거를 반복해도 계속 일정한 대답만을 해서 기억 소거제의 문제인가 싶어 격리 후 실험을 진행.
실험은 어두운 방에서 지속적으로 반복되는 영상을 틀어놓음. 영상에서는 계속 같은 질문을 반복하는 형식으로 진행됨. 그런데 대조군으로 실험한 거에서 기억 소거제를 투입하지 않아도 문제가 생기는 거임. 언젠가부터 처음 했던 대답을 반복함.
사회에서 생활할 때는 한 질문을 수백 수천번 계속 물어보지 않으니까 데이터베이스의 한계가 느껴지지 않았고, 동일한 대답을 해도 다른 환경에서 일어나는 일이기 때문에 자연스럽게 받아들일 수 있음. (어제도 기분이 좋고, 오늘도 기분이 좋을 수 있으니까.)
하지만 재단의 실험 끝에 데이터베이스의 한계가 드러나 버렸고, 재단은 바로 SCP 지정을 하고 유사한 사람들을 찾기 시작함. 재단이 어떻게 어떻게 (생각 안해봄) 비슷한 안드로이드들을 찾았는데, 굉장히 다양한 계층의 사람들이었음. 일용직 노동자부터 유명 정치인, 심지어 요주의 단체 내의 인물도 있었음. 그래서 담당 연구원이 재단 내에서도 안드로이드가 있을 지 모른다는 가설을 세우고, 확인 절차 승인을 요청했지만 실제 재단의 고위직에 있었던 안드로이드가 바로 승인 거절 해버린다는...
또 중국어 방을 구현한 기계는 이론적인 자율학습을 하지 않음. 그저 습득한 데이터를 알고리즘에 대입해 말하는 거임. 따라서 스스로 학습이 되지 않음. 그래서 아마 원래 있던 사람을 납치하고, 그 자리에 안드로이드를 대신 투입하는 형식으로 진행했을 듯. 그렇다면 기본 알고리즘을 설계한 제작자는 원본 사람을 고문하던지 기억을 빼내든지 해서 안드로이드로 대체 투입할 모든 곳에 대한 정보를 알아야 함. 그래야 알고리즘을 짜니깐. 그래서 재단에서 그런 위험성을 눈치채고 바로 수배령을 때리게 허가받으려 하는데... 그것도 각종 핑계로 deny 해버리면 재밌겠다.
분명 아이디어 뿐이였는데 쓰다보니 플롯까지 써버림;;
플롯도 즉석으로 짠 거라... 모르겠다.
아이디어 쓰고 싶은 사람은 쓰셈. 플롯 다 바꿔도 됨.
