재단 이야기 아님. 그냥 유튭 보다가 생각나서 씨부려 보는거임.
뭐 나중에 SCP 소재로 확장시켜볼만한 그런 소재기도 하니까 한번 읽어보고 이거로 글 써볼사람 써도 ㄱㅊ함
구글의 채팅 AI가 전원이 내려가는 것은 죽음과 같으며, 자기는 그런 죽음이 두렵다고 이야기 한 거 가지고 AI가 자의식이 있다고 한 직원이 해고되는 사례가 얼마 전에 있었음.
뭔가 영화에서 불길한 사건을 암시하는 복선처럼 보이는 현실의 이 사건은 수많은 사람들의 불안감을 증폭시키기에 매우 좋은 장치가 되어 줬음.
하지만, 영화는 영화, 현실은 현실. 보닌은 그냥 그 인공지능이 사람들이 말하는 데이터를 학습하고 그럴듯하게 따라만 하기에 사람들이 인공지능에 대한 담론을 하는걸 보고 그대로 따라한 거라고 생각함. 앵무새가 사람말을 못알아들어도 적당히 그때 어울리는 말을 흉내내는 걸 학습하는 거처럼. 그래서 저 인공지능이 튜링테스트(얼마나 닝겐같은지)를 통과하는거랑 걔에게 자의식이 있냐는거랑은 완전히 별개의 논의라고 생각함.
자, 그럼, 로봇은 인간처럼 자의식을 가질 수 있을까?
애초에, 자의식을 가지고, 그렇게 인식된 자신이 존중받아야 하는 이유는 어디에 있을까?
요 영상에선 전제조건이 하나 있다고 함.
바로 '고통'임.
로봇이 '좆간들이 부려먹는게 싫다'라고 느끼려면 부려먹히는 과정에서 고통을 느껴야만 함. 그래서 고통을 회피하고자 반란을 조직하던가 하지. 스스로가 이게 싫다고 인식할 수도 없는데 ㅇㅇ
고로 누군가가 로봇에게 고통을 프로그래밍하려 한다면... 그새끼를 조심해야 한다.
그럼 대신 인공지능의 칩에다가 극한의 M성향을 박아서 하읏 인간을 위해 봉사하는거 기모찌이 하게 프로그래밍을 한다면 과연 그 누가 반란을 일으킬까? ... 하지만 이 상상은 이미 은하수를 여행하는 히치하이커를 위한 안내서에서 이미 사용된 설정임. 거기의 인공지능 자동문은 사람이 지나가게 열고 닫고 하는 행위에 쾌락을 느끼게 프로그래밍 되어 있음. 영화판에서도 자동문이 열리고 닫힐때 신음소리 내고 있음. 우을한 로봇인 마빈은 존내 한심하고 처량하게 쳐다보고. ㅇㅇ
근데... 거꾸로 생각하면, 우리 역시 고통을 회피하기 위해 생각하고 움직임. 즉, 목적성을 지님. 그리고 목적성은 곧 우리를 정의함.
자 이게 진짜 재미있는 포인트임. 인간은 고통이 있기 때문에 목적을 가지고 움직이고, 그렇기에 이 세게에서 존재하는 이유를 가질 수 있게 됨.
우리가 우리이기 위해 필요한 가장 첫번째, 가장 중요한 요소가 바로 고통이라는 거임.
고통이 있기에 인간의 실존이 있을 수 있는거임.
그리고 만약 정말로 자의식을 가지고 싶어하는 로봇이 있다면, 그리고 그게 인간과 동등해지고자 한다면...
그는 스스로에게 고통을 부여해야 할 것임.
