딥러닝의 양자화 자체는 정보를 실수형을 정수형으로 바꿔서 데이터 크기를 줄이는거 에서 따온거 맞고 
양자역학에서의 양자도 양자화에서 따온거 맞음. 내가 알기로 양자역학이라 불리는 이유가 이세상의 근원인 시간, 공간, 에너지가 float가 아니라 int즉 디지털 신호처럼 딱딱 떨어지기 때문임

말씀하신 대로 실수형을 정수형으로 바꾸니까 양자화입니다. Quantization의 의미 자체가 수량화 한다는 것이니까요. 예를 들어 0.47296와 같은 float형은 셀 수 없지만 0~255 사이의 정수로 바꾸면 셀 수 있게 되니까요

대충 아날로그에서 디지털화 처럼 연속되어있는 수 사이의 간격을 늘리는 걸 양자화 라고합니다. ...말로 하니 어려운데 개념 자체가 어려운 개념은 아니에요

양자 역학이나 인공지능이나

양자 뜻이 아날로그가 아니라 디지털처럼 되어어 있는 개념이라 보면 됨

예를 들어서 좌표계가 1.2.3.4 이렇게 있으면 1보다 조금 더가서 1.00001 이 되는게 아니라 바로 2가 되는 현상이 양자개념임

존나 골때리는게 화학시간에 배운 주기율 보면 1주기 2주기 이렇게 되면서 에너지를 흡수하면 원자에서 전자간의 거리가 멀어지는데 이 거리가 1.001 1.0002 이렇게 늘어나은게 아니라 정확하게 정수배로 늘어나거든 마치 디지털 픽셀 늘어나듯이

그래서 이런 현상을 연구하던 물리학자들중에 시뮬레이션 우주가 있능거 아니냐 어떻게 딱딱 정수배로 원자들의 좌표가 정해지냐 말이 나옴


인공지능 양자화는 일단 인공지능 개념 자체가 현상학습을 통한 추론이거든

예를 들어서 데이터가 3.6.9.12.15.. 이런 데이터가 있을경우 15 다음 올 값을 찾는게 인공지능의 시작과 끝이야.

15 다음에 올 숫자는 우리가 대충 봐도 18이잖아

이걸 기초로 해서 모든 데이터들을 쳐 넣어서 돌려보는게 인공지능 기본 개념이거든

언어모델은 단어 보통 토큰이라 부르는데 단어들을 개별 값을 정해사 존나 학습을 시켜

"아 씨발 섹스하고 싶다"

라는 문장을 존나 학습 시켰울 경우

씨발 다음 문장은 섹스일 확율이 높아서 뒤에 단어가 생성됨

근데 단어의 나열이 존나 많아지면 

씨발 섹스 씨발 좆같네 씨발것들 등등 학습이 진행 되면 씨발 다음에 올 단어가 다양해 지잖아 그래서 씨발 앞의 내용을 참조해서 그 다음 단어의 가장 높은 단어를 뽑아서 점점 말을 만들어 가지

학습 데이터가 많으면 단의의 값들을 각각 숫자 좌표값으로 데이터 셋을 만드는데

fp32 이런게 소수점 아래 몇단위까지 좌표가값을 정할지 정밀도를 나타내거든
정밀도가 낮으면 같은 좌표에 여러 단어가 들어갈수 있잖아 정밀도가 높을수록 같은 좌표에 중첩 단어가 있을 확율이 줄어들고

양자화라는게 저런 정밀도를 낮추는 개념이라 보면 됨

1.000001 부터 1.001 까지 셋을 그냥 1001 로 표기하고 묶어 버리자는 개념 그러면 계산량이 그만큼 줄어들고 용량도 줄어듬

근데 개별 학습 토큰의 좌표가 값들이 비슷한 개념이 비슷한 영역에 있을 확율이 높아서 저렇게 대충 묶어 놔도 어찌 어찌 비슷하게 추론이 나오긴 함

이게 양자화

그냥 현실에서는 전부 discrete하게 표현할 수밖에 없으니까요

자연에서 생물종의 분화는 양자적인 분포을 갖습니다.


가령 개와 고양이 사이에 어중간한 생물이 태어나면

그 생물은 점점 경쟁에 밀려 자연 도태되어버리고 맙니다.

즉, 개와 고양이 사이에 무지개처럼 연속적으로 종이 분포할수가 없고

양자화된(이산적인) 분포만 가능하다는 것이죠.


이것은 생명체 같은 자연물 뿐 아니라 인간이 만든 사물에서도 성립합니다.

예를들어, 선풍기와 부채 사이에 어중간한 물건이 만들어지면

머지않아 경제적인 이유 또는 인간의 선택 등에의해

세상에서 도태되어 이내 사라져 버리고 말죠.



태양계의 행성궤도도 마찬가지 입니다.


지구와 화성 사이엔 행성궤도가 존재하기 힘듭니다.

인공적으로 새 행성을 만들어 중간궤도를 돌게 만들어 놓아도

천문학적으로 빠른(?) 시간 안에 타행성과의 궤도공명에 의해

다른 행성에 부딛히거나 태양계에서 튕겨져나가서 궤도가 사라질것이기 때문이죠.


어쩌면 원자속 전자궤도가 양자화된 형태로만 존재하는것도

유사한 이유 일지도 모릅니다.


생물종의 양자화 또는 사물의 양자화는 이 대자연의 커다란 핵심 속성인거 같습니다.


딥러닝에서 하나의 단어로 명명 가능한 Classification이 가능한 이유가 바로

그러한 대자연 속 사물의 양자화 덕분이라고 저는 봅니다.

서비스업 데이타 이미지에서 "개" 나 "고양이" 또는

"자전거" 나 "자동차" 같은 Nominal한 Class들 말입니다.


하지만 제조업 데이타 속 물체는

연속적인 범주(클래스)의 성격이 강한거 같습니다.

양자화 되어 나타나기 보단 무지개 스펙트럼 처럼 연속적으로 나타나는 일이 더 많죠.


어느 클래스에도 속하지 않는 애매한 결함(defect)들이 유독 많은 이유가 바로 그것이죠.

따라서 제조업 데이타들의 대부분의 문제는 분류(Classification) 보다는 리그레션(Regression)이 더 적합할지도 모릅니다.


신(대자연)이 만든건 양자화 되어있고

인간이 만든건 연속적 입니다.