챗 GPT 반도체 상관관계

 

 

요즘 챗 GPT에 대한 뉴스가 도배를 하다시피

합니다.

챗 GPT는 대화형 인공지능으로서 GPT3를

기반으로 대화상대와 피드백을 통해서 대화

내에서 학습을 통해서 대화를 발전시켜

나갑니다.

 

인공지능은 시냅스라는 인간의 뇌구조를

본떠서 만든 건데요...

 

이 시냅스가 하나의 매개변수가 되고

수많은 시냅스의 연결을 통해서

학습을 하게 됩니다.

 

이러한 시냅스가 모여서 신경망이라고

부르고 입력과 출력 사이에 여러개의

층으로 구성되어 있습니다.

 

층이 많다 보니까 매우 크다 또는

두껍다는 의미로 딥러닝이라

호칭을 하게 됩니다.

 

즉, 신경망 층이 매우 많고 많은

신경망 층을 통해서 학습을

하다 보니까, 있는 그대로 딥러닝

이라고 부르게 되는 것이죠.

 

 

 

인간의 시냅스 수는 100조 개 정도

인데 반해서, 구글이나 MS가 보유

인공지능은 수백억 개이라고 합니다.

 

챗 GPT는 오픈 AI에서 개발을 했고

4,990억 개의 가중치와 3000억개의

데이타셋과 약 1750억 개의 매개 변수를

이용해서 학습을 했다고 합니다.

 

( GPT2에서는 15억 개를 사용했다고 하는데요...

GPT3는 100배가 넘게 되네요...)

 

가히 어마어마한 숫자입니다.

 

그렇지만 인간의 시냅스 수에는

훨씬 미치지 못하네요...

 

우리나라에서도 네이버에서

GPT-3을 능가하는 한국어 모델인

하이퍼크로버를 공개했는데요...

 

GPT3의 파라미터 보다 많은

2040억 개의 파라미터 규모로

개발했다고 합니다.

 

 

 

그런데, 주식을 보면 산업의 현황을

미리 알 수가 있습니다.

 

GPT 대장주인 코난테크놀로지도

물론 주가가 단기간에 천정부지로

올랐지만 그에 못지않게 우리나라는

하이닉스와 미국에는 엔비디아가의

주가가 상승했습니다.

 

 

 

그 이유가 무엇일까요?

 

인공지능은 과거 수십 년 전에도

개념이 있었습니다.

다만 크게 발전시키지 못했을

뿐입니다.

 

왜일까요?

 

과학기술이 인공지능을 뒷받침

할 만큼 따라오지 못했기 때문입니다.

 

인공지능은 수많은 Data를

사용해야 하고, 그 Data를

기반으로 연산을 해야 합니다.

 

수십 년 전에는 컴퓨터 기술이

발전하지 못하다 보니까,

연산하는데 너무나 많은 시간이

걸리고 학습할 Data를 넣을

메모리도 부족했던 것이죠..

 

그러나, 수십 년간 컴퓨터 기술은

비약적으로 발전했고, 발전을

기반으로 딥러닝 기술의 더욱

정교해진 것입니다.

 

더 많은 Data를 기반으로 학습을

할 수 있게 되고, 더 빠르게 계산해서

답을 주었습니다.

다시 피드백을 받아서 다시 계산해서

다시 학습을 하기 때문에 보다 높은

정답을 가져다주게 됩니다.

 

 

그럼 이 연산을 어디서 하느냐가

문제인데요...

 

바로 엔비디아에서 만드는

GPU에서 하게 됩니다.

 

AMD에서도 GPU를 만들지만

엔비디아가 GPU관련해서

No1 회사입니다.

 

그럼 하이닉스는 왜 같이

상승했냐면, GPU에서는 연산을

하지만 GPU내에도 메모리가 있습니다.

 

그 메모리는 하이닉스에서 생산을

하기 때문인 죠...

 

그래서, 인공지능과 반도체는 같이

발전할 수밖에 없는 것이죠....