반응형

Chat GPT(Generative Pre-trained Transformer)

Open AI에서 만든 초거대 언어 모델

 

What is the GPT(Generative Pre-trained Transformer) ?

Generative Pre-trained Transfomer를 해석하면 '미리 훈련(학습)된 생성하는 트랜스포머(변환기)'란 뜻이다.

즉 딥러닝 기술로 방대한 데이터를 미리 학습해 텍스트, 코딩, 문학 등 창의적 결과물을 생성하는 강 인공지능(참고: https://psleon.tistory.com/11)이다.

 

학습 과정

 

 

예시

Q. 짜파게티랑 잘 어울리는 음식이 뭐야?

위 문장을 입력했을 경우 새로운 문장을 생성해 준다.

 

계란 후라이: 0.3

김치: 0.22

단무지: 0.143

부채살: 0.2

대파: 0.001

마늘: 0.0004

위와 같이 적절한 정답 데이터 있을때

가중치가 높은 계란 후라이, 김치나 단무지, 부채살과 같은 값들 중 랜덤하게 값을 반환하여 새롭게 생성한다.

 

이러한 방식을 챗봇 방식으로 구현된 것이 챗-GPT(Chat-GPT)이다.