tech
ChatGPT 이름 끝의 세 글자에는 그 작동 방식이 숨어 있습니다. 먼저 방대한 텍스트로 학습한 뒤, 특별한 신경망 구조 위에서 답을 만들어냅니다.
GPT는 '생성적 사전학습 트랜스포머(Generative Pre-trained Transformer)'의 약자입니다. '생성적'이라는 건 기존 텍스트를 분류만 하는 게 아니라 새로운 텍스트를 만들어낸다는 뜻이고, '사전학습'은 세부 조정에 앞서 방대한 데이터로부터 먼저 일반적인 언어 패턴을 학습했다는 뜻이며, '트랜스포머'는 대규모 언어 모델링을 실용화한, 어텐션 메커니즘을 중심으로 한 신경망 구조를 가리킵니다.
'General Purpose Technology'나 'Global Personal Tool'은 G, P, T 세 글자에는 들어맞지만, 이 약자가 실제로 담고 있는 의미, 즉 모델의 생성적 성격과 학습 방식, 그리고 아키텍처를 제대로 반영하지는 못합니다.
GPT의 기반이 된 트랜스포머 아키텍처는 챗GPT가 출시되기 불과 몇 년 전에 소개됐지만, 이후 오픈AI뿐 아니라 대부분의 주요 언어 모델이 딛고 선 토대가 됐습니다.
tech
그런 챗봇과 'AI 에이전트'를 근본적으로 다르게 만드는 것은 무엇일까요?'머신러닝(기계학습)'이란?소프트웨어가 '오픈소스'라는 건 무슨 뜻일까?'블록체인'을 쉽게 말하면?클라우드 컴퓨팅에서 '클라우드'란?AI의 '신경망'은 무엇을 본떠 느슨하게 만들어졌을까요?'NFT'는 무엇을 나타낼까?소프트웨어에서 'API'란 무엇일까요?'튜링 테스트'는 무엇을 측정할까요?'컴퓨터 비전'이란 무엇일까요?'프롬프트 엔지니어링'이란 무엇일까요?AI에서 'LLM'은 무엇의 약자일까?Quration — Quration Play