본문 바로가기
Azure OpenAI Engineering/LLM

[Azure OpenAI #1] 생성형 AI란 무엇인가? GPT는 왜 특별할까?

by yunalee-dev 2026. 6. 17.

1. 오늘의 핵심 질문

Azure OpenAI를 본격적으로 공부하기 전에 먼저 생성형 AI와 GPT가 무엇인지 정리해보려고 한다.

이번 글에서 다룰 핵심 질문은 다음과 같다.

  • 생성형 AI란 무엇인가?
  • 기존 AI와 생성형 AI는 무엇이 다른가?
  • GPT는 왜 생성형 AI에서 중요한 모델인가?
  • GPT는 실제로 어떤 작업에 활용될 수 있는가?
이번 글은 Azure OpenAI를 사용하기 전에 반드시 알아야 할 생성형 AI와 GPT의 기본 개념을 정리하는 글이다.

2. 개념 정의

(1) 생성형 AI란 무엇이며, 기존 AI와는 무엇이 다른가?

기존 AI는 주어진 데이터를 보고 분류하거나 예측하는 역할을 주로 했다.

예를 들어 다음과 같은 작업이 기존 AI의 대표적인 활용 방식이다.

이 메일은 스팸인가?
이 사진은 고양이인가, 강아지인가?
이 고객은 이탈할 가능성이 높은가?
내일 매출은 어느 정도일까?

즉, 기존 AI는 주어진 데이터를 바탕으로 판단하는 AI에 가까웠다.

반면 생성형 AI는 여기서 한 단계 더 나아가, 단순히 판단하는 것을 넘어 새로운 결과물을 만들어내는 AI이다.

예를 들면 다음과 같은 작업을 수행할 수 있다.

글 작성하기
보고서 요약하기
이미지 만들기
코드 생성하기
메일 초안 작성하기
번역하기

정리하면, 기존 AI가 데이터를 보고 “무엇인지 판단하는 AI”라면, 생성형 AI는 사용자의 요청에 맞게 “새로운 콘텐츠를 만들어내는 AI”라고 볼 수 있다.

구분 기존 AI 생성형 AI
주요 역할 분류, 예측, 판단 새로운 콘텐츠 생성
입력 데이터, 이미지, 숫자, 텍스트 텍스트 프롬프트, 이미지, 문서 등
출력 라벨, 점수, 확률, 예측값 문장, 요약문, 코드, 이미지, 답변
예시 스팸 분류, 이미지 인식, 매출 예측 ChatGPT, 이미지 생성, 코드 생성
특징 정해진 범주 안에서 판단 맥락에 맞는 새로운 결과 생성

(2) GPT는 무엇인가?

GPT는 다음의 약자이다.

G : Generative
P : Pre-trained
T : Transformer

즉, GPT는 미리 대규모 텍스트를 학습한 Transformer 기반 생성 모델이다.

쉽게 말하면, GPT는 많은 텍스트 데이터를 학습한 뒤 사용자의 입력 문맥을 보고 다음에 올 말을 예측하면서 문장을 이어가는 모델이다.

예를 들어 사용자가 질문을 입력하면, GPT는 그 질문의 문맥을 바탕으로 다음에 올 가능성이 높은 단어들을 하나씩 선택해 답변을 만들어낸다.

다만 GPT가 생성하는 답변이 항상 사실을 보장하는 것은 아니다. 문맥상 자연스럽고 그럴듯한 답변을 만들 수는 있지만, 실제로는 틀린 정보를 말할 수도 있다. 그래서 중요한 정보는 반드시 검증이 필요하다.


(3) GPT가 특별한 이유

GPT가 AI 신드롬을 불러일으킨 가장 결정적인 이유는 자연어로 원하는 작업을 지시할 수 있다는 점이라고 생각한다.

이전에는 컴퓨터에게 일을 시키려면 사람이 컴퓨터가 이해할 수 있는 방식으로 명령해야 했다. 코드를 작성하거나, 정해진 메뉴를 선택하거나, 특정 형식에 맞춰 입력해야 했다.

하지만 GPT는 사용자가 일상적인 언어로 요청해도 다양한 작업을 수행할 수 있다.

이 글을 3줄로 요약해줘.
이 문장을 영어로 번역해줘.
이 내용을 바탕으로 이메일을 작성해줘.
이 오류 메시지를 설명해줘.
Python 코드로 바꿔줘.
GPT의 특별함은 사용자가 복잡한 명령어나 프로그래밍 지식 없이도 자연어로 AI에게 일을 맡길 수 있다는 점에 있다.

(4) GPT가 잘하는 일은 무엇인가?

GPT가 만능처럼 보일 수 있지만, GPT가 모든 일을 완벽하게 처리하는 것은 아니다. 다만 대표적으로 강점을 보이는 작업은 크게 네 가지로 정리할 수 있다.

1. 챗봇
2. 요약
3. 번역
4. 코드 생성

1) 챗봇

기존 챗봇을 떠올려보면, 정해진 시나리오에 따라 버튼을 누르거나 정해진 질문을 선택해야 하는 경우가 많았다. 내가 정말 알고 싶은 정보를 바로 얻기보다는 챗봇과 여러 번 대화한 뒤에야 원하는 메뉴로 이동하거나, 결국 상담원 연결을 기다려야 하는 경우도 많았다.

반면 생성 AI 기반 챗봇은 자연어 처리와 문맥 이해를 통해 더 유연하게 대응할 수 있다.

예를 들어 사용자가 다음과 같이 질문했다고 해보자.

어제 주문한 상품이 아직 안 왔는데 어떻게 확인하나요?

기존 챗봇은 “배송 조회 메뉴를 선택하세요” 정도의 정해진 답변을 줄 수 있다. 하지만 GPT 기반 챗봇은 사용자의 상황을 이해하고, 배송 조회 방법, 주문 번호 확인 방법, 고객센터 문의 방법 등을 자연스럽게 안내할 수 있다.

2) 요약

GPT는 긴 텍스트에서 핵심 내용을 추출하고, 사용자가 원하는 형식으로 요약할 수 있다.

예를 들어 회의록을 5줄로 정리하거나, 보고서의 핵심 쟁점을 표로 만들거나, 강의자료를 시험 대비 요약본으로 바꿀 수 있다.

이 회의록에서 결정사항만 정리해줘.
이 보고서를 3줄로 요약해줘.
이 강의자료에서 시험에 나올 만한 개념만 정리해줘.

즉, GPT는 단순히 글을 줄이는 것이 아니라 사용자의 목적에 맞게 내용을 다시 구성할 수 있습니다.

3) 번역

GPT의 번역은 단순히 단어를 1:1로 바꾸는 방식에 그치지 않는다.

문맥과 목적에 맞게 자연스러운 표현을 선택할 수 있고, 상황에 따라 말투도 조절할 수 있습니다.

비즈니스 이메일처럼 정중하게 번역해줘.
친구에게 말하듯 자연스럽게 번역해줘.
학술적인 표현으로 번역해줘.

따라서 GPT는 단순 번역뿐만 아니라 목적에 맞는 표현 조정에도 활용될 수 있다.

4) 코드 생성

GPT는 자연어로 설명한 요구사항을 코드로 바꾸는 데도 유용하다.

예를 들어 다음과 같이 요청할 수ust 있습니다.

CSV 파일을 읽어서 결측치를 제거하는 Python 코드를 작성해줘.
이 SQL 쿼리가 무슨 의미인지 설명해줘.
이 오류 메시지의 원인을 알려줘.
이 코드를 더 깔끔하게 리팩토링해줘.

이처럼 GPT는 코드 초안을 만들거나, 기존 코드를 설명하고, 오류 해결 방향을 제안하는 데 도움을 줄 수 있다.

생성된 코드가 항상 정확하거나 안전한 것은 아니기 때문에, 개발자는 반드시 실행 결과를 확인하고 필요한 부분을 수정해야 한다.

3. 왜 필요한가?

생성형 AI가 필요한 이유는 사람이 원하는 작업을 자연어로 설명하고, AI가 그에 맞는 결과물을 만들어낼 수 있기 때문이다.

기존에는 특정 작업을 자동화하려면 그 작업에 맞는 프로그램이나 모델이 따로 필요했다. 예를 들어 번역은 번역 시스템, 요약은 요약 시스템, 고객 응대는 챗봇 시스템처럼 각각 다른 방식으로 구현해야 했다.

하지만 GPT와 같은 생성형 AI는 자연어 지시를 기반으로 다양한 작업을 하나의 모델에서 처리할 수 있다.

특히 실제 서비스에서는 다음과 같은 문제가 자주 발생한다.

고객이 정해진 질문 형식대로 물어보지 않는다.
사용자가 원하는 답변 형식이 매번 다르다.
문서가 너무 길어 사람이 바로 읽기 어렵다.
반복적인 이메일, 보고서, 코드 작성 업무가 많다.
기존 챗봇은 정해진 시나리오 밖의 질문에 약하다.

생성형 AI는 이런 문제를 해결하는 데 도움을 줄 수 있다.

사용자의 질문을 자연어로 이해하고, 문맥에 맞는 답변을 생성하며, 필요한 경우 요약·번역·코드 작성·문서 생성까지 수행할 수 있기 때문이다.

Azure OpenAI를 공부한다는 것은 단순히 GPT를 사용하는 법을 배우는 것이 아니라, 생성형 AI를 실제 서비스와 업무 자동화에 어떻게 연결할 수 있는지 배우는 과정이라고 볼 수 있다.

4. 동작 원리

GPT는 문장을 한 번에 완성된 형태로 만들어내는 것이 아니라, 이전 문맥을 바탕으로 다음에 올 단어 또는 토큰을 하나씩 예측하면서 문장을 생성한다.

예를 들어 다음 문장이 있다고 해보자.

오늘 날씨가 정말

이 문맥 뒤에는 다음과 같은 단어들이 올 수 있다.

좋다
춥다
덥다
맑다

GPT는 이전 문맥을 바탕으로 다음에 올 가능성이 높은 단어를 예측하고, 그 단어를 선택한 뒤 다시 다음 단어를 예측한다. 이 과정을 반복하면서 하나의 문장이 만들어진다.

즉, GPT는 사용자의 입력을 이해하고 그에 맞는 답변을 생성하는 것처럼 보이지만, 내부적으로는 문맥을 바탕으로 다음 토큰을 확률적으로 예측하는 방식으로 동작한다.

이 때문에 같은 질문을 하더라도 설정값이나 문맥에 따라 답변이 조금씩 달라질 수 있다. 이후에 공부할 Temperature, Top-P 같은 매개변수는 바로 이 생성 과정에서 답변의 다양성이나 안정성을 조절하는 역할을 한다.


5. 헷갈렸던 점

처음에는 생성형 AI가 AI의 시작인 줄 알았다. ChatGPT가 등장하면서 AI가 대중적으로 크게 알려졌기 때문에, AI라고 하면 자연스럽게 생성형 AI를 먼저 떠올렸기 때문이다.

하지만 공부해보니 생성형 AI 이전에도 AI는 존재했다. 다만 이전의 AI는 주로 정해진 기준에 따라 데이터를 분류하거나 예측하는 방식으로 사용되었다.

예를 들어 스팸 메일을 분류하거나, 이미지를 인식하거나, 매출을 예측하는 것이 기존 AI의 대표적인 활용이었다.

생성형 AI는 여기서 더 나아가 사용자가 자연어로 입력한 요청을 바탕으로 글, 코드, 요약문, 번역문 같은 새로운 결과물을 만들어낸다.

이 차이를 이해하고 나니, 생성형 AI의 핵심은 단순히 “AI가 대답을 잘한다”가 아니라 사람이 자연어로 원하는 작업을 지시하고, AI가 그 결과물을 생성할 수 있게 되었다는 점이라는 것을 깨달았다.

또 GPT는 검색 엔진처럼 기존 문서를 그대로 찾아오는 것이 아니라, 학습한 언어 패턴과 입력된 문맥을 바탕으로 다음 토큰을 예측하면서 답변을 생성한다는 점도 중요했다.

그래서 GPT의 답변은 자연스럽고 유용할 수 있지만, 항상 사실이라고 믿기보다는 검증하는 태도가 필요하다.


6. 정리

이번 글에서는 Azure OpenAI를 공부하기 위한 첫 단계로 생성형 AI와 GPT의 기본 개념을 정리했다.

정리하면 다음과 같다.

  • 생성형 AI는 텍스트, 이미지, 코드 등 새로운 콘텐츠를 만들어내는 AI이다.
  • 기존 AI가 주로 분류와 예측에 강했다면, 생성형 AI는 새로운 결과물 생성에 강하다.
  • GPT는 대규모 텍스트를 미리 학습한 Transformer 기반 언어 모델이다.
  • GPT는 챗봇, 요약, 번역, 코드 생성 등 다양한 작업에 활용될 수 "있다.
  • 다만 GPT는 그럴듯하지만 틀린 답변을 할 수 있으므로 검증이 필요하다.

7. 다음에 공부할 것

이번 글에서는 생성형 AI와 GPT가 무엇인지 큰 흐름을 정리했다.

다음 글에서는 GPT가 텍스트를 어떻게 처리하는지 더 구체적으로 살펴볼 예정이다. 특히 LLM이 사용하는 토큰(Token) 개념과, 텍스트를 숫자 벡터로 바꾸는 임베딩(Embedding) 개념을 중심으로 정리해보려고 한다.

다음 글의 주제는 다음과 같다.

[Azure OpenAI #2] GPT는 문장을 어떻게 이해할까? 토큰과 임베딩 이해하기