[ Azure OpenAI #8] 모델 매개변수 실험 기록: 설정값에 따라 GPT 답변은 어떻게 달라질까?
앞 글에서는 Temperature, Top-P, Max Tokens, Stop Sequence, Penalty 같은 모델 매개변수가 각각 무엇을 의미하는지 정리했다. 이번 글에서는 한 단계 더 나아가, 같은 프롬프트를 사용하더라도 매개변수 설정에 따라 GPT의 답변이 어떻게 달라지는지 직접 비교해보려고 한다.모델 매개변수는 단순히 옵션을 바꾸는 기능이 아니다. 실제 서비스에서는 답변의 안정성, 창의성, 길이, 반복 정도, 출력 형식을 조절하는 핵심 도구다. 따라서 개념만 아는 것보다, 직접 실험해보고 결과를 비교하는 과정이 훨씬 중요하다.이번 글의 핵심하나의 프롬프트를 고정해두고, Temperature, Top-P, Max Tokens, Stop Sequence, Penalty 값을 하나씩 바꿔보며 답변..
2026. 6. 18.
[Azure OpenAI #7] 모델 매개변수 완전 정리: Temperature, Top-P, Top-K, Max Tokens, Stop Sequence, Penalty
Azure OpenAI를 사용하다 보면 Playground나 API 코드에서 여러 설 정값을 만나게 됩니다. 대표적으로 Temperature, Top-P, Max Tokens, Stop Sequence, Frequency Penalty, Presence Penalty 같은 값들이 있습니다.처음 보면 “그냥 질문만 보내면 되는 것 아닌가?” 싶지만, 실제 서비스 를 만들 때는 이 매개변수들이 꽤 중요합니다. 같은 모델을 사용하더라도 매개변수 설정에 따라 답변이 더 안정적으로 나오기도 하고, 더 창의적으로 나오기도 하며, 길이가 짧아지거나 반복 표현이 줄어들기도 합니다.핵심부터 말하면, 모델 매개변 수는 모델의 지식을 바꾸는 설정이 아니라 모델이 답변을 생성하는 방식을 조절하는 설정입니다. 즉, 모델이 무엇..
2026. 6. 17.
[Azure OpenAI #5] Azure OpenAI Service 전체 구조 이해하기: 리소스, 모델, 배포, Endpoint
[Azure OpenAI #5] Azure OpenAI Service 전체 구조 이해하기: 리소스, 모델, 배포, Endpoint💡 Azure OpenAI Service 핵심 개념 구조 가이드클라우드 기반 생성 AI 모델 사용을 위한 인프라 구조와 필수 용어 완벽 정리들어가며이전 글에서는 LLM이 텍스트를 어떻게 처리하고, Transformer와 GPT가 어떤 구조로 동작하는지 정리했다.이번 글부터는 이론에서 한 단계 넘어가서, 실제로 Azure 환경에서 OpenAI 모델을 사용하는 구조를 정리해보려고 한다. 처음 Azure OpenAI를 보면 헷갈리는 단어가 많다.Resource Group, Azure OpenAI Resource, Azure AI Foundry, Model, Deployment, E..
2026. 6. 17.
