마지막 비추론 AI 모델된 GPT4.5, 비추론과 추론 모델은 어떤 차이?

IT동아

2025.03.12 15:41:38

조회 1550 추천 3 댓글 2

[IT동아 남시현 기자] 지난 2월 27일(현지 시각), 오픈AI가 새로운 대형언어모델(LLM) GPT-4.5의 연구 미리보기 모델을 선보였다. GPT-4.5는 지금까지 출시된 GPT 모델 중 가장 큰 모델이며, 사람의 감독 없이 데이터를 통해 학습하는 기계학습의 한 유형인 ‘비지도 학습’을 적용해 응답 정확도와 직관성을 높였다. 한편 샘 알트만 오픈AI 최고경영자는 GPT-4.5가 마지막 비추론 모델이 될 것이며, GPT-5부터는 추론 모델과 통합된 모델로 출시될 것이라고 말했다.

GPT-4o는 비추론, o1 계열은 추론 모델이다. 현재는 o1, o3-mini, o3-mini-high도 쓸 수 있다 / 출처=오픈AI

현재 오픈AI는 추론 모델인 o1, o3-mini, o3-mini-high, 비추론 모델인 GPT-4o, GPT-4.5를 각각 서비스하고 있다. 월간 결제 사용자 입장에서는 GPT-4o가 기본 설정돼 있고, 추가로 o1, o3 등을 모두 사용할 수 있어 어떤 상황에 어떤 GPT 버전이 좋을지 짐작이 어렵다. 기술적으로 추론 모델과 비추론 모델은 어떤 차이가 있으며, 상황에 따라 어떤 모델을 활용하는 것이 좋은지 정리한다.

결과만 내놓는 비추론 모델, 고민하는 추론 모델

AI 모델은 데이터를 활용해 패턴과 규칙을 학습하도록 만드는 과정인 학습(Training), 학습된 모델을 활용해 예측 및 결정을 내리는 추론(Inference)으로 나뉜다. 예를 들어 AI 모델은 ‘사과’라는 과일을 그 자체로는 인지할 수 없다. 따라서 사과의 사진 및 수집 자료를 전처리해 사과라는 데이터를 만들고, ‘이 형태의 데이터는 사과다’라고 학습시킨다. 이 과정까지가 훈련이다. 추론 단계는 이미 학습이 완료된 데이터를 기반으로 사용해 곧바로 사과를 인지하는 과정을 뜻한다.

기존 GPT-4 계열의 비추론 모델은 결과 제공을 우선하고, 추론 모델은 설명을 우선한다 / 출처=엔비디아

그렇다면 GPT-4.5의 비추론은 무엇을 의미할까? 기본적으로 추론 모델은 보유 데이터를 기반으로 상황에 맞는 표현이나 최선의 답변을 생성하기 위한 처리 과정을 거친다. 내부의 데이터 처리 과정을 짚어볼 수 있어서 업계에서는 ‘설명 가능한 AI(eXplainable AI, XAI)’라고도 부른다. 반면 비추론 모델은 데이터를 활용하는 건 동일하고 결과까지 제공하지만, 어떤 과정을 거쳐 결론에 도달했는지를 알 수 없다. 업계에서는 비추론 모델의 처리 과정이 깜깜하다고 해 ‘블랙박스’라고 부른다.

따라서 ‘사과 인지 AI 모델’이 있다면, 추론 모델은 AI가 어떻게 사과를 인지했는지 단계적으로 알 수 있다. 사과의 이미지를 가져와 정규화 및 크기를 조정해 데이터를 정리하고, 여러 필터를 사용해 이미지의 선, 형태, 색상변화 등 기본적인 특징을 추출한 뒤 사과 특유의 형태나 표면 질감 등을 인식한다. 그다음 여러 특징들을 연결하고, 객체를 판단한다. 이 과정에서 어떤 데이터가 어떻게 동원됐는지, 왜 이런 결론이 이르렀는지를 알 수 있다. 반면 비추론 모델은 처리 내용이 불투명한 블랙박스를 거쳐 결과가 나오므로 사과를 인지했다는 결론만 낸다.

좌측이 GPT-4.5 결과, 우측이 o1 결과다. o1쪽이 더 상세하게 구체적인 결과 도출 과정을 설명해준다 / 출처=IT동아

결과 도출 과정을 알 수 있는가, 모르는가는 큰 차이를 만든다. 비추론 모델은 절차를 공개하지 않으니 서비스 기업이 AI 보안을 유지하는 데 있어서는 도움이 되고, 사용자가 빠르게 결과만 알 수 있다는 장점이 있다. 다만 계산 과정이 숨겨져 있어 과정을 이해하기 어렵고, 결과가 잘못 나오거나 모순이 있어도 원인을 파악하거나 학습 용도로 쓸 수 없다. 과학이나 의학 연구 등 광범위한 데이터를 다루는 분야에서는 어떤 부분이 문제인지 알 수 없어 곤란하다.

추론 모델은 사고 과정이나 근거를 알 수 있으니 과학 기술 연구나 화학, 재료 공학 등 AI 분야를 활용할 수 있는 다양한 분야에서 활용도가 높다. 다만 정보가 과도하게 유입될 여지가 있고, 추론 과정 중 잘못된 오류가 개입하면 최종 결과에 영향을 줄 수 있다. 해석 과정을 공개하는 만큼 보안 문제도 있을 수 있다. 에너지 소모량 측면에서는 큰 차이가 없다. 추론 모델이 추가 연산 및 후처리가 조금 더 들어간다는 정도의 차이인데, 단일 질문으로는 비슷하고 데이터 센터 규모 레벨로 환산하면 차이가 있는 정도다.

챗GPT, 어떤 상황에서 어떤 모델 쓰는 게 좋나?

챗GPT 무료 모델은 비추론 모델인 GPT-3.5 기반이고, 월 20달러 구독부터 최신 추론 및 비추론 모델을 사용할 수 있다. 현재 주력으로 쓸 수 있는 비추론 모델은 GPT-4o, 추론 모델은 o1 및 o3-mini다. 논리정연한 결과를 원한다면 o3-mini를, 코딩이나 논리적 작업에는 o3-mini-high도 좋다.

이미 정의가 내려진 부분에 대해서는 크게 다르지 않은 결과를 제공한다. 대신 제공하는 데이터를 나열하는지, 논리적으로 접근하는지의 차이는 있다 / 출처=IT동아

기본적인 질문에 대한 대답은 GPT-4o나 o1이나 크게 다르지 않다. GPT-4o과 o1에 ‘순수이성 비판에 나오는 자각의 예취란 무엇인가’를 각각 질문했다. 이때 GPT-4o는 예취라는 사전적 개념과 이를 이해하기 위한 배경 지식들, 그리고 이해 방법과 결론을 자료 조사 방식처럼 나열한다. 반면 추론 모델인 o1은 실제로 설명하는 방식처럼 자각의 예취를 설명하며, 해당 개념을 이론적으로 풀어 단계별로 설명한다.

더 쉽게 설명하기 위해 요리 레시피를 입력하면 GPT-4o는 재료와 절차를 중심으로 설명하는 반면, o1은 각 단계에서 어떤 재료를 얼만큼 넣을지, 어떻게 가공할지, 레시피 순서에 따른 의미는 무엇이며 어떤 재료나 도구가 도움이 될지를 각각 설명한다. 즉 정의내려진 내용을 물어볼 때를 기준으로 한다면, 비추론 모델은 도서관처럼 필요한 자료를 차곡 제공하는 방식이고, 추론 모델은 이를 이해하기 쉽게 논리적으로 정리해서 제공하는 식이다.

GPT-4o는 단순 결론만 제공하는 반면, o1 모델은 다섯 단계에 걸쳐 상세하게 결론을 제공한다는 차이가 있다 / 출처=IT동아

수학 등 명확한 정답이 있는 문제를 빠르게 결론내고 싶다면 GPT-4o를 비롯한 비추론 모델을, 각 과정에 대한 상세 설명을 보고 확인하고 싶다면 추론 모델인 o1, o3를 쓰는 게 정확하다. ‘연간 수익률 7%, 3개월마다 2000달러(약 289만 원)를 10년 동안 투자할 경우의 미래 가치를 계산해줘’라는 질문을 했을 때, GPT-4o는 파이썬(Python) 기반으로 결과만 제공하는 반면 o1은 각 절차와 수식을 정확히 상세 설명한다. 다른 과학이나 코딩 등도 같은 방식으로 접근하면 된다.

모호하고 추상적인 질문에 대해서도 o1쪽이 조금 더 논리적인 답을 내놓는다 / 출처=IT동아

모호한 질문이나 대규모 데이터에 대한 작업도 추론 모델이 더 적합하다. ‘세상 사람들이 생각하는 정의의 기본 개념’이라는 모호한 질문을 던졌다. 이때 GPT-4o는 존 롤스나 아리스토텔레스, 소크라테스, 마틴 루터 킹 주니어 등 이미 정의된 데이터를 기반으로 제시하는 반면, o1은 관련 인사들의 발언을 한차례 더 가공한 뒤 조금 더 사람이 생각한 것 같은 문맥으로 정리한다. 대규모 데이터를 다루는 경우에도 사용자가 필요한 내용에 좀 더 집중하는 경향이 있다.

일반적인 작업이라면 GPT 사용 모델이 추론인가, 비추론인가를 따질 필요는 없다. 하지만 작업의 구성에 따라 맞춰서 사용하면 더 효율적으로 작업할 수 있다. 게다가 GPT-5부터는 추론과 비추론 모델이 통합되고, 다른 AI 제조사들 역시 추론과 비추론을 통합하는 단계에 있어 이를 구분하는 것도 잠깐 사이의 일이다. 따라서 추론, 비추론의 구분은 AI 동작 방식에 대한 이해를 돕기 위한 상식 정도로 여기도록 하자.

IT동아 남시현 기자 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 통신사용 AI 평가하는 ‘오픈 텔코 LLM 벤치마크’ 공개 ▶ [생성 AI 길라잡이] “인공지능 생성 결과물로 나만의 콘텐츠 만들자” 캔바 ▶ [투자를IT다] 2025년 3월 1주차 IT기업 주요 소식과 주가 흐름

고정닉 1

원본 첨부파일 6본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	매니저들에게 가장 잘할 것 같은 스타는?	운영자	25/03/10	-	-
5007	퓨어스토리지 “플래시블레이드//EXA는 AI∙HPC 위한 최적의 스토리지”	IT동아	22:10	14	0
5006	“고객 서비스 구축 과정 단축” 센드버드, A2A 기반 지능형 에이전트 서비스 공개	IT동아	21:59	14	0
5005	23년 만에 바뀌는 운전면허증·보행 약자 위한 교통안전 강화 추진	IT동아	21:27	17	0
5004	SKT-슈나이더 일렉트릭, AI 데이터센터 솔루션 공동 개발 나선다	IT동아	19:02	23	0
5003	[민관협력 오픈이노베이션 지원사업] 리젠티앤아이, '건축 폐기물로 고품질 친환경 플라스틱 만든다'	IT동아	17:25	27	0
5002	[주간스타트업동향] 딥엑스, 뉘른베르크 임베디드 월드 통해 글로벌 기업과 협업 外	IT동아	16:46	28	0
	마지막 비추론 AI 모델된 GPT4.5, 비추론과 추론 모델은 어떤 차이? [2]	IT동아	15:41	1550	3
5000	필립스코리아 “수면무호흡증 환자 증가하지만 인식은 낮다”	IT동아	15:38	31	0
4999	킬사글로벌, 스타트업 해외시장 진출 돕는 '글로벌 홍보 증진 프로그램' 합류	IT동아	14:38	35	0
4998	[민관협력 오픈이노베이션 지원사업] 밀리어스 “CJ온스타일의 브랜딩 전략 구축 지원받아 세계 진출 발판 마련한 밀리밀리”	IT동아	10:57	46	0
4997	[리뷰] “고부하 작업과 게이밍 사이의 조화” AMD 라이젠 9 9950X3D [1]	IT동아	00:38	1867	3
4996	연세퀀텀컴플렉스 개소…양자컴퓨팅 미래 앞당길까	IT동아	03.11	55	0
4995	[시승기] 더 커진 차체와 첨단 기술 앞세워 돌아온 ‘신형 팰리세이드’	IT동아	03.11	65	0
4994	LG∙삼성의 가전 구독 서비스, 기존 렌탈∙할부와의 차이점은? [1]	IT동아	03.11	618	0
4993	통신사용 AI 평가하는 ‘오픈 텔코 LLM 벤치마크’ 공개	IT동아	03.10	103	0
4992	일상 속 RFID의 쓰임새, 그리고 차단 기술의 원리는? [1]	IT동아	03.10	1938	0
4991	아이폰 실수로 전화 걸기 방지하려면 이렇게! [이럴땐 이렇게!]	IT동아	03.10	104	0
4990	[주간투자동향] 젠젠에이아이, 120억 원 규모 시리즈A 투자 유치 外 [1]	IT동아	03.10	533	0
4989	[리뷰] 썬더볼트 기능에 뛰어난 화질까지, 델 울트라샤프 U2725QE	IT동아	03.10	89	0
4988	[생성 AI 길라잡이] “인공지능 생성 결과물로 나만의 콘텐츠 만들자” 캔바 [2]	IT동아	03.07	6973	2
4987	[신차공개] 볼보, 차세대 전기 세단 ‘ES90’·KGM 첫 HEV ‘토레스 하이브리드’ 공개	IT동아	03.07	178	0
4986	[투자를IT다] 2025년 3월 1주차 IT기업 주요 소식과 주가 흐름	IT동아	03.07	163	0
4985	[리뷰] 비밀번호 없이 안면 인식으로 열린다, 직방 헤이븐 도어록 [11]	IT동아	03.07	4856	1
4984	[생활 속 IT] 내 위치 실시간 공유, 카카오맵 ‘위치 공유’	IT동아	03.07	153	0
4983	[IT애정남] 대중화 시작된 와이파이 7, 어떻게 구축하고 쓰나요?	IT동아	03.07	196	0
4982	람보르기니, 우라칸 후속 920마력 HPEV 슈퍼카 ‘테메라리오’ 공개 [1]	IT동아	03.06	566	1
4981	MWC 2025 무대 선 통신장비사, 주목한 AI 기술 살펴보니	IT동아	03.06	213	0
4980	[리뷰] 음식물 처리기를 백색 가전 반열로, '이롭 더 그레블' [1]	IT동아	03.06	806	0
4979	SBA, 높아지는 美 보호무역 대응 위한 '제재 준수 프로그램' 등 지원 나서	IT동아	03.06	548	0
4978	스타트업 투자 유치 프로젝트 '와우데이' 개최... 유망 스타트업과 투자자 연결의 장	IT동아	03.06	145	0
4977	[ETF 기본기 다지기] ETF 상품 선택 시 고려해야 할 3가지	IT동아	03.06	139	1
4976	[리뷰] “가격과 성능 둘 다 잡았다” AMD 라데온 RX 9070 시리즈 [3]	IT동아	03.06	2703	4
4975	"장비 가리지 않고 개인정보 지킨다" 노드시큐리티, 한국 개인 보안 시장 정조준	IT동아	03.06	158	0
4974	[생활 속 IT] 아이폰 기본 메모에서 실시간 공동 작업하려면 [1]	IT동아	03.05	4984	2
4973	[주간스타트업동향] 조윈, 암 환우 심리상담 앱 '캔서포트' 정식 출시 外	IT동아	03.05	154	0
4972	“스테이블코인 규제, 금융 안정 고려해야”	IT동아	03.05	158	0
4971	함기호 AWS 코리아 대표, "AI의 IT 이점을 비즈니스 이점으로 가져가야"	IT동아	03.05	224	0
4970	SBA, 초격차 스타트업 대상 '제1회 버티컬 AI 챌린지·제2회 온디바이스AI 챌린지' 공모	IT동아	03.05	158	0
4969	유통계에 부는 AI 바람…네이버 플러스스토어 앱 나아갈 방향은?	IT동아	03.04	177	0
4968	[자동차와 法] 역사 속으로 사라지는 자동차번호판 봉인제도 [1]	IT동아	03.04	494	0
4967	[뉴스줌인] 갤S25 맞먹는 샤오미 15 시리즈, 국내 출시도 유력? [7]	IT동아	03.04	582	2
4966	조용히 등장한 MS 365 무료 광고버전··· '가벼운 편집 OK, 기능 제약 많아'	IT동아	03.04	188	0
4965	오래된 중고 카메라가 고장 난다면 어떻게? [이럴땐 이렇게!]	IT동아	03.04	659	0
4964	트랜쇼·꾼, 'EV 스마트 물류 혁신' 목표로 인수합병 추진	IT동아	03.04	1921	0
4963	CIT, MWC 2025서 유리기판-구리 증착 기술, 투명 안테나·디스플레이 선보여	IT동아	03.03	216	0
4962	[투자를IT다] 2025년 2월 4주차 IT기업 주요 소식과 주가 흐름	IT동아	03.01	7081	0
4961	‘인공지능 역량 높여 게이밍 성능 개선’ AMD, 라데온 RX 9070 시리즈 그래픽카드 공개 [9]	IT동아	03.01	10106	10
4960	[리뷰] 콘텐츠 품질 높이는 프로급 짐벌, DJI RS 4 미니	IT동아	02.28	351	0
4959	[생성 AI 길라잡이] 인공지능 생성물에 워터마크 표시…효과와 한계는?	IT동아	02.28	406	0
4958	[기술영업人] 고객관계관리에서 AI 기반으로, 세일즈포스의 기술영업 방법론은?	IT동아	02.28	345	0
뉴스	‘요리하는 돌아이’ 윤남노 “뚜껑 열렸다…거꾸로 생각해봐라”	디시트렌드	18:00