인공지능 비용이 매년 10배씩 줄어들고 있다.

공부는머리

2025.03.13 12:12:08

조회 1376 추천 12 댓글 22

a14008ac3607b4618e343c70565afdd9b4076651ed54ef5c8c5ffb201db0f703013d7a

"그래서 저는 이 질문을 약간 비켜가려고 하는데요. 하지만 업계 전반에서 정말 놀라운 점 하나는, 샘(Sam Altman)이 최근에 말했듯이, 동일한 수준의 지능을 제공하는 비용이 매년 10배씩 줄어들고 있다는 것입니다.

모델이 점점 더 똑똑해지고 있고, 이전에는 더 큰 모델이 필요했던 지능 수준을 이제는 더 작은 모델로 증류(distill)할 수 있게 되었습니다. 추론(inference) 비용도 낮아지고 있고, GPU도 더 빨라지고 있으며, 이런 여러 가지 기술적 발전이 동시에 이루어지고 있습니다.

예를 들어, 2년 전 GPT-3를 API로 출시했을 때를 돌아보면, 당시에는 GPT-3가 정말 혁신적이었죠. 그런데 만약 지금 여러분이 ChatGPT에서 GPT-3로 다시 바꿔서 사용하게 된다면, ‘이게 도대체 뭐야?’라고 생각할 겁니다. 그만큼 우리가 기대하는 표준 수준이 크게 향상되었습니다.

당시 GPT-3는 매우 인상적이었지만, 지금의 GPT-4o mini와 비교하면 100배나 비쌌습니다. 하지만 4o mini는 훨씬 더 스마트한 모델이죠. 그리고 이 변화가 불과 2년 만에 이루어졌습니다.

과거 무어의 법칙(Moore’s Law)은 반도체 칩의 트랜지스터 수가 18개월마다 2배로 증가한다고 했습니다. 그런데 지금 AI에서는 지능의 비용이 매년 10배씩 줄어들고 있습니다. 훨씬 가파른 지수 함수 곡선을 그리고 있는 셈이죠.

그래서 우리가 계속해서 내리는 중요한 결정 중 하나는, 이 추세가 앞으로도 지속될 것이라는 가정하에 움직인다는 것입니다. 그리고 이를 실현하는 방법 중 하나는, 비용을 낮출 수 있는 기회가 있을 때마다 실제로 가격을 인하하는 것입니다.

추론이 더 효율적이거나, 모델 자체가 더 효율적일 때, 우리는 단순히 이윤을 극대화하는 것이 아니라, 즉시 비용을 절감하고 개발자들에게 혜택을 돌려주려고 합니다.

예를 들어, 샘이 저에게 ‘이 API 비용을 반으로 줄일 수 있을까?’라고 메시지를 보내는 일이 정말 자주 있습니다. 일주일에 한 번이 아니라, 한 주에 여러 번씩 그런 요청이 들어옵니다.

그래서 우리는 언제든 비용을 낮출 수 있을 때마다 그렇게 합니다. 그리고 우리는 이러한 비용 절감이 계속될 것이라고 확신하고 있습니다.

실제로 우리가 특정 모델의 가격을 낮출 때마다, 사용량이 증가한다는 것을 발견했습니다. 이전에는 경제적으로 타당하지 않았던 사용 사례들이, 비용이 줄어들면서 갑자기 수익성을 갖게 되는 것입니다. 이런 방식으로 더 많은 AI를 세상에 보급할 수 있게 됩니다.

이러한 추세는 앞으로도 계속될 것입니다."

https://x.com/btibor91/status/1899742147017908691

Tibor Blaho님(@btibor91)

Kevin Weil (CPO, OpenAI) at HumanX 2025 (Monday, March 10, 2025):"So I'll sidestep that a little bit, but one thing that I think is pretty wild about the industry in general, and Sam said this recently, if you look at sort of a constant level of intelligence and you look at how…

x.com

고정닉 1

원본 첨부파일 1

인공지능 비용.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	매니저들에게 가장 잘할 것 같은 스타는?	운영자	25/03/10	-	-
공지	컴퓨터 본체 갤러리 이용 안내 [164]	운영자	22.12.13	83004	133
5517977	근데 진짜 댓글 안달리니까 커뮤할맛 안나네.. [1]	ㅇㅇ	18:03	7	0
5517976	신남연 대표 배인규의 실체(중졸 검고3수 학폭 미필 강력전과)	컴갤러(61.77)	18:03	2	0
5517975	요즘 5070ti 트리오 150에 많이보이던데	컴갤러(211.235)	18:03	10	0
5517974	컴퓨존 어제 11시에 시키면 언제오냐	컴갤러(59.17)	18:03	4	0
5517973	반본체 견적 평가좀 ㅇㅇ	컴갤러(221.149)	18:03	11	0
5517972	983d 50만원 머임? [3]	컴갤러(106.101)	18:02	41	0
5517971	컴잘알만) 983d는 언제쯤 물량 여유롭게 풀릴까? [1]	ㅇㅇ(101.235)	18:02	11	1
5517970	형들 반본체만 사고 그래픽 카드는 따로 구매하는게 좋음? [1]	컴갤러(211.235)	18:01	9	0
5517969	농협은 이제 퇴물임? [4]	ㅇㅇ(223.38)	18:01	48	0
5517968	9070 살놈들 다샀나봄 재고떨어지는거 개느려짐	ㅇㅇ(223.39)	18:01	14	0
5517967	컴잘알 형님들 글카 사려하는데 도움좀 [2]	ㅇㅇ	18:01	9	0
5517966	세일즈멘트 추천좀 [3]	ㅇㅇ(222.235)	18:00	17	0
5517965	5090 게임락 고주파 괜찮나 [4]	ㅇㅇ(211.222)	18:00	38	0
5517964	프라임 팬소음나는데 [7]	세뇨리따	18:00	44	0
5517963	내장이 미래다 외장 글카 왜 삼? 호구임? [2]	컴갤러(165.132)	17:59	25	0
5517962	당근 니트로 ㅁ친놈 또올렸다ㅋㅋ [2]	ㅇㅇ(223.39)	17:59	106	1
5517961	메인보드 어떤거 갈까요 [3]	ㅇㅇ	17:59	19	0
5517960	신남연 대표 배인규의 실체(중졸 검고3수 학폭 미필 강력전과)	컴갤러(61.77)	17:59	14	0
5517959	신남연 대표 배인규의 실체(중졸 검고3수 학폭 미필 강력전과)	컴갤러(61.77)	17:59	7	0
5517958	70샤 amp 1주사용 중고를 150에... [1]	컴갤러(106.102)	17:59	31	0
5517957	4090컴 2023년도에 400주고맞췄는데 [1]	컴갤러(58.236)	17:59	25	0
5517956	견적짜고 졸업까지 4일걸림	비바람	17:58	23	0
5517955	중고 본체 가격 합리적인지 ?? [3]	컴갤러(211.195)	17:57	22	0
5517954	형들 마크로sd카드 쪼꼬미에 512gb 어떻게 들감? [1]	컴갤러(223.38)	17:57	19	0
5517953	야동도 다운스케일링해서 보는 세상인데 [6]	ㅇㅇ(121.168)	17:57	85	0
5517952	엣지 네이버 str 지랄나던거 고처짐	봉황빈	17:57	9	0
5517951	조탁이 20만원씩만 싸게팔았어도 [2]	ㅇㅇ(211.222)	17:57	65	0
5517949	아수스 9070xt 프라임 112만원 떴는데 [4]	컴갤러(118.222)	17:56	107	0
5517948	중고나라 사기당하면 돈 돌려 받을수있음? [3]	ㅇㅇ(118.235)	17:56	28	0
5517947	근데 영주권을 따도, 외국인은 평생 외국인 인거임? [6]	ㅇㅇ(101.235)	17:56	39	1
5517946	qhd종결낼려면 5080가야함? [10]	컴갤러(118.235)	17:56	62	0
5517945	송출용컴은 cpu랑 글카 뭐 달면 되나요?	컴갤러(211.235)	17:56	7	0
5517944	컴터 신체로 따지면 어디냐 [2]	컴갤러(211.36)	17:55	36	0
5517943	라데온이 엔비디아 이긴거 실화냐 [8]	컴갤러(36.39)	17:55	65	0
5517942	5090동급성능 9070xt아직 안산 흑우없제~	컴갤러(210.124)	17:54	43	0
5517941	미국생활에 환상가진 병신들존나많은데. [25]	ㅇㅇ(175.112)	17:54	99	0
5517940	wqhd+fhd 9600x + 9070xt 성불한다	ㅇㅇ(118.235)	17:54	25	0
5517939	대충 1달만에 컴터 다 맞췄다... [6]	컴갤러(58.78)	17:54	72	1
5517938	모르겠다 5080 질렀다 [18]	컴갤러(141.223)	17:53	118	1
5517937	89만원 비싼가요? [2]	컴갤러(118.235)	17:53	57	0
5517936	5070ti 당근 150ㄱㄱ함? [5]	컴갤러(1.228)	17:53	84	0
5517935	킹오브98 4k에서 250프레임 뽑으려면 글픽카드 뭐써야되나요 [3]	삼겹살2인분(49.164)	17:53	28	0
5517934	5080이 200이면 매력이 있어? [5]	컴갤러(59.18)	17:52	63	0
5517933	신남연 대표 배인규의 실체(중졸 검고3수 학폭 미필 강력전과) [10]	컴갤러(61.77)	17:52	43	0
5517931	형들 컴 킬때마다 이런 소리가 나요 [2]	컴갤러(121.157)	17:52	29	0
5517932	ㅇㅇ	컴갤러(118.235)	17:52	13	0
5517930	탁탁몰 총판 물량 70퍼 소화 공지 보여드림 ㅋㅋ [4]	ㅇㅇ(175.223)	17:52	129	0
5517929	아직도 98x3d가 게임 끝판왕아님? [1]	ㅇㅇ(112.212)	17:51	51	0
5517927	1060 6g도 오리 서브 돌아가냐 [4]	고양이상	17:50	38	0
뉴스	‘7년 열애설’ 코드 쿤스트 “결혼 원하지만 항상 내년으로 미뤄” (나래식)	디시트렌드	14:00