엔비디아, 'NIM 마이크로서비스'에서 딥시크-R1 프리뷰 제공

indinews

2025.02.04 20:00:06

조회 410 추천 0 댓글 1

엔비디아(NVIDIA)가 중국 AI 스타트업 딥시크(DeepSeaq)에서 개발한 오픈 모델 '딥시크-R1'을 자사 NIM 마이크로서비스 플랫폼에서 프리뷰로 제공한다고 발표했다.

MoE 구조로 더 방대한 학습

온라인커뮤니티

엔비디아는 3일(현지시간) 공식 블로그를 통해 "딥시크-R1을 기반으로 생성형 AI 애플리케이션 개발자들이 안정적이면서도 확장 가능한 추론을 구현할 수 있게 됐다"고 밝혔다. 특히 단일 엔비디아 HGX H200 시스템에서 초당 최대 3872개의 토큰을 전송할 수 있다고 강조해, 고성능 AI 추론 처리 능력을 보여줬다.

딥시크-R1은 최신 추론 기능을 갖춘 오픈 모델로, 질문에 대한 단순 답변 대신 여러 차례 '사고 과정을 반복'해 최적의 답을 도출하는 '에이전틱(Agetic) AI'에 적합하다는 게 엔비디아 측의 평가다.

딥시크-R1은 여러 전문가 모델(Expert Model)을 조합하는 MoE(Mixture of Experts) 구조로 만들어졌다. 기존 공개 모델에 비해 10배 많은 6710억 개의 파라미터, 최대 12만8000개 토큰을 입력받을 수 있는 거대한 컨텍스트 길이를 특징으로 한다.

이러한 대형 모델에서 실시간 추론과 높은 품질의 응답을 동시에 구현하기 위해서는 추론 과정 자체가 늘어나는 만큼(여러 번의 사고 패스), 더욱 대규모 컴퓨팅 환경이 요구된다. 엔비디아가 NVLink 기반의 H200 GPU 클러스터와 NIM 마이크로서비스 최적화를 결합해 이 문제를 해결했다고 설명하는 이유다.

딥시크-R1으로 에이전트 개발 안전·확장성 두 마리 토끼 잡는다

엔비디아는 "NIM 마이크로서비스에 딥시크-R1을 프리뷰로 공개함으로써 개발자들이 에이전틱 AI 솔루션을 빠르고 쉽게 구축할 것"이라고 기대감을 드러냈다.

기존 모델들이 단일 엔드투엔드 답변을 도출하는 데 집중했다면, 딥시크-R1은 문제를 여러 번 사고해 최상의 결과에 도달하는 방식을 채택했다는 점에서, 논리적 추론과 수학, 코딩, 언어 처리 등에 강점을 보이는 모델로 꼽힌다.

한편, 엔비디아 NIM 마이크로서비스 자체가 생성형 AI 애플리케이션에 안전성과 정확성을 높여주는 플랫폼인 만큼, 딥시크-R1과 함께 '가속 추론 + 리스크 최소화'를 동시에 노릴 수 있다는 것이 장점이다.

엔비디아 측은 "향후 더 많은 오픈 모델들을 NIM에 연결해, AI 산업 전반의 추론 효율을 끌어올릴 것"이라며 "에이전틱 AI가 요구하는 방대한 스케일을 이끌 인프라가 가속 컴퓨팅"이라고 재차 강조했다.

▶ 아데산야, 7년 만에 파이트 나이트 복귀… "타이틀 없이도 전투 본능"▶ 안혜경, 연극 '월드다방'으로 무대 복귀 소식 전했다 ▶ 이마보프, 2R TKO로 아데산야 격파… "미들급 대권 경쟁 합류"▶ "치료 골든타임 놓쳐 안타까워"서희원, 폐렴 아닌 '패혈증' 사인 밝혀졌다 ▶ "포미닛 출신"허가윤, 발리에서 전한 근했다

고정닉 0

원본 첨부파일 2본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	어떤 상황이 와도 가족 안 굶길 것 같은 생활력 강해 보이는 스타는?	운영자	25/03/24	-	-
4812	추성훈, 아내 야노시호와 "같은 택시 타기도 싫어"불화설?	indinews	00:00	20	0
4811	화사, 북미 투어 현장서 파격 섹시미… "보랏빛 매력에 눈길" [40]	indinews	03.27	6695	11
4810	김새론 유족, '미성년 교제' 증거 공개 예고… 27일 기자회견	indinews	03.27	64	0
4809	임영웅, 지방세 체납으로 "51억 자택" 압류.."고개 숙여 사과"	indinews	03.27	75	0
4808	추성훈, 故김새론 장례비 전액 지원설 입 열었다.."전혀 사실 아냐"	indinews	03.27	98	0
4807	예빛, 갑상선암 판정 후 수술 마치고 회복中인 근황	indinews	03.27	70	0
4806	션 브래디, 前 챔프 에드워즈 제압… "난 더 완벽한 파이터 됐다"	indinews	03.26	104	0
4805	"병원비, 가족이 대부분 부담 했다"김새론 유족,병원비 논란에 입 열었다	indinews	03.26	128	0
4804	카이,SNS서 악플 보면 '신고하기'부터 누른다.."루머든 악플이든 가차 없어" [20]	indinews	03.26	5987	12
4803	""이게 내 길 인줄 알았다"신정환, 도박으로 100억 이상 탕진 후 안타까운 근황 [22]	indinews	03.26	8497	5
4802	"위약금만 13억"김수현, 대만 팬미팅 결국 무산 "스케줄 조정 불가" 공식 취소 [8]	indinews	03.26	2683	6
4801	왕소비, 서희원 사망 여파에도 5월 결혼식 강행… 양육권도 본인이 유지 [2]	indinews	03.26	3413	5
4800	스트레이 키즈 현진, 생일 맞아 소아환아에 1억 원 기부	indinews	03.25	215	2
4799	김새론 옛 연인 증언"고인 죽음, "김수현과 무관.. 가족 무관심이 더 힘들게 했다"	indinews	03.25	241	0
4798	"갈수록 어려지네"장신영,강경준 불륜 논란 이후 환한 미소로 근황 전했다 [1]	indinews	03.25	187	0
4797	"100만원으로 1억8천 만들었지만"강병규 인터넷 도박으로 60억 날렸다	indinews	03.25	187	0
4796	"100만원으로 1억8천 만들었지만"강병규 인터넷 도박으로 60억 날렸다	indinews	03.25	131	0
4795	에드워즈, 3월 23일 영국서 재기전 확정… "잃어버린 타이틀 반드시 되찾겠다"	indinews	03.24	201	0
4794	가수 팀♥김보라,주유소에서 근황 전해 "연예인이 기름 넣어 줌"	indinews	03.24	369	0
4793	강형욱, 갑질 논란 후 탈모 고백… "스트레스 때문 머리카락 심하게 빠져" [59]	indinews	03.24	8921	46
4792	뉴진스, 가처분 인용 후 "활동 잠정 중단" 선언..무슨일이? [22]	indinews	03.24	2948	5
4791	안선영, 7년째 치매 투병 중인 어머니와 일상 공개.. "울컥' [3]	indinews	03.24	2866	5
4790	설리 친오빠, 김수현 저격 의혹 사흘째…뒤얽힌 논란의 내막은?	indinews	03.23	299	0
4789	UFC, 또 한 번 아부다비 찾는다… "7월 26일 에티하드 아레나 돌아온다"	indinews	03.22	290	0
4788	김수현, 대만 팬미팅 예정대로 개최?… "미성년 교제 논란 속에도 참석 하나"	indinews	03.22	323	0
4787	"부부의 세계"심은우, 5년째 학폭 의혹 억울함 호소… "더 이상 무얼 해야 진실 밝혀지나"	indinews	03.22	305	0
4786	"부부의 세계"심은우, 5년째 학폭 의혹 억울함 호소… "더 이상 무얼 해야 진실 밝혀지나" [18]	indinews	03.22	17738	17
4785	"독자 활동에 제동"뉴진스, 가처분 인용에 "실망스럽다…한국의 현실 실감"	indinews	03.22	296	1
4784	윤은혜 "연애 공백 13년… 3년 안엔 결혼 원해" [62]	indinews	03.22	10984	11
4783	에릭♥나혜미, 둘째 아들 품에 안아… "두 아들의 부모 됐어요" [1]	indinews	03.21	731	1
4782	"77평 110억 아파트에.."최화정, 스포츠카 포르쉐 공개..."억"소리나는 재산 수준	indinews	03.21	506	0
4781	"마녀 사냥 멈춰."김부선 김수현 언급,..."김수현이 당신들한테 피해 준 적 있어?" [163]	indinews	03.21	12262	62
4780	"협박·무단사진 유포 묵과 못해"김수현 소속사, 故김새론 유족 고발	indinews	03.21	296	0
4779	존 존스, 톰 아스피날과 대결 또 연기..…"준비 기간 6개월 필요" [17]	indinews	03.21	3065	2
4778	KCM, 두 딸 존재 공개 후 심경.… "이제는 떳떳한 아빠 되고 싶다" [1]	indinews	03.20	436	0
4777	이정영, 5월 UFC 복귀… "반성 끝, 이번엔 '스마트 타이거'로 간다"	indinews	03.20	303	1
4776	구준엽, 세상 떠난 서희원 동상 직접 제작..."유산도 장모님에게 넘겨" [17]	indinews	03.20	9383	17
4775	지드래곤, SNS에 '괜찮아' 챌린지… "김수현 논란 의식했나?"	indinews	03.20	511	0
4774	"30대...돈이 없는 게 말이 되냐?"윤성빈, '캥거루족' 발언 논란에 결국 고개 숙였다 [145]	indinews	03.20	8197	12
4773	"장녀가 벌써 중학생"KCM, 자녀 공개로 화제...아내는 누구?	indinews	03.20	410	0
4772	시험 발표·중요한 미팅·결혼식 전 긴장될 때 효과적인 긴장 완화 방법과 좋은 음식은? [2]	indinews	03.19	2873	3
4771	"임영웅 이웃 됐다"정동원, 57평 한강뷰 아파트 자가 마련 [27]	indinews	03.19	6501	3
4770	신정환, 전 소속사 부당 대우 폭로…"정산도 없이 봉투만 받았다" [14]	indinews	03.19	6007	3
4769	강원래♥김송 부부, 도 넘은 악플에 분노…"아이까지 저주하는 악플러 용서 없다"	indinews	03.19	354	0
4768	김수현, 김새론 7억 변제 압박 논란 재차 부인…"강요·손해배상 청구 없었다" [2]	indinews	03.19	520	0
4767	나나, 과감한 노브라 패션으로 완벽한 몸매 과시…"압도적인 아우라	indinews	03.19	589	0
4766	"왜 독립 안 해?..돈 막 쓰지 말고 아껴"윤성빈, '캥거루족' 발언 논란에 댓글창 폐쇄	indinews	03.19	340	0
4765	이민우, 26억 사기 피해 후유증…안면마비 고백하며 안타까운 근황 전했다	indinews	03.19	419	0
4764	"故 김새론과 교제 논란"김수현, 해외도 거센 반응…"굿 데이"하차 요청 쇄도	indinews	03.18	340	1
4763	"한 주에 세 곡 동시 차트인"제니, 美 빌보드 '핫100' 최다 진입 기록 세웠다 [1]	indinews	03.18	485	1
뉴스	심자윤, ‘직장인들’ 회식판 흔든 막내의 반전 존재감	디시트렌드	03.27