디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

엔비디아, 'NIM 마이크로서비스'에서 딥시크-R1 프리뷰 제공

indinews갤로그로 이동합니다. 2025.02.04 20:00:06
조회 406 추천 0 댓글 1
														


엔비디아(NVIDIA)가 중국 AI 스타트업 딥시크(DeepSeaq)에서 개발한 오픈 모델 '딥시크-R1'을 자사 NIM 마이크로서비스 플랫폼에서 프리뷰로 제공한다고 발표했다.

 MoE 구조로 더 방대한 학습


온라인커뮤니티


엔비디아는 3일(현지시간) 공식 블로그를 통해 "딥시크-R1을 기반으로 생성형 AI 애플리케이션 개발자들이 안정적이면서도 확장 가능한 추론을 구현할 수 있게 됐다"고 밝혔다. 특히 단일 엔비디아 HGX H200 시스템에서 초당 최대 3872개의 토큰을 전송할 수 있다고 강조해, 고성능 AI 추론 처리 능력을 보여줬다.

딥시크-R1은 최신 추론 기능을 갖춘 오픈 모델로, 질문에 대한 단순 답변 대신 여러 차례 '사고 과정을 반복'해 최적의 답을 도출하는 '에이전틱(Agetic) AI'에 적합하다는 게 엔비디아 측의 평가다.

딥시크-R1은 여러 전문가 모델(Expert Model)을 조합하는 MoE(Mixture of Experts) 구조로 만들어졌다. 기존 공개 모델에 비해 10배 많은 6710억 개의 파라미터, 최대 12만8000개 토큰을 입력받을 수 있는 거대한 컨텍스트 길이를 특징으로 한다.

이러한 대형 모델에서 실시간 추론과 높은 품질의 응답을 동시에 구현하기 위해서는 추론 과정 자체가 늘어나는 만큼(여러 번의 사고 패스), 더욱 대규모 컴퓨팅 환경이 요구된다. 엔비디아가 NVLink 기반의 H200 GPU 클러스터와 NIM 마이크로서비스 최적화를 결합해 이 문제를 해결했다고 설명하는 이유다.

딥시크-R1으로 에이전트 개발 안전·확장성 두 마리 토끼 잡는다

엔비디아는 "NIM 마이크로서비스에 딥시크-R1을 프리뷰로 공개함으로써 개발자들이 에이전틱 AI 솔루션을 빠르고 쉽게 구축할 것"이라고 기대감을 드러냈다.

기존 모델들이 단일 엔드투엔드 답변을 도출하는 데 집중했다면, 딥시크-R1은 문제를 여러 번 사고해 최상의 결과에 도달하는 방식을 채택했다는 점에서, 논리적 추론과 수학, 코딩, 언어 처리 등에 강점을 보이는 모델로 꼽힌다.

한편, 엔비디아 NIM 마이크로서비스 자체가 생성형 AI 애플리케이션에 안전성과 정확성을 높여주는 플랫폼인 만큼, 딥시크-R1과 함께 '가속 추론 + 리스크 최소화'를 동시에 노릴 수 있다는 것이 장점이다.

엔비디아 측은 "향후 더 많은 오픈 모델들을 NIM에 연결해, AI 산업 전반의 추론 효율을 끌어올릴 것"이라며 "에이전틱 AI가 요구하는 방대한 스케일을 이끌 인프라가 가속 컴퓨팅"이라고 재차 강조했다.



▶ 아데산야, 7년 만에 파이트 나이트 복귀… "타이틀 없이도 전투 본능"▶ 안혜경, 연극 '월드다방'으로 무대 복귀 소식 전했다▶ 이마보프, 2R TKO로 아데산야 격파… "미들급 대권 경쟁 합류"▶ "치료 골든타임 놓쳐 안타까워"서희원, 폐렴 아닌 '패혈증' 사인 밝혀졌다▶ "포미닛 출신"허가윤, 발리에서 전한 근했다



추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 매니저들에게 가장 잘할 것 같은 스타는? 운영자 25/03/10 - -
4570 '13개월 만의 재대결"뒤 플레시, 스트릭랜드에게 완벽에 가까운 판정승 [3] indinews갤로그로 이동합니다. 02.09 5380 1
4569 김부선 "김용 징역 5년 '오예', 다음은 이재명 차례" [65] indinews갤로그로 이동합니다. 02.09 7390 75
4568 뒤 플레시 vs 스트릭랜드 2… "이번엔 확실한 승부, 미들급 챔피언 지킨다" indinews갤로그로 이동합니다. 02.08 257 0
4567 "예식 안하고 양가 가족끼리 식사만"배성재♥김다영,결혼소식 집적 전했다 indinews갤로그로 이동합니다. 02.08 307 0
4566 "고윤정 주연"슬의생 후속작 언젠가는 슬기로울 전공의생활 오는 4월 방영된다 [26] indinews갤로그로 이동합니다. 02.08 7896 2
4565 故 오요안나 모친 "김가영, 직접 가해자 아냐… 진상 밝혀지길 바란다" indinews갤로그로 이동합니다. 02.08 342 0
4564 "센소리 누드 드레스 논란"칸예 웨스트, "자폐 스펙트럼 진단" 고백 [1] indinews갤로그로 이동합니다. 02.07 510 0
4563 배성재, 14살 연하 아나운서 김다영과 결혼 소식 전해 [1] indinews갤로그로 이동합니다. 02.07 420 0
4562 악뮤 이찬혁, 배우 하지수 열애설..하지수가 누구? [1] indinews갤로그로 이동합니다. 02.07 564 0
4561 "아픈 기색이 역력했다"송대관, 심장마비로 별세…마지막 무대 재조명 indinews갤로그로 이동합니다. 02.07 291 0
4560 송대관, 향년 78세로 별세…원인은 갑작스러운 심장마비 indinews갤로그로 이동합니다. 02.07 223 0
4559 UFC 312, 뒤 플레시 vs 스트릭랜드 재대결 모두 이목집중 indinews갤로그로 이동합니다. 02.06 258 0
4558 고경표, 미모의 비연예인과 3년째 열애설 터졌다 indinews갤로그로 이동합니다. 02.06 346 0
4557 서희원 급성 폐렴 사망에 배우 장잉잉 "전부 전 남편 떄문"깜짝 폭로 [1] indinews갤로그로 이동합니다. 02.06 495 0
4556 대만 배우 서희원, 일본서 별세… 6일 유해 대만 도착 indinews갤로그로 이동합니다. 02.06 236 0
4555 "3년간 A씨 이름 언급해"故 오요안나 모친,가해자 A씨 직접 지목했다 [18] indinews갤로그로 이동합니다. 02.06 7362 52
4554 이마보프, 아데산야 꺾고 미들급 2위로… "다음은 타이틀전?" indinews갤로그로 이동합니다. 02.05 246 0
4553 장성규, '오요안나 괴롭힘 방관' 의혹 드디어 입 열었다 [3] indinews갤로그로 이동합니다. 02.05 675 1
4552 지수, "1년간 가장 많이 쓴 돈은 현질".."쇼핑 관심 없어 게임에는 통 크게 쓴다" [52] indinews갤로그로 이동합니다. 02.05 4775 14
4551 "한화로1100억"서희원, 남긴 유산...상속자 구준엽 아니라 전남편? [67] indinews갤로그로 이동합니다. 02.05 12432 8
4549 선예,SNS 계정 해킹 당했다..해킹범 돈 요구에 "충격" [15] indinews갤로그로 이동합니다. 02.05 7143 5
엔비디아, 'NIM 마이크로서비스'에서 딥시크-R1 프리뷰 제공 [1] indinews갤로그로 이동합니다. 02.04 406 0
4547 "결혼 1년 차, 자궁경부암 진단 받아"크레용팝 초아 안타까운 근황 [2] indinews갤로그로 이동합니다. 02.04 622 0
4546 "故오요안나 직장내 괴롭힘 가해자 옹호?"MBC기상캐스터 출신 이문정 무슨일이? [1] indinews갤로그로 이동합니다. 02.04 447 1
4545 비앙카 센소리, 그래미 어워드서 '올 누드' 차림으로 등장..."개성존중vs노출증"갑론을박 [1] indinews갤로그로 이동합니다. 02.04 1583 0
4544 안혜경, 연극 '월드다방'으로 무대 복귀 소식 전했다 indinews갤로그로 이동합니다. 02.04 232 0
4543 "치료 골든타임 놓쳐 안타까워"서희원, 폐렴 아닌 '패혈증' 사인 밝혀졌다 indinews갤로그로 이동합니다. 02.04 332 0
4542 "베테랑의 추락, 신예의 부상"아데산야, 3연패 수렁…새 시대 열릴까 indinews갤로그로 이동합니다. 02.03 244 0
4541 트럼프, 멕시코·캐나다·중국에 '관세 폭탄'…美재계·공화당 일각 우려 indinews갤로그로 이동합니다. 02.03 218 0
4540 김준호, 예비 장인 산소 찾아… "진심 담은 고급 양주까지" indinews갤로그로 이동합니다. 02.03 243 0
4539 헬스 유튜버 김웅서, 38세로 별세...사망이유는? indinews갤로그로 이동합니다. 02.03 363 2
4538 "결혼 1년차"구준엽 부인 서희원,안타까운 사망소식 전했다 사망이유는? indinews갤로그로 이동합니다. 02.03 194 0
4537 "포미닛 출신"허가윤, 발리에서 전한 근했다 indinews갤로그로 이동합니다. 02.02 351 0
4536 이마보프, 2R TKO로 아데산야 격파… "미들급 대권 경쟁 합류" indinews갤로그로 이동합니다. 02.02 222 0
4535 "너무 엄하게 대해 후회"이동건父,"뚤째 잃고 10년동안 자책하며 살았다" [1] indinews갤로그로 이동합니다. 02.02 486 0
4534 이주실, 위암 투병 끝 별세… "유방암 극복 했지만 재발 안타까워" indinews갤로그로 이동합니다. 02.02 261 0
4533 "프로 야구선수보다 연봉 높아"이주은 치어리더 충격적인 계약금에 모두 경악 [42] indinews갤로그로 이동합니다. 02.02 10530 13
4532 아데산야, 7년 만에 파이트 나이트 복귀… "타이틀 없이도 전투 본능" indinews갤로그로 이동합니다. 02.01 251 0
4531 "그 고통 얼마나 무서운지 알아"박은지, 故오요안나 애도하며 폭로 이어가 indinews갤로그로 이동합니다. 02.01 243 0
4530 이장우, 조혜원과 가을 결혼 계획 발표.."축가 전현무?" indinews갤로그로 이동합니다. 02.01 284 0
4529 미주,송범근과 결별설 입 열었다.."누워있다가 슬퍼서 일어나 울어" indinews갤로그로 이동합니다. 02.01 356 0
4528 RM, 군 복무 중 새해 인사… "민간인 될 날 4개월 남았다" [1] indinews갤로그로 이동합니다. 02.01 391 0
4527 오징어 게임3, 6월 27일 공개 [3] indinews갤로그로 이동합니다. 01.31 472 0
4526 "부모가 나선다"…뉴진스·하이브 분쟁, 임시 SNS로 반격 시작 [31] indinews갤로그로 이동합니다. 01.31 7222 4
4525 오요안나 괴롭힘 의혹 고발 이어져…MBC·동료 기상캐스터 수사 대상 올랐다 [1] indinews갤로그로 이동합니다. 01.31 389 1
4524 아데산야, 비타이틀전서 '재기' 노린다… "이마보프 꺾고 다시 정상으로?" [2] indinews갤로그로 이동합니다. 01.30 5838 4
4523 故오요안나, 직장 내 괴롭힘 피해자 의혹… 유족, MBC에 사과 요구 [2] indinews갤로그로 이동합니다. 01.30 450 0
4522 나나, 파격 속옷 화보"가슴 타투 점점 옅어져 " [22] indinews갤로그로 이동합니다. 01.30 12003 14
4521 유재석, '2024 SBS 연예대상' 20번쨰 대상,이상민 "결혼 후 대상 노려볼 것" [2] indinews갤로그로 이동합니다. 01.30 443 0
4520 "톰 아스피날 오열"페레이라, 존 존스 콜 아웃..."존중하지만 싸우자" indinews갤로그로 이동합니다. 01.29 259 0
뉴스 '언더커버 하이스쿨' 서강준X진기주, 설렘 모멘트...예기치 못한 입맞춤→우산 엔딩까지 디시트렌드 10:00
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2