반응형
오늘의 뉴스 한눈에 보기
- Jais 3, 최대 375B 아랍어 AI 6종 공개
- Step 5 Preview, 600B MoE 오픈 웨이트 공개
- NVIDIA Nemotron 3.5 Super VL, 공개 모델로 제공
- Claude Code 데스크톱, 다중 세션 기능 개선
- vLLM, 신뢰도 헤드 없이 적응형 검증 지원
- vLLM-Omni, Fish Audio Drama 3 지원
- OpenAI, 수학 AI 연구에 500만달러 지원
- vLLM, RL 학습·추론 비트 일치 구현 공개
TTOWAH NEWS
최근 나온 AI와 개발 도구 소식 가운데 주목할 만한 것을 골라 원문 근거와 함께 정리했습니다.
주요 소식
핵심Jais 3, 최대 375B 아랍어 AI 6종 공개
- Jais 3는 0.9B부터 375B까지 여섯 가지 크기로 공개됐으며, 가장 큰 모델은 총 375B·활성 23B의 MoE 구조다.
- Jais Speech와 결합하면 아랍어와 영어로 말한 지시를 받아 문서 작성이나 도구 사용 등의 작업을 수행할 수 있다.
- Jais 3는 MBZUAI 산하 Institute of Foundation Models와 Inception42가 Cerebras Systems와 협력해 개발했다.
핵심Step 5 Preview, 600B MoE 오픈 웨이트 공개
- StepFun은 희소 MoE 구조가 총 6,000억 개 파라미터와 토큰당 270억 개 활성 파라미터를 사용한다고 밝혔다.
- vLLM 또는 SGLang으로 OpenAI 호환 API를 제공할 수 있으며, Transformers를 통한 오프라인 추론도 지원한다고 안내했다.
- StepFun은 NVIDIA의 첫날 지원과 함께 Fireworks AI, Together AI, Modal, DeepInfra, Featherless AI에서도 첫날부터 이용할 수 있다고 밝혔다.
핵심NVIDIA Nemotron 3.5 Super VL, 공개 모델로 제공
- 1200억 개 매개변수의 전문가 혼합 구조로, 토큰당 120억 개 매개변수를 활성화하도록 설계됐다.
- 텍스트와 시각 작업을 한 모델에서 처리해 별도 텍스트·비전 언어 모델 간 맥락 전달 필요성을 줄인다고 NVIDIA는 설명했다.
- 개발자는 NVIDIA NeMo를 사용해 자체 데이터, 도구, 정책, 업무 흐름에 맞춰 모델을 사후 학습할 수 있다.
출처: 근거 1 · NVIDIA Nemotron 3.5 Super VL Powers Specialized Agents with Multimodal Reasoning · 근거 2 · nvidia / NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-Base-BF16 Like 24 Follow NVIDIA 71.3k
핵심Claude Code 데스크톱, 다중 세션 기능 개선
- 여러 세션을 나란히 실행하는 사용 환경을 개선하는 데 초점을 맞췄다고 Claude Developers는 밝혔다.
- 새 세션을 시작하는 속도가 이전보다 빨라졌다고 Claude Developers는 설명했다.
- 여러 세션에 작업을 나눠 배정하기가 쉬워졌으며, 각 세션의 작업 상태를 확인할 수 있다고 안내했다.
핵심vLLM, 신뢰도 헤드 없이 적응형 검증 지원
- 경량 로지스틱 회귀는 드래프트 분포에서 얻은 단일 값으로 각 토큰의 수락 확률을 추정한다.
- 추정기 매개변수는 정상 검증 중 타깃 모델이 내놓는 수락·거절 결정으로 온라인 적합된다.
- 대상 모델의 어텐션 백엔드가 가변 길이 검증을 지원하는 환경에서 enable_adaptive_verification 설정으로 활성화할 수 있다.
핵심vLLM-Omni, Fish Audio Drama 3 지원
- Drama 3는 총 350억 개 매개변수와 토큰당 30억 개 활성 매개변수를 사용하는 모델로 안내됐다.
- 문서에는 음성 복제, 화자 태그, 입력 텍스트 기반의 비언어 이벤트 및 전달 방식 제어 방법이 설명돼 있다.
- vLLM은 H200 한 대에서 동시 스트림 128개 기준 중앙값 첫 오디오 도달 시간 255ms를 기록했다고 밝혔다.
- 해당 성능 수치는 사전 인코딩한 음성 참조를 사용해 1,088건의 Seed-TTS-Eval 영어 요청을 5회 실행한 평균이라고 안내했다.
핵심OpenAI, 수학 AI 연구에 500만달러 지원
- OpenAI는 지원금이 워크숍, 콘퍼런스, 특별 프로그램을 뒷받침하는 데 쓰인다고 설명했다.
- OpenAI는 Simons Foundation의 지원을 받는 연구자에게 자사 모델과 컴퓨팅 자원도 제공한다고 밝혔다.
- Simons Foundation·Anthropic·OpenAI는 자금과 자원을 합쳐 총 1,500만 달러를 투입하며, 도구와 컴퓨팅 지원은 기초과학 연구자까지 포함한다.
출처: 근거 1 · Simons Foundation Launches $15M Effort To Help Mathematicians Navigate AI Era · 근거 2 · OpenAI 발표
핵심vLLM, RL 학습·추론 비트 일치 구현 공개
- DeepSeek-V4-Flash에서 일관성 구현의 롤아웃 처리량은 고성능 기준선 대비 91.3%로 측정됐으며, 수치는 롤아웃 실행 기준이다.
- Nemotron-3.5의 NVFP4 실험에서도 학습·추론 KL이 정확히 0으로 유지됐으며, 이 결과는 필터링한 SWE-bench Pro 학습 부분집합에서 측정됐다.
- vLLM은 불일치 연산자 탐색, 최소 재현, 수정, 재검증과 성능 분석 절차를 담은 에이전트 스킬을 오픈소스로 배포했다고 밝혔다.
출처: 근거 1 · Finish RL Training Faster: Bitwise-Consistent, High-Performance, Agent-Driven · 근거 2 · vLLM 발표 · 근거 3 · vLLM 발표 · 근거 4 · vLLM 발표 · 근거 5 · [Docs] Add train-inference consistency agent skill - #61551
반응형
'NEWS > DEV' 카테고리의 다른 글
| [TTOWAH NEWS] 2026.10.20 MiniMax M3.1 Flash API 요금 공개 외 7건 (0) | 2026.10.20 |
|---|---|
| [TTOWAH NEWS] 2026.10.19 OpenCode Console 보안 침해, 이용자 1.4%… 외 8건 (0) | 2026.10.19 |
| [TTOWAH NEWS] 2026.10.18 Meta, Muse Spark Open 가중치 공개 외 6건 (0) | 2026.10.18 |
| [TTOWAH NEWS] 2026.10.17 OpenAI GPT-Live-1.1, 6개 언어 음성 추가 외 8건 (0) | 2026.10.17 |
| [TTOWAH NEWS] 2026.10.15 vLLM, Ling-3.1-flash 데이제로 지원 외 9건 (1) | 2026.10.15 |
| [TTOWAH NEWS] 2026.10.14 X Subscription, Grok·Cursor·X Pre… 외 8건 (0) | 2026.10.15 |
| [TTOWAH NEWS] 2026.10.13 Z.ai, 법률 업무용 GLM-Legal 공개 외 8건 (0) | 2026.10.15 |
| [TTOWAH NEWS] 2026.10.12 GitHub Security Lab, C·C++ 퍼징 자동화… 외 4건 (0) | 2026.10.15 |
