연구자료실
설비 연결, 품질 검사, 생산 분석과 제조 업무에 관련된 외부 논문입니다.
연구자료 검색
새 논문 요약
요점은 편집자가 정리한 메모입니다. 원저자의 표현과 다를 수 있으니 원문을 확인하세요. 2026-11-20 갱신.
- 429AI / General
VibeThinker-3B: Exploring the Frontier of Verifiable Reasoning in Small Language Models
- 3B 파라미터로 AIME26 94.3점, CLR 적용 시 97.1점 달성 (DeepSeek V3.2 671B, GLM-5 744B 수준)
- LeetCode 2026.04~05 최신 대회 96.1% acceptance rate로 GPT-5.2(95.3%), Kimi K2.5(90.6%) 능가
- Curriculum SFT + MGPO RL + 오프라인 자기 증류 + Instruct RL의 단계적 post-training 파이프라인 제안
- 검증 가능한 추론은 압축 가능, 개방형 지식은 coverage 필요라는 Parametric Compression-Coverage Hypothesis 도입
- 428LLMs / NLP
Ling and Ring 2.6 Technical Report: Efficient and Instant Agentic Intelligence at Trillion-Parameter Scale
- Lightning Attention + MLA를 7:1 비율로 혼합하여 장문맥 FLOPs 및 KV-cache 부담 대폭 감소
- Evo-CoT, LPO, 최단 정답 증류로 2.0 세대 대비 약 4배 토큰 효율 향상
- KPop 비동기 agentic RL로 1T 규모에서도 안정적인 환경 기반 학습 달성
- Ring-2.6-1T가 PinchBench 87.60, ClawEval 63.82, GAIA-2 Search 및 τ2-Bench Telecom에서 강력한 성능 기록
- 427Computer Vision
Gaze Heads: How VLMs Look at What They Describe
- VLM의 1,152개 attention head 중 약 100개(8.7%)가 현재 설명 중인 이미지 영역을 추적하는 'gaze head' 역할 수행
- 단일 attention-mask 개입으로 comic panel redirect 83.1% 정확도 달성 (random head에서는 실패)
- 2B~32B 파라미터 및 Qwen2-VL, Ovis1.5, InternVL3.5 등 다양한 VLM에서 동일 메커니즘 확인
- Frozen-encoder 계열(LLaVA, Bunny-3B)에서는 gaze head 부재 → vision encoder 공동 학습 필요성 시사
- 426Robotics
LaWAM: Latent World Action Models for Efficient Dynamics-Aware Robot Policies
- LaWM: latent action model의 decoder를 재사용한 230M parameter latent world model (pixel-space WAM 대비 95% 적은 world-modeling parameter)
- 단일 forward pass로 latent visual subgoal 예측 → 비iterative 추론으로 187ms 달성 (pixel-space WAM 대비 최대 24× 빠름)
- 2단계 학습: Stage 1에서 약 3,000시간 로봇 + 1,500시간 egocentric 인간 영상으로 LaWM 학습, Stage 2에서 latent-action distillation 기반 정책 학습
- 실제 환경 평가: Pick-and-Place 93.3%, Drawer Opening 86.7%, Towel Folding 90.0% (평균 90.0%로 모든 baseline 중 1위)
- 425Robotics
Geometric Action Model for Robot Policy Learning
- GFM 중간층 분할: shallow layer는 관측 인코더, causal future predictor 삽입, deep layer는 action+geometry decoder로 재사용
- 단일 autoregressive token sequence + 단일 forward pass로 action token과 future-scene token을 동시에 생성
- 기존 foundation-model-scale baseline 대비 55× 빠른 추론, 더 적은 parameter로 동등 이상의 성능
- LIBERO-Plus camera perturbation 설정에서 +9.7%p 우수 (3D geometric prior의 직접적 효과)
- 424Computer Vision
OmniVideo-100K: A Dataset for Audio-Visual Reasoning through Structured Scripts and Evidence Chains
- Entity-Anchored Scripting: main entity list를 global prior로 사용하여 세그먼트 간 참조 일관성 확보, audio-visual 연관 복원
- Clue-Guided QA Generation: LLM이 먼저 cross-segment multimodal clue를 mining한 후 해당 clue 기반으로 QA 생성
- OmniVideo-100K: 100K 자동 생성 audio-visual QA pair + OmniVideo-Test (505개 human-verified sample), 10개 AV 과제 커버
- Fine-tuning 효과: VITA-1.5 +20.59%, Qwen2.5-Omni-7B +17.82%, Qwen3-Omni-30B +13.86% (OmniVideo-Test 기준)
- 423Computer Vision
DreamX-World 1.0: A General-Purpose Interactive World Model
- E-PRoPE: PRoPE의 투영 카메라 기하학을 유지하면서 spatially reduced token에 적용하여 추론 지연 약 30% 감소
- Memory-Conditioned Scene Persistence: 카메라 기하학 기반 retrieval로 이전 관찰 영역 재방문 시 scene 일관성 유지
- Causal forcing + DMD distillation + long-rollout training으로 autoregressive chunk 누적 drift(스타일·색상) 감소
- 8x RTX 5090에서 최대 16 FPS 스트리밍 (mixed-precision DiT, residual reuse, 75%-pruned VAE decoding, asynchronous pipeline parallelism)
- 422Computer Vision
Qwen-RobotWorld Technical Report: Unifying Embodied World Modeling through Language-Conditioned Video Generation
- 자연어를 unified action interface로 사용하여 20+ embodiment, 500+ action category를 단일 언어 인터페이스로 표준화
- Double-stream MMDiT (60-layer)에서 Qwen2.5-VL 의미 정보와 video-VAE latent를 layer-wise joint attention으로 융합
- EWK 데이터셋: 8.6M video-text pair, 200M+ frames, manipulation 5.9M + 자율주행 200K + 네비게이션 6K+ 에피소드
- EWMBench 1위(4.60, HSD +33% 우세), DreamGen Bench 1위(4.952), WorldModelBench 8.99(오픈소스 1위), PBench 0.804
- 421Computer Vision
WAM4D: Fast 4D World Action Model via Spatial Register Tokens
- Spatial register token이 학습 시에만 depth readout 담당, 추론 시 제거로 latency 비용 없음
- Causal Mixture Attention: MoT 백본에서 video/action/geometry token 간 모달별 가시성 정의
- RoboTwin 2.0에서 π0 대비 +7.5p, LingBot-VA 대비 +6.1p 향상(selected 10 tasks)
- 추론 latency 525ms(VLA 64ms 대비 느리지만 WAM 중에서는 빠른 편), depth branch 제거로 9.71 GiB VRAM
- 실세계 long-horizon 4단계 조작 태스크에서 π0 대비 +13.4p 향상
- Trainable pretrained geometric head가 random init보다, bidirectional보다 unidirectional이 더 효율적
- 420AI / General
Agents-K1: Towards Agent-native Knowledge Orchestration
- 5-module 스키마: metadata, explicit mention, implicit abstraction, citation intent, inter-entity relation으로 전문을 구조화
- 4B 모델을 GRPO + rule-based reward로 학습, 8B 오픈소스를 10개 벤치마크에서 능가하고 32B와 NER에서 동등
- 246만 편 논문 처리 → Scholar-KG 구축, 100만 편 공개 (CS·화학·생물·지구과학·물리·재료 6분야)
- GraphAnything CLI: web search + multimodal graph retrieval + cross-document traversal을 통합 인터페이스
- FrontierScience-Research: Gemini-3 7.9%→24.6%, GPT-5.2 25.2%→39.4% 향상
- HotpotQA, 2WikiMultiHopQA, MuSiQue에서 9개 graph-RAG 기준선 대비 SOTA
- 419AI / General
HarnessX: A Composable, Adaptive, and Evolvable Agent Harness Foundry
- 9차원 processor 분류(context, tool, skill, control, memory 등)와 substitution algebra로 harness를 type-safe하게 조립
- AEGIS: Digester→Planner→Evolver→Critic 4단계 진화 파이프라인, RL 병리를 symbolic 영역에 매핑하여 방어
- Variant isolation: heterogeneous 벤치마크에서 태스크 클러스터별 독립 진화로 간섭 방지(GAIA +13.6%)
- Cross-harness GRPO로 harness 진화와 모델 학습을 동시 순환, harness-only 대비 추가 +4.7%
- ALFWorld에서 Qwen3.5-9B가 +44.0% 향상 → 모델이 약할수록 harness 개선이 보상
- 평균 +14.5%(15개 설정), 14/15개 설정에서 양수 향상, baseline이 낮을수록 개선폭이 큼
- 418Robotics
$μ_0$: A Scalable 3D Interaction-Trace World Model
- TraceExtract: DINOv2 entity clustering으로 시맨틱 키포인트 선택 → 3D trace 추출 자동화(기존 대비 ~8배 확장)
- 3D trace를 B-spline 제어점으로 표현, VLM 백본 + permutation-equivariant trace expert로 flow matching 학습
- 비디오만으로 사전학습(action-free) 후 동결, 별도 action expert만 학습해서 크로스바디 전이
- RoboCasa 8 태스크 평균 30.25%로 π0(25.25%) 대비 +5.0p, 실세계 UR3 3태스크 평균 91.7%
- Trace feature가 없는 VLM+action expert 대비 +18.4p 격차 → trace 표현이 실제 운동 정보 제공
- Event-centric captioning으로 trace 구간별 언어 정합, 추론 시 depth 입력 불필요
- 417Computer Vision
RepFusion: Leveraging Multimodal Priors for Denoising in Representation Space
- RAE latent 공간에서 MLLM의 MLP projector를 noisy 입력으로 확장, 동결 LLM 백본으로 DiT 조건화
- 유사 추론 FLOPs에서 TextEmbed(8B DiT)·Transfusion(8B joint) 대비 RepFusion(1.3B DiT)이 우수
- VAE→RAE 전환 시 RepFusion이 +30% 절대 향상(0.54→0.70), TextEmbed(+21%), Transfusion(+11%)보다 큰 폭
- MLLM을 동결할 때가 미세조정할 때보다 더 좋음 → 사전학습 prior 보존이 중요
- Test-time compute를 단계별 MLLM 재조건화에 효율적으로 활용 가능
- RepFusion-SFT는 GenEval 0.87, GenEval2 34.9, DPG 85.11로 SOTA 수준 달성
- 416Computer Vision
RepWAM: World Action Modeling with Representation Visual-Action Tokenizers
- 기존 WAM의 reconstruction-oriented tokenizer가 조작 의미론을 놓치는 문제를 식별하고 semantic visual-action tokenizer 제안
- RepViTok: 비디오 오토인코더 latent를 DINOv2와 정렬 + 같은 공간에서 latent action을 유도하는 구조
- 2단계 학습: visual+latent action 사전학습 후 로봇 행동으로 적응이 joint prediction보다 우수함을 입증
- RoboTwin 2.0에서 Easy 86.6, Hard 83.1로 WAN2.2 VAE 기반 대비 큰 폭 향상 (Average 50 tasks)
- CFG scale 1.0에서 최고 성능 → semantic 정렬이 video CFG 의존성을 크게 줄임
- Latent action 시각화에서 LAPA 대비 조작 관련 변화에 더 집중된 패턴 관찰
- 415Robotics
Hy-Embodied-0.5-VLA: From Vision-Language-Action Models to a Real-World Robot Learning Stack
- 10K 시간의 sub-mm 정밀도 egocentric UMI 데이터를 자체 수집하여 사전학습+후처리 모두에 재사용
- Hy-Embodied-0.5 MoT 백본에 flow-matching action expert와 compact memory encoder를 결합, delta-chunk 표현으로 kinematics 독립성 확보
- FlowPRO: critic·reward model 없이 성공/실패 쌍에서 직접 학습하는 offline RL 후처리로 near-ceiling 성공률 달성
- Track-A(타겟 로봇 적응)와 Track-B(UMI-only 크로스바디 전이) 2개 SFT 트랙으로 다양한 로봇 플랫폼에 배포
- 비동기 추론 + cubic Bézier 궤적 평활화로 고주파 폐루프 제어 구현, 2K시간 UMI 데이터 서브셋 공개 예정
- 414Computer Vision
Surflo: Consistent 3D Surface Flow Model with Global State
- Variable-view 입력을 K latent token으로 압축(frozen VGGT backbone + Perceiver 압축), view 수와 무관한 고정 크기 표현
- Flow matching 디코더로 각 점을 독립적으로 noise에서 표면으로 transport — 임의 해상도(수천~100만 점) 지원
- Inference-time photometric + monodepth guidance로 독립 디코딩의 국부 불일치 해결
- Per-view(pointmap 중복)와 global-latent(고정 해상도) 방식의 한계를 동시에 극복한 유일한 feed-forward 방법
- 8개 3D 재구성 벤치마크에서 feed-forward 최고 수준, optimization-based 대비 10배 이상 빠름
- DL3DV ~10.5K 씬에 watertight mesh를 추가한 데이터셋 구축 및 공개 예정
- 413Computer Vision
SpatialClaw: Rethinking Action Interface for Agentic Spatial Reasoning
- Stateful Python kernel로 매 step마다 중간 결과를 관찰하고 코드를 수정하는 agent loop 설계
- Single-pass code(사전 커밋)와 structured tool-call(제한적 조합)의 한계를 모두 극복
- 20개 공간 추론 벤치마크(정적/동적 3D·4D)에서 59.9% 평균, 기존 spatial agent 대비 +11.2점
- 6개 VLM 백본(Qwen 27B~397B, Gemma4)에서 벤치마크·모델 특화 튜닝 없이 일관된 성능 향상
- 가장 큰 개선은 dynamic 4D video reasoning과 multi-view inference에서 발생
- Training-free: 백본 모델이나 시스템 프롬프트 변경 없이 action interface 설계만으로 달성
- 412Machine Learning
Dense Supervision, Sparse Updates: On the Sparsity and Geometry of On-Policy Distillation
- OPD 업데이트는 작고 coordinate-sparse하며, 주로 FFN 층에 분포 (10개 모델 페어 일관성)
- 발견된 sparse subnetwork만 학습해도 전체 OPD reasoning 성능 회복 가능
- SGD는 AdamW에 못 미침 — sparse update라도 adaptive scaling이 필요 (gradient scale 이질성)
- OPD delta는 수치적으로 full-rank이나 top-16 특이값 에너지가 ~20-30%로 스펙트럼 집중
- 업데이트가 source weight의 principal direction을 회피하고 low-magnitude 좌표에 집중 — RLVR과 유사 패턴
- Dense supervision이 있어도 OPD는 dense rewriting이 아닌 sparse on-policy editing에 가까움
- 411AI / General
Can I Buy Your KV Cache?
- KV cache 재사용은 from-scratch prefill과 token-exact로 동일 (greedy 24/24 매치, logits 수준 검증)
- Qwen3-4B에서 재사용 compute가 prefill 대비 9~50배 저렴, 문서가 길수록 격차 확대 (L² attention 항)
- Break-even은 사실상 즉시(N≈1), 두 번째 읽기부터 재사용이 이득
- KV는 무손실 압축이 거의 불가능(shipping 실패), provider-side hosting이 최적 — production prompt-caching과 동일 원리
- 3774토큰 문서를 80M 에이전트에게 서빙 시 prefill .5M vs 재사용 /bin/sh.03M (49.7× 절감)
- int8 양자화는 크기를 절반으로 줄이지만 token-exact를 깨뜨려 lossless가 필요한 경우 부적합
- 410LLMs / NLP
EvoArena: Tracking Memory Evolution for Robust LLM Agents in Dynamic Environments
- EvoArena: 터미널·소프트웨어·소셜 환경이 버전별로 진화하는 동적 에이전트 벤치마크
- 현재 최강 에이전트들도 평균 39.6%에 그쳐, 동적 환경 적응이 큰 도전 과제임을 입증
- EvoMem: 메모리 변경을 patch 이력(사전·사후 상태, 변경 사유, 증거)으로 저장하는 git-like 메모리
- EvoArena +1.5%, chain-level +3.7%, GAIA +6.1%, LoCoMo +4.8% 일관된 성능 향상
- 소프트웨어 회귀 분석: PASS_TO_PASS 실패율 평균 9.09%→6.32% 감소
- 시간 궤적·다중 패턴 종합 질문에서 가장 큰 개선(+5.2%), evidence 보존 효과 입증
- 409AI / General
EurekAgent: Agent Environment Engineering is All You Need For Autonomous Scientific Discovery
- 핵심 주장: 모델이 강해질수록 병목은 워크플로우가 아닌 '환경 엔지니어링'으로 이동
- 4가지 환경 엔지니어링: 권한(평가 분리), 아티팩트(Git/파일 공유 메모리), 예산(비용 인식 탐색), 휴먼인더루프
- 26-circle packing 새 SOTA(2.635999)를 $11 API 비용으로 달성
- TriMul 커널 최적화에서 기존 리더보드 1위 대비 4.3%, TTT-Discover 대비 10.8% 향상
- MLE-Bench Lite 7종에서 85.71% 메달 획득, 상용 모델 기반 시스템들을 능가
- ResearchClawBench에서 범용 CLI 에이전트가 도메인 특화 시스템보다 뛰어난다는 근거 제시
- 408Computer Vision
MaskWAM: Unifying Mask Prompting and Prediction for World-Action Models
- 마스크를 입력(첫 프레임 시각 프롬프트)과 출력(미래 마스크 예측) 양쪽으로 통합
- 미래 마스크 예측이 객체 중심 의미 감독을 제공해 RGB-only 대비 성능 향상
- 첫 프레임 마스크 프롬프트로 언어 모호성 해결, 텍스트 좌표 프롬프트 대비 압도적 우위
- Mixture of Transformers(MoT)로 RGB·마스크·액션을 unified flow-matching으로 jointly 예측
- LIBERO 98.4%, RoboTwin 92.2% SOTA; 실제 로봇 언어 명확 작업 84.3%, 모호 작업 84.9%
- 마스크 예측 없이 프롬프트만 주면 21.6%로 급락 → 예측 목표가 시각 프롬프트 활용에 필수
- 407Computer Vision
World Tracing: Generative Pixel-Aligned Geometry Beyond the Visible
- 픽셀 정렬 다층 pointmap: 각 픽셀에 L개의 camera-space 3D 점을 예측해 가려진 면까지 완성
- WT-DiT: 동결된 MoGe 인코더 + 3-way 분해 어텐션(layer/ray/global)으로 다층 결합
- depth-filling 전략: 가려진 층의 빈 값을 forward-fill하여 mask 예측 없이 dense XYZ 학습
- 객체·장면·동적 클립 모두 단일 아키텍처로 처리, 카메라 내부 파라미터 입력 불필요
- 기존 depth 예측기 대비 visible surface 정확도 우위, image-to-3D 생성기 대비 Chamfer 거리 우위
- 텍스트 기반 3D 장면 편집, 기하 조건부 시점 영상 합성, training-free 텍스처 메시 생성 적용
- 406Machine Learning
Rubric-Guided Self-Distillation: Post-Training Without Rubric Verifiers
- 핵심 아이디어: 루브릭-조건부 teacher를 unconditioned student에 토큰 단위 자기 증류
- 루브릭 조건만으로 베이스 모델 성능이 30-45pp 향상하는 '조건 향상 효과'를 활용
- GRPO 대비 의료 +6.1 vs +5.9pp, 과학 +4.9 vs +4.5pp로 동등하면서 판정기 호출 제로
- Qwen-2.5-7B에서 GRPO 대비 응답 길이가 약 절반으로 단축되며 verbosity drift 방지
- clipped Jensen-Shannon divergence로 온폴리시 student 롤아웃 증류
- 더 강한 판정기를 쓰는 GRPO가 일부 설정에서 RGSD를 능가할 수 있어 보완적 관계
- 405Machine Learning
MaxProof: Scaling Mathematical Proof with Generative-Verifier RL and Population-Level Test-Time Scaling
- 증명 생성·검증·수리 3가지 전문 능력을 개별 훈련 후 단일 M3 모델로 병합
- Defense-in-depth 검증기: bad-case 필터링, 정규화, 다중 판정, pessimistic min 집계로 false-positive 최소화
- MaxProof test-time scaling: 32개 초기 후보 + 최대 10라운드 PATCH/REWRITE 정제
- IMO 2025 27→35점(+8), USAMO 2026 26→36점(+10), 두 대회 모두 금메달 기준 초과
- M2 사이클에서 발견된 4가지 보상 해킹 패턴과 그 방어 전략을 문서화
- 비용 효율적: GLM-5.1 기반으로 26-circle packing을 $11 미만 API 비용으로 새 SOTA 달성
- 404AI / General
From AGI to ASI
- ASI를 '대규모 인간 전문가 집단보다 광범위하게 우월한 시스템'으로 정의, Legg-Hutter 점수로 정량화
- 4가지 전환 경로: 스케일링, 패러다임 전환, 재귀적 자기개선, 멀티에이전트 집단 지성
- 유효 컴퓨팅 성장률 연간 약 10배 (하드웨어 1.5배 × 투자 2.5배 × 알고리즘 효율 3배)
- 주요 마찰 요인: 데이터 월, 컴퓨팅/에너지 비용, 연구 난이도 증가, 오케스트레이션 비용
- 재귀적 자기개선의 폭발적 성장 가능성과 함께 plateau 가능성도 공존
- AI 안전·거버넌스·검증 연구가 ASI 전환 전에 선행되어야 함을 강조
- 403AI / General
MiniMax Sparse Attention
- GQA 기반 블록 희소 어텐션: 각 GQA 그룹별로 경량 Index Branch가 Top-k 블록을 독립 선택
- 109B MoE 모델에서 3T 토큰 from-scratch 학습으로 GQA와 동등한 다운스트림 성능 입증
- 1M 컨텍스트에서 토큰당 어텐션 FLOPs 28.4배 감소, H800에서 prefill 14.2배·decoding 7.6배 속도 향상
- exp-free TopK 커널과 KV-outer 희소 어텐션으로 GPU 텐서코어 활용률 최적화
- KL 정렬 손실로 Index Branch를 훈련하고 stop-gradient로 Main Branch와 분리
- MiniMax-M3라는 상용 멀티모달 모델로 공개 배포 (HuggingFace)
- 402Computer Vision
Reason, Then Re-reason: Cross-view Revisiting Improves Spatial Reasoning
- 공간 추론을 단일 턴이 아닌 가설-검증의 2단계 과정으로 재정의
- VGGT 단안 3D 복원으로 전략적으로 보완적인 고도 사선 시점(Oblique Sweep) 합성
- MLLM 아키텍처 수정 없이 추론 시간에 적용 가능한 training-free 프레임워크
- VSI-Bench 평균 5.2점 향상; 샘플 레벨에서 positive flip 71.6% vs negative flip 28.4% (2.52:1 비율)
- A100 GPU에서 샘플당 약 11초; VGGT 입력을 20프레임으로 줄이면 약 4초에 2.8점 향상 유지
- Birds-eye보다 Oblique Sweep이 우수 - 시점 분포 mismatch 방지하면서 공간 정보 노출
- 401Computer Vision
i1: A Simple and Fully Open Recipe for Strong Text-to-Image Models
- 단일 강력한 텍스트 인코더(T5Gemma-2B)와 큰 어댑터(2 transformer blocks)가 다중 인코더보다 효과적
- Dual-stream DiT와 long skip connection, QK-Norm이 강력한 백본 설계; AdaLN은 T2I에서 이점 미미
- 긴 캡션 학습이 짧은 캡션보다 우수하나 추론 시 프롬프트 재작성 필요
- Equal weighting(데이터셋별 동일 이미지 수)이 큐레이션 데이터셋 혼합의 강력한 기본값
- i1-3B: 공개 데이터만 사용, 5개 벤치마크에서 기존 최고 완전 오픈 모델 대비 평균 29.5%p 우수
- 17B HiDream-I1, 12B FLUX.1[Dev] 등 더 큰 모델들도 능가하며 설계 탐구의 가치 입증
- 400Machine Learning
Anatomy of Post-Training: Using Interpretability to Characterize Data and Shape the Learning Signal
- SAE 특징과 이표본 가설 검정으로 선호도 데이터의 잠재 개념(길이, 도움됨, 도덕성, 거부 등) 식별
- 식별된 개념을 explain away하여 바람직하지 않은 학습 신호를 사전 제거하는 데이터 중심 프레임워크
- Dolci 데이터셋 훈련 시 jailbreak robustness 저하 발견 - 기존 SFT 대비 안전성 악화
- 과도한 스타일화, 아첨 현상 진단 및 완화; 모델 성격(playful 등), 공식성 증폭 가능
- 다양한 포스트 트레이닝 프로토콜(DPO, SFT, 데이터 필터링)을 통합 렌즈로 설명
- 인과적 유효 특징이 모델 확률을 예측 가능하게 변경한다는 이론에 기반
연구에서 제품 적용까지
운영 중인 기능, 시범 적용과 개발 중인 기술을 구분해 정리했습니다.
보유기술 보기