연구자료실
설비 연결, 품질 검사, 생산 분석과 제조 업무에 관련된 외부 논문입니다.
연구자료 검색
새 논문 요약
요점은 편집자가 정리한 메모입니다. 원저자의 표현과 다를 수 있으니 원문을 확인하세요. 2026-11-20 갱신.
- 1090Computer Vision
In-Context Robot Learning with VLM Agents
- 로봇 학습 없이 상용 VLM의 능력만으로 현장 적응이 어느 정도 되는지를 체계적으로 측정한 첫 사례에 가깝다.
- 사람 동영상 시연만으로도 과제 진행률이 55%에서 100%로 올라가고, 실행 시간과 토큰 사용량도 줄었다.
- 목표 이미지, 로봇 영상+행동, 상호작용 기록 등 5가지 문맥 형태를 같은 실행 틀 안에서 비교했다.
- 티택토 같은 인간-로봇 상호작용 과제에서 GPT-6 Astra가 3/3 성공하며 차례 지키기와 전략 추론을 함께 해냈다.
- 반면 정밀 접촉, 결과 검증, 안전 문제는 범용 모델만으로 해결되지 않는 한계를 명확히 드러냈다.
- 1089Robotics
Reinforcement Learning for Real-Time Vision-Language-Action Policies
- 큰 VLA 모델의 추론 지연 때문에 실행 시점의 관측이 낡는 문제를 '느린 제안 + 빠른 수정' 이중 구조로 해결했다.
- 모방학습 기반이던 기존 실시간 실행 방식과 달리, 강화학습 미세조정으로 훈련 분포를 넘어 신뢰성을 높였다.
- 실제 로봇 4개 과제(물건 전달, 공 균형, 탁구공 차기, 동적 집기)에서 온라인 데이터 10분 만에 성능을 42%에서 97%로 끌어올렸다.
- 사람의 개입 없이 학습이 자동으로 돌아가는 점이 실제 현장 적용에서 중요한 의미를 갖는다.
- Kinetix 시뮬레이션 벤치마크에서 지연/무지연 모든 방법을 제치고 10개 환경 전부에서 최고 성능을 냈다.
- 1088Machine Learning
Discrete Beckmann Transport Models for One-Step Language Modeling and Reasoning
- 한 걸음 수송맵이 보존방정식 b·∇T=0을 만족한다는 이론을 세우고, 그 잔차를 최소화해 교사 증류 없이 직접 학습하는 방법을 만들었다.
- 부분 학습된 지도를 반복 적용하면 고정점(완성 문장)에 수렴하므로, 계산 횟수를 줄이고도 정확도를 끌어올릴 수 있다.
- 부분 문맥 보간으로 추가 계산을 '정제 단계'로 활용하는 자기수정 생성을 지원한다.
- 언어모델링(OpenWebText 생성 PPL)과 추론 과제에서 디퓨전/플로우 맵 기준 모델(FMLM 등)보다 같거나 적은 함수평가횟수로 더 좋은 성능을 냈다.
- 1087AI / General
Atria Dawn: The Dawn of Agentic Superintelligence
- 744B 파라미터 MoE 기반 에이전틱 모델을 도구 사용→산출물→외부 검증으로 이어지는 학습 파이프라인으로 훈련했다.
- 16개 벤치마크 중 5개에서 최고 점수, 3개에서 차점을 기록했다 (SWE-bench Pro 59.6, GDPval 1583 등).
- 자기 개발 과정의 작업 기록 769건(참가자 56명)을 분석하는 실증적 인간-AI 협업 연구를 함께 수행했다.
- AI 지원 작업의 약 3분의 1이 같은 조건에서는 AI 없이 불가능했다는 참가자 평가가 나왔다.
- 에이전트는 방법 제안·수정 실행을, 인간은 평가·선택·방향 결정을 맡는 '프로젝트 수준 파트너십'으로 역할이 이동하고 있음을 보여줬다.
- 1086AI / General
RSIAgent: Autonomous Exploration for Recursive Self-improvement in New Environments
- 커리큘럼·실행·검증 에이전트 3역할을 돌리는 재귀 자기개선 루프를 제안해 사람 감독 없이 환경 지식을 쌓았다.
- '넓게 병렬 탐색 → 중요 방향 깊게 파기' 2단계 전략으로 코너 케이스와 숨은 제약조건까지 메모리에 담았다.
- 단순 성공 기록이 아니라 행동→조건→결과의 인과관계를 메모리에 저장해 다른 작업에도 재사용했다.
- 학습 없이(파라미터 수정 없이) 메모리만으로 오픈소스 모델(Kimi-K3, GLM-5.3)을 GPT-6급 성능 이상으로 끌어올렸다.
- OSWorld-v2에서 부분점수 78.82, Agent's Last Exam 71.60 등 최전선 폐쇄형 모델 추월을 실증했다.
- 1085LLMs / NLP
NCP-ArchPreview Technical Report: Moving towards Latent Space Language Models through Next Concept Prediction
- 연구 방법은 내부 표현으로 개념 사전을 만들고 다음 개념 예측과 다음 토큰 예측을 함께 학습하며, 예측한 개념을 토큰 생성에 다시 전달하는 것이다.
- 8.9B 모델은 OLMo-3-7B가 사용한 전체 학습 토큰의 51.3%로 해당 기준 모델의 최종 사전학습 손실에 도달했고, 전체 학습 뒤 후속 과제의 전체 평균 점수는 2.45점 높았다.
- 모델 크기를 8.9B로 맞춘 별도 기준 모델과 비교해도 기준 계산량의 85%를 사용해 비슷한 학습 손실에 접근해, 성능 개선이 모델 크기 차이만으로 설명되지 않음을 보였다.
- 17M 규모의 개념 관련 모듈만 조정하는 분야 적응을 제시했으며, 개념 표현을 DFlash2의 초안 생성기에 넣었을 때 평균 수용 길이가 4.17% 늘어 추측 디코딩을 돕는 가능성도 보였다.
- 이번 구조 공개판은 표준 문맥 길이에서 평가됐고 긴 문맥 학습은 포함하지 않아, 장문 처리 환경에서도 같은 이점이 유지되는지는 추가 검증이 필요하다.
- 1084Machine Learning
The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement
- 자율성 5단계 프레임워크(B0~L5)를 제안해 흩어진 자기개선 연구를 하나의 지도로 정리했다.
- Anthropic, DeepSeek, Tencent 등 100곳 이상 산업 사례를 직접 조사해 단계별로 등급을 매겼다.
- 개발 부담의 실체를 숫자로 보여줬다: 멀티에이전트는 일반 챗보다 토큰을 약 15배 쓰고, DeepSeek-V3.2는 사후학습에 사전학습의 10% 이상을 썼다.
- OpenAI GPT-5.6 사례에서 AI가 실험을 직접 설계·실행해 토큰 생성 효율을 15% 이상 끌어올린 사례를 근거로 제시했다.
- 핵심 장벽으로 신뢰할 수 있는 검증(verification)과 학습 환경 구축을 꼽고, 이게 RSI의 병목이라고 진단했다.
- 1083Machine Learning
Thinking with Looped Flows
- 같은 구조의 기존 최고 모델(TRM) 대비 ARC-AGI-1 정확도를 44.6%에서 58.8%로, ARC-AGI-2를 7.8%에서 12.2%로 끌어올렸다.
- 기존 루프 모델이 실패하던 케이스의 90.9%를 해결했다. 특히 '수렴 실패' 케이스의 89.9%, '틀린 답에 안착' 케이스의 98.0%를 복구했다.
- 정답이 여러 개인 문제(N-Queens, 그래프 색칠)에서도 다른 샘플링으로 서로 다른 유효한 답들을 여러 개 뽑아내, 모든 지표에서 최고 성능을 냈다.
- 추론 시간 격자를 촘촘히 하거나 고급 적분기를 쓰는 것만으로 성능이 추가로 올라가, '계산을 더 쓸수록 더 잘 푼다'는 목표를 실현했다.
- 제거 실험에서 시간 조건, 인터폴랜트, 점감 노이즈, 노이즈 공유 등 플로우 구성요소 각각이 성능에 의미 있게 기여했다.
- 1082LLMs / NLP
Think Before You Link: Rarity, Reasoning, and Retrieval in Multilingual Entity Linking
- 조회 수 중심의 희소성 평가를 보완하기 위해 위키데이터의 연결 수와 설명 정보 등 구조적 지표로 드문 대상의 평가 집합을 구성했다.
- 추론 가능한 시각 언어 모델이 영어 위키백과를 반복 검색하면서 근거를 모으도록 설계했으며, 제안한 절차를 적용하기 위한 추가 모델 학습은 하지 않았다.
- 힌디어, 인도네시아어, 일본어, 타밀어, 베트남어로 구성된 MERLIN 평가에서 검색과 추론의 결합이 가장 좋은 성능을 보였고, 추론만으로는 드문 대상의 정확도가 유의하게 개선되지 않았다.
- 검색만 추가하면 드문 대상의 성능은 좋아져도 전체 정확도가 떨어질 수 있어, 검색 결과를 판별하는 추론 과정이 다국어 정보 연결 시스템에 중요함을 보여준다.
- 영어 위키백과 문서가 없는 대상에는 적용 가능성이 제한되고, 분석한 잔여 오류에서는 검색 실패가 가장 큰 비중을 차지해 검색 품질 개선이 주요 과제로 남았다.
- 1081Machine Learning
Data Scarcity and Model Sparsity: Mixtures-of-Experts Overfit More to Repeated Data
- 연구진은 활성 매개변수 8천만 개부터 10억 개까지의 모델에서 데이터 반복률, 분야별 혼합 비율, 전문가 수와 크기를 바꾸어 비교했다.
- 활성 매개변수 8천만 개 규모의 실험에서는 전문가 혼합 모델이 데이터를 네 번 반복할 때부터 성능 저하를 보였고, 높은 반복률에서는 밀집 모델에 대한 성능 우위를 잃었다.
- 전문가 선택 경로가 학습 초기에 고정되는 현상과 반복 데이터에 대한 전문가의 과도한 특화가 관찰되어, 과적합을 이해하는 단서를 제공했다.
- 드롭아웃과 출력 가리기는 반복 학습의 피해를 완화했으며, 데이터가 제한된 환경에서는 모델 구조와 함께 이런 과적합 완화 방법을 검토할 필요가 있음을 보여준다.
- 실험한 완화 방법 중 어느 것도 고유 데이터만 사용한 학습 성능을 완전히 재현하지 못했으므로, 반복 학습을 새 데이터 확보의 완전한 대체 수단으로 볼 수는 없다.
- 1080Computer Vision
SenseNova-U1.5: Towards Native Unified Visual Intelligence
- 인코더와 VAE를 없애고 픽셀에서 직접 배우는 단일 구조로, 이미지 이해·추론·생성·편집을 한 모델에서 처리했다.
- 각 픽셀 조각을 따로 예측하던 기존 방식을 고쳐, 이웃 영역끼리 정보를 주고받는 재구성 방식으로 바꿔 고해상도(4K)에서도 이음새 없는 이미지를 만들었다.
- 능력마다 전문 강화학습 전문가를 따로 훈련한 뒤 온-폴리시 증류로 하나로 합치는 '특화 후 통합' 전략을 썼다.
- 텍스트-이미지 교차 생성 벤치마크 VBVR-Pro-Bench에서 68.2점으로 Nano-Banana-Pro(56.4)와 GPT-Image-2(50.7) 같은 상용 모델을 제쳤다.
- 생성 학습데이터에 구조화된 형식이 거의 없었는데도 길고 복잡한 구조적 지시를 잘 따르는 것을 확인해, 이해 능력이 생성 능력으로 옮겨간다는 것을 보여줬다.
- 추론 중심 편집 벤치마크(RISEBench)에서 사고 과정(CoT)을 쓰면 인과·논리·시간 편집 성적이 크게 올라갔다.
- 1079Machine Learning
Semigroup-JEPA: Latent Dynamics Consistency for Zero-Shot Physics Generalization
- SG-JEPA는 중력 조건을 받아 여러 단계의 잠재 상태를 재귀적으로 예측하며 인코더와 예측기를 공동 학습한다.
- 학습에서는 좁은 중력 범위를 사용하고 평가에서는 더 넓은 중력 범위를 사용하는 여덟 가지 MuJoCo 데이터셋으로 일반화를 시험한다.
- 논문은 DINO-WM 대비 2차원 예측 오차가 최대 절반 수준으로 줄고 3차원 로봇 제어 성공률이 최대 2.5배로 높아졌다고 보고한다.
- 고정한 인코더에 새 예측기를 학습하는 분석은 동역학에 필요한 표현의 개선이 핵심임을 보여 주며, 이 표현을 별도 확산 정책의 제어 입력으로 활용한다.
- 중력 이외의 여러 물리 변수를 함께 바꾸는 상황은 검증하지 않았고, 물체 형태와 회전이 달라질 때의 전이는 불균일하다는 한계가 있다.
- 1078Computer Vision
Programmable World Model
- 세계 상태를 관리하는 엔진과 영상을 생성하는 렌더러를 분리해, 영상 세계 모델의 '기억하지 못하는' 문제를 구조적으로 해결했다.
- 코딩 에이전트가 자연어 지시를 실행 가능한 프로그램으로 바꿔, 사용자가 게임 규칙을 직접 프로그래밍할 수 있게 했다.
- 3D OBB라는 중간 표현을 써서 프로그램이 다루기 쉬우면서도 영상 생성을 정밀하게 안내할 수 있게 했다.
- 새 벤치마크 CombatStateBench에서 캐릭터 수 유지 정확도 94%, 상태 반영 정확도 98%로 기존 모델들을 최대 62%p 차이로 앞섰다.
- 영상 품질 지표(VBench) 4개 항목에서도 모두 최고 성적을 유지해, 구조화된 제어가 화면 품질을 해치지 않음을 보였다.
- 1077Robotics
Show-Harness: Just a VLM Agent Can Play Robots
- VLA(비전-언어-행동 모델)처럼 로봇 전용 재학습을 하지 않고, 의미 있는 동작 단위 인터페이스만으로 기초 VLM의 지능을 로봇 제어로 끌어냈다.
- 최신 폐쇄형 VLM을 학습 없이(제로샷) 그대로 로봇 에이전트로 쓸 수 있음을 실제 로봇 팔 실험에서 확인했다.
- 작은 오픈소스 VLM(2B급)도 몇 GPU시간의 가벼운 파인튜닝만으로 같은 동작 공간에서 로봇을 다룰 수 있어, 저비용 배포 경로도 열렸다.
- 작업·로봇 형태·환경이 바뀌어도 기존 에이전트 방식과 VLA 방식보다 일반화가 좋았다.
- GUMI라는 GUI 기반 조작 화면을 만들어, 값비싼 원격조종 장비 없이도 사람과 에이전트가 로봇 시연 데이터를 함께 수집할 수 있게 했다.
- 핵심 구성요소를 하나씩 빼는 실험에서 계획·실패 복구·동작 기록 등이 성공률을 최대 24~35%p 끌어올린다는 걸 보여줬다.
- 1076LLMs / NLP
AuK Technical Report: An Open-Source Foundational Model for Speech Generation and Editing
- 자연어 지시와 오디오 문맥을 공통 입력으로 사용해 음성 생성, 내용 편집, 복원과 분리, 발화 특성 및 음향 편집을 다룬다.
- 멀티모달 언어 모델의 의미 조건과 오디오 VAE의 음향 조건을 결합하고 생성 중심 준비 학습 이후 생성과 편집을 공동 학습한다.
- 생성과 편집에 서로 다른 후속 학습 신호를 적용하며 AuK-Flash는 네 단계 추론으로 비교 조건에서 4.5배의 실행 속도 향상을 보고했다.
- 서로 다른 오디오 작업을 통합된 인터페이스로 다룰 수 있어 음성 제작과 편집 도구를 구성하는 기반으로 활용할 수 있다.
- 복합 지시의 이해와 새로운 지시 조합으로의 일반화는 미해결 과제이며 현재 시스템은 작업 분류와 지시문 보완에 일부 의존한다.
- 1075Robotics
OpenWAM: An Open, Modular Exploration Towards Systematic World-Action Model Pretraining
- OpenWAM-Infra는 세계와 행동 모델의 설계 공간을 모듈로 나누고 학습, 추론, 배포와 평가 절차를 통합한다.
- 통제 실험을 통해 생성 모델과 압축 표현의 역할, 세계 예측에서 행동으로 전달되는 정보, 공동 학습의 효과를 구분해 조사한다.
- 약 6,400시간의 사람 시점 및 로봇 데이터로 학습한 모델을 여덟 시뮬레이션 벤치마크와 실제 로봇 조작 실험에서 평가했다.
- 설계와 평가 조건을 공유하므로 개별 구성 요소를 바꾸어 성능 차이를 재현하고 로봇 학습 방법을 비교하는 데 활용할 수 있다.
- 확인한 초록의 성능 주장은 평가한 단일 팔, 양팔과 손 조작 환경에 한정되며 모든 로봇 환경에 대한 검증 결과는 아니다.
- 1074Computer Vision
SyncWorld: Visual Calibration Enables World Models as Zero-Shot Simulators
- 로봇의 제어 방향별 움직임을 담은 영상과 행동 기록을 보정 문맥으로 제공해 환경별 명령과 시각 변화의 대응을 학습한다.
- 예측 시에는 보정 문맥과 최근 관측, 앞으로 실행할 행동을 함께 이용하며 새로운 환경에 맞춘 추가 학습을 요구하지 않는다.
- 연구진은 보지 못한 환경에서 행동 결과를 모사하고 이 예측으로 평가 시점의 정책 성능을 개선하는 실험을 제시했다.
- 카메라나 로봇 배치가 바뀔 때마다 시뮬레이터를 새로 학습하는 부담을 줄일 수 있다는 의미가 있다.
- 극단적인 시점에서는 궤적 예측이 불안정하고 학습 분포 밖의 물체를 다룰 때 물체가 흐려지거나 위치가 잘못 표현될 수 있다.
- 1073Computer Vision
WorldSculpt: Generating Compositional Worlds from Grounded Videos
- 물체 하나만 배우는 3D 생성 모델(Pixal3D)에 여러 시점 영상을 조건으로 넣는 회로를 추가해, 장면 단위 학습 없이 수백 개 물체 장면을 처리했다.
- 각 물체를 개별 메시로 만든 뒤 세계 좌표에 배치하므로, 게임·AR·시뮬레이션·로보틱스에서 물체를 따로 골라 쓸 수 있다.
- 언리얼 엔진으로 만든 UE-MeshyScene 벤치마크(6개 장면, 물체 93~701개, 물체별 정답 메시 포함)를 공개했다.
- 가림이 심한 벤치마크에서 학습 기반 시점 융합(IBR)이 오차 지표 CD-L2를 12% 낮추고 F-Score를 0.944에서 0.951로 올렸다.
- Marble·HY-World 2.0 같은 생성 월드모델이 만든 3DGS 장면을 물체 단위 메시 장면으로 바꾸는 응용도 추가 학습 없이 시연했다.
- 1072AI / General
Don't Drop Dropout: Optimizing Layer Sparsity for Efficient LLM Training and Inference
- 2400번 넘는 학습 실험으로, 층이 깊어질수록 드롭아웃을 세게 걸고 학습이 진행될수록 약하게 거는 조합이 최적이라는 걸 찾아냈다.
- 같은 학습 예산에서 검증 손실이 dense(드롭아웃 없는 기준)와 비슷하거나 더 낮게 나오면서 계산량은 최대 25% 절약됐다.
- 82억 파라미터 모델에서 최대 드롭아웃 99%의 공격적 설정으로도 손실 1.663을 기록해 dense 기준(1.732)보다 좋았다.
- 드롭아웃으로 학습한 모델은 층을 생략해도 튼튼해서, 자기-추측 디코딩(모델이 직접 빠른 초안을 쓰고 검증하는 가속 기법)으로 최대 1.55배 빨라졌다.
- 반면 드롭아웃 없이 학습한 dense 모델은 층을 건너뛰면 손실이 6.446까지 폭증해 사실상 못 쓰는 점이 대비된다.
- 1071LLMs / NLP
Random Attention: Rethinking KV Cache Eviction for Efficient Reasoning
- 연구 방법은 입력 질문을 보존한 채 각 어텐션 헤드의 추론 기록에서 캐시 항목을 균등한 확률로 제거해, 중요도 점수 계산과 순위 선정을 없애는 것이다.
- 네 모델과 여섯 추론 과제의 비교에서는 강한 기존 제거 방법에 견줄 정확도를 보였으며, 모든 방법이 입력 질문을 보존하도록 맞추면 방법 사이의 성능 차이가 대부분 줄었다.
- H200 한 대에서 캐시 예산 2048, 입력 길이 1k 토큰, 생성 길이 32k 토큰을 사용한 vLLM 실험의 출력 처리량은 TriAttention보다 32~43% 높았다.
- 추론 중 필요한 정보가 다시 서술되고 여러 헤드에 중복 저장된다는 분석은, 복잡한 중요도 계산 없이도 긴 추론 서비스의 메모리 부담과 캐시 관리 비용을 줄일 가능성을 보여준다.
- 한 번만 등장하고 다시 언급되지 않는 정보를 찾는 실험에서는 선별 신호가 도움이 됐으므로, 이 결과를 모든 정보 검색 과제나 모든 모델에서 무작위 제거가 우수하다는 뜻으로 일반화해서는 안 된다.
- 1070Research
Large-Language Models as a Cognitive Virus
- 사람을 세 상태(미사용 U, 자율 사용 C, 지속 의존 D)로 나눈 인구 동역학(전염병식 확산) 모델에서, 전파율이 임계 구간을 넘으면 자율 집단과 의존 집단이 공존하던 상태가 급격히 의존 쪽으로 넘어가는 이중안정성(두 안정 상태가 공존하는 구간)이 나타났다.
- 예시 파라미터(ρ=0.10, κ=0.40)에서 임계값 λSN=0.40과 λTC=0.50 사이에 히스테리시스가 생긴다. 즉 채택이 한번 폭주하면 전파 압력을 예전 수준으로 낮춰도 저절로 이전 상태로 돌아오지 않는다(기술 고착).
- 지속 의존 비율은 D*=(µ/σ)C*로 정해진다. 의존으로 빠지는 속도 µ를 줄이거나 회복 속도 σ를 높이면 (훈련, 검증 습관, 의도적인 인지 마찰) 의존 규모를 줄일 수 있다.
- 인지 역량 예시값(자율 1.0, 자율적 사용 0.5, 지속 의존 0.1)을 대입하면 평균 역량도 같은 히스테리시스를 따라간다. 개개인의 채택이 완만해도 인구 전체에서는 급락할 수 있다는 게 핵심이다.
- '인지 면역화'는 AI 접촉 차단이 아니라, 스스로 검증하고 맨머리로 문제를 푸는 습관과 교육 설계를 유지하는 것이라고 정의했다. 예방이 회복보다 훨씬 쉽다는 결론.
- 논문이 인용한 실험 근거: '먼저 생각하고 나중에 ChatGPT' 프로토콜이 이후의 독립적 창의성을 높였고, 무제한 AI 사용은 도구를 쓰는 동안의 성과는 올려도 도구 없이 할 때의 성과와 이해·기억은 낮췄다.
- 1069LLMs / NLP
Last Translation Benchmark
- 텍스트·이미지·오디오·비디오 형식의 어려운 번역 예제 3456개를 109개 언어에 걸쳐 사람이 만들고 동료 검토까지 거쳤다.
- 각 예제에 '이렇게 번역돼야 한다'는 검증 규칙을 달아, LLM 심판이 규칙 단위로 통과/실패를 판정한다. 전 규칙 통과만 성공으로 인정한다.
- 간단한 영어→체코어 문장(남자 간호사의 성별 표현)에서 Google Translate와 Gemini 3.1 Pro는 0%를 받았고 GPT-5.6 Sol만 통과했다. 강한 모델도 치명적 실수를 한다는 증거다.
- 예제를 다른 언어로 이식하는 실험에서는 자동 필터가 48%를 살렸고 사람 검토로 64.1%가 통과해, 반자동 확장이 가능함을 보였다.
- 데이터는 CC BY 4.0으로 공개됐고 계속 기여를 받는 '살아있는' 벤치마크다.
- 1068AI / General
Terminal-Universe: Turning Agent Trajectories into Scalable Terminal Environments
- 에이전트 기록 안에 이미 환경 정보가 다 담겨 있다는 발상으로, 파일 조작 되감기 + 보완 에이전트로 37.3k개의 재사용 가능한 실행 환경을 복원했다.
- 한 환경에서 여러 과제를 뽑아 내되, 여러 코드베이스를 넘나드는 과제(폭 확장)와 사용자 피드백이 이어지는 멀티 라운드 과제(깊이 확장)까지 합성했다.
- 과제마다 검증기를 붙이고 통과한 데이터만 써서, Qwen3.5-27B가 Terminal-Bench 2.1에서 11.9점, EvoCode-Bench v2 MT@4에서 13.8점 올랐다.
- 같은 데이터 예산이면 질문이나 해답 수를 늘리는 것보다 환경 수를 늘리는 게 더 효과적이었다(53.2→56.0 vs 53.8/53.9).
- 원본 기록을 그대로 따라 하는 학습보다 복원 환경에서 과제를 다시 풀게 하는 학습이 훨씬 좋았다.
- 소프트웨어 엔지니어링(SWE) 기록에서 만든 데이터로도 터미널 벤치마크 평균이 47.0→50.0으로 올라 도메인을 넘어 일반화됐다.
- 1067Machine Learning
Unlocking Lossless Speedups in LLMs via Discrete Diffusion
- 기존 LLM에 확산(여러 토큰을 동시에 채우는 방식) 가중치를 얹는 가벼운 학습 단계만 추가해, 구조를 크게 바꾸지 않고도 최대 3배 가속을 얻었다.
- 초안 전용 작은 모델이 필요한 추측 디코딩(EAGLE-3, DFlash)과 달리 한 모델에서 초안+검증을 처리하고, 답 분포가 원본과 정확히 같은 무손실 가속이다.
- 기존 확산 LLM은 배치가 커지면 이득이 사라졌는데, Uno는 평가한 모든 배치에서 추측 디코딩보다 처리량이 높고 최대 배치에서도 2배 빠름을 유지했다.
- 8B Uno가 26B DiffusionGemma와 상용 Mercury 2를 에이전트 도구 사용·코딩·긴 문서 추론 전 벤치마크에서 이겼다.
- RL 후속학습에서 가장 느린 롤아웃 생성 단계도 빨라져, 추론뿐 아니라 강화학습 훈련 자체를 가속할 수 있음을 보였다.
- 이미 공개된 오픈웨이트 모델에 얹어 만들 수 있어서, 새로 대형 학습을 하지 않아도 된다.
- 1066AI / General
Rethinking On-Policy Distillation of Large Language Models II: One Training Example
- 증류 훈련에 질문 1개만 써도 수백 스텝 동안 성능이 계속 올라가, 수학 과제에서 전체 데이터 효과의 72%를 회복했다.
- '상태 커버리지'라는 잣대를 제안해 설명했다. 질문 1개 = 71.5%, 의미가 다른 질문 16개 = 98.9% 커버로 전체 데이터 훈련과 동급 성적을 냈다.
- 흡수율(남은 선생-학생 격차 중 한 번의 업데이트로 메우는 비율)은 질문 1개든 17,000개든 비슷한 속도로 떨어졌다. 병목은 데이터 양이 아니라 학습 알고리즘이라는 뜻이다.
- 내용이 거의 없는 템플릿이나 관계없는 도메인의 잡담 데이터(WildChat)로 훈련해도 진짜 질문과 비슷한 효과가 났다. 질문의 역할은 '생각을 시작시키는 것'뿐이라는 것이다.
- 같은 질문 하나로 1000스텝을 비교하면 증류(OPD)의 성능 향상은 강화학습(RLVR)의 2배 이상이었다. 결과 보상은 답을 맞히면 소진되지만 토큰 단위 지도는 계속 남기 때문이다.
- 1065LLMs / NLP
Trace as State: Reasoning Traces as Conditional States for Long-Context Transformers
- 첫 독서에서 나온 추론 흔적을 긴 문서 앞에 붙여 다시 읽게 하는 것만으로, 27가지 모델×과제×지표 조합 중 26가지에서 기존 방식(흔적을 뒤에 붙임)을 이겼다.
- '조건을 먼저 주면 나중에 줄 때보다 필요한 기억 공간이 지수적으로 적다'는 이론 분석으로 왜 앞에 넣는 게 유리한지 설명했다.
- GraphWalks Parents 과제에서 GLM-5.2는 정확도가 첫 시도 66.4%에서 100%로, DeepSeek V4 Pro는 29.2%에서 81.8%로 올라갔다.
- 다른 문제의 흔적을 넣으면 오히려 성적이 떨어졌다. 형식이 아니라 그 문제 특유의 정보가 효과의 원인이라는 뜻이다.
- 흔적 개수를 1개에서 5개로 늘릴수록 성적이 계속 올라가, 추론 횟수를 조절하는 추가 스케일링 지점으로도 쓸 수 있다.
- 모델 구조 수정이 전혀 없어서 긴 문서를 다루는 어떤 서비스에도 바로 붙일 수 있는 게 최대 장점이다.
- 1064Robotics
One Demonstration, Many Objects: Generalizing Manipulation via Local Contact Geometry
- 원격조종 대신 사람 동영상 시범 한 개에서 출발해, 로봇 궤적으로 바꾼 뒤 시뮬레이션에서 잔차 강화학습으로 다듬고 깊이 카메라 정책으로 증류했다.
- 손목 깊이 카메라가 접촉점 근처 국소 형상만 보는 하위 정책과 전방 RGB 영상으로 전역 궤적을 잡는 상위 정책을 분리해, 실행 시 물체 위치 추정 없이 작동한다.
- 접촉 정렬·접촉 유지 보상은 시뮬레이션 점수에는 거의 영향이 없지만 실제 하드웨어 성공률을 결정적으로 끌어올린다는 점을 절제 실험으로 보였다.
- 16개 물체 × 4개 과제 × 2종 로봇 손에서 평균 71% 실제 성공률(한쪽 손 76%, 다른쪽 손 65%)을 기록했고, 시뮬-리얼 성능 저하는 기준선보다 가장 적었다.
- 국소 접촉 기하가 다른 물체(곡면 처리된 뚜껑 상자)에서는 39%까지 떨어져, 일반화의 경계가 접촉 구조의 유사성임을 솔직히 보여줬다.
- 1063Machine Learning
SMELT: Scaling Laws for Compute-Matched MoE Looped Transformers
- 루프 연구 최초로 토큰당 연산량·총 파라미터·KV캐시 세 예산을 동시에 동일하게 맞춰, '계산을 더 써서 그런 것'이라는 반론을 차단한 다중 규모 비교다.
- 중간 절반 레이어만 두 번 돌리고 은닉 차원을 줄인 뒤 전문가 수를 늘려 지식 용량을 복구하는 설계로, MoE에서만 가능한 예산 균형을 활용했다.
- 비임베딩 54B까지 4개 규모·여러 희소도에서 항상 더 낮은 손실을 기록했고, 스케일링 법칙 피팅으로 같은 성능 도달에 6.8~18.0% 적은 학습 연산량이 필요함을 확인했다.
- 코드 도메인에서 이득이 가장 크고, 입력이 길수록 프롬프트의 예시가 많을수록 격차가 벌어져 구조화된 입력에서 루프의 가치가 커짐을 보였다.
- 두 번째 통과에서 어텐션 싱크가 사라지고 정답 근거 토큰으로 어텐션이 이동하는 현상(괄호 짝맞추기 과제에서 첫 토큰 쏠림 0.60 → 0.02, 근거 토큰 0.24 → 0.85)을 확인했다.
- 1062AI / General
Harness-of-Harness: Multi-Day Autonomous Software Development with Continual Improvement
- 하네스 구현을 건드리지 않고 산출물(계획, 테스트 리포트)의 형식만 강제해 위반 시 재시도를 유발하는 방식으로, 에이전트 자율성과 검증 가능성을 동시에 확보했다.
- GameCraft-Bench·FrontierSWE·ProgramBench에서 Codex+GPT-5.5, OpenCode+DeepSeek-V4-Pro, Pi+MiniMax-M3 조합 모두 3회 루프 만에 평균 상대 52.25%, 최대 82.86% 향상을 기록했다.
- FrontierSWE에서 Codex+GPT-5.5는 10회 루프 동안 22%에서 72.67%로 계속 올라가, 반복이 늘수록 이득이 누적됨을 보였다.
- 빈 작업 폴더에 요구사항 문서만 주고 70회 넘는 루프로 스토리·전투 AI·연출·오디오를 갖춘 1인칭 슈팅 게임 'Fusepoint'를 자율 완성했다. 사람의 개입은 네트워크 복구뿐이었다.
- 기록된 81개 이슈 중 65개를 스스로 종료했고, 예전에 검증된 기능이 무너진 재발 이슈 17건을 버전 이력 기반으로 복구해 장기 개발에서 회귀 관리가 핵심임을 보여줬다.
- Godot 엔진 연동, 에셋 생성, UI/UX, 테스트용 스킬을 역할별로 배정해 재사용을 유도하는 점진 공개 구조를 썼다.
- 1061Computer Vision
SolarWM: Open Data and Scalable Training for Long-Horizon Video World Models
- 10개 데이터셋 143만 클립(25TB 이상)을 프레임 정렬·카메라 기하·캡션·품질 메타데이터를 포함한 통합 규격으로 변환해, 전처리를 다시 돌리지 않고도 훈련 배합을 바꿔 실험할 수 있게 했다.
- 구조가 전혀 다른 Wan2.2(5B/14B)·LTX-2.5(22B)·MiniMax-H3(33B) 백본에 원래 표현과 목표를 해치지 않는 백본 네이티브 적응을 적용해, 서로 직접 비교 가능한 4개 모델 패밀리를 완성했다.
- 양방향 학습 → 자기회귀 적응 → 분포 정합 증류(DMD, 큰 모델의 출력 분포를 흉내 내도록 작은 모델을 압축 학습하는 기법)의 단순한 3단계만으로 특수한 초기화 없이 최고 수준 성능을 냈다.
- 5초 시퀀스만으로 학습했는데도 긴 영상 미세조정이나 어텐션 싱크 장치 없이 60분 연속 롤아웃 끝까지 장면 정체성과 카메라 반응을 유지했다.
- 학습 데이터에 없는 스타일의 외부 생성 이미지(GPT Image 2, Krea)로 시작해도 처음 보이는 영역을 상상하며 탐색 가능한 세계로 확장하는 일반화를 보였다.
- 데이터·처리 파이프라인·훈련 레시피·가중치를 전부 공개해 재현 가능한 영상 월드모델 연구의 기준점을 만들었다.
연구에서 제품 적용까지
운영 중인 기능, 시범 적용과 개발 중인 기술을 구분해 정리했습니다.
보유기술 보기