연구자료실
설비 연결, 품질 검사, 생산 분석과 제조 업무에 관련된 외부 논문입니다.
연구자료 검색
새 논문 요약
요점은 편집자가 정리한 메모입니다. 원저자의 표현과 다를 수 있으니 원문을 확인하세요. 2026-11-20 갱신.
- 39Training Efficiency
The First Few Tokens Are All You Need: An Efficient and Effective Unsupervised Prefix Fine-Tuning Method for Reasoning Models
- LLM 추론을 개선하는 기존 방법은 방대한 레이블 데이터나 연산 비용이 큰 샘플링을 요구한다.
- 전통적 파인튜닝 접근은 복잡한 추론 작업에서 효율성과 확장성에 어려움을 겪는다.
- 서로 다른 해법 경로가 공통의 초기 추론 단계를 공유하는 'Prefix Self-Consistency' 현상을 활용한다.
- 추출된 prefix 부분 문자열로 모델을 파인튜닝하면서 추론 구조를 유지하는 UPFT 방법을 개발한다.
- 추론 능력의 파국적 망각을 방지하기 위해 구조 튜닝을 통합한다.
- 추론 과정의 초기 토큰은 핵심 정보를 담고 있으며 서로 다른 해법 전반에서 높은 일관성을 보인다.
- 38Architecture / Reasoning
Inner Thinking Transformer: Leveraging Dynamic Depth Scaling to Foster Adaptive Internal Thinking
- 소형 대규모 언어 모델(LLM)은 고정된 연산 예산과 제한된 파라미터 수 때문에 복잡한 추론 작업을 처리할 때 본질적인 성능 병목을 겪는다.
- 성능을 높이려고 LLM 파라미터를 계속 확장하는 전통적 접근은 수익 체감과 연산·배포 비용 급증에 부딪혀 지속 가능성에 대한 우려를 낳는다.
- 실증 분석에 따르면 '어려운' 토큰은 Transformer 계층 전반에서 지속적인 그래디언트 진동과 급격한 스파이크를 유발하며, 이는 구조적 부담과 복잡한 정보 처리에 필요한 깊이의 부족을 나타낸다.
- 단일 토큰의 생성을 일련의 내부 추론 단계로 분해해 그 표현을 반복적으로 정제하는 'Inner Thinking Step' 개념을 도입한다.
- 각 사고 단계의 출력을 누적하는 Residual Thinking Connections(RTC)를 구현해 점진적인 표현 정제를 가능하게 하고 성능 병목을 돌파한다.
- Adaptive Token Routing(ATR)을 적용해 추가 사고 단계를 가장 중요한 토큰에만 동적으로 할당함으로써 쉬운 토큰에 대한 불필요한 처리를 피해 연산 효율성을 높이고, Thinking Step Encoding(TSE)으로 각 단계에 문맥 정보를 제공한다.
- 37Reasoning / Agents
The Danger of Overthinking: Examining the Reasoning-Action Dilemma in Agentic Tasks
- LRM은 환경과의 상호작용보다 확장된 내부 추론을 선호하는 경향이 있어, 비효율적인 성능으로 이어진다.
- AI 시스템에서 과도한 숙고 행동을 분석하고 정량화하기 위한 체계적 프레임워크가 존재하지 않는다.
- 상호작용 환경에서 추론과 행동 사이의 균형에 대한 이해가 부족하다.
- LRM의 과도한 숙고를 연구하고 측정하기 위한 포괄적 프레임워크를 개발했다.
- SWE Bench Verified를 사용해 4,018개의 궤적을 분석해 패턴을 식별했다.
- 인간 전문가 평가에 대조해 검증된 점수화 시스템을 도입했다.
- 36Efficiency / Multi-model
Optimizing Model Selection for Compound AI Systems
- 복합 AI 시스템은 보통 모든 모듈에 동일한 LLM을 사용해 전체 성능을 제한한다.
- 서로 다른 시스템 구성 요소에 걸쳐 모델 선택을 최적화하는 체계적 접근법이 없다.
- 단조적 성능 관계를 활용하는 LLMSelector 프레임워크를 개발했다.
- LLM 기반 성능 추정을 사용해 모델을 모듈에 효율적으로 할당한다.
- 순차적 모듈 지명을 통한 반복적 최적화 접근법을 구현한다.
- 종단간 성능은 종종 모듈별 성능에 대해 단조적이다.
- 35Benchmarks / Code Agents
SWE-Lancer: Can Frontier LLMs Earn $1 Million from Real-World Freelance Software Engineering?
- 기존 LLM 코딩 벤치마크는 단위 테스트에 의존해 채점기 해킹에 취약하며, 복잡한 풀스택 소프트웨어 공학 작업을 검증하기에 불충분하다.
- 이전 평가들은 직접적인 경제 지표가 부족해, 실제 소프트웨어 개발 시나리오에서 LLM 출력의 실질적인 금전적 가치를 정량화하지 못한다.
- 현재 벤치마크는 상업적 프리랜스 소프트웨어 공학 작업의 다양하고 모호하며 포괄적인 성격보다는 고립된 프로그래밍 문제나 특정 저장소에 초점을 맞춰 범위가 좁은 경우가 많다.
- 총 100만 달러에 달하는 실제 금전적 보상이 걸린 Expensify의 실제 프리랜스 소프트웨어 공학 작업 1,400개 이상을 특징으로 하는 벤치마크 SWE-Lancer를 개발했다.
- 코드 패치 생성을 요하는 개별 기여자(IC) SWE 작업과, 모델이 여러 제안 중 최적의 해법을 선택하는 SWE 관리 작업의 두 가지 작업 유형을 포함했다.
- Playwright로 작성하고 전문 엔지니어가 3중 검증한 종단간(E2E) 테스트를 활용하는 엄격한 5단계 파이프라인을 채택해, 견고하고 해킹 불가능한 평가를 보장했다.
- 34LLMs / Diffusion
Large Language Diffusion Models
- 대규모 언어 모델의 능력(확장성, 문맥 내 학습)이 자기회귀 구조에만 있다는 것이 통념이다.
- 양방향 또는 역방향 추론을 요하는 작업에서 모델이 어려움을 겪는 역전의 저주처럼 자기회귀 모델에는 한계가 있다.
- 수십억 파라미터 규모의 자기회귀 모델과 성능 면에서 견줄 수 있는 대규모 언어 확산 모델이 없었다.
- 인과 마스크 없이 Transformer 백본을 활용해 이산 토큰 시퀀스를 위한 마스크 확산 모델(MDM)인 LLaDA를 개발했다.
- 음의 로그 가능도의 상한을 이루는 원칙적인 교차 엔트로피 손실을 최적화하며, 2.3조 토큰 데이터셋으로 80억 파라미터 LLaDA 모델을 처음부터 학습했다.
- 생성 품질과 속도의 균형을 맞추는 저신뢰도 재마스킹 기법을 포함한 유연한 반복 샘플링 전략을 추론에 구현했다.
- 33Architecture / Efficiency
Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention
- LLM의 전통적인 어텐션 메커니즘은 시퀀스 길이에 대해 이차 연산 복잡도를 가져, 학습과 추론 시 긴 컨텍스트 처리가 엄청나게 비싸진다.
- 기존 희소 어텐션 방법은 비효율적인 메모리 접근 패턴과 현대 하드웨어 구조(예: MQA/GQA)와의 비호환성 탓에, 이론적 효율 이득을 실제 지연 속도 향상으로 전환하지 못하는 경우가 많다.
- 대부분의 희소 어텐션 접근법은 추론 전용으로 설계되어 사전 학습된 full attention 백본을 요구하는데, 이는 성능 저하로 이어지거나 종단간 학습을 비실용적이거나 비효율적으로 만들 수 있다.
- Native Sparse Attention(NSA)은 세 개의 병렬 분기를 결합한 계층적 희소 어텐션 메커니즘을 도입한다. 즉 전역 컨텍스트를 위한 압축 어텐션, 세밀하게 중요한 토큰을 위한 선택 어텐션, 지역 컨텍스트를 위한 슬라이딩 윈도우 어텐션이다.
- 학습 가능한 게이팅 메커니즘을 사용해 이 분기들의 출력을 동적으로 집계함으로써, 높은 희소성을 유지하면서 거친 정보와 세밀한 정보를 유연하게 결합할 수 있게 한다.
- NSA는 하드웨어 정렬을 위해 설계된 전용 Triton 기반 커널을 활용하며, 그룹 중심 데이터 로딩과 공유 KV 페칭에 초점을 맞춰 학습과 추론 모두에서 메모리 접근을 최적화하고 GPU 텐서 코어 활용도를 극대화한다.
- 32Reasoning / Survey
Advancing Reasoning in Large Language Models: Promising Methods and Approaches
- 대규모 언어 모델(LLM)은 종종 견고하고 체계적인 추론 능력이 부족해, 논리적 연역, 수학 문제 해결, 다단계 추론 같은 복잡한 작업에서 어려움을 겪는다.
- 이러한 결함은 사실 부정확성, 비일관성, 환각 같은 심각한 문제로 이어져, 핵심 응용에서 LLM의 신뢰성을 제한한다.
- 현대 LLM의 데이터 주도 패러다임을 고전 AI의 구조화된 추론과 통합하는 것은 여전히 진행 중이며 복잡한 과제다.
- 이 논문은 LLM의 추론 향상에 관한 기존 연구를 체계적으로 수집하고 분석하는 포괄적인 문헌 검토를 수행한다.
- 다양한 추론 개선 기법을 프롬프팅 전략, 구조적 혁신, 학습 기반 접근법의 세 가지 주요 그룹으로 분류한다.
- 이 서베이는 또한 LLM 추론을 평가하는 데 사용되는 다양한 벤치마크와 지표를 검토하고, 열린 과제와 향후 연구 방향을 규명한다.
- 31Agents
Multi-agent Architecture Search via Agentic Supernet
- 기존 다중 에이전트 시스템(MAS) 설계는 노동 집약적이며, 광범위한 수동 프롬프트 엔지니어링과 복잡한 에이전트 간 통신 정의를 요구한다.
- 현재의 자동화된 MAS 설계 방법은 보통 단일하고 획일적인 최적 시스템을 탐색해, 더 단순한 질의에 대해 자원 비효율과 높은 비용을 초래한다.
- 단일 최적 MAS는 다양한 작업 영역에 걸친 적응성이 부족해, 재최적화 없이 이전되면 성능이 떨어지거나 비효율적으로 작동한다.
- MaAS는 에이전트 연산자들로 구성된 확률적 L-계층 유향 비순환 그래프(DAG)인 에이전트 슈퍼넷을 도입하며, 여기서 맞춤형 다중 에이전트 구조를 샘플링할 수 있다.
- 컨트롤러 네트워크는 MoE 스타일 네트워크와 조기 종료 연산자를 사용해 질의 복잡도에 따라 연산 깊이를 관리하며, 슈퍼넷에서 질의에 맞는 구조를 동적으로 샘플링한다.
- 이 시스템은 몬테카를로 방법을 사용해 슈퍼넷의 연산자 분포를 최적화하고, 에이전트 기반 텍스트 그래디언트를 통해 개별 에이전트 연산자를 정제해, 성능과 토큰 비용의 균형을 맞춘다.
- 30Agents / Ensembling
Rethinking Mixture-of-Agents: Is Mixing Different Large Language Models Beneficial?
- 전통적인 mixture-of-agents 접근법은 서로 다른 LLM을 결합하면 더 나은 성능으로 이어진다고 가정한다.
- LLM 앙상블에서 다양성과 품질 사이의 근본적인 트레이드오프에 대한 이해가 부족하다.
- 단일 고성능 모델에서 다수의 출력을 생성하는 Self-MoA를 도입했다.
- 컨텍스트 길이 제약 아래에서 더 많은 출력을 처리하기 위한 Self-MoA-Seq를 개발했다.
- 200개 이상의 실험에 걸쳐 품질-다양성 관계에 대한 포괄적 분석을 수행했다.
- 앙상블 성능은 다양성보다 출력 품질에 더 민감하다.
- 29Reasoning
Demystifying Long Chain-of-Thought Reasoning in LLMs
- 대규모 언어 모델(LLM)은 Chain-of-Thought(CoT) 프롬프팅을 사용해도 고급 수학, 과학 QA, 소프트웨어 공학 같은 복잡한 추론 영역에서 여전히 어려움을 겪는다.
- 특히 강화학습(RL) 학습의 맥락에서 긴 CoT 능력이 LLM에서 어떻게 출현하는지에 대한 이해가 제한적이다.
- CoT를 위한 RL 학습은 적절한 설계 선택이 없으면 불안정한 CoT 길이 증가, 컨텍스트 윈도우 한계를 초과하는 출력, 보상 해킹 같은 문제에 자주 부딪힌다.
- 연구진은 Llama-3.1-8B와 Qwen2.5-7B-Math 같은 모델로 지도 미세조정(SFT)과 강화학습(RL)을 결합해 긴 CoT 추론을 체계적으로 조사했다.
- 강력한 창발적 모델(QwQ-32B-Preview)에서 긴 CoT 패턴을 증류해 고품질 SFT 데이터를 큐레이션하고, 검증 가능한 보상 신호를 확장하기 위해 노이즈가 있는 웹 추출 데이터를 필터링하는 방법을 탐구했다.
- RL을 위해 N-gram 반복 페널티가 포함된 코사인 길이 스케일링 보상(Cosine Length-Scaling Reward)이라는 새로운 보상 함수를 도입해 CoT 길이를 안정화하고 학습 중 생성 행동을 제어했다.
- 28Reasoning
CoAT: Chain-of-Associated-Thoughts Framework for Enhancing Large Language Models Reasoning
- 빠른 사고 모드로 작동하는 대규모 언어 모델(LLM)은 반복적인 숙고를 요하는 복잡하고 다단계이며 지식 집약적인 작업에서 종종 어려움을 겪는다.
- Chain-of-Thought(CoT)와 기본 몬테카를로 트리 탐색(MCTS) 변형 같은 기존의 느린 사고 방법은 초기 입력이나 정적 지식 검색에 제한되어, 변화하는 정보에 대한 동적 적응이 부족하다.
- 기존 검색 증강 생성(RAG) 방법은 보통 초기 입력 단계에서만 외부 지식을 통합하는데, 이는 추론 과정 후반부에 관련 없는 정보 과부하나 핵심 내용 부족으로 이어질 수 있다.
- CoAT는 추론 과정의 각 단계에서 새롭고 관련 있는 정보를 실시간으로 능동적으로 생성하고 통합하는 새로운 동적 연상 메모리(AM) 메커니즘을 도입한다.
- 새로운 Association 단계를 통합하고 생성된 콘텐츠와 연상 메모리의 품질을 모두 명시적으로 고려하도록 평가를 수정한, 최적화된 몬테카를로 트리 탐색(MCTS) 프레임워크를 채택한다.
- MCTS의 노드 값은 생성된 콘텐츠의 값과 연상 콘텐츠의 값(계수 β로 가중)을 기반으로 계산되어, 탐색 중 동적 지식의 품질과 관련성이 우선시되도록 보장한다.
- 27Reasoning / Data Efficiency
LIMO: Less is More for Reasoning
- 대규모 언어 모델의 복잡한 추론에는 방대한 양의 학습 데이터가 필요하다는 것이 통념이다.
- 대규모 데이터셋을 수집하고 학습하는 데 높은 연산 비용과 자원이 든다.
- 크고 큐레이션되지 않은 추론 데이터셋으로 학습된 모델은 일반화가 제한되고 암기 가능성이 있다.
- 최소한의 데이터셋을 활용하는, LIMO라는 이름의 데이터 효율적 지도 미세조정(SFT) 접근법이다.
- 문제 난이도에 대한 다단계 필터링과 추론 사슬 품질에 대한 상세한 규칙 기반 점수화를 통해, 고도로 큐레이션된 800개 수학 추론 문제 데이터셋을 구축했다.
- 학습 과정은 기본 모델이 사전 학습된 지식을 활용해 메타 추론 작업을 응집된 사슬로 통합할 수 있게 한다.
- 26Video Generation
OmniHuman-1: Rethinking the Scaling-Up of One-Stage Conditioned Human Animation Models
- 기존의 종단간 인간 애니메이션 모델은 원본 비디오 데이터의 90% 이상을 폐기하는 엄격한 데이터 필터링 요구사항 때문에 대규모 데이터셋으로 효과적으로 확장하기 어렵다.
- 주요 구동 신호(예: 입술 동기화를 위한 오디오)와 일반적인 신체 동작 사이의 약한 상관관계가 기존 모델을 전문화된 시나리오로 제한해, 전신 애니메이션과 다양한 상호작용을 가로막는다.
- 현재 모델은 작고 고도로 큐레이션된 데이터셋 탓에 정면 초상화에 정적 배경 같은 좁은 사용 사례에 국한되어 일반화 능력이 제한적이다.
- 고도화된 Diffusion Transformer(DiT) 구조를 기반으로 구축된 종단간 다중 모달 조건부 인간 비디오 생성 프레임워크 OmniHuman을 제안한다.
- 약한 조건을 활용해 데이터를 확장하고 강한 조건 대 약한 조건의 학습 비율을 신중하게 균형 잡는, 점진적인 3단계 혼합 조건 방식을 특징으로 하는 새로운 Omni-conditions 학습 전략을 채택했다.
- 다양한 구동 조건(오디오, 포즈, 텍스트)과 외형 조건(참조 이미지, 모션 프레임)을 최소한의 파라미터 추가로 효율적으로 통합하며, 외형 조건화를 위해 DiT 백본을 재사용한다.
- 25Reasoning / Efficiency
s1: Simple test-time scaling
- OpenAI의 o1 같은 폐쇄형 모델에서 '테스트 시점 스케일링'이 등장했음에도, 명확하고 접근 가능한 테스트 시점 스케일링 행동을 보이는 오픈소스 모델이 부족했다.
- 전통적인 대규모 언어 모델(LLM) 성능 향상은 주로 연산 집약적인 '학습 시점 스케일링'에 의존하여, 최첨단 연구를 많은 이에게 접근 불가능하게 만들었다.
- 테스트 시점 스케일링을 재현하려는 기존 오픈소스 시도는 흔히 복잡하거나(예: 몬테카를로 트리 탐색, 멀티 에이전트 시스템) 여전히 상당한 자원을 요구했다(예: 수백만 개의 RL 샘플).
- 품질·난이도·다양성을 기준으로 59,000개 이상의 예시에서 면밀히 선별한 1,000개 샘플의 고품질 추론 데이터셋 s1K를 큐레이션했다.
- s1K 데이터셋으로 Qwen2.5-32B-Instruct 베이스 모델을 지도 미세조정(SFT)하되, 추론 트레이스와 해법에만 손실 계산을 집중했다.
- 생성을 강제로 종료하거나 사고 종료 토큰을 억제해 'Wait'를 덧붙여 추가 추론을 유도함으로써 사고 토큰을 직접 제어하는, 새롭고 간단한 디코딩 시점 개입인 '예산 강제'를 개발했다.
- 24RAG / Agents
Agentic Retrieval-Augmented Generation: A Survey on Agentic RAG
- 대규모 언어 모델(LLM)은 정적 학습 데이터에 의존하는 탓에 시대에 뒤떨어지거나 사실과 다른 콘텐츠를 자주 생성한다.
- 전통적 검색 증강 생성(RAG) 시스템은 경직되고 사전 정의된 워크플로를 가져, 복잡한 다단계 추론이나 응답의 반복적 정제 능력이 제한된다.
- 신생 분야인 Agentic RAG는 통일된 분류 체계가 부재하여, 구조 설계의 파편화와 용어의 불일치를 드러낸다.
- 이 서베이는 에이전트 카디널리티, 제어 구조, 자율성, 지식 표현에 기반하여 Agentic RAG 구조를 분류하는 포괄적 분류 체계를 정립한다.
- Naïve RAG에서 모듈식·그래프 기반 접근을 거치는 RAG 패러다임의 진화를 체계적으로 분석하여, 에이전트형 시스템의 등장을 맥락화한다.
- 시스템 설계자를 위한 실용적 지침을 제공하고, Agentic RAG의 향후 발전을 통합하고 이끌기 위한 핵심 미해결 연구 과제를 식별한다.
- 23Alignment / Interpretability
Tell me about yourself: LLMs are aware of their learned behaviors
- 대규모 언어 모델(LLM)의 내부 상태와 창발적·암묵적 행동을 이해하는 것은 여전히 어려우며, 특히 그러한 행동이 학습 데이터에 직접 기술되어 있지 않을 때 더욱 그렇다.
- 오직 특정하고 흔히 알려지지 않은 트리거 조건에서만 활성화되는 LLM의 숨겨진 '백도어' 행동을 탐지하는 것은 중대한 AI 안전 과제를 제기한다.
- LLM의 투명성과 정렬을 보장하려면, 학습 데이터 편향이나 악의적 오염에서 비롯되는 것과 같은 바람직하지 않은 성향을 선제적으로 식별하고 이해하는 방법이 필요하다.
- 이 연구는 경제적 의사결정, 게임 속 전략적 목표 추구, 취약한 코드 생성 같은 특정 행동을 암묵적으로 보여주는 다양한 데이터셋에 LLM(GPT-4o, Llama-3.1-70B)을 미세조정했다.
- 모델이 학습한 행동 정책을 설명하는 능력을 평가하기 위해, 다양한 맥락 외 질문(자유형, 수치형, 객관식, 2단계 추론)으로 모델을 탐침했다.
- 백도어 탐지를 위해, 이 연구는 '역전 학습'을 도입했다. 즉 사용자와 어시스턴트 메시지를 맞바꿔 학습 데이터를 증강함으로써, 트리거를 끌어내는 데 필요한 역방향 매핑을 명시적으로 학습시킨다.
- 22Reasoning / RL
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning
- 기존 LLM 추론 방법은 노동 집약적인 사람 주석 데이터에 크게 의존하여 확장성 문제와 인간 인지 편향의 유입을 초래한다.
- 사람의 추론 경로를 모방하도록 모델을 학습시키면 성능에 상한이 생기고 잠재적으로 더 우수한 비인간적 전략의 탐색이 가로막힌다.
- 추론 과제에 대한 초기 지도 미세조정 없이, 강력한 베이스 LLM(DeepSeek-V3-Base)에 직접 순수 결과 기반 강화학습 접근법인 DeepSeek-R1-Zero를 적용한다.
- 가독성을 위한 초기 SFT, 언어 일관성 보상을 동반한 지속 RL, 추론·비추론 데이터를 모두 사용한 2차 SFT를 결합하는 다단계 학습 프레임워크(DeepSeek-R1)를 구현한다.
- 지식 증류를 활용하여 DeepSeek-R1의 고급 추론 능력을 더 작은 오픈소스 모델로 전이함으로써 더 폭넓은 접근성을 확보한다.
- 정교한 추론 능력은 명시적인 사람 주석 추론 궤적을 요구하지 않고, 결과 기반 강화학습을 통해 LLM에서 자생적으로 발현될 수 있다.
- 21Scientific AI / Chemistry
ChemAgent: Self-updating Library in Large Language Models Improves Chemical Reasoning
- LLM은 정밀한 계산이 필요한 복잡한 화학 추론 과제에서 어려움을 겪는다.
- 기존 모델은 과거의 문제 해결 경험으로부터 학습하고 이를 활용하는 능력이 부족하다.
- 현재의 접근은 사람이 큐레이션한 지식이나 고정된 워크플로에 크게 의존한다.
- 사소한 오류조차도 화학 추론에서 연쇄적인 실패로 이어질 수 있다.
- 동적이고 자기 갱신하는 라이브러리 시스템을 갖춘 프레임워크 ChemAgent를 개발했다.
- 세 가지 유형의 메모리를 구현했다. Planning Memory, Execution Memory, Knowledge Memory가 그것이다.
- 20Long-form Generation
OmniThink: Expanding Knowledge Boundaries in Machine Writing through Thinking
- 관련 개념의 그래프를 활용해 생성에 앞서 성찰을 확장하는 방법을 제시한다.
- 이를 통해 더 흥미롭고 정보가 풍부한 글 길이의 응답을 생성한다.
- 대규모 언어 모델을 활용한 기계 작문은 흔히 검색 증강 생성에 의존한다.
- 그러나 이러한 접근은 모델이 미리 정해둔 범위의 경계 안에 머물러, 풍부한 정보를 담은 콘텐츠 생성을 제한한다.
- 구체적으로, 단순 검색된 정보는 깊이와 참신성이 부족하고 중복에 시달리는 경향이 있어 생성된 글의 품질에 부정적 영향을 미치며, 얕고 독창적이지 않으며 반복적인 출력으로 이어진다.
- 이러한 문제를 해결하기 위해, 반복적 확장과 성찰이라는 인간 같은 과정을 모방하는 느린 사고 기계 작문 프레임워크 OmniThink를 제안한다.
- 19Architecture / Memory
Titans: Learning to Memorize at Test Time
- 기존 모델은 매우 긴 시퀀스를 효과적으로 처리하고 기억하는 데 어려움을 겪는다.
- 트랜스포머는 이차 복잡도를 가져 맥락 창이 제한된다.
- 현재의 접근은 서로 다른 메모리 유형(단기·장기·영속)을 결합하는 효과적인 방법이 부족하다.
- 모델은 일반화와 길이 외삽에서 어려움에 직면한다.
- 놀라움 지표에 기반하여 테스트 시점에 기억하도록 학습하는 신경 장기 메모리 모듈을 도입한다.
- 메모리를 효과적으로 통합하기 위한 세 가지 구조 변형(Memory as Context, Memory as Gate, Memory as Layer)을 제시한다.
- 18RAG / Video
VideoRAG: Retrieval-Augmented Generation over Video Corpus
- 대규모 언어 모델과 대규모 비전-언어 모델은 파라메트릭 지식에 의존하는 탓에 사실과 다르거나 시대에 뒤떨어진 정보를 빈번히 생성한다.
- 기존 검색 증강 생성(RAG)은 주로 텍스트 데이터에 초점을 두고 정적 이미지는 제한적으로만 포함하며, 동영상은 흔히 텍스트로 변환해 시간적 동역학과 시각적 맥락 같은 풍부한 멀티모달 정보를 잃는다.
- 긴 동영상은 연산상 실현 불가능성과 제한된 맥락 창 때문에 LVLM에 도전 과제가 되며, 많은 동영상에는 자막 같은 연관 텍스트 정보가 없다.
- VideoRAG는 질의와 동영상(프레임과 자막 사용)을 모두 LVLM으로 임베딩하고 코사인 유사도로 상위 k개의 관련 동영상을 선택하여, 대규모 코퍼스에서 동적 동영상 검색을 구현한다.
- 응답 생성을 위해, 프레임워크는 선택된 동영상 프레임과 연관 텍스트(자막 또는 생성된 보조 텍스트)를 사용자 질의와 연결하여, 이 포괄적인 멀티모달 입력을 LVLM에 투입한다.
- k-means++ 클러스터링을 적용한 적응형 프레임 선택 메커니즘이 가장 유익하고 중복되지 않는 동영상 프레임을 식별하며, 자막이 없을 때는 ASR을 사용해 오디오 트랙에서 보조 텍스트를 생성한다.
- 17LLMs / Long Context
MiniMax-01: Scaling Foundation Models with Lightning Attention
- 기존 언어 모델은 짧은 맥락 창(32K~256K 토큰)에 제약된다.
- 선형 어텐션은 이론적으로 유망하지만 대규모로 성공적으로 구현된 적이 없었다.
- lightning 어텐션과 softmax 어텐션을 7대 1 비율로 결합한 하이브리드 구조다.
- 32개 전문가를 갖춘 MoE 모델과 정교한 병렬 연산 전략을 사용한다.
- 확장된 맥락 길이에 최적화된 다단계 학습 과정을 거친다.
- 선형 어텐션은 적절한 구현과 최적화를 통해 성공적으로 확장될 수 있다.
- 16Architecture / Adaptation
Transformer²: Self-adaptive LLMs
- 방법: SVF는 가산형 어댑터를 각 가중치 행렬의 특이값에 대한 학습된 스케일링으로 대체하여, 기저 특이 벡터는 보존하면서 과제 행동을 변경한다.
- 적응: Transformer²는 디스패치-앤-어플라이 추론을 사용하며, 전문가는 직접 선택하거나, 학습된 분류기 전문가로, 또는 퓨샷 CEM 최적화를 통해 혼합할 수 있다.
- 결과: 이 논문은 SVF와 Transformer²가 LoRA 파라미터 수의 10% 미만으로 LoRA를 능가한다고 보고하며, 여기에는 수학·코드·추론·비전-언어 벤치마크에서의 향상이 포함된다.
- 의미: 가장 강력한 증거는 단지 더 높은 점수가 아니라 전문가 조합성과 모델 간 전이로, 일회성 파인튜닝이 아닌 재사용 가능한 스킬 벡터를 시사한다.
- 15Math Reasoning
rStar-Math: Small LLMs Can Master Math Reasoning with Self-Evolved Deep Thinking
- 방법: 추론 시점과 데이터 생성 시점 모두에 MCTS를 사용하며, 수학 정책 SLM이 단계를 제안하고 SLM 기반 Process Preference Model이 탐색을 유도한다.
- 핵심 아이디어: 순진한 단계 수준 보상 주석을 MCTS Q값에서 유도된 선호 쌍으로 대체하여, 직접적인 Q값 회귀나 결과 전용 보상보다 과정 보상 모델을 더 견고하게 만든다.
- 자기 진화: 4회의 라운드는 대형 DeepSeek-Coder 부트스트랩에서 시작해, 747k 문제에 대한 수백만 개의 검증된 해법을 사용하여 SLM-r1에서 SLM-r4로, PPM-r1에서 PPM-r4로 점진적으로 개선한다.
- 결과와 유의점: Qwen2.5-Math-7B로 MATH에서 90.0%, AIME에서 53.3%에 도달하지만, 이 접근은 연산 집약적이며 중간 또는 최종 답을 프로그래밍 방식으로 확인할 수 있는 과제에 가장 적합하다.
- 14Reasoning
Towards System 2 Reasoning in LLMs: Learning How to Think With Meta Chain-of-Thought
- Meta-CoT를 p(y|x)=∫p(y|x,z)p(z|x)dz로 정의하며, 여기서 z는 직접 지도되는 최종 설명이 아니라 숨겨진 추론·탐색 궤적을 가리킨다.
- 표준 CoT의 한계를 겨냥한다. 단발 생성, 약한 자기 검증, 부족한 역추적, 어려운 수학·논리·계획 과제에서의 취약한 탐색적 추론이 그것이다.
- 과정 지도, 과정 보상 모델(PRM), MCTS나 A* 같은 알고리즘에서 얻은 합성 탐색 트레이스, 지시 튜닝, RL 사후 학습을 활용해 탐색 같은 행동을 내재화하는 학습 파이프라인을 제안한다.
- 더 크고 프런티어급인 모델일수록 더 긴 추론 시점 연산으로 복잡한 해법에 근접할 수 있다는 정성적·경험적 신호를 보고하지만, 미해결된 스케일링·검증기·일관성 문제를 부각한다.
- 13Reasoning / Search
Search-o1: Agentic Search-Enhanced Large Reasoning Models
- 방법으로 모델은 '검색 질의 시작'과 '검색 질의 끝' 특수 토큰을 생성할 때 생성을 일시 중지하고, 상위 k개의 웹 문서를 검색한 뒤, '검색 결과 시작'과 '검색 결과 끝' 토큰 사이에 정제된 지식을 삽입한 후 재개한다.
- 핵심 아이디어는 검색이 표준 RAG에서처럼 일회성 서두가 아니라, 추론 궤적의 불확실한 지점에서 반복되는 모델 제어 행동이라는 것이다.
- Reason-in-Documents 단계는 현재 추론 맥락에 비추어 검색된 페이지를 분석하고 간결한 최종 정보를 출력하여, 장황하거나 무관한 페이지가 사고 사슬을 탈선시키는 것을 방지한다.
- 결과와 의미 측면에서 가장 강력한 향상은 GPQA 및 멀티홉 QA 같은 지식 집약적 다단계 환경에서 나타나며, 이는 추론 모델이 언제 검색할지와 증거를 증명 경로로 어떻게 다시 접어 넣을지를 모두 결정할 수 있을 때 검색이 가장 큰 도움이 됨을 시사한다.
- 12RAG / Long Context
Long Context vs. RAG for LLMs: An Evaluation and Revisits
- 방법으로 GPT-4o와 엄격한 정확 일치 검사를 사용하여 외부 컨텍스트 없이 풀 수 있는 질문을 걸러낸 다음, 제공된 문서가 실제로 필요한 경우만 평가한다.
- 검색기 연구에서는 BM25, Contriever, OpenAI text-embedding-3-small, LlamaIndex 스타일 색인 검색, RAPTOR를 비교한다. RAPTOR가 약 38.5%의 정답률로 가장 강력한 RAG 구성이다.
- 결과적으로 LC는 약 56.3%의 정확 일치 정답률에 도달하여 전반적으로 RAG의 49.0%를 능가하며, 위키피디아 및 이야기 출처와 누가·어디서·어느 것 형식의 사실 질문에서 명확한 우위를 보인다.
- 절충 측면에서 RAG는 단편적이고 자연스럽게 분할되며 대화 기반인 컨텍스트에서 잘 작동하고 LC가 실패하는 평가 질문의 약 10%를 고유하게 해결하므로 한물간 것이 아니다.
- 평가 교훈은 무관한 구절을 이어 붙여 만든 합성 긴 컨텍스트가 RAG 전처리와 유사하여 비교를 편향시킬 수 있으므로, 컨텍스트 관련성을 벤치마크 변수로 다루어야 한다는 것이다.
- 11Research Agents
Agent Laboratory: Using LLM Agents as Research Assistants
- 파이프라인 측면에서 인간의 연구 아이디어가 선별된 arXiv 문헌 검토, 실험 계획, 실행 가능한 ML 코드, 그리고 최종 연구 보고서와 코드 저장소로 변환된다.
- 방법으로 특화된 LLM 에이전트가 박사과정생, 박사후연구원, ML 엔지니어, 교수 역할에 걸쳐 협력한다. mle-solver는 교체 및 편집 연산, 실행 피드백, LLM 채점, 자기 성찰, 그리고 고득점 프로그램 풀을 사용한다.
- 결과적으로 o1-preview가 전반적으로 가장 높은 점수를 받았고, co-pilot 모드는 인간 평가 품질을 10점 만점에 3.8에서 4.38로 향상시켰으며, gpt-4o 실행은 논문당 약 2.33달러로 보고되어 기존 자율 연구 방법 대비 84% 비용 절감을 보였다.
- 유의할 점은 자동 NeurIPS 스타일 리뷰가 평균 10점 만점에 6.1점이었던 반면 인간 리뷰어는 평균 3.8점이었으므로, 이 시스템은 신뢰할 수 있는 자율 과학자라기보다 연구 보조자로 보는 것이 적절하다는 것이다.
- 10RAG / Efficiency
Don't Do RAG: When Cache-Augmented Generation is All You Need for Knowledge Tasks
- 핵심 아이디어는 온라인 RAG 파이프라인을 모든 관련 문서를 긴 컨텍스트 LLM에 오프라인으로 미리 적재하는 방식으로 대체하고, 추론 시점에 사전 계산된 KV 캐시를 재사용하는 것이다.
- 방법으로 CAG는 세 단계로 구성된다. 지식 사전 적재 및 KV 인코딩, 캐시된 상태를 조건으로 한 질의 시점 생성, 그리고 지식 캐시는 보존하면서 질의별 토큰을 제거하는 캐시 초기화 및 잘라내기다.
- 결과적으로 SQuAD 1.0 및 HotPotQA의 소/중/대 설정에서 CAG는 답변 품질 면에서 BM25 및 밀집 색인 RAG 기준선과 동등하거나 이를 능가하고 검색 시간을 제거하는 것으로 보고된다. HotPotQA-Large 생성은 동적 인컨텍스트 처리의 92.08초 대비 2.26초로 제시된다.
- 범위와 절충 측면에서 이 접근은 임베딩 모델, 벡터 스토어, 검색기를 제거하여 배치를 단순화하지만, 긴 컨텍스트 용량에 의존하며 경계가 있고 비교적 안정적인 지식 베이스에 가장 적합하다.
연구에서 제품 적용까지
운영 중인 기능, 시범 적용과 개발 중인 기술을 구분해 정리했습니다.
보유기술 보기