연구자료실

설비 연결, 품질 검사, 생산 분석과 제조 업무에 관련된 외부 논문입니다.

연구자료 검색

새 논문 요약

요점은 편집자가 정리한 메모입니다. 원저자의 표현과 다를 수 있으니 원문을 확인하세요. 2026-11-20 갱신.

  1. 39Training Efficiency

    The First Few Tokens Are All You Need: An Efficient and Effective Unsupervised Prefix Fine-Tuning Method for Reasoning Models

    • LLM 추론을 개선하는 기존 방법은 방대한 레이블 데이터나 연산 비용이 큰 샘플링을 요구한다.
    • 전통적 파인튜닝 접근은 복잡한 추론 작업에서 효율성과 확장성에 어려움을 겪는다.
    • 서로 다른 해법 경로가 공통의 초기 추론 단계를 공유하는 'Prefix Self-Consistency' 현상을 활용한다.
    • 추출된 prefix 부분 문자열로 모델을 파인튜닝하면서 추론 구조를 유지하는 UPFT 방법을 개발한다.
    • 추론 능력의 파국적 망각을 방지하기 위해 구조 튜닝을 통합한다.
    • 추론 과정의 초기 토큰은 핵심 정보를 담고 있으며 서로 다른 해법 전반에서 높은 일관성을 보인다.
  2. 38Architecture / Reasoning

    Inner Thinking Transformer: Leveraging Dynamic Depth Scaling to Foster Adaptive Internal Thinking

    • 소형 대규모 언어 모델(LLM)은 고정된 연산 예산과 제한된 파라미터 수 때문에 복잡한 추론 작업을 처리할 때 본질적인 성능 병목을 겪는다.
    • 성능을 높이려고 LLM 파라미터를 계속 확장하는 전통적 접근은 수익 체감과 연산·배포 비용 급증에 부딪혀 지속 가능성에 대한 우려를 낳는다.
    • 실증 분석에 따르면 '어려운' 토큰은 Transformer 계층 전반에서 지속적인 그래디언트 진동과 급격한 스파이크를 유발하며, 이는 구조적 부담과 복잡한 정보 처리에 필요한 깊이의 부족을 나타낸다.
    • 단일 토큰의 생성을 일련의 내부 추론 단계로 분해해 그 표현을 반복적으로 정제하는 'Inner Thinking Step' 개념을 도입한다.
    • 각 사고 단계의 출력을 누적하는 Residual Thinking Connections(RTC)를 구현해 점진적인 표현 정제를 가능하게 하고 성능 병목을 돌파한다.
    • Adaptive Token Routing(ATR)을 적용해 추가 사고 단계를 가장 중요한 토큰에만 동적으로 할당함으로써 쉬운 토큰에 대한 불필요한 처리를 피해 연산 효율성을 높이고, Thinking Step Encoding(TSE)으로 각 단계에 문맥 정보를 제공한다.
  3. 37Reasoning / Agents

    The Danger of Overthinking: Examining the Reasoning-Action Dilemma in Agentic Tasks

    • LRM은 환경과의 상호작용보다 확장된 내부 추론을 선호하는 경향이 있어, 비효율적인 성능으로 이어진다.
    • AI 시스템에서 과도한 숙고 행동을 분석하고 정량화하기 위한 체계적 프레임워크가 존재하지 않는다.
    • 상호작용 환경에서 추론과 행동 사이의 균형에 대한 이해가 부족하다.
    • LRM의 과도한 숙고를 연구하고 측정하기 위한 포괄적 프레임워크를 개발했다.
    • SWE Bench Verified를 사용해 4,018개의 궤적을 분석해 패턴을 식별했다.
    • 인간 전문가 평가에 대조해 검증된 점수화 시스템을 도입했다.
  4. 36Efficiency / Multi-model

    Optimizing Model Selection for Compound AI Systems

    • 복합 AI 시스템은 보통 모든 모듈에 동일한 LLM을 사용해 전체 성능을 제한한다.
    • 서로 다른 시스템 구성 요소에 걸쳐 모델 선택을 최적화하는 체계적 접근법이 없다.
    • 단조적 성능 관계를 활용하는 LLMSelector 프레임워크를 개발했다.
    • LLM 기반 성능 추정을 사용해 모델을 모듈에 효율적으로 할당한다.
    • 순차적 모듈 지명을 통한 반복적 최적화 접근법을 구현한다.
    • 종단간 성능은 종종 모듈별 성능에 대해 단조적이다.
  5. 35Benchmarks / Code Agents

    SWE-Lancer: Can Frontier LLMs Earn $1 Million from Real-World Freelance Software Engineering?

    • 기존 LLM 코딩 벤치마크는 단위 테스트에 의존해 채점기 해킹에 취약하며, 복잡한 풀스택 소프트웨어 공학 작업을 검증하기에 불충분하다.
    • 이전 평가들은 직접적인 경제 지표가 부족해, 실제 소프트웨어 개발 시나리오에서 LLM 출력의 실질적인 금전적 가치를 정량화하지 못한다.
    • 현재 벤치마크는 상업적 프리랜스 소프트웨어 공학 작업의 다양하고 모호하며 포괄적인 성격보다는 고립된 프로그래밍 문제나 특정 저장소에 초점을 맞춰 범위가 좁은 경우가 많다.
    • 총 100만 달러에 달하는 실제 금전적 보상이 걸린 Expensify의 실제 프리랜스 소프트웨어 공학 작업 1,400개 이상을 특징으로 하는 벤치마크 SWE-Lancer를 개발했다.
    • 코드 패치 생성을 요하는 개별 기여자(IC) SWE 작업과, 모델이 여러 제안 중 최적의 해법을 선택하는 SWE 관리 작업의 두 가지 작업 유형을 포함했다.
    • Playwright로 작성하고 전문 엔지니어가 3중 검증한 종단간(E2E) 테스트를 활용하는 엄격한 5단계 파이프라인을 채택해, 견고하고 해킹 불가능한 평가를 보장했다.
  6. 34LLMs / Diffusion

    Large Language Diffusion Models

    • 대규모 언어 모델의 능력(확장성, 문맥 내 학습)이 자기회귀 구조에만 있다는 것이 통념이다.
    • 양방향 또는 역방향 추론을 요하는 작업에서 모델이 어려움을 겪는 역전의 저주처럼 자기회귀 모델에는 한계가 있다.
    • 수십억 파라미터 규모의 자기회귀 모델과 성능 면에서 견줄 수 있는 대규모 언어 확산 모델이 없었다.
    • 인과 마스크 없이 Transformer 백본을 활용해 이산 토큰 시퀀스를 위한 마스크 확산 모델(MDM)인 LLaDA를 개발했다.
    • 음의 로그 가능도의 상한을 이루는 원칙적인 교차 엔트로피 손실을 최적화하며, 2.3조 토큰 데이터셋으로 80억 파라미터 LLaDA 모델을 처음부터 학습했다.
    • 생성 품질과 속도의 균형을 맞추는 저신뢰도 재마스킹 기법을 포함한 유연한 반복 샘플링 전략을 추론에 구현했다.
  7. 33Architecture / Efficiency

    Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention

    • LLM의 전통적인 어텐션 메커니즘은 시퀀스 길이에 대해 이차 연산 복잡도를 가져, 학습과 추론 시 긴 컨텍스트 처리가 엄청나게 비싸진다.
    • 기존 희소 어텐션 방법은 비효율적인 메모리 접근 패턴과 현대 하드웨어 구조(예: MQA/GQA)와의 비호환성 탓에, 이론적 효율 이득을 실제 지연 속도 향상으로 전환하지 못하는 경우가 많다.
    • 대부분의 희소 어텐션 접근법은 추론 전용으로 설계되어 사전 학습된 full attention 백본을 요구하는데, 이는 성능 저하로 이어지거나 종단간 학습을 비실용적이거나 비효율적으로 만들 수 있다.
    • Native Sparse Attention(NSA)은 세 개의 병렬 분기를 결합한 계층적 희소 어텐션 메커니즘을 도입한다. 즉 전역 컨텍스트를 위한 압축 어텐션, 세밀하게 중요한 토큰을 위한 선택 어텐션, 지역 컨텍스트를 위한 슬라이딩 윈도우 어텐션이다.
    • 학습 가능한 게이팅 메커니즘을 사용해 이 분기들의 출력을 동적으로 집계함으로써, 높은 희소성을 유지하면서 거친 정보와 세밀한 정보를 유연하게 결합할 수 있게 한다.
    • NSA는 하드웨어 정렬을 위해 설계된 전용 Triton 기반 커널을 활용하며, 그룹 중심 데이터 로딩과 공유 KV 페칭에 초점을 맞춰 학습과 추론 모두에서 메모리 접근을 최적화하고 GPU 텐서 코어 활용도를 극대화한다.
  8. 32Reasoning / Survey

    Advancing Reasoning in Large Language Models: Promising Methods and Approaches

    • 대규모 언어 모델(LLM)은 종종 견고하고 체계적인 추론 능력이 부족해, 논리적 연역, 수학 문제 해결, 다단계 추론 같은 복잡한 작업에서 어려움을 겪는다.
    • 이러한 결함은 사실 부정확성, 비일관성, 환각 같은 심각한 문제로 이어져, 핵심 응용에서 LLM의 신뢰성을 제한한다.
    • 현대 LLM의 데이터 주도 패러다임을 고전 AI의 구조화된 추론과 통합하는 것은 여전히 진행 중이며 복잡한 과제다.
    • 이 논문은 LLM의 추론 향상에 관한 기존 연구를 체계적으로 수집하고 분석하는 포괄적인 문헌 검토를 수행한다.
    • 다양한 추론 개선 기법을 프롬프팅 전략, 구조적 혁신, 학습 기반 접근법의 세 가지 주요 그룹으로 분류한다.
    • 이 서베이는 또한 LLM 추론을 평가하는 데 사용되는 다양한 벤치마크와 지표를 검토하고, 열린 과제와 향후 연구 방향을 규명한다.
  9. 31Agents

    Multi-agent Architecture Search via Agentic Supernet

    • 기존 다중 에이전트 시스템(MAS) 설계는 노동 집약적이며, 광범위한 수동 프롬프트 엔지니어링과 복잡한 에이전트 간 통신 정의를 요구한다.
    • 현재의 자동화된 MAS 설계 방법은 보통 단일하고 획일적인 최적 시스템을 탐색해, 더 단순한 질의에 대해 자원 비효율과 높은 비용을 초래한다.
    • 단일 최적 MAS는 다양한 작업 영역에 걸친 적응성이 부족해, 재최적화 없이 이전되면 성능이 떨어지거나 비효율적으로 작동한다.
    • MaAS는 에이전트 연산자들로 구성된 확률적 L-계층 유향 비순환 그래프(DAG)인 에이전트 슈퍼넷을 도입하며, 여기서 맞춤형 다중 에이전트 구조를 샘플링할 수 있다.
    • 컨트롤러 네트워크는 MoE 스타일 네트워크와 조기 종료 연산자를 사용해 질의 복잡도에 따라 연산 깊이를 관리하며, 슈퍼넷에서 질의에 맞는 구조를 동적으로 샘플링한다.
    • 이 시스템은 몬테카를로 방법을 사용해 슈퍼넷의 연산자 분포를 최적화하고, 에이전트 기반 텍스트 그래디언트를 통해 개별 에이전트 연산자를 정제해, 성능과 토큰 비용의 균형을 맞춘다.
  10. 30Agents / Ensembling

    Rethinking Mixture-of-Agents: Is Mixing Different Large Language Models Beneficial?

    • 전통적인 mixture-of-agents 접근법은 서로 다른 LLM을 결합하면 더 나은 성능으로 이어진다고 가정한다.
    • LLM 앙상블에서 다양성과 품질 사이의 근본적인 트레이드오프에 대한 이해가 부족하다.
    • 단일 고성능 모델에서 다수의 출력을 생성하는 Self-MoA를 도입했다.
    • 컨텍스트 길이 제약 아래에서 더 많은 출력을 처리하기 위한 Self-MoA-Seq를 개발했다.
    • 200개 이상의 실험에 걸쳐 품질-다양성 관계에 대한 포괄적 분석을 수행했다.
    • 앙상블 성능은 다양성보다 출력 품질에 더 민감하다.
  11. 29Reasoning

    Demystifying Long Chain-of-Thought Reasoning in LLMs

    • 대규모 언어 모델(LLM)은 Chain-of-Thought(CoT) 프롬프팅을 사용해도 고급 수학, 과학 QA, 소프트웨어 공학 같은 복잡한 추론 영역에서 여전히 어려움을 겪는다.
    • 특히 강화학습(RL) 학습의 맥락에서 긴 CoT 능력이 LLM에서 어떻게 출현하는지에 대한 이해가 제한적이다.
    • CoT를 위한 RL 학습은 적절한 설계 선택이 없으면 불안정한 CoT 길이 증가, 컨텍스트 윈도우 한계를 초과하는 출력, 보상 해킹 같은 문제에 자주 부딪힌다.
    • 연구진은 Llama-3.1-8B와 Qwen2.5-7B-Math 같은 모델로 지도 미세조정(SFT)과 강화학습(RL)을 결합해 긴 CoT 추론을 체계적으로 조사했다.
    • 강력한 창발적 모델(QwQ-32B-Preview)에서 긴 CoT 패턴을 증류해 고품질 SFT 데이터를 큐레이션하고, 검증 가능한 보상 신호를 확장하기 위해 노이즈가 있는 웹 추출 데이터를 필터링하는 방법을 탐구했다.
    • RL을 위해 N-gram 반복 페널티가 포함된 코사인 길이 스케일링 보상(Cosine Length-Scaling Reward)이라는 새로운 보상 함수를 도입해 CoT 길이를 안정화하고 학습 중 생성 행동을 제어했다.
  12. 28Reasoning

    CoAT: Chain-of-Associated-Thoughts Framework for Enhancing Large Language Models Reasoning

    • 빠른 사고 모드로 작동하는 대규모 언어 모델(LLM)은 반복적인 숙고를 요하는 복잡하고 다단계이며 지식 집약적인 작업에서 종종 어려움을 겪는다.
    • Chain-of-Thought(CoT)와 기본 몬테카를로 트리 탐색(MCTS) 변형 같은 기존의 느린 사고 방법은 초기 입력이나 정적 지식 검색에 제한되어, 변화하는 정보에 대한 동적 적응이 부족하다.
    • 기존 검색 증강 생성(RAG) 방법은 보통 초기 입력 단계에서만 외부 지식을 통합하는데, 이는 추론 과정 후반부에 관련 없는 정보 과부하나 핵심 내용 부족으로 이어질 수 있다.
    • CoAT는 추론 과정의 각 단계에서 새롭고 관련 있는 정보를 실시간으로 능동적으로 생성하고 통합하는 새로운 동적 연상 메모리(AM) 메커니즘을 도입한다.
    • 새로운 Association 단계를 통합하고 생성된 콘텐츠와 연상 메모리의 품질을 모두 명시적으로 고려하도록 평가를 수정한, 최적화된 몬테카를로 트리 탐색(MCTS) 프레임워크를 채택한다.
    • MCTS의 노드 값은 생성된 콘텐츠의 값과 연상 콘텐츠의 값(계수 β로 가중)을 기반으로 계산되어, 탐색 중 동적 지식의 품질과 관련성이 우선시되도록 보장한다.
  13. 27Reasoning / Data Efficiency

    LIMO: Less is More for Reasoning

    • 대규모 언어 모델의 복잡한 추론에는 방대한 양의 학습 데이터가 필요하다는 것이 통념이다.
    • 대규모 데이터셋을 수집하고 학습하는 데 높은 연산 비용과 자원이 든다.
    • 크고 큐레이션되지 않은 추론 데이터셋으로 학습된 모델은 일반화가 제한되고 암기 가능성이 있다.
    • 최소한의 데이터셋을 활용하는, LIMO라는 이름의 데이터 효율적 지도 미세조정(SFT) 접근법이다.
    • 문제 난이도에 대한 다단계 필터링과 추론 사슬 품질에 대한 상세한 규칙 기반 점수화를 통해, 고도로 큐레이션된 800개 수학 추론 문제 데이터셋을 구축했다.
    • 학습 과정은 기본 모델이 사전 학습된 지식을 활용해 메타 추론 작업을 응집된 사슬로 통합할 수 있게 한다.
  14. 26Video Generation

    OmniHuman-1: Rethinking the Scaling-Up of One-Stage Conditioned Human Animation Models

    • 기존의 종단간 인간 애니메이션 모델은 원본 비디오 데이터의 90% 이상을 폐기하는 엄격한 데이터 필터링 요구사항 때문에 대규모 데이터셋으로 효과적으로 확장하기 어렵다.
    • 주요 구동 신호(예: 입술 동기화를 위한 오디오)와 일반적인 신체 동작 사이의 약한 상관관계가 기존 모델을 전문화된 시나리오로 제한해, 전신 애니메이션과 다양한 상호작용을 가로막는다.
    • 현재 모델은 작고 고도로 큐레이션된 데이터셋 탓에 정면 초상화에 정적 배경 같은 좁은 사용 사례에 국한되어 일반화 능력이 제한적이다.
    • 고도화된 Diffusion Transformer(DiT) 구조를 기반으로 구축된 종단간 다중 모달 조건부 인간 비디오 생성 프레임워크 OmniHuman을 제안한다.
    • 약한 조건을 활용해 데이터를 확장하고 강한 조건 대 약한 조건의 학습 비율을 신중하게 균형 잡는, 점진적인 3단계 혼합 조건 방식을 특징으로 하는 새로운 Omni-conditions 학습 전략을 채택했다.
    • 다양한 구동 조건(오디오, 포즈, 텍스트)과 외형 조건(참조 이미지, 모션 프레임)을 최소한의 파라미터 추가로 효율적으로 통합하며, 외형 조건화를 위해 DiT 백본을 재사용한다.
  15. 25Reasoning / Efficiency

    s1: Simple test-time scaling

    • OpenAI의 o1 같은 폐쇄형 모델에서 '테스트 시점 스케일링'이 등장했음에도, 명확하고 접근 가능한 테스트 시점 스케일링 행동을 보이는 오픈소스 모델이 부족했다.
    • 전통적인 대규모 언어 모델(LLM) 성능 향상은 주로 연산 집약적인 '학습 시점 스케일링'에 의존하여, 최첨단 연구를 많은 이에게 접근 불가능하게 만들었다.
    • 테스트 시점 스케일링을 재현하려는 기존 오픈소스 시도는 흔히 복잡하거나(예: 몬테카를로 트리 탐색, 멀티 에이전트 시스템) 여전히 상당한 자원을 요구했다(예: 수백만 개의 RL 샘플).
    • 품질·난이도·다양성을 기준으로 59,000개 이상의 예시에서 면밀히 선별한 1,000개 샘플의 고품질 추론 데이터셋 s1K를 큐레이션했다.
    • s1K 데이터셋으로 Qwen2.5-32B-Instruct 베이스 모델을 지도 미세조정(SFT)하되, 추론 트레이스와 해법에만 손실 계산을 집중했다.
    • 생성을 강제로 종료하거나 사고 종료 토큰을 억제해 'Wait'를 덧붙여 추가 추론을 유도함으로써 사고 토큰을 직접 제어하는, 새롭고 간단한 디코딩 시점 개입인 '예산 강제'를 개발했다.
  16. 24RAG / Agents

    Agentic Retrieval-Augmented Generation: A Survey on Agentic RAG

    • 대규모 언어 모델(LLM)은 정적 학습 데이터에 의존하는 탓에 시대에 뒤떨어지거나 사실과 다른 콘텐츠를 자주 생성한다.
    • 전통적 검색 증강 생성(RAG) 시스템은 경직되고 사전 정의된 워크플로를 가져, 복잡한 다단계 추론이나 응답의 반복적 정제 능력이 제한된다.
    • 신생 분야인 Agentic RAG는 통일된 분류 체계가 부재하여, 구조 설계의 파편화와 용어의 불일치를 드러낸다.
    • 이 서베이는 에이전트 카디널리티, 제어 구조, 자율성, 지식 표현에 기반하여 Agentic RAG 구조를 분류하는 포괄적 분류 체계를 정립한다.
    • Naïve RAG에서 모듈식·그래프 기반 접근을 거치는 RAG 패러다임의 진화를 체계적으로 분석하여, 에이전트형 시스템의 등장을 맥락화한다.
    • 시스템 설계자를 위한 실용적 지침을 제공하고, Agentic RAG의 향후 발전을 통합하고 이끌기 위한 핵심 미해결 연구 과제를 식별한다.
  17. 23Alignment / Interpretability

    Tell me about yourself: LLMs are aware of their learned behaviors

    • 대규모 언어 모델(LLM)의 내부 상태와 창발적·암묵적 행동을 이해하는 것은 여전히 어려우며, 특히 그러한 행동이 학습 데이터에 직접 기술되어 있지 않을 때 더욱 그렇다.
    • 오직 특정하고 흔히 알려지지 않은 트리거 조건에서만 활성화되는 LLM의 숨겨진 '백도어' 행동을 탐지하는 것은 중대한 AI 안전 과제를 제기한다.
    • LLM의 투명성과 정렬을 보장하려면, 학습 데이터 편향이나 악의적 오염에서 비롯되는 것과 같은 바람직하지 않은 성향을 선제적으로 식별하고 이해하는 방법이 필요하다.
    • 이 연구는 경제적 의사결정, 게임 속 전략적 목표 추구, 취약한 코드 생성 같은 특정 행동을 암묵적으로 보여주는 다양한 데이터셋에 LLM(GPT-4o, Llama-3.1-70B)을 미세조정했다.
    • 모델이 학습한 행동 정책을 설명하는 능력을 평가하기 위해, 다양한 맥락 외 질문(자유형, 수치형, 객관식, 2단계 추론)으로 모델을 탐침했다.
    • 백도어 탐지를 위해, 이 연구는 '역전 학습'을 도입했다. 즉 사용자와 어시스턴트 메시지를 맞바꿔 학습 데이터를 증강함으로써, 트리거를 끌어내는 데 필요한 역방향 매핑을 명시적으로 학습시킨다.
  18. 22Reasoning / RL

    DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning

    • 기존 LLM 추론 방법은 노동 집약적인 사람 주석 데이터에 크게 의존하여 확장성 문제와 인간 인지 편향의 유입을 초래한다.
    • 사람의 추론 경로를 모방하도록 모델을 학습시키면 성능에 상한이 생기고 잠재적으로 더 우수한 비인간적 전략의 탐색이 가로막힌다.
    • 추론 과제에 대한 초기 지도 미세조정 없이, 강력한 베이스 LLM(DeepSeek-V3-Base)에 직접 순수 결과 기반 강화학습 접근법인 DeepSeek-R1-Zero를 적용한다.
    • 가독성을 위한 초기 SFT, 언어 일관성 보상을 동반한 지속 RL, 추론·비추론 데이터를 모두 사용한 2차 SFT를 결합하는 다단계 학습 프레임워크(DeepSeek-R1)를 구현한다.
    • 지식 증류를 활용하여 DeepSeek-R1의 고급 추론 능력을 더 작은 오픈소스 모델로 전이함으로써 더 폭넓은 접근성을 확보한다.
    • 정교한 추론 능력은 명시적인 사람 주석 추론 궤적을 요구하지 않고, 결과 기반 강화학습을 통해 LLM에서 자생적으로 발현될 수 있다.
  19. 21Scientific AI / Chemistry

    ChemAgent: Self-updating Library in Large Language Models Improves Chemical Reasoning

    • LLM은 정밀한 계산이 필요한 복잡한 화학 추론 과제에서 어려움을 겪는다.
    • 기존 모델은 과거의 문제 해결 경험으로부터 학습하고 이를 활용하는 능력이 부족하다.
    • 현재의 접근은 사람이 큐레이션한 지식이나 고정된 워크플로에 크게 의존한다.
    • 사소한 오류조차도 화학 추론에서 연쇄적인 실패로 이어질 수 있다.
    • 동적이고 자기 갱신하는 라이브러리 시스템을 갖춘 프레임워크 ChemAgent를 개발했다.
    • 세 가지 유형의 메모리를 구현했다. Planning Memory, Execution Memory, Knowledge Memory가 그것이다.
  20. 20Long-form Generation

    OmniThink: Expanding Knowledge Boundaries in Machine Writing through Thinking

    • 관련 개념의 그래프를 활용해 생성에 앞서 성찰을 확장하는 방법을 제시한다.
    • 이를 통해 더 흥미롭고 정보가 풍부한 글 길이의 응답을 생성한다.
    • 대규모 언어 모델을 활용한 기계 작문은 흔히 검색 증강 생성에 의존한다.
    • 그러나 이러한 접근은 모델이 미리 정해둔 범위의 경계 안에 머물러, 풍부한 정보를 담은 콘텐츠 생성을 제한한다.
    • 구체적으로, 단순 검색된 정보는 깊이와 참신성이 부족하고 중복에 시달리는 경향이 있어 생성된 글의 품질에 부정적 영향을 미치며, 얕고 독창적이지 않으며 반복적인 출력으로 이어진다.
    • 이러한 문제를 해결하기 위해, 반복적 확장과 성찰이라는 인간 같은 과정을 모방하는 느린 사고 기계 작문 프레임워크 OmniThink를 제안한다.
  21. 19Architecture / Memory

    Titans: Learning to Memorize at Test Time

    • 기존 모델은 매우 긴 시퀀스를 효과적으로 처리하고 기억하는 데 어려움을 겪는다.
    • 트랜스포머는 이차 복잡도를 가져 맥락 창이 제한된다.
    • 현재의 접근은 서로 다른 메모리 유형(단기·장기·영속)을 결합하는 효과적인 방법이 부족하다.
    • 모델은 일반화와 길이 외삽에서 어려움에 직면한다.
    • 놀라움 지표에 기반하여 테스트 시점에 기억하도록 학습하는 신경 장기 메모리 모듈을 도입한다.
    • 메모리를 효과적으로 통합하기 위한 세 가지 구조 변형(Memory as Context, Memory as Gate, Memory as Layer)을 제시한다.
  22. 18RAG / Video

    VideoRAG: Retrieval-Augmented Generation over Video Corpus

    • 대규모 언어 모델과 대규모 비전-언어 모델은 파라메트릭 지식에 의존하는 탓에 사실과 다르거나 시대에 뒤떨어진 정보를 빈번히 생성한다.
    • 기존 검색 증강 생성(RAG)은 주로 텍스트 데이터에 초점을 두고 정적 이미지는 제한적으로만 포함하며, 동영상은 흔히 텍스트로 변환해 시간적 동역학과 시각적 맥락 같은 풍부한 멀티모달 정보를 잃는다.
    • 긴 동영상은 연산상 실현 불가능성과 제한된 맥락 창 때문에 LVLM에 도전 과제가 되며, 많은 동영상에는 자막 같은 연관 텍스트 정보가 없다.
    • VideoRAG는 질의와 동영상(프레임과 자막 사용)을 모두 LVLM으로 임베딩하고 코사인 유사도로 상위 k개의 관련 동영상을 선택하여, 대규모 코퍼스에서 동적 동영상 검색을 구현한다.
    • 응답 생성을 위해, 프레임워크는 선택된 동영상 프레임과 연관 텍스트(자막 또는 생성된 보조 텍스트)를 사용자 질의와 연결하여, 이 포괄적인 멀티모달 입력을 LVLM에 투입한다.
    • k-means++ 클러스터링을 적용한 적응형 프레임 선택 메커니즘이 가장 유익하고 중복되지 않는 동영상 프레임을 식별하며, 자막이 없을 때는 ASR을 사용해 오디오 트랙에서 보조 텍스트를 생성한다.
  23. 17LLMs / Long Context

    MiniMax-01: Scaling Foundation Models with Lightning Attention

    • 기존 언어 모델은 짧은 맥락 창(32K~256K 토큰)에 제약된다.
    • 선형 어텐션은 이론적으로 유망하지만 대규모로 성공적으로 구현된 적이 없었다.
    • lightning 어텐션과 softmax 어텐션을 7대 1 비율로 결합한 하이브리드 구조다.
    • 32개 전문가를 갖춘 MoE 모델과 정교한 병렬 연산 전략을 사용한다.
    • 확장된 맥락 길이에 최적화된 다단계 학습 과정을 거친다.
    • 선형 어텐션은 적절한 구현과 최적화를 통해 성공적으로 확장될 수 있다.
  24. 16Architecture / Adaptation

    Transformer²: Self-adaptive LLMs

    • 방법: SVF는 가산형 어댑터를 각 가중치 행렬의 특이값에 대한 학습된 스케일링으로 대체하여, 기저 특이 벡터는 보존하면서 과제 행동을 변경한다.
    • 적응: Transformer²는 디스패치-앤-어플라이 추론을 사용하며, 전문가는 직접 선택하거나, 학습된 분류기 전문가로, 또는 퓨샷 CEM 최적화를 통해 혼합할 수 있다.
    • 결과: 이 논문은 SVF와 Transformer²가 LoRA 파라미터 수의 10% 미만으로 LoRA를 능가한다고 보고하며, 여기에는 수학·코드·추론·비전-언어 벤치마크에서의 향상이 포함된다.
    • 의미: 가장 강력한 증거는 단지 더 높은 점수가 아니라 전문가 조합성과 모델 간 전이로, 일회성 파인튜닝이 아닌 재사용 가능한 스킬 벡터를 시사한다.
  25. 15Math Reasoning

    rStar-Math: Small LLMs Can Master Math Reasoning with Self-Evolved Deep Thinking

    • 방법: 추론 시점과 데이터 생성 시점 모두에 MCTS를 사용하며, 수학 정책 SLM이 단계를 제안하고 SLM 기반 Process Preference Model이 탐색을 유도한다.
    • 핵심 아이디어: 순진한 단계 수준 보상 주석을 MCTS Q값에서 유도된 선호 쌍으로 대체하여, 직접적인 Q값 회귀나 결과 전용 보상보다 과정 보상 모델을 더 견고하게 만든다.
    • 자기 진화: 4회의 라운드는 대형 DeepSeek-Coder 부트스트랩에서 시작해, 747k 문제에 대한 수백만 개의 검증된 해법을 사용하여 SLM-r1에서 SLM-r4로, PPM-r1에서 PPM-r4로 점진적으로 개선한다.
    • 결과와 유의점: Qwen2.5-Math-7B로 MATH에서 90.0%, AIME에서 53.3%에 도달하지만, 이 접근은 연산 집약적이며 중간 또는 최종 답을 프로그래밍 방식으로 확인할 수 있는 과제에 가장 적합하다.
  26. 14Reasoning

    Towards System 2 Reasoning in LLMs: Learning How to Think With Meta Chain-of-Thought

    • Meta-CoT를 p(y|x)=∫p(y|x,z)p(z|x)dz로 정의하며, 여기서 z는 직접 지도되는 최종 설명이 아니라 숨겨진 추론·탐색 궤적을 가리킨다.
    • 표준 CoT의 한계를 겨냥한다. 단발 생성, 약한 자기 검증, 부족한 역추적, 어려운 수학·논리·계획 과제에서의 취약한 탐색적 추론이 그것이다.
    • 과정 지도, 과정 보상 모델(PRM), MCTS나 A* 같은 알고리즘에서 얻은 합성 탐색 트레이스, 지시 튜닝, RL 사후 학습을 활용해 탐색 같은 행동을 내재화하는 학습 파이프라인을 제안한다.
    • 더 크고 프런티어급인 모델일수록 더 긴 추론 시점 연산으로 복잡한 해법에 근접할 수 있다는 정성적·경험적 신호를 보고하지만, 미해결된 스케일링·검증기·일관성 문제를 부각한다.
  27. 13Reasoning / Search

    Search-o1: Agentic Search-Enhanced Large Reasoning Models

    • 방법으로 모델은 '검색 질의 시작'과 '검색 질의 끝' 특수 토큰을 생성할 때 생성을 일시 중지하고, 상위 k개의 웹 문서를 검색한 뒤, '검색 결과 시작'과 '검색 결과 끝' 토큰 사이에 정제된 지식을 삽입한 후 재개한다.
    • 핵심 아이디어는 검색이 표준 RAG에서처럼 일회성 서두가 아니라, 추론 궤적의 불확실한 지점에서 반복되는 모델 제어 행동이라는 것이다.
    • Reason-in-Documents 단계는 현재 추론 맥락에 비추어 검색된 페이지를 분석하고 간결한 최종 정보를 출력하여, 장황하거나 무관한 페이지가 사고 사슬을 탈선시키는 것을 방지한다.
    • 결과와 의미 측면에서 가장 강력한 향상은 GPQA 및 멀티홉 QA 같은 지식 집약적 다단계 환경에서 나타나며, 이는 추론 모델이 언제 검색할지와 증거를 증명 경로로 어떻게 다시 접어 넣을지를 모두 결정할 수 있을 때 검색이 가장 큰 도움이 됨을 시사한다.
  28. 12RAG / Long Context

    Long Context vs. RAG for LLMs: An Evaluation and Revisits

    • 방법으로 GPT-4o와 엄격한 정확 일치 검사를 사용하여 외부 컨텍스트 없이 풀 수 있는 질문을 걸러낸 다음, 제공된 문서가 실제로 필요한 경우만 평가한다.
    • 검색기 연구에서는 BM25, Contriever, OpenAI text-embedding-3-small, LlamaIndex 스타일 색인 검색, RAPTOR를 비교한다. RAPTOR가 약 38.5%의 정답률로 가장 강력한 RAG 구성이다.
    • 결과적으로 LC는 약 56.3%의 정확 일치 정답률에 도달하여 전반적으로 RAG의 49.0%를 능가하며, 위키피디아 및 이야기 출처와 누가·어디서·어느 것 형식의 사실 질문에서 명확한 우위를 보인다.
    • 절충 측면에서 RAG는 단편적이고 자연스럽게 분할되며 대화 기반인 컨텍스트에서 잘 작동하고 LC가 실패하는 평가 질문의 약 10%를 고유하게 해결하므로 한물간 것이 아니다.
    • 평가 교훈은 무관한 구절을 이어 붙여 만든 합성 긴 컨텍스트가 RAG 전처리와 유사하여 비교를 편향시킬 수 있으므로, 컨텍스트 관련성을 벤치마크 변수로 다루어야 한다는 것이다.
  29. 11Research Agents

    Agent Laboratory: Using LLM Agents as Research Assistants

    • 파이프라인 측면에서 인간의 연구 아이디어가 선별된 arXiv 문헌 검토, 실험 계획, 실행 가능한 ML 코드, 그리고 최종 연구 보고서와 코드 저장소로 변환된다.
    • 방법으로 특화된 LLM 에이전트가 박사과정생, 박사후연구원, ML 엔지니어, 교수 역할에 걸쳐 협력한다. mle-solver는 교체 및 편집 연산, 실행 피드백, LLM 채점, 자기 성찰, 그리고 고득점 프로그램 풀을 사용한다.
    • 결과적으로 o1-preview가 전반적으로 가장 높은 점수를 받았고, co-pilot 모드는 인간 평가 품질을 10점 만점에 3.8에서 4.38로 향상시켰으며, gpt-4o 실행은 논문당 약 2.33달러로 보고되어 기존 자율 연구 방법 대비 84% 비용 절감을 보였다.
    • 유의할 점은 자동 NeurIPS 스타일 리뷰가 평균 10점 만점에 6.1점이었던 반면 인간 리뷰어는 평균 3.8점이었으므로, 이 시스템은 신뢰할 수 있는 자율 과학자라기보다 연구 보조자로 보는 것이 적절하다는 것이다.
  30. 10RAG / Efficiency

    Don't Do RAG: When Cache-Augmented Generation is All You Need for Knowledge Tasks

    • 핵심 아이디어는 온라인 RAG 파이프라인을 모든 관련 문서를 긴 컨텍스트 LLM에 오프라인으로 미리 적재하는 방식으로 대체하고, 추론 시점에 사전 계산된 KV 캐시를 재사용하는 것이다.
    • 방법으로 CAG는 세 단계로 구성된다. 지식 사전 적재 및 KV 인코딩, 캐시된 상태를 조건으로 한 질의 시점 생성, 그리고 지식 캐시는 보존하면서 질의별 토큰을 제거하는 캐시 초기화 및 잘라내기다.
    • 결과적으로 SQuAD 1.0 및 HotPotQA의 소/중/대 설정에서 CAG는 답변 품질 면에서 BM25 및 밀집 색인 RAG 기준선과 동등하거나 이를 능가하고 검색 시간을 제거하는 것으로 보고된다. HotPotQA-Large 생성은 동적 인컨텍스트 처리의 92.08초 대비 2.26초로 제시된다.
    • 범위와 절충 측면에서 이 접근은 임베딩 모델, 벡터 스토어, 검색기를 제거하여 배치를 단순화하지만, 긴 컨텍스트 용량에 의존하며 경계가 있고 비교적 안정적인 지식 베이스에 가장 적합하다.

연구에서 제품 적용까지

운영 중인 기능, 시범 적용과 개발 중인 기술을 구분해 정리했습니다.

보유기술 보기