연구자료실

설비 연결, 품질 검사, 생산 분석과 제조 업무에 관련된 외부 논문입니다.

연구자료 검색

새 논문 요약

요점은 편집자가 정리한 메모입니다. 원저자의 표현과 다를 수 있으니 원문을 확인하세요. 2026-11-20 갱신.

  1. 129Agents / Metacognition

    Hyperagents

    • 기존의 자기 개선 AI 시스템은 고정되고 수작업으로 만들어진 메타 수준 메커니즘에 의존하여 지속적 개선 역량이 제한되고 무한 후퇴 문제로 이어진다.
    • 기존 자기 개선 구조는 그 효과가 과제 해결과 자기 수정 기술 사이의 도메인 특화 정렬에 묶여 있어 일반화 가능성이 부족한 경우가 많다.
    • 과제 해결 능력뿐만 아니라 개선 메커니즘 자체가 강화될 수 있는, 진정으로 개방형이고 자기 가속적인 진보를 달성하는 것이 과제다.
    • 과제 해결 에이전트와 수정을 생성하는 메타 에이전트를 단일하고 편집 가능한 프로그램으로 통합하는 자기 참조적 에이전트 Hyperagents를 도입한다.
    • Darwin Gödel Machine(DGM) 프레임워크를 DGM-Hyperagents(DGM-H)로 확장하여, 하이퍼에이전트 내의 메타 에이전트 구성요소가 과제 에이전트뿐만 아니라 자기 자신도 수정할 수 있게 함으로써 '메타인지적 자기 수정'을 가능하게 한다.
    • 개선된 하이퍼에이전트를 향후 반복적으로 정제되는 에이전트의 디딤돌로 보관하는 개방형 집단 기반 탐색 과정을 활용하며, 이는 코딩, 논문 리뷰, 로보틱스 등 다양한 도메인에 걸쳐 이루어진다.
  2. 128Multimodal / Reasoning

    Phi-4-reasoning-vision-15B Technical Report

    • 비전-언어 모델(VLM)의 지배적 추세는 모델 규모를 지속적으로 키우는 것으로, 이는 학습과 추론에 막대한 계산 비용을 초래하여 광범위한 배포를 저해한다.
    • 많은 기존 멀티모달 모델은 부족한 지각 능력으로 인해, 컴퓨터 사용 에이전트를 위한 사용자 인터페이스 이해처럼 세밀한 시각적 디테일을 요구하는 과제에 어려움을 겪는다.
    • 엄청나게 큰 자원을 요구하지 않으면서도 효율적이면서 유능한 멀티모달 추론을 달성할 수 있는 실용적 통찰과 오픈 웨이트 모델이 필요하다.
    • SigLIP-2 비전 인코더와 Phi-4-Reasoning LLM 백본을 활용하는 중간 융합 구조의 150억 파라미터 오픈 웨이트 멀티모달 모델 Phi-4-reasoning-vision-15B를 개발했다.
    • MLP 사전학습, 다양하고 세심하게 선별된 데이터셋에 대한 광범위한 지시 튜닝, 그리고 긴 컨텍스트와 다중 이미지, 책임 있는 AI(RAI) 데이터를 위한 최종 단계로 구성된 3단계 학습 레시피를 구현했다.
    • 체계적 필터링, AI 보조 오류 수정, 합성 증강을 통해 데이터 품질을 강조했으며, 고해상도 시각 지각을 최적화하기 위해 동적 해상도 비전 인코더를 통합했다.
  3. 127Agents / Architecture

    The Auton Agentic AI Framework

    • 확률적 대규모 언어 모델(LLM) 출력과 백엔드 인프라의 결정론적이고 스키마를 준수하는 입력 요구사항 사이에는 근본적 불일치가 있는데, 이것이 '통합 역설'이다.
    • 에이전트 개발에 만연한 '생태계 파편화'는 통일된 표준의 부재로 특징지어지며, 벤더 종속, 낮은 감사 가능성, 제한된 언어 간 이식성으로 이어진다.
    • 현재의 LLM 기반 에이전트는 흔히 무상태성을 겪고, 지속적 메모리가 없으며, 안전 보장이 제한적이어서 실제의 임무 핵심적 환경에 배포되기 어렵다.
    • 에이전트 명세를 위한 선언적이고 언어 비종속적인 '인지 청사진'(AgenticFormat Standard)을 실행을 위한 플랫폼 특화 '런타임 엔진'과 엄격히 분리했다.
    • 신중한 행동을 보장하기 위해 잠재 추론 공간과 인수분해된 정책 구조를 포함하는, 확장된 부분 관측 마르코프 결정 과정(POMDP)에 기반한 형식적 에이전트 실행 모델을 제시했다.
    • 인지적 지속성을 위한 계층적 메모리 구조와, 행동 생성 중 정책 투영을 통해 '구성에 의한 안전성'을 강제하는 '제약 다양체' 형식론을 제시했다.
  4. 126Memory / Agents

    ParamMem: Augmenting Language Agents with Parametric Reflective Memory

    • 언어 에이전트의 기존 자기 성찰 메커니즘은 반복적이거나 부정확하거나 도움이 되지 않는 출력을 자주 생성하여 다양한 해법을 탐색하고 오류를 진단하는 능력을 저해한다.
    • 성찰 다양성을 향상시키기 위한 기존 검색 기반 접근법(예: DoT-bank)은 합성적 패턴을 포착하는 데 한계가 있고 임베딩 붕괴에 취약하여 검색 효과를 떨어뜨린다.
    • 실증적 증거는 언어 에이전트에서 성찰적 다양성과 과제 성공 사이에 강한 양의 상관관계(평균 피어슨 계수 0.76)가 있음을 보여준다.
    • ParamMem은 전문가가 생성한 '전역 성찰'과 짝지어진 입력 샘플의 보조 데이터셋으로 경량 LLM(예: LoRA를 적용한 LLaMA-3.1-8B)을 미세조정하여 파라메트릭 메모리 모듈을 구축한다.
    • 미세조정된 ParamMem 모듈은 온도 제어 샘플링을 통해 다양한 성찰을 생성하며, 교차 샘플 패턴을 자신의 파라미터에 직접 인코딩한다.
    • ParamMem은 에이전트 프레임워크(ParamAgent 및 ParamAgent-plus)에 통합되어, 이 파라메트릭 메모리를 기존의 에피소드 메모리와 통합하고, ParamAgent-plus의 경우 교차 샘플 메모리(DoT-bank 등)와도 통합하여 액터 LLM을 조건화한다.
  5. 125Math Reasoning / Formal Proofs

    Numina-Lean-Agent: An Open and General Agentic Reasoning System for Formal Mathematics

    • 기존 에이전트 정리 증명 시스템은 광범위하게 학습된 형식 증명기와 긴밀히 결합된 과제 특화 추론 파이프라인에 종종 의존한다.
    • 고성능 자동 정리 증명기 다수가 폐쇄형이어서 투명성, 재현성, 그리고 더 넓은 커뮤니티 발전이 제한된다.
    • 기존의 단일 모델 접근법은 Lean과 같은 복잡한 형식 체계에 내재된 장기 시야의 구조적 추론에 어려움을 겪었다.
    • 범용 코딩 에이전트, 구체적으로 Claude Code가 형식적 수학 추론의 중앙 오케스트레이터 역할을 하는 패러다임을 제안했다.
    • Claude Code를 포괄적인 모델 컨텍스트 프로토콜(Numina-Lean-MCP)과 통합하는 개방적이고 모듈형인 시스템 Numina-Lean-Agent를 개발했다.
    • Numina-Lean-MCP는 Lean과의 심층 상호작용(Lean-LSP-MCP), 의미 기반 정리 검색(LeanDex), 반복적 비형식 증명(Gemini Generator/Verifier), 다중 모델 협업(Discussion Partner)을 위한 특화 도구를 포함한다.
  6. 124Multi-Agent

    Evaluating Theory of Mind and Internal Beliefs in LLM-Based Multi-Agent Systems

    • 대규모 언어 모델(LLM) 에이전트는 특히 부분적이거나 상충하는 정보를 다룰 때 복잡한 다중 에이전트 시스템에서 흔히 일관성이 없고 변동이 큰 성능을 보인다.
    • 기존 다중 에이전트 시스템은 경직된 규칙에 자주 의존하여 동적인 실제 환경에서의 적응성과 확장성이 제한된다.
    • LLM 기반 다중 에이전트 시스템 내에서 마음 이론(ToM), 내부 믿음 체계, 논리적 검증을 결합한 포괄적이고 시너지 있게 통합된 구조가 결여되어 있다.
    • 마음 이론(ToM) 능력, 내부 믿음 상태(IB), 그리고 답 집합 프로그래밍(ASP) 솔버를 이용한 논리적 검증을 통합하는 새로운 에이전트 구조가 제안되었다.
    • 이 에이전트들은 동적이며 자원 소비 시나리오 하에서 효과적인 협조를 요구하도록 설계된 상호작용형 도시 자원 배분 시뮬레이션에 투입되었다.
    • 모듈형 에이전트 설계 덕분에 다양한 LLM 전반에 걸쳐 네 가지 구성(기본, ToM만, IB만, ToM과 IB 결합)을 체계적으로 평가할 수 있었으며, 내부 믿음에 대한 반복적 논리 일관성 검사가 이루어졌다.
  7. 123Interpretability

    Symmetry in language statistics shapes the geometry of model representations

    • 언어 모델 표현에서 널리 관찰되는 기하학적 패턴(예: 원, 1차원 다양체)에 대한 명확하고 통합적인 이론적 설명은 그동안 대체로 부재했다.
    • 다양한 LLM 구조와 과제 전반에 걸친 이러한 기하학적 구조의 명백한 보편성을 설명할 포괄적인 '조직화 원리'가 결여되어 있다.
    • 기존 이론 연구는 데이터 분포와 비지도 학습 환경이 어떻게 이러한 특정 표현 기하학을 유도하는지를 충분히 다루지 못했다.
    • 쌍별 단어 동시출현 통계 내의 병진 대칭성이 표현 기하학에 대한 보편적 조직화 원리로 작용한다고 제안했다.
    • 이 대칭성으로부터 특정 다양체 기하학(예: 원, 물결치는 1차원 다양체)을 해석적으로 도출하는 수학 이론을 개발했다.
    • 단순한 단어 임베딩 모델과 복잡한 트랜스포머 기반 대규모 언어 모델을 모두 사용하여 이러한 이론적 예측을 실증적으로 검증했다.
  8. 122Reasoning / Probabilistic

    Bayesian Teaching Enables Probabilistic Reasoning in Large Language Models

    • 기성 대규모 언어 모델(LLM)은 불확실하고 상호작용적인 환경에서 확률적 믿음을 효과적으로 형성하고 갱신하는 능력이 부족하다.
    • 현재의 LLM은 여러 상호작용에 걸쳐 관찰된 행동으로부터 잠재 상태(예: 사용자 선호)를 암묵적으로 추론하는 데 낮은 성능을 보인다.
    • 이들의 추천 정확도는 흔히 일찍 정체되는데, 이는 새로운 정보에 기반한 동적 믿음 갱신에서의 근본적 한계를 시사한다.
    • 저자들은 LLM을 규범적 베이즈 어시스턴트가 생성한 데이터로 학습시키는 지도 미세조정 전략인 '베이즈 교육'을 개발했다.
    • 베이즈 어시스턴트는 베이즈 정리를 사용해 사용자 선호에 대한 확률 분포를 유지하고 갱신하며 확률적으로 최적인 추천을 수행한다.
    • 이 접근법은 완전한 지식을 가진 어시스턴트의 일관되게 정답인 답변으로 LLM을 미세조정하는 '오라클 교육'과 비교되었다.
  9. 121Brain-Computer Interface / Agents

    NeuroSkill(tm): Proactive Real-Time Agentic System Capable of Modeling Human State of Mind

    • 기존 생성형 AI 에이전트는 인간의 인지적·정서적 상태에 대한 세밀한 이해가 부족하여, 일반적이고 종종 부적절한 상호작용을 초래한다.
    • BCI 기기에서 나오는 개인 생체물리 데이터의 양이 늘고 있지만, 이는 종종 대기업이 통제하여 개인의 효용과 데이터 소유권을 제한한다.
    • 현재 AI 에이전트는 주로 반응적이어서, 실시간으로 변화하는 인간의 정서적·인지적 상태에 능동적으로 적응하지 못한다.
    • NeuroSkill™은 BCI 데이터 수집, 신경 임베딩을 위한 로컬 EXG 파운데이션 모델, 텍스트 맥락과의 멀티모달 정렬을 통합하여 동적인 'Human State of Mind' 표현을 지속적으로 구축한다.
    • 엣지 기기에서 동작하는 LLM 하니스인 NeuroLoop™은 모델링된 State of Mind를 활용하여 능동적이고 개인화된 에이전트형 상호작용, 도구 호출, 프로토콜 실행을 가능하게 한다.
    • 단순한 마크다운 기반 스킬 레이어를 통해 비개발 사용자도 에이전트의 동작을 쉽게 확장·수정할 수 있어, 접근성과 폭넓은 개인화를 촉진한다.
  10. 120Scientific AI

    Accelerating Scientific Research with Gemini: Case Studies and Common Techniques

    • 과학 연구에 AI를 통합하는 작업은 전통적으로 가설 생성이나 알고리즘 설계 같은 더 깊은 지적 측면이 아니라 자동화와 데이터 분석에 초점을 맞춰 왔다.
    • 과학자들은 미해결 추측을 효율적으로 해결하고, 잘 드러나지 않는 학제 간 연결을 식별하며, 복잡한 증명을 엄밀하게 검증하는 데 어려움을 겪었다.
    • 기존 과학 워크플로는 일상적 작업을 넘어 창의적 문제 해결과 엄밀한 기술 검토에 참여할 수 있는 도구로부터 이득을 얻을 수 있었다.
    • 핵심 방법론은 인간 연구자가 Google의 Gemini Deep Think 및 그 변형들과 협업하는 것이었으며, 이 모델들은 병렬 사고와 다단계 추론 훈련으로 복잡한 문제 해결에 맞게 강화되었다.
    • 공통 협업 기법으로는 반복적 프롬프팅, 문제를 하위 과제로 분해하기, 고수준 증명 전략 제공(스캐폴딩), 엄밀한 검토를 위한 적대적 자기교정 활용 등이 포함되었다.
    • 수치적 근거가 필요한 문제에는 '뉴로-심볼릭' 파이프라인이 활용되었는데, AI가 해법을 제안하고 검증용 코드를 작성·실행한 뒤 실행 오류를 바탕으로 자율적으로 자기교정했다.
  11. 119Agents / Architecture

    Agent Primitives: Reusable Latent Building Blocks for Multi-Agent Systems

    • 기존 다중 에이전트 시스템(MAS)은 과제 특이성, 높은 설계 오버헤드, 서로 다른 문제 설정 전반에 걸친 낮은 재사용성에 시달린다.
    • 주로 자연어를 통한 에이전트 간 통신은 길고 다단계인 상호작용에서 불안정성, 오류 누적, 정보 손상을 초래한다.
    • 현재 MAS 설계는 다중 에이전트 연산을 조직하기 위한 진정으로 재사용 가능하고 과제 비의존적인 내부 추상화가 부족한 경우가 많다.
    • 이 논문은 공통적인 다중 에이전트 연산 패턴을 캡슐화하는 세 가지 재사용 가능한 잠재 빌딩 블록(Review, Voting & Selection, Planning & Execution)인 'Agent Primitives'를 도입했다.
    • 명시적 자연어에 의존하지 않고 내부 모델 표현을 직접 공유하는 Key-Value(KV) 캐시 전송만을 통해 에이전트 간 통신을 구현했다.
    • 'Knowledge Pool'이 안내하는 LLM 기반 'Organizer'를 개발하여, 주어진 쿼리에 대해 프리미티브를 자동으로 선택·구성함으로써 MAS 구축을 간소화했다.
  12. 118RAG / Agents

    A-RAG: Scaling Agentic Retrieval-Augmented Generation via Hierarchical Retrieval Interfaces

    • 단일 검색이나 사전 정의된 워크플로에 의존하는 기존 RAG 패러다임은 현대 에이전트형 대규모 언어 모델(LLM)의 고급 추론 및 다단계 도구 사용 능력을 충분히 활용하지 못한다.
    • 현재 RAG 시스템은 정적이고 경직되어 있어, LLM이 쿼리의 미묘함이나 정보 수집의 진행 상태에 따라 검색 전략을 동적으로 조정하지 못하게 한다.
    • 전통적 RAG의 에이전트적 자율성 부재는 LLM이 지능적인 검색 결정을 내릴 권한을 갖지 못하므로, LLM 능력 발전에 맞춰 효율적으로 확장되는 능력을 저해한다.
    • A-RAG는 광범위한 오프라인 그래프 구축 없이, 코퍼스를 의미적으로 일관된 청크로 분할하고 개별 문장을 임베딩하여 세밀한 매칭을 수행하는 경량의 2단계 계층적 인덱스를 구축한다.
    • 이 프레임워크는 LLM 에이전트에 세 가지 계층적 검색 인터페이스를 제공한다. 정확한 어휘 매칭을 위한 키워드 검색, 밀집 의미 유사도를 위한 의미 검색, 그리고 전체 청크 내용 접근과 인접 컨텍스트 탐색을 위한 청크 읽기다.
    • 단순한 ReAct 유사 에이전트 루프를 통해 LLM이 반복적으로 추론하고 검색 도구를 호출하여, 정보를 언제 어떻게 검색하고 언제 종료할지 자율적으로 결정하며, 중복 읽기를 피하는 컨텍스트 추적기로 이를 보완한다.
  13. 117Memory / Long Context

    InfMem: Learning System-2 Memory Control for Long-Context Agent

    • 대규모 언어 모델(LLM)은 '중간 소실' 현상과 압축의 '충실도 딜레마'로 인해 초장문 문서에 대한 효과적인 다중 홉 추론에 어려움을 겪는다.
    • 기존 메모리 증강 에이전트는 종종 수동적·반응적 메모리 갱신 전략에 의존하여, 복잡한 추론에 필요한 결정적이지만 현저성이 낮은 연결 증거를 잃을 위험이 있다.
    • 초장문 문서 처리는 높은 연산 비용과 메모리 오버헤드를 초래하여, 현재 솔루션을 실용적 배포에 비효율적으로 만든다.
    • InfMem은 사전 사고, 검색, 기록으로 이어지는 제어 프로토콜을 구현하여, 에이전트가 증거 충분성을 능동적으로 모니터링하고 검색 쿼리를 합성하며 증거 인식 결합 압축을 수행하게 한다.
    • 문서 내 표적 검색을 포함하여, 현재 쿼리에 누락된 증거를 가져오기 위해 문서의 어느 부분에든 비단조적으로 접근할 수 있게 한다.
    • 이 프레임워크는 충분한 증거가 축적되면 메모리 갱신 루프를 종료하는 적응형 조기 중단 메커니즘을 활용하여 연산 효율을 최적화한다.
  14. 116Multi-Agent / Routing

    Scaling Small Agents Through Strategy Auctions

    • 복잡한 장기 과제에서 더 작은 AI 에이전트가 더 큰 모델 대비 보이는 성능은 잘 이해되지 않았다.
    • 이질적인 풀(다양한 크기, 비용, 능력)에서 가장 적합한 AI 에이전트로 과제를 효과적으로 라우팅하여 정확도와 비용을 동시에 최적화하는 것은 과제였다.
    • 다중 모델 오케스트레이션을 위한 현재의 라우팅 방법은 에이전트형 워크플로에 너무 비싸거나, 일반화가 부족하고 과제 난이도가 높아질수록 성능이 저하되었다.
    • 이질적인 AI 에이전트 간의 동적 과제 할당을 위해 시장에서 영감을 받은 새로운 프레임워크 'Strategy Auctions for Workload Efficiency(sale)'가 도입되었다.
    • 에이전트는 각 과제에 대해 짧은 전략적 해결 계획을 '입찰'로 생성하며, 이는 모델 가격과 계획 품질을 고려하는 학습된 비용·가치 메커니즘으로 평가된다.
    • 이 프레임워크는 메모리 기반 자기개선 루프를 포함하는데, 여기서 더 저렴한 에이전트는 과거 경매 결과를 활용해 선택적으로 전략을 개선하여 시간이 지남에 따라 성능을 높인다.
  15. 115Memory / Agents

    Beyond RAG for Agent Memory: Retrieval by Decoupling and Aggregation

    • 표준 검색 증강 생성(RAG)은 에이전트 메모리에 잘 맞지 않는다.
    • 크고 이질적인 코퍼스와 달리, 에이전트 메모리는 많은 구간이 서로 강하게 상관되거나 거의 중복되는, 경계가 있고 일관된 상호작용 스트림을 형성한다.
    • 그 결과, 평면적인 상위 k개 유사도 검색은 종종 중복된 컨텍스트를 반환하고, 요약 중심 계층 구조는 한 후보를 다른 후보와 구별짓는 미묘한 세부 사항을 흐릿하게 만든다.
    • 이 논문은 에이전트 메모리가 집계 이전 분리 원칙을 따라야 한다고 주장한다. 즉, 시스템은 먼저 재사용 가능한 사실, 갱신, 구별되는 세부 사항을 유사한 이력에서 분리한 다음에야 효율적 검색을 위해 이를 조직해야 한다.
    • 이 원칙에 기반하여, 저자들은 원본 메시지에서 세그먼트, 메모리 컴포넌트, 그룹에 이르는 수정 가능한 계층적 메모리 구조를 구축하는 xMemory를 제안한다.
    • xMemory는 상호작용 이력을 국소 이벤트로 분할하고, 각 세그먼트를 메모리 컴포넌트로 분리하며, 희소성·의미적 충실성 목적함수를 사용해 관련 컴포넌트를 상위 그룹으로 집계하고, 메모리가 진화함에 따라 이 구조를 점진적으로 유지한다.
  16. 114Fine-tuning / Efficiency

    Learning to Reason in 13 Parameters

    • 대규모 언어 모델의 미세조정은 전통적으로 수십억 개의 파라미터를 업데이트해야 하므로 높은 연산 및 메모리 비용을 초래한다.
    • 기존 파라미터 효율적 미세조정(PEFT) 방법은 파라미터를 줄이긴 해도 여전히 수백만 또는 수만 개 수준에서 동작하여, 제약이 심한 환경에서의 적용을 제한한다.
    • 특히 복잡한 추론 과제에 대해 효과적인 적응에 필요한 근본적인 최소 파라미터 수를 이해할 필요가 있다.
    • 이 논문은 TinyLoRA를 도입했는데, 이는 학습 가능한 r×r 행렬을 고정된 무작위 텐서를 통해 투영되는 저차원 학습 가능 벡터로 대체하여 LoRA-XS를 확장한 새로운 PEFT 방법으로, 모듈당 파라미터를 크게 줄인다.
    • 공격적인 가중치 묶기 전략을 구현하여 학습 가능 벡터를 모델의 여러 또는 모든 레이어에서 공유하도록 함으로써, 총 학습 가능 파라미터를 한 자릿수까지 줄였다.
    • 강화학습(특히 GRPO)을 핵심 학습 알고리즘으로 활용하여, 제약이 심한 파라미터 업데이트를 위해 희소한 보상 기반 신호를 활용하는 독보적 효율성을 입증했다.
  17. 113Math / Scientific AI

    Semi-Autonomous Mathematics Discovery with Gemini: A Case Study on the Erdős Problems

    • Erdős Problems 데이터베이스의 많은 문제는 'Open'으로 표시되어 있지만, 잘 알려지지 않았을 뿐 기존 해법이 존재할 수 있다.
    • 인간 수학자는 방대한 수의 미해결 추측을 체계적으로 평가하고 광범위한 문헌 조사를 수행하는 과정에서 '주의력 병목'에 직면한다.
    • 복잡한 수학 문제 해결에서 고급 대규모 언어 모델의 능력을 엄격하게 벤치마킹하려면 적합하고 다양한 데이터셋이 필요하다.
    • 특화된 Gemini 기반 AI 에이전트 Aletheia가 투입되어 700개의 'Open' Erdős 문제에 대한 후보 해법을 생성하고 초기 자연어 검증을 수행했다.
    • 전문가 필터링, 정밀 검토, 외부 자문을 포함한 엄격한 다단계 인간 평가 프레임워크를 통해 AI 출력의 정확성과 참신성을 판정했다.
    • 광범위한 문헌 조사와 AI 추론 로그 분석을 수행하여, 진정으로 새로운 결과를 독자적 재발견이나 확인된 기존 해법과 구별했다.
  18. 112Memory / RL / Agents

    MemRL: Self-Evolving Agents via Runtime Reinforcement Learning on Episodic Memory

    • AI 에이전트는 이전에 학습한 지식의 파국적 망각 없이 배포 이후 지속적으로 기술을 습득하는 데 어려움을 겪는다.
    • 지속적 적응을 위해 대규모 언어 모델(LLM)을 미세조정하는 것은 연산 비용이 크고 파국적 망각에 매우 취약하다.
    • 기존 검색 증강 생성(RAG) 시스템은 수동적이어서, 의미적으로 관련은 있으나 효용이 낮은 '노이즈'를 메모리에서 검색하는 경우가 많아 환경 피드백으로부터의 효과적 학습을 방해한다.
    • MemRL은 안정적이고 동결된 LLM 백본을 동적이고 가소적인 외부 에피소드 메모리와 분리하여, 가중치 업데이트나 파국적 망각 없이 지속적 학습을 가능하게 한다.
    • 이 시스템은 메모리 검색을 메모리 기반 마르코프 결정 과정(M-MDP)으로 정식화하며, 여기서는 LLM 파라미터가 아니라 검색 정책이 강화학습을 통해 최적화된다.
    • 이 시스템은 '의도-경험-효용' 삼중 메모리 구조와, 의미적 회상과 가치 인식 선택을 결합한 2단계 검색 메커니즘을 활용하여 고효용 경험을 능동적으로 걸러내고 활용한다.
  19. 111Memory / Agents

    SimpleMem: Efficient Lifelong Memory for LLM Agents

    • 대규모 언어 모델(LLM)은 고정된 컨텍스트 윈도우로 인해 어려움을 겪으며, 이는 장기 기억과 확장된 상호작용 전반에 걸쳐 정보를 유지하는 능력을 제한한다.
    • LLM 에이전트용 메모리 시스템은 중복되고 저엔트로피인 대화로 인한 컨텍스트 팽창에 시달리며, 이는 유효 정보 밀도와 모델 성능을 저하시킨다.
    • LLM 메모리를 보강하는 현재 접근법은 높은 토큰 비용과 늘어난 지연을 포함한 상당한 연산 오버헤드를 초래하여 실용적 배포를 가로막는다.
    • 이 프레임워크는 의미적 구조화 압축, 재귀적 통합을 동반한 다관점 구조화 인덱싱, 적응형 쿼리 인식 검색을 포함하는 3단계 메모리 파이프라인을 갖춘다.
    • 엔트로피 인식 필터링을 구현하여 중복 대화를 제거하고, 정보성 콘텐츠를 자기완결적이고 맥락 독립적인 메모리 단위로 정규화한다.
    • 다층 인덱싱(의미적, 어휘적, 기호적)과 재귀적 통합을 위한 비동기 백그라운드 프로세스를 활용하여 더 높은 수준의 추상적 메모리 표현을 생성한다.
  20. 110Evaluation / Agents

    Agent-as-a-Judge

    • 사전 정의된 지표와 인간 판단을 포함한 전통적 AI 평가 방법은 의미적 미묘함을 담기에 불충분하거나, 확장성이 떨어지고 비용이 높았다.
    • 초기 LLM-as-a-Judge 패러다임은 내재된 파라미터 편향, 얕은 단일 패스 추론, 실세계 검증 부재, 복잡하고 다면적인 과제에 대한 인지 과부하 같은 한계에 직면했다.
    • 빠르게 확장되는 Agent-as-a-Judge 분야는 다양한 방법론과 응용을 정리할 통합 프레임워크, 포괄적 분류 체계, 명확한 로드맵이 부재했다.
    • 이 논문은 에이전트형 평가 시스템을 자율성과 적응성에 따라 분류하는 새로운 3단계 발전 분류 체계, 즉 Procedural, Reactive, Self-Evolving Agent-as-a-Judge를 도입한다.
    • 다중 에이전트 협업, 계획, 도구 통합, 메모리 및 개인화, 최적화 패러다임을 포함한 핵심 에이전트형 방법론을 체계적으로 분류한다.
    • 이 조사는 광범위한 일반 도메인(예: 수학, 코드, 사실 확인)과 전문 도메인(예: 의학, 법률, 금융, 교육)에 걸친 Agent-as-a-Judge의 응용을 포괄적으로 검토한다.
  21. 109Memory / Efficiency

    Active Context Compression: Autonomous Memory Management in LLM Agents

    • LLM 에이전트는 장기 과제에서 끊임없이 증가하는 대화 기록으로 인해 '컨텍스트 비대화(Context Bloat)'를 겪으며, 이는 계산 비용 증가와 지연 시간 상승으로 이어진다.
    • 확장된 컨텍스트 윈도우는 관련 정보가 묻히는 '컨텍스트 오염(Context Poisoning)'이나 '중간 부분 망각(Lost in the Middle)' 현상을 통해 추론 능력을 저하시킨다.
    • 외부 메모리 시스템이나 반성 메커니즘 같은 기존 솔루션은 지속적인 과제 수행 중에 능동적인 궤적 내 컨텍스트 관리를 제공하지 못하는 경우가 많다.
    • 'Focus' 아키텍처는 '집중 시작'과 '집중 완료'라는 두 프리미티브를 도입해 ReAct 에이전트 루프를 확장하며, 에이전트가 압축 단계를 자율적으로 시작하고 종료할 수 있게 한다.
    • 에이전트는 '집중 완료' 단계에서 활동과 학습 내용의 상위 수준 요약을 생성해 지속적인 'Knowledge' 블록에 추가하고, 원시 상호작용 기록은 삭제하여 동적인 '톱니(Sawtooth)' 컨텍스트 패턴을 만든다.
    • 이 접근법은 점균류 같은 생물학적 탐색 전략에서 영감을 받았으며, 완벽한 원시 기록을 보존하기보다 추상적 학습 내용의 종합을 강조한다.
  22. 108Memory / Agents

    Agentic Memory: Learning Unified Long-Term and Short-Term Memory Management for Large Language Model Agents

    • LLM 에이전트는 유한한 컨텍스트 윈도우로 인해 장기 추론에 어려움을 겪으며, 효과적인 메모리 관리가 필요하다.
    • 전통적인 메모리 시스템은 장기 및 단기 메모리를 독립적인 구성요소로 취급하여, 조율이 최적 이하인 단편적이고 휴리스틱 기반의 솔루션을 초래한다.
    • 긴 궤적에 걸쳐 보상 신호가 희소하고 불연속적이기 때문에 표준 강화학습으로 메모리 연산을 최적화하기는 어렵다.
    • AgeMem은 LTM(ADD, UPDATE, DELETE) 및 STM(RETRIEVE, SUMMARY, FILTER) 연산을 에이전트 정책 안의 명시적인 도구 기반 행동으로 정식화하여, 자율적이고 학습 가능한 메모리 제어를 가능하게 한다.
    • 포괄적인 메모리 역량을 학습하기 위해 3단계 점진적 강화학습 전략(LTM 구축, 방해 요소를 동반한 STM 제어, 통합 추론)을 사용한다.
    • 단계별 Group Relative Policy Optimization(GRPO)은 종단 보상을 궤적 단계 전반에 균일하게 전파함으로써 메모리 결정에 대한 일관된 학습 신호를 보장하여, 희소 보상 문제를 해결한다.
  23. 107Agents / Search

    Dr. Zero: Self-Evolving Search Agents without Training Data

    • 고급 검색 및 추론 대규모 언어 모델(LLM)을 개발하기 위해 비용이 큰 인간 큐레이션 학습 데이터에 의존해야 하는 것이 문제다.
    • 다중 홉 추론을 위한 다양하고 도전적인 개방형 도메인 질문을 생성하는 데에서 기존 데이터 비의존적 자기 진화 프레임워크가 한계를 보인다.
    • 외부 도구와 상호작용하는 다중 턴 검색 에이전트를 최적화하기 위한 기존 강화학습 방법은 계산 비효율성이 크다.
    • 두 에이전트 모두 인간 데이터 없이 학습하며, 사실 검증을 위해 오직 외부 검색 엔진에만 의존하는 자기 진화 제안자-해결자 프레임워크다.
    • 효율적인 제안자 학습을 위한 Hop-Grouped Relative Policy Optimization(HRPO)을 도입하여, 질문을 홉 복잡도별로 군집화하고 그룹 수준 베이스라인을 사용해 계산 오버헤드를 줄인다.
    • 제안자가 다양하고 도전적이면서도 검증 가능한 다중 홉 질문을 생성하도록 난이도 기반 보상을 활용하여, 동적인 커리큘럼을 조성한다.
  24. 106World Models

    Learning Latent Action World Models In The Wild

    • 대부분의 성공적인 세계 모델은 명시적 행동 레이블에 의존하여, 방대한 양의 레이블 없는 실제 비디오 데이터에 적용할 때 확장성과 일반성이 제한된다.
    • 기존 잠재 행동 모델(LAM)은 제한된 환경에 국한되어, 다양한 실제 시나리오로의 전이성과 일반화가 부족한 행동 공간을 초래했다.
    • '야생' 비디오는 명확히 정의되지 않은 행동, 환경적 잡음, 공통된 체화의 부재 같은 문제를 제기하여, 의미 있는 행동 표현을 추출하기 어렵게 만든다.
    • 동결된 V-JEPA 2-L 시각 인코더를 활용하여, 대규모의 레이블 없는 '야생' 비디오 데이터셋에서 세계 모델과 역동역학 모델(IDM)을 공동 학습하는 프레임워크다.
    • 연속 잠재 행동의 내용을 제어하고 무관한 정보의 인코딩을 방지하기 위한 정보 정규화 기법(희소성, 잡음 추가(VAE 유사), 이산화)을 조사한다.
    • 미래 누출과 행동 전이성 같은 본질적 지표를 통해, 그리고 경량 컨트롤러와 Cross-Entropy Method를 통한 다운스트림 계획 과제에서의 실용적 유용성을 통해 학습한 잠재 행동 공간을 평가한다.
  25. 105Architecture / Learning

    Deep Delta Learning

    • 심층 잔차 네트워크(ResNet)는 항등 단축 연결을 통해 '엄격하게 가산적인 귀납적 편향'을 부과하여, 학습 가능한 특징 변환의 복잡성을 제한한다.
    • ResNet 단축 연결의 고정된 항등 자코비안은 진동이나 '대립적 행동'처럼 종종 음의 고윳값을 갖는 동역학을 요구하는, 복잡하고 비단조적인 상태 전이를 모델링하는 네트워크의 능력을 제약한다.
    • 전방 오일러 단계로 간주되는 표준 잔차 업데이트는 강한 평행이동 편향을 보이며, 명시적인 특징 '망각'이나 재배향을 위한 메커니즘이 결여되어 있다.
    • 'Delta Residual Block'을 도입한다. 이는 기존의 가산적 잔차 업데이트(다음 층 = 현재 층 + 변환항)를, 단축 연결에 데이터 의존적 기하 변환 행렬과 키·값 보정항을 곱하는 곱셈적 형태로 확장한 것이다.
    • 핵심은 'Delta Operator' 'A(X) = I − β(X)k(X)k(X)의 외적'으로, 이는 항등 행렬의 랭크-1 섭동이며 공간적 기하학 변환을 적용한다.
    • 이 연산자는 학습 가능하고 데이터 의존적인 반사 방향 k(X)와 0에서 2 사이 범위에서 동적으로 제어되는 게이팅 스칼라 β(X)로 매개변수화된다.
  26. 104Benchmarks / Code

    SWE-EVO: Benchmarking Coding Agents in Long-Horizon Software Evolution Scenarios

    • 기존 AI 코딩 에이전트 벤치마크는 주로 SWE-Bench에서 볼 수 있는 것과 같은 개별 버그 수정이나 단일 이슈 기능 구현에 초점을 맞춘다.
    • 이러한 벤치마크는 지속적인 진화, 다중 파일 조율, 기존 코드베이스에 대한 반복적 업데이트를 수반하는 실제 소프트웨어 공학의 장기적 특성을 충분히 포착하지 못한다.
    • 소프트웨어 개발의 상당 부분은 레거시 코드를 유지보수하고 진화시키는 데 할애되며, 이는 현재 방법으로는 평가되지 않는 지속적 이해, 적응적 계획 수립, 전체론적 시스템 변경을 요구한다.
    • SWE-EVO는 실제 릴리스 노트에서 도출한 48개의 고품질 소프트웨어 진화 과제로 구성된 벤치마크를 제시하며, 에이전트가 코드베이스를 두 개의 서로 다른 버전 사이에서 전환하도록 요구한다.
    • 에이전트는 상위 수준의 소프트웨어 요구사항 명세(SRS)를 해석하고, 기능이 보존되고 새로운 테스트가 통과되도록 보장하면서 전체 코드베이스에 걸쳐 다단계·다중 파일 수정을 구현해야 한다.
    • 성능은 해결률(엄격한 통과·실패), 패치 적용률(Patch Apply Rate), 수정률(세밀한 진행도)을 사용해 평가하며, 실패 유형을 분류하기 위한 LLM-as-a-judge 분석으로 보완한다.
  27. 103Scientific AI / RL

    Training AI Co-Scientists Using Rubric Rewards

    • 기존의 과학용 AI 응용은 일반적으로 잘 정의되고 실행 가능한 환경에 국한되어, 추상적이고 개방형인 과학적 탐구에 대한 유용성이 제한적이다.
    • 대규모 언어 모델(LLM)은 과학적 맥락에서 인간 피드백을 얻는 과정이 느리고, 비용이 많이 들며, 종종 모호하기 때문에 고품질의 장문 연구 계획을 생성하는 데 어려움을 겪는다.
    • 개방형 과학 과제를 위한 고도의 전문성을 갖춘 학습 데이터와 피드백의 확보를 확장하는 것이 주요 병목이며, 인간 전문가가 수작업으로 주석을 다는 일은 비용과 시간이 많이 든다.
    • ResearchPlanGen이라는 자동화 파이프라인을 구축하여 과학 논문에서 직접 연구 목표, 목표별 채점 루브릭, 참조 솔루션을 추출하고 크고 다양한 학습 데이터셋을 생성했다.
    • 자기 채점 강화학습(RL) 프레임워크를 구현했으며, 여기서 초기 언어 모델의 동결된 복사본이 특권적인 목표별 루브릭과 일반 가이드라인을 사용하여 생성된 계획을 채점하는 '자동 채점자' 역할을 한다.
    • 계획 생성 모델은 루브릭 만족 점수를 직접적인 보상 신호로 활용하여 Group Relative Policy Optimization(GRPO)으로 최적화했으며, 간결성을 강제하기 위한 길이 제어 전략도 함께 적용했다.
  28. 102RL / Training

    GDPO: Group reward-Decoupled Normalization Policy Optimization for Multi-reward RL Optimization

    • 대규모 언어 모델(LLM)을 다양한 인간 선호도(예: 안전성, 일관성, 효율성)에 정렬하려면 다중 보상 강화학습이 필요하다.
    • 흔히 사용되는 Group Relative Policy Optimization(GRPO) 알고리즘은 여러 보상의 합에 적용될 때 '보상 신호 붕괴'를 겪는데, 이는 서로 다른 보상 조합이 동일한 어드밴티지 값을 산출할 수 있음을 의미한다.
    • 이러한 보상 신호 붕괴는 학습 신호의 해상도를 떨어뜨려, 최적 이하의 수렴, 학습 안정성 저하, 잠재적인 조기 학습 실패로 이어진다.
    • GDPO는 개별 보상 구성요소의 정규화를 분리하여, 각 보상에 대해 그룹 단위 정규화를 별도로 수행함으로써 세밀한 구분을 보존한다.
    • 개별적으로 정규화한 어드밴티지는 이후 합산되며, 정책 업데이트의 수치적 안정성을 보장하기 위해 추가적인 배치 단위 정규화를 거친다.
    • 보상 간 우선순위를 관리하기 위해, GDPO는 보상 가중치를 탐색하고 보상 함수 조건화를 제안하는데, 이는 더 어려운 목표가 달성된 경우에만 더 쉬운 보상을 부여하는 방식이다.
  29. 101Security / Code

    Digital Red Queen: Adversarial Program Evolution in Core War with LLMs

    • 통제된 인공 시스템에서 'Red Queen' 동역학으로 알려진 개방형 적대적 진화 동역학을 이해하는 것이 과제다.
    • 복잡한 적대적 환경 안에서 기능하는 프로그램을 위한 극도로 희소한 탐색 공간을 효율적으로 탐색하는 것이 과제다.
    • 디지털 생태계에서 지속적인 적응과 반적응을 유도하는 단순하면서도 효과적인 자기 대전 메커니즘을 개발하는 것이 과제다.
    • 각 라운드마다 이전에 생성된 모든 적대자에 대해 최적화하기 위해 새로운 프로그램을 진화시키는 최소한의 자기 대전 메커니즘이 Digital Red Queen(DRQ) 알고리즘이다.
    • Core War를 자기 수정 Redcode 프로그램을 진화시키기 위한 샌드박스화된 튜링 완전 환경으로 활용하여, 복잡한 적대적 동역학을 위한 안전한 테스트베드를 제공한다.
    • GPT-4.1 mini 같은 대규모 언어 모델(LLM)을 MAP-Elites 품질-다양성 알고리즘 안의 지능적 변이 및 생성 연산자로 통합하여, 프로그램 합성을 안내하고 다양성을 유지한다.
  30. 100Architecture

    Recursive Language Models

    • 대규모 언어 모델(LLM)은 유한한 컨텍스트 윈도우에 제약을 받아, 수백만 토큰에 달하는 많은 실제 '장기 과제'에 적용하기 어렵다.
    • LLM은 '컨텍스트 부패(context rot)' 현상을 보이는데, 이는 고정된 컨텍스트 윈도우 안에서도 입력 길이가 증가할수록 성능이 저하되는 현상으로, 특히 밀집된 정보 접근이 필요한 과제에서 두드러진다.
    • 압축·요약이나 과제별 에이전트 시스템 같은 기존의 긴 컨텍스트 관리 방법은 정보 손실, 제한된 일반화 가능성, 또는 여전히 근본적인 LLM의 컨텍스트 윈도우 한계에 직면하는 등의 이유로 부적절한 경우가 많다.
    • 임의로 긴 사용자 프롬프트를 LLM의 컨텍스트 윈도우에 직접 입력하는 대신, 지속적인 REPL(Read-Eval-Print Loop) 프로그래밍 환경 안의 외부 객체로 취급한다.
    • LLM이 REPL 안에서 코드를 생성하여 외부 프롬프트의 일부를 프로그래밍 방식으로 검토, 변환, 분해하고 중간 값을 구축할 수 있게 한다.
    • 프로그래밍 방식의 기호적 재귀를 가능하게 하여, LLM이 프로그래밍 방식으로 구성한 프롬프트 변환에 대해 하위 RLM을 호출함으로써, 출력 길이 제한을 우회하고 복잡한 반복 처리를 가능하게 한다.

연구에서 제품 적용까지

운영 중인 기능, 시범 적용과 개발 중인 기술을 구분해 정리했습니다.

보유기술 보기