[Paper] Tool‑RoCo: Agent‑as‑Tool **자기 조직화** Large Language Model Benchmark in Multi‑robot Cooperation
Tool‑RoCo는 RoCo(다중 로봇 협업 시스템)를 기반으로 장기적인 다중 에이전트 협력을 평가하기 위해 설계된 새로운 벤치마크로, 대형 언어 모델(LLM)의 성능을 측정한다.
Tool‑RoCo는 RoCo(다중 로봇 협업 시스템)를 기반으로 장기적인 다중 에이전트 협력을 평가하기 위해 설계된 새로운 벤치마크로, 대형 언어 모델(LLM)의 성능을 측정한다.
지난 20년 동안, C, C++와 같은 개별 언어에 대한 검증 도구 개발에 상당한 연구 및 개발 노력이 투자되었습니다.
광용적맥파측정(PPG) 및 볼리스토카디오그래피(BCG)와 같은 비침습 신호를 동맥혈압과 같은 임상적으로 의미 있는 신호로 변환하는…
We present a novel training approach, named Merge-and-Bound (M&B) for Class Incremental Learning (CIL), which directly manipulates model weights in the para... 우리는 클래스 증분 학습(CIL)을 위해 모델 가중치를 직접 조작하는 새로운 학습 접근법인 Merge-and-Bound (M&B)를 제시한다...
최근 비디오 생성은 급속한 발전을 이루면서 모바일 기기에서 이미지‑투‑비디오(I2V) 합성에 대한 관심이 점점 커지고 있습니다. 그러나, 그 하위…
가독성 평가는 텍스트의 읽기 난이도를 평가하는 것을 목표로 합니다. 최근 몇 년간, 딥러닝 기술이 점차 가독성에 적용되어 왔습니다.
Spatial cognition is fundamental to real-world multimodal intelligence, allowing models to effectively interact with the physical environment. While multimodal ...
우리는 2층 신경망을 연구하고 이를 입자 기반 방법인 consensus-based optimization (CBO)으로 훈련합니다. 우리는 CBO의 성능을 ...
임베디드 AI 에이전트가 작업 계획을 수행할 때 안전을 보장하는 것은 실제 환경 배포에 있어 매우 중요합니다, 특히 위험한 지시가 있을 수 있는 가정 환경에서는.
대규모 Mixture of Experts (MoE) 모델의 학습은 동적 토큰 라우팅으로 인한 심각한 부하 불균형 때문에 중요한 메모리 병목 현상에 직면합니다. Thi...
https://arxiv.org/abs/2305.17673 Remote sensing change captioning은 변화된 관심 대상의 내용을 자연어로 기술하는 것을 목표로 하는 새로운 연구 과제이며, 최근 큰 관심을 받고 있습니다. 이 작업은 두 개의 위성 이미지(시간 t₁과 t₂)와 해당 이미지 쌍에 대한 설명을 생성하는 모델을 훈련시키는 것을 포함합니다. 기존 연구들은 주로 이미지 쌍을 직접 입력으로 사용하거나, 차이 이미지(difference image)를 생성한 뒤 이를 기반으로 캡션을 생성하는 방식을 채택했습니다. 그러나 이러한 접근법은 다음과 같은 한계가 있습니다. 1. **시간적 정보 손실**: 두 이미지 사이의 복잡한 변화를 포착하기 위해서는 시간적 연속성을 고려해야 하지만, 대부분의 모델은 정적인 입력만을 처리합니다. 2. **노이즈와 변형**: 위성 이미지에는 구름, 그림자, 센서 노이즈 등 다양한 방해 요소가 존재해, 차이 이미지만으로는 의미 있는 변화를 정확히 추출하기 어렵습니다. 3. **설명 다양성 부족**: 현재 데이터셋은 제한된 도메인(예: 도시 개발, 농업 변화)과 비교적 짧은 캡션에 국한되어 있어, 모델이 일반화된 설명을 생성하기 어렵습니다. 본 논문에서는 이러한 문제점을 해결하기 위해 **시계열 기반 멀티‑모달 어텐션 네트워크(TS‑MMA)** 를 제안합니다. 주요 기여는 다음과 같습니다. - **시계열 특징 인코더**: 두 시점의 이미지를 각각 CNN‑Backbone으로 추출한 후, Transformer‑based 시계열 인코더를 통해 시간적 의존성을 모델링합니다. - **멀티‑모달 어텐션**: 이미지 특징과 기존 메타데이터(예: 좌표, 촬영 조건)를 동시에 고려하는 교차 어텐션 메커니즘을 도입해, 변화를 보다 정교하게 파악합니다. - **노이즈‑강인 캡션 디코더**: 변형된 이미지에서도 안정적인 문장을 생성하도록, 노이즈‑어드버설 트레이닝과 라벨 스무딩을 적용한 디코더를 설계했습니다. 실험 결과, 제안된 TS‑MMA는 기존 최첨단 모델 대비 **BLEU‑4 4.2%**, **METEOR 3.7%**, **CIDEr 5.1%** 향상을 달성했으며, 특히 구름이 많이 끼어 있는 상황에서도 변화를 정확히 기술하는 능력이 크게 개선되었습니다. 또한, 다양한 도메인(산림 벌채, 해안선 변화, 농작물 성장)에서의 **제로‑샷 일반화** 성능도 기존 방법보다 우수함을 확인했습니다. ### 코드 및 데이터 - 모델 구현은 PyTorch 기반이며, 전체 파이프라인은 공개 GitHub 레포지토리에서 확인할 수 있습니다. - 사용된 데이터셋은 **xView2**, **SpaceNet**, **LEVIR‑CD** 등 3개의 공개 위성 이미지 변화 데이터셋이며, 각 데이터셋에 대한 전처리 스크립트와 캡션 어노테이션 파일이 포함되어 있습니다. > **한계 및 향후 연구** - 현재 모델은 2개의 시점만을 고려하므로, 다중 시점(>2) 시계열 분석에 대한 확장이 필요합니다. - 캡션의 풍부함을 높이기 위해, 도메인‑전문가가 작성한 상세 설명을 활용한 **지식‑증강** 방법을 탐구할 계획입니다. 본 연구는 원격 탐사 이미지 변화 감지와 자연어 설명 생성 사이의 간극을 메우는 중요한 단계이며, 향후 재난 대응, 환경 모니터링 등 다양한 실용 분야에 적용될 수 있을 것으로 기대됩니다.
텍스트 속성 그래프는 모델이 강력한 텍스트 이해와 구조적으로 정보를 활용한 추론을 효과적으로 결합하도록 요구합니다. 기존 접근 방식은 ...