[Paper] 인컨텍스트 다중 인스턴스 학습

Source: arXiv - 2606.06458v1

Overview

다중 인스턴스 학습(MIL)은 인스턴스들의 bag 수준에서 감독 정보를 사용할 수 있는 문제를 다루며, 계산 병리학부터 위성 이미지까지 다양한 분야에 성공적으로 적용되어 왔습니다. 그러나 기존 알고리즘은 많은 실제 응용에서 나타나는 저라벨 상황에서 어려움을 겪습니다. 유연한 모델은 과적합되고, 경직된 모델은 해당 작업에 적응하지 못합니다. 우리는 합성 데이터를 사용해 Perceiver‑style 구조를 가진 인‑컨텍스트 학습자를 사전 학습(pretraining)하면, 소수의 라벨이 있는 bag만으로도 새로운 작업을 해결할 수 있는 모델을 얻을 수 있음을 보여줍니다. 추론 시에는 분류가 단일 순전파 한 번으로 이루어지며, gradient 업데이트가 필요 없습니다. 우리는 bag‑구조 데이터를 위한 다양한 합성 데이터 생성기를 제안하고 조사했으며, 이들이 서로 보완적인 귀납적 편향을 포착한다는 것을 발견했습니다. 이러한 생성기들의 혼합으로 사전 학습된 모델은 각 작업별 강점을 물려받아 12개의 MIL 벤치마크 전반에서 가장 높은 평균 성능을 달성했으며, 작업별 특화 훈련이 필요한 감독 기반 베이스라인을 능가했습니다.

Key Contributions

• cs.LG
• cs.AI
• cs.CV

Methodology

자세한 방법론은 전체 논문을 참고하십시오.

Practical Implications

이 연구는 cs.LG 분야의 발전에 기여합니다.

Authors

• Alexander Möllers
• Marvin Sextro
• Julius Hense
• Gabriel Dernbach
• Klaus‑Robert Müller

Paper Information

• arXiv ID: 2606.06458v1
• Categories: cs.LG, cs.AI, cs.CV
• Published: June 4, 2026
• PDF: Download PDF