평생 nnU

Scientific Reports 13권, 기사 번호: 9381(2023) 이 기사 인용

측정항목 세부정보

딥러닝에 대한 열정이 커지면서 의료 종사자와 규제 기관 모두 임상 실습에 이미지 분할을 안전하게 도입할 수 있는 방법을 모색하고 있습니다. 유망한 연구를 임상 공개 세계로 전환할 때 극복해야 할 한 가지 한계는 정적 학습에서 지속적인 학습으로의 전환입니다. 라이프사이클 전반에 걸쳐 모델을 훈련하는 지속적인 학습에 대한 관심이 높아지고 있지만 의료 분야에서는 아직 초기 단계입니다. 우리는 연구원과 임상의의 손에 지속적인 세분화를 제공하는 표준화된 프레임워크인 Lifelong nnU-Net을 제시합니다. 여러 의료 응용 분야에서 가장 성능이 뛰어난 분할기로 널리 알려진 nnU-Net을 기반으로 구축되었으며 모델을 순차적으로 훈련하고 테스트하는 데 필요한 모든 모듈을 갖추고 있어 광범위한 적용 가능성을 보장하고 지속적으로 새로운 방법을 평가하는 데 대한 장벽을 낮춥니다. 패션. 세 가지 의료 세분화 사용 사례와 다섯 가지 지속적인 학습 방법에 대한 벤치마크 결과는 해당 분야의 현재 상태에 대한 포괄적인 전망을 제공하고 최초의 재현 가능한 벤치마크를 의미합니다.

의료 사용 사례에 대한 딥 러닝 방법은 사용 가능한 모든 데이터가 섞이고 모델이 분포 내 샘플의 하위 집합에서 테스트되는 정적 설정에서 계속 평가됩니다. 이는 (a) 모든 훈련 데이터를 중앙 위치에서 사용할 수 있고 (b) 획득 조건이 임상 배포 후 시간이 지나도 변하지 않는다는 비현실적인 가정을 바탕으로 합니다1. 이러한 방식으로 평가하면 보고된 새로운 방법의 성능과 실제 유용성 사이에 상당한 격차가 생겨2,3,4 역동적인 임상 환경에서 평생 학습 에이전트의 중요한 배포를 방해합니다5.

지속적인 학습은 그림 1에서 볼 수 있듯이 데이터의 시간적 차원을 무시하지 않고 순차적 방식으로 모델을 교육합니다. 이로써 목표는 이전에 관찰된 교육 조건 및 주제 그룹에 대한 성능을 잃지 않고 새로운 환경에 적응하는 것입니다. 분산 연합 학습 방법은 다임상 환경에서 연구되었으며 기관 간 데이터 공유가 필요하지 않습니다6,7. 그러나 데이터 가용성에 대한 시간적 제한을 다루지도 않고 변화하는 인구 역학에 지속적으로 적응하는 에이전트를 위한 프레임워크를 제공하지도 않습니다. 이러한 문제를 해결하는 의료 분야의 지속적인 학습이 점점 더 많은 열의를 얻고 있으며8,9,10,11 규제 절차가 활발하게 논의되고 있습니다5,12,13. 현재 배포 중에 모델이 조정될 때마다 재승인이 필요하지만 지속적으로 조정되는 알고리즘을 사용할 수 있는 수명 주기 규제 프로토콜에 대한 FDA와 유럽 위원회의 계획이 있습니다14. 이러한 추구로 인해 기술이 아직 초기 단계에 있는 동안 규제 지침이 적용되는 드문 상황이 발생할 수 있습니다.

정적 설정(왼쪽)에서는 모든 훈련 데이터가 통합됩니다. 연속 설정(오른쪽)은 획득 시간을 고려하여 모델을 순차적으로 학습합니다.

더 간단한 컴퓨터 비전 작업을 위한 지속적인 학습에 대한 기술 문헌은 표준화된 평가 설정이 없다는 논란으로 인해 어려움을 겪고 있습니다15,16,17. 최근 Avalanche18 프로젝트는 통일된 코드 기반을 제공함으로써 지속적인 분류에 대한 이 문제에 대한 솔루션으로 등장했습니다. 이 분야는 이미지의 각 픽셀에 레이블을 할당하는 연속 분할에 대해서는 아직 성숙하지 않았으며 임상 영역에서 주요 AI 작업임에 틀림이 없습니다. 최근 몇 년 동안 더 많은 작업이 수행되었지만8,10,19,20,21,22,23, 이는 (1) 고성능 분할 파이프라인을 기반으로 구축되지도 않았고 (2) 널리 사용되는 방법이 여러 이미지 분할로 어떻게 전환되는지 조사하지도 않았습니다. 오픈소스 벤치마크.

이 연구에서는 지속적인 설정에서 분할 모델을 훈련하고 평가하기 위한 표준화된 프레임워크인 Lifelong nnU-Net을 제시합니다. 우리는 11개의 국제 생물의학 세분화 과제에 걸쳐 33개의 의료 세분화 작업에 대해 널리 사용되고 최첨단이며 20개의 추가 작업에 대해 경쟁력이 있는 nnU-Net 파이프라인을 기반으로 코드를 구축합니다24. 이는 확장된 프레임워크의 높은 유용성과 성능을 보장합니다. 우리의 기여는 다음과 같습니다: