구글 리서치, 합성 뉴런 생성 모델 'MoGen' 공개… PATHFINDER 축삭 재구성 오류 4.4% 감소·수작업 157년 절감

구글 리서치가 AI로 생성한 합성 뉴런 데이터를 활용해 뇌 재구성 모델의 성능을 높이는 MoGen(Neuronal Morphology Generation)을 공개했다. 합성 데이터 10%를 추가 학습에 섞은 PATHFINDER 모델은 마우스 축삭(axon) 재구성 오류율을 4.4% 줄였다. 관련 논문 'MoGen: Detailed neuronal morphology generation via point cloud flow matching'은 ICLR 2026에서 발표될 예정이다.

커넥토믹스(connectomics) 분야는 뇌 조직을 얇게 잘라 이미지화한 뒤 이를 쌓고 정렬해 2D 이미지를 3D 뉴런으로 변환한다. 최근 공개된 수컷 초파리의 완전 뇌·중추신경계 지도는 약 16만 6,000개 뉴런을 담고 있으며, AI 기반 컴퓨팅과 인간 전문가의 검증을 결합해 수년에 걸쳐 완성됐다. 반면 마우스 뇌는 초파리 뇌보다 약 1,000배, 인간 뇌는 마우스 뇌보다 약 1,000배 더 크다.

구글 리서치는 현재 AI 재구성 모델 PATHFINDER로 뉴라이트(neurite) 세그먼트를 식별하고 이를 이어 붙여 전체 뉴런을 복원한다. 이 과정에서 연결돼야 할 뉴라이트가 끊기는 '분할 오류(split error)'와 서로 다른 뉴라이트가 합쳐지는 '병합 오류(merge error)'가 발생하는데, 이러한 오류는 연구자·대학원생·기술 전문가 등이 수작업으로 교정해야 하는 가장 시간 소모적인 단계다.

연구진은 자연어처리·이미지 생성·자율주행 등에서 효과가 입증된 합성 데이터 접근을 커넥토믹스에 도입했다. MoGen은 PointInfinity 포인트 클라우드 플로 매칭 모델을 활용해 무작위 3D 점 구름을 단계적으로 사실적인 3D 뉴런 형상으로 변환한다. 사전에 인간이 검증한 마우스 피질(mouse cortex) 조직 재구성 데이터에서 1,795개 축삭의 표면 점을 샘플링해 학습했고, 실제 뉴라이트와 시뮬레이션 뉴라이트를 섞어 전문가에게 분류를 맡긴 평가에서 MoGen 출력물의 사실성을 확인했다.

이어 연구진은 수백만 개의 합성 형상을 PATHFINDER 학습 파이프라인에 투입했다. MoGen 합성 데이터를 10% 섞어 학습한 PATHFINDER는 유보된 마우스 축삭 재구성에서 오류율을 4.4% 낮췄고, 개선폭의 대부분은 병합 오류율 감소에서 비롯됐다. 구글 리서치는 이를 현대 생성형 AI 기법이 커넥토믹 재구성의 최신 기술을 끌어올린 첫 사례라고 설명했다.

4.4%는 수치상 크지 않아 보이지만, 완전한 마우스 뇌 규모로 환산하면 전문가 1명이 수행할 수작업 교정 157년에 해당하는 분량을 절감하는 효과다. 인간 전문가의 검증 작업이 가장 큰 병목인 현재 커넥토믹스 파이프라인에서 직접적인 부담 완화로 이어진다.

연구진은 뉴런의 길이·공간 분포·분기 정도 등 특성을 조정해 재구성 오류가 자주 발생하는 형태를 집중적으로 생성하는 방향을 후속 과제로 제시했다. 이번 연구는 마우스를 대상으로 했지만, 종별로 뉴런 형태가 다르다는 점을 고려해 얼룩말핀치(zebra finch)와 초파리용 MoGen 모델도 함께 학습됐다. 시뮬레이션 뉴런으로 합성 전자현미경 이미지를 만들어 재구성 파이프라인 초반의 학습 데이터로 활용하는 방안도 탐색 중이다.

MoGen은 종별 학습 모델과 함께 오픈소스로 공개됐으며, 커뮤니티가 추가 연구에 활용할 수 있도록 했다. 논문의 저자는 구글 리서치의 Michał Januszewski 리서치 사이언티스트와 Franz Rieger 스튜던트 리서처이며, HHMI Janelia의 Hess 연구실 등 학계 협력자와 구글 커넥토믹스 팀이 함께 참여했다. 구글 리서치는 완전한 마우스 뇌 매핑을 비롯해 앞으로 확대될 커넥토믹스 과제를 해결하기 위해 이와 같은 혁신이 더 많이 필요하다고 강조했다.