초고속 AI 추론, 10 GSPS에서 실시간으로 입자 겹침 검출

FPGA 기반 CNN, GSI/FAIR에서 300ns 지연시간으로 스필 내 모든 입자를 위치 추적하며 120Gbit/s 처리, 검출기 펄스가 겹치는 경우에도 검출.

  www.spdevices.com

독일 다름슈타트에 위치한 GSI 헬름홀츠 중이온연구소에서 Teledyne ADQ35의 초당 100억 샘플(10 GSPS) FPGA 기반 AI 추론을 통해 높은 입자 발생률과 상당한 신호 중첩이 발생하는 상황에서도 서브마이크로초 지연시간과 서브나노초 시간 분해능으로 입자의 위치를 실시간으로 안정적이고 정확하게 추적할 수 있다. 이 연구는 풀다 응용과학대학교(Fulda University of Applied Sciences)에서 GSI와 공동으로 수행한 박사학위 연구의 일환으로 진행됐다. FPGA 하드웨어에 직접 구현된 합성곱 신경망(CNN)은 300나노초의 지연시간으로 초당 120기가비트의 데이터를 처리한다.

스필 내 모든 입자 계수
입자가속기는 과학 실험, 재료 연구 및 의료 분야에 사용되는 정밀하게 제어된 입자 빔을 제공한다. GSI에서는 SIS18 싱크로트론이 링 가속기에서 입자를 가속한 후, 빔에서 입자를 추출해 실험 장치로 전달한다. 이 과정을 스필(spill)이라고 한다. 스필을 제어하려면 스필 내 입자의 수와 시간에 따른 분포를 파악하는 것이 필수적이다. 이를 위해 가속기가 작동하는 동안 스필에 포함된 각 입자의 위치를 실시간으로 추적해야 하며, 이는 입자가속기 빔 계측 분야에서 중요한 과제다.

검출기를 빔 경로에 배치하면 검출기를 통과하는 각 입자마다 펄스가 발생한다. 이는 그림 1에 나타나 있다. 짧은 시간 간격 내에 여러 입자가 검출기를 통과하면 펄스가 서로 겹치면서 검출기 응답이 비선형적으로 변할 수 있다. 이러한 펄스 중첩 현상을 파일업(pile-up)이라고 하며, 빔 세기가 높아질수록 발생 가능성이 증가한다. 파일업 이벤트를 제대로 분리하지 못하면 이를 방지하기 위해 입자 발생률을 낮춰야 하므로 빔 세기가 제한된다.



그림 1. 입자가 검출기에 충돌할 때 발생하는 펄스.

그림 2는 이러한 파일업 이벤트의 네 가지 사례를 보여준다. 각 사례는 짧은 시간 간격 내에 3개의 입자가 도착했을 때의 신호 응답을 나타낸다. 각 입자의 도착 시간은 녹색 점선으로 표시되어 있다.

다중 임계값 검출이나 국소 최대값 검색과 같은 기존 방법은 파일업이 발생하면 입자를 검출하는 데 어려움을 겪으며, 검출에 실패하는 경우도 많다. 이로 인해 입자 수가 실제보다 적게 집계될 수 있으며, 이는 스필 제어와 후속 실험에 악영향을 미칠 수 있다.



그림 2. 짧은 시간 간격 내에 여러 입자가 도착했을 때의 검출기 응답. 3개의 입자가 도착하면서 펄스가 서로 겹친다.

FPGA 기반 AI 신호 처리
이 문제를 해결하기 위해 라벨링된 데이터를 기반으로 CNN을 개발하고 학습했다. 이후 UFAIRA가 개발한 툴체인을 사용해 CNN을 FPGA 하드웨어에 직접 구현했다.

AI 모델은 파일업이 발생한 경우에도 각각의 개별 펄스를 위치 추적하고, 입자 수와 도착 시간 정보를 실시간으로 추출한다. 이를 통해 매우 높은 입자 발생률에서도 스필을 정확하게 재구성할 수 있다. CNN의 FPGA 구현은 데이터를 인라인으로 처리하고 결정론적 지연시간을 보장하므로, 스필 제어와 같은 실시간 애플리케이션에 매우 중요하다.

디지타이저에 구현
이 솔루션은 최대 10 GSPS의 샘플링 속도와 온보드 AMD Kintex UltraScale KU115 FPGA를 탑재한 Teledyne SP Devices ADQ35 고속 디지타이저를 사용해 구현됐다. 이를 통해 디지타이저에서 직접 실시간 AI 추론을 수행하는 데 필요한 충분한 연산 리소스를 확보할 수 있다. 데이터를 디지타이저에서 직접 처리함으로써 데이터 전송 병목을 방지하고 서브마이크로초 지연시간으로 동작할 수 있다.

FPGA에 최적화된 하드웨어 인지형 학습과 CNN의 FPGA 패브릭 구현을 지원하는 툴체인을 사용해 구현된 CNN은 312.5MHz에서 32개 샘플을 병렬 처리할 수 있으며, 이를 통해 10 GSPS의 처리 성능과 낮고 결정론적인 지연시간, 높은 정확도를 구현한다.

120Gbit/s에서 300ns 지연시간
구현된 CNN은 300나노초의 지연시간으로 초당 120기가비트를 처리한다(10 GSPS, 샘플당 12비트). FPGA에서 사용 가능한 DSP 리소스의 15% 미만, LUT 리소스의 6% 미만만 사용하므로 더 큰 모델을 구현하거나 더 높은 처리량을 목표로 할 수 있는 충분한 여유 공간을 남긴다.

AI 기반 접근 방식은 파일업 조건에서 성능을 크게 향상시키며, 다중 임계값 검출 및 국소 최대값 검색과 같은 기존 방법보다 뛰어난 성능을 제공한다. CNN은 파일업 이벤트에서 개별 펄스를 높은 신뢰도로 위치 추적하므로, 입자 발생률을 낮춰 파일업을 피할 필요가 없어진다. 이를 통해 검출기 하드웨어 자체를 변경하지 않고도 훨씬 높은 입자 발생률에서 시스템을 운용할 수 있다.

고속 실시간 데이터 처리에서 AI는 언제 도움이 되는가?
이 사례에서 알 수 있듯이 여러 이벤트가 동일한 시간 구간 내에서 발생해 신호가 중첩될 때 AI의 활용 가치가 특히 높다. 또한 신호 처리가 기존 방식으로는 지나치게 복잡하거나, 드리프트, 노이즈, 비선형성과 같은 실제 환경의 영향으로 신호 형태가 변하는 경우에도 AI가 도움이 될 수 있다. AI 모델은 복잡한 신호 거동을 학습하고 기존 방식으로는 실시간으로 복원하기 어렵거나 불가능한 정보를 추출할 수 있다.

이번에 입증된 접근 방식은 인라인 방식의 저지연 처리가 필요한 다양한 고속 데이터 분야에 폭넓게 적용할 수 있다. 여기에는 실시간 스펙트럼 모니터링 및 신호 분류, RF 시스템의 채널 추정, 고빈도 거래, 네트워크 침입 탐지, 자율 시스템을 위한 영상 처리 등이 포함되며, 이외에도 다양한 분야에 활용될 수 있다.

UFAIRA 소개
이번 연구에 사용된 방법과 툴체인은 현재 UFAIRA의 기반이 되고 있다. UFAIRA는 실시간 추론을 위한 맞춤형 FPGA 기반 AI 가속기를 개발하는 기업으로, 풀다 응용과학대학교의 박사학위 연구에서 파생돼 2026년에 설립된 스핀오프 기업이다.

자세한 내용은 다음을 참조: https://ufaira.eu/?utm_source=mepax

Teledyne SP Devices 소개
Teledyne SP Devices는 고속 데이터 수집 분야의 선도 기업으로, 전 세계의 까다로운 애플리케이션을 위한 첨단 디지타이저 및 신호 처리 솔루션을 제공한다. 10 GSPS 디지타이저 기술을 초기부터 선도하는 등 오랜 기간 혁신을 이어온 Teledyne SP Devices는 고객이 데이터를 더 빠르고 정확하며 효율적으로 수집하고 처리할 수 있도록 지원한다.

자세한 내용은 다음을 참조: https://www.spdevices.com/en-us?utm_source=mepax