VAE모델을 사용한 핵융합 전자온도진단과 예측

Diagnostic data integration using deep neural networks for real-time plasma analysis

A. Rigoni Garola, R. Cavazzana, M. Gobbin, R.S. Delogu, G. Manduchi, C. Taliercio, A. Luchetta

핵심 요약

💡 Deep Neural Network를 사용하여 실시간 플라즈마 분석을 위한 진단 데이터 통합에 대해 다룹니다. 이 연구는 여러 진단에서 나오는 고속 데이터를 다양한 알고리즘으로 결합하는 것을 탐구합니다. 새로운 하드웨어 리소스 (GPU, FPGA, ACAP)의 개발로 인해 대량의 데이터 처리 및 분석이 가능해졌으며, 이를 활용하여 퓨전 실험에서 진단 데이터 통합을 완전히 새롭게 구축할 수 있습니다. 이 논문은 VAE (Variational Autoencoder)와 같은 새로운 생성 모델을 제안하며, 이 모델들이 FPGA와 같은 하드웨어에서도 사용될 수 있다는 가능성을 제시합니다. 이러한 모델들은 데이터를 간결하면서도 정확하게 나타내는 것으로 보여지며, 실시간 시스템에 적용될 수 있는 가능성이 있습니다.

---

Introduction

스마트 시스템을 만드는 데 있어서 복잡한 수학 모델보다는 간단한 함수와 대량의 데이터를 사용하는 것이 더욱 효과적인 방법임을 언급하고 있습니다. 이러한 접근 방식은 기계 학습 및 딥 러닝 분야에서 매우 중요하며, 이를 통해 다양한 분야에서 문제를 해결할 수 있습니다.
핵융합 플라즈마 진단은 핵융합 연구 분야에서 매우 중요한 역할을 하며, 이를 위해서는 다양한 진단 도구와 기술이 필요합니다. 이러한 진단 도구와 기술은 데이터의 정확성과 신뢰성에 큰 영향을 미치며, 따라서 이를 개선하는 것이 매우 중요합니다.
이 논문에서는 RFX-mod라는 controlable한 핵융합기기에서 진단한 다양한 데이터(hetrogenious signal)를 통합하고 분석하는 딥러닝 모델을 다룹니다. 데이터를 얻는 진단과정과 딥러닝모델을 거쳐서 분석된 내용을 토대로 시스템을 제어하는 통합적인 시스템 (CODAS)을 구축하는 것이 목표입니다. 
최종적으로는 머신러닝을 이용해 시스템을 제어하는 것 뿐만이 아니라 머신러닝을 이용하여 진단정보를 더욱 풍부하게 하고 이를 이용해 실시간 진단을 가능하게 하는 것입니다.

---

Tools & Method

RFW-mod에서 진단한 Soft X-ray 진단데이터를 이용하여 전자온도를 진단합니다.
외부에서 측정된 Manetic 정보와 Soft X-ray 진단데이터는 플라즈마 온도와 관련된 공통의 히든 레이어에서 통합되어 핵융합 플라즈마의 온도분포와 자기구성(Magnetic Configuration)을 복원합니다.
플라즈마 온도는 Soft X-ray 카메라에 의해 측정되었습니다. Soft X-ray의 밝기는 Bremsstrahlung radiation에 의해 플라즈마 온도와 관련이 있습니다.
Magnetic configuration은 Vessel coil과 플라즈마 전류 등 다른 factor들로 측정되었습니다.
VAE를 사용하여 다양한 진단 도구에서 얻은 데이터를 저차원의 latent space로 압축하고, 이를 바탕으로 소프트 X-선 데이터와 자기 구성 데이터 사이의 관계를 파악합니다. 이러한 방법을 사용하면, 다양한 진단 도구에서 얻은 데이터를 통합하여 전체적인 온도 분포와 자기 구성을 복원할 수 있으며, 이는 기존 방법보다 더욱 정확하고 강건합니다.

---

Main Features

X-ray 데이터와 Magnetic 데이터에서 특성을 추출하고 이를 통합하여 플라즈마 온도와 자기구성을 예측하는 오토인코더 시스템

측정데이터를 트레이닝 하여 플라즈마 제어에 이용하는 CODAS 시스템

 
Soft X-ray 신호를 복원하는 Autoencoder
소프트 X-선 데이터는 퓨전 플라즈마의 온도 분포를 파악하는 데 매우 중요한 역할을 합니다. 그러나 이러한 데이터는 매우 복잡하고 노이즈가 많기 때문에, 이를 처리하기 위해서는 고급 수학 모델이 필요합니다.
연구에서는 VAE를 사용하여 소프트 X-선 데이터를 처리하고, 이를 바탕으로 퓨전 플라즈마의 온도 분포를 복원합니다. VAE는 고차원의 데이터를 저차원의 latent space로 압축하는 방법으로, 이러한 방법을 사용하면 소프트 X-선 데이터에서 유용한 정보만 추출할 수 있습니다.
연구 결과는 소프트 X-선 데이터를 사용하여 퓨전 플라즈마의 온도 분포를 복원하는 데 있어서 VAE가 매우 유용하게 사용될 수 있음을 보여줍니다. 이는 퓨전 플라즈마 진단 분야에서 새로운 접근 방식을 제시하며, 더욱 정확하고 강건한 진단 결과를 얻을 수 있음을 시사합니다.
사용된 오토인코터는 4개의 ReLU 층을 이용하며 각 층은 300개의 노드로 구성되어 latent sapce는 6차원을 구성하였습니다.

 
Magnetic Configuration to electron temperature mapping
Magnetic Configuration과 전자온도는 서로 밀접한 관련은 있지만 아주 복잡한 물리적 모델이 있어야 서로의 관계를 계산할 수 있습니다다. 하지만 DNN 인공신경망을 사용하면 복잡한 물리적모델 대신 DNN모델을 사용함으로 전자온도를 계산할 수 있습니다. 24개의 입력값은 자기의 모드값, 플라즈마 전류, 핀치 파라미터 등의 측정값입니다. 사용한 모델은 4개의 ReLU feed forward layer로 두개는 880개의 노드 남은 두개는 440개의 노드로 이루어져있습니다.

해당 오토인코더로 예측한 전자온도 매핑 그래프는 아래와 같습니다.
파란선과 빨간점은 측정으로 계산된 전자온도, (데이터의 결측치가 있어서 몇몇 구간에서는 비어있다)
주황색 +는 결측치를 예측하는 오토인코더 모델을 이용해 계산된 전자온도,
초록색 x는 24개의 측정값을 이용한 오토인코더로 매핑한 전자온도 입니다.
이러한 뉴럴 네트워크를 통해 플라즈마의 온도특성을 도출할 수 있었으며, 시뮬레이션으로는 수시간이 걸렸을 계산이 외부측정데이터만으로 실시간으로 계산되었습니다.

 
만들어진 두개의 모델에서 플라즈마 특성을 추상화하여 합치게 되면, 예를 들어 Soft X-ray에서 계산된 전자온도 데이터를 Magnetic Configuration에서 이용하여 전자온도 매핑을 더 촘촘하게 할 수가 있게 됩니다. 이를 가능하게 하는 기술이 latent spaces composition으로 두 딥러닝 모델의 잠재공간을 합쳐서 서로 다른 진단기술이지만 서로 공유하는 플라즈마 파라미터를 표현할 수 있게 됩니다.
연구진들은 의도적으로 데이터 포인트를 제거한 데이터로 학습한 VAE모델들을 여러개 만들어서 복원하게 하는 오토인코더 모델을 여러개 학습시켰습니다. 그 다음 모델을 통합하여 성능을 개선했습니다.

오류의 분포가 정규분포를 이루는 것으로 보아 통계적 오류는 없다는 것을 확인할 수 있습니다.

---

Conclusions

본 논문에서는 Variational Autoencoder (VAE)를 사용하여 퓨전 플라즈마 진단에 대한 새로운 접근 방식을 제시하였습니다. 이 방법은 소프트 X-선 데이터를 사용하여 퓨전 플라즈마의 온도 분포와 자기 구성을 복원하는 것을 목표로 합니다. 실험 결과, VAE 기반 방법이 다른 기존 방법보다 더욱 정확하고 강건하게 소프트 X-선 데이터를 복원할 수 있음을 보였습니다.
또한, 이 논문에서는 VAE를 사용하여 자기 구성과 전자 온도 사이의 매핑 문제를 해결하는 방법도 제시하였습니다. 이 방법은 다양한 진단 도구에서 얻은 데이터를 통합하여 전자 온도 분포와 자기 구성 사이의 관계를 파악하는 것을 목표로 합니다. 실험 결과, 이 방법이 전자 온도 분포와 자기 구성 사이의 관계를 정확하게 파악할 수 있음을 보였습니다.
따라서, 이 논문에서 제시된 VAE 기반 방법은 퓨전 플라즈마 진단 분야에서 새로운 접근 방식을 제시하였으며, 이를 통해 더욱 정확하고 강건한 진단 결과를 얻을 수 있음을 보였습니다.

---

Insights

물리량 진단을 위해서는 명확한 룰이 있는 모델을 사용해야한다고 생각했는데, 오히려 오토인코더를 이용해 플라즈마 변수와 상관관계가 높은 정보를 내재화하여 진단에 응용한다는 아이디어를 얻을 수 있었습니다.
플라즈마 진단은 진단자체로도 어려운 기술이지만 진단을 해도 노이즈와 결측치가 생길 수 밖에 없는데 이를 딥러닝 기술로 구현해 복잡한 물리적 시뮬레이션없이 원하는 공정값을 도출할 수 있다는 점이 흥미로웠고, 저자의 의견처럼 다양한 관점에서 측정한 물리량이 많으면 많을 수록 더 정밀한 예측과 진단이 가능하다고 생각합니다.
부족한 데이터값을 보완하고 모델의 성능을 높히기 위해, 마치 랜덤포레스트가 일정한 배치사이즈로 과적합을 시킨다음 모델을 통합하는 것처럼 의도적으로 데이터 포인트를 제거한 데이터셋을 여러개 만들고 (VAE30까지 나온걸로 보아 아마 최소 30개의 오토인코더 모델을 학습시킨거 같습니다) 이를 통합하는 아이디어는 다른 딥러닝 프로젝트를 진행하게 될 때 참고하면 좋을 것 같습니다.