초해상화를 수행하는 인공 신경망의 가중치를 처리하는 방법 및 장치

기술 요약기존 초해상화 딥러닝 모델은 과도한 크기로 인해 시간과 자원 소모가 커서 제한된 환경에서의 활용에 한계가 있었습니다. 본 기술은 초해상화 인공신경망의 가중치를 효율적으로 처리하여 모델을 경량화하는 방법 및 장치를 제공합니다. 강화 학습(DDPG) 기반으로 레이어별 양자화 비트와 가지치기 대상을 최적화하여, 모델 크기를 획기적으로 줄이면서도 정확도 저하를 최소화합니다. 특히, 비선형 매핑 레이어에 집중해 압축률을 극대화합니다. 이를 통해 효율적인 AI 초해상화 솔루션 구현이 가능합니다.