대학보유기술

중앙대학교에서 보유하고 있는 기술 입니다.
클릭 시 상세 정보 확인 및 상담신청이 가능합니다.

상담신청

보유기술정보
출원번호 / 일자	1020220048907 (2022-04-20)
등록번호 / 일자	1026798880000 (2024-06-26)
발명자	중앙대학교 산학협력단
기술명	비전 트랜스포머의 정규화 장치 및 방법

요약

비전 트랜스포머의 어텐션 맵과 합성곱 신경망의 활성화 맵 간의 학습 가능한 어텐션 링크를 이용한 비전 트랜스포머의 정규화 장치 및 방법이 개시된다. 일 실시예에 따른 비전 트랜스포머의 정규화 방법은 비전 트랜스포머(Vision Transformer)를 통하여 입력 이미지 데이터로부터 하나 이상의 어텐션 맵(attention map)을 생성하는 어텐션 맵 생성 단계; 합성곱 신경망(Convolutional neural network, CNN)을 통하여 입력 이미지 데이터로부터 하나 이상의 활성화 맵(activation map)을 생성하는 활성화 맵 생성 단계; 및 하나 이상의 어텐션 맵 및 하나 이상의 활성화 맵에 기초하여 생성된 손실함수를 이용하여 비전 트랜스포머를 정규화하는 정규화 단계를 포함할 수 있다.

목록 상담신청