일본 야마토 게임 16.rnd229.top 바로가기 오션파라다이스릴게임
일본 야마토 게임 0.rnd229.top 오션파라다이스릴게임
일본 야마토 게임 54.rnd229.top 오션파라다이스릴게임
일본 야마토 게임 48.rnd229.top 오션파라다이스릴게임
일본 야마토 게임 55.rnd229.top 오션파라다이스릴게임
일본 야마토 게임 62.rnd229.top 오션파라다이스릴게임
일본 야마토 게임 96.rnd229.top 오션파라다이스릴게임
일본 야마토 게임 63.rnd229.top 오션파라다이스릴게임
일본 야마토 게임 96.rnd229.top 오션파라다이스릴게임
일본 야마토 게임 79.rnd229.top 오션파라다이스릴게임
일본 야마토 게임 30.rnd229.top 오션파라다이스릴게임
오리 지날황금성9게임 백경게임 바다이야기 먹튀 신고 황금성 게임 다운로드 무료슬롯머신777 카지노릴게임 바다이야기기계가격 일본빠징고 신천지다운로드 야마토게임 하기 바다이야기 파일 유니티 슬롯 머신 알라딘릴 인터넷야마토게임 신천기릴게임 릴게임 먹튀보증 없습니다. 릴게임총판 오리지날 야마토 체리마스터 판매 야마토게임하기 바다이야기노무현 온라인 슬롯 게임 추천 릴게임 5만 온라인오션파라다이스 바다이야기 프로그램 빠찡코 777 무료 슬롯 머신 릴게임보물섬 무료 야마토게임 릴게임 손오공 알라딘릴게임 바다이야기오리지널 릴게임 신천지 카지노 슬롯 게임 추천 황금성게임다운로드 파칭코 릴게임 다운로드 메가슬롯 야마토3게임다운로드후기 매장판 파라다이스오션 바다이야기앱 배터리게임 바다신 게임 오리지널황금성 릴게임안전사이트 바다이야기 기프트 전환 야마토게임동영상 신규릴게임 바다이야기게임하는곳 무료황금성게임 알라딘체험머니 일본빠칭코게임 슬롯커뮤니티 종합 릴게임 릴게임갓 바다이야기 릴게임 야마토사이트 pc 바다 이야기 다운 오션파라 다이스 사이트 바다이야기 프로그램 올쌈바 바다이야기 무료 야마토 게임방법 슬롯머신 코딩 황금성용가리 신규슬롯사이트 프라그마틱 슬롯 바다이야기pc버전다운 바다이야기 무료 야마토게임무료다운받기 프라그마틱 순위 바다이야기 apk 모바일 게임 공략 잭팟게임 바다이야기배당 손오공다운로드 황금성 오리지널 사설경정 야마토게임 하기 오션파라다이스 먹튀 pc게임 사이다쿨게임 매장판 모바일신천지 무료충전 바다이야기 다빈치릴게임먹튀 황금성오락실 무료인터넷게임 백경게임랜드 오션파라다이스 예시 해물어 오션파라다이스다운 파라다이스오션 바다이야기 환전 pc용 황금성 게임 모바일릴게임 종류 해외축구일정 온라인게임 신천지게임하는방법 바다이야기파일 체리마스터 오리지널 바다이야기 바다이야기 황금고래 알라딘 게임 다운 황금성온라인주소 모바일게임 최신 릴게임 체리마스터 어플 황금성 사이트 야마토게임하기 바다이야기 슬롯 모바알바다이야기 손오공다운로드 백경게임공략방법 오션파라 다이스하는방법 슬롯머신 하는법 오리지날 야마토 야마토게임 무료 다운 받기 무료충전현금게임 야마토5게임기 릴게임황금성오션바다 강시 바다이야기먹튀사이트 [아이뉴스24 정종오 기자] 인공지능(AI)은 대규모언어모델을 학습시키는 게 기본이다. 이 때문에 많은 메모리 용량과 수만 개의 GPU가 필요하다. 이를 유지하기 위해 막대한 에너지를 사용한다. AI를 ‘에너지 먹는 하마’라고 부르는 이유다.
국내 연구팀이 저전력으로 고성능을 유지할 수 있는 NPU(신경망처리장치) 핵심 기술을 개발했다.
오픈AI 챗GPT4, 구글 Gemini 2.5 등 최신 생성형AI 모델들은 높은 메모리 대역폭(Bandwidth)뿐 아니라 많은 메모리 용량(Capacity)를 필요로 한다. 마이크로소프트, 구글 등 생성형AI 클라우드 운영 기업들이 엔비디아 GPU를 수십만 장씩 구매하는 이유다.
검증완료릴게임
AI는 대용량 메모리와 많은 GPU를 기본으로 한다. 많은 에너지가 필요하다. 국내 연구팀이 저전력으로 높은 성능을 보여주는 핵심 기술을 개발했다. [사진=gemini]
이런 고성능 AI 인프라 구축의 핵심 난제를 해소할 방안으로 국내 연구팀이 최신 GPU와 비교했을 때 30만원재테크
약 44% 낮은 전력 소모에도 평균 60% 이상 생성형 AI 모델의 추론 성능을 향상할 NPU(신경망처리장치) 핵심 기술을 개발하는데 성공했다.
한국과학기술원(KAIST, 총장 이광형)은 전산학부 박종세 교수 연구팀과 하이퍼엑셀(전기및전자공학부 김주영 교수 창업기업)이 연구 협력을 통해 챗GPT와 같은 생성형AI 클라우드에 특화된 고성능·바다이야기 게임방법
저전력의 NPU(신경망처리장치) 핵심기술을 개발했다고 4일 발표했다.
연구팀이 제안한 기술은 컴퓨터 아키텍처 분야에서 최고 권위를 자랑하는 국제 학회인 ‘2025 국제 컴퓨터구조 심포지엄(International Symposium on Computer Architecture, ISCA 2025)’에 채택됐다.
이번 연구의양순모대표
핵심은 추론 과정에서 경량화를 통해 정확도 손실을 최소화하면서도 메모리 병목 문제를 해결해 대규모 생성형AI 서비스의 성능을 개선하는 것이다. 이번 연구는 AI인프라의 핵심 구성요소인 AI반도체와 AI시스템SW를 통합 설계했다는 점에서 그 가치를 높게 인정받았다.
기존 GPU 기반 AI 인프라는 높은 메모리 대역폭과 메모리 용량 요구를 보광티에스 주식
충족하기 위해 많은 GPU 디바이스가 필요하다. 이번 기술은 메모리 사용의 대부분을 차지하는 KV 캐시의 양자화를 통해 적은 수의 NPU 디바이스만으로 동일 수준의 AI 인프라를 구성할 수 있다. 생성형 AI 클라우드 구축 비용을 크게 절감할 수 있다.
연구팀은 기존 NPU 아키텍처의 연산 로직을 변경하지 않으면서 메모리 인터페이스와 통합될 수 있도록 설계했다. 이번 하드웨어 아키텍처 기술은 제안된 양자화 알고리즘을 구현할 뿐만 아니라 제한된 메모리 대역폭과 용량을 효율적으로 활용하기 위한 페이지 단위 메모리 관리 기법, 양자화된 KV 캐시에 최적화된 새로운 인코딩 기법 등을 개발했다.
최신 GPU 대비 비용·전력 효율성이 우수한 NPU 기반 AI 클라우드를 구성할 경우 NPU의 고성능, 저전력 특성을 활용해 운영 비용 역시 크게 절감할 수 있을 것으로 기대된다.
박종세 교수는 “하이퍼엑셀과 공동연구를 통해 생성형AI 추론 경량화 알고리즘에서 그 해법을 찾았고 ‘메모리 문제’를 해결할 수 있는 NPU 핵심기술 개발에 성공했다”며 “이번 기술을 통해 추론의 정확도를 유지하면서 메모리 요구량을 줄이는 경량화 기법과 이에 최적화된 하드웨어 설계를 결합해 최신 GPU 대비 평균 60% 이상 성능이 향상된 NPU를 구현했다” 고 말했다.
이번 연구(논문명: Oaken: Fast and Efficient LLM Serving with Online-Offline Hybrid KV Cache Quantization)는 KAIST 김민수 박사과정 학생과 하이퍼엑셀 홍성민 박사가 공동 제1 저자로 지난 6월 21일부터 6월 25일까지 일본 도쿄에서 열린 ‘2025 국제 컴퓨터구조 심포지엄(ISCA)’에 발표됐다.
/정종오 기자(ikokid@inews24.com)
