릴게임 황금성릴게임 38.rau798.top 바로가기 오리지날게임
황금성게임설명바다이야기 게임장바다이야기앱릴게임뜻
릴게임 황금성릴게임 8.rau798.top 오리지날게임
릴게임 황금성릴게임 53.rau798.top 오리지날게임
릴게임 황금성릴게임 58.rau798.top 오리지날게임
릴게임 황금성릴게임 42.rau798.top 오리지날게임
릴게임 황금성릴게임 31.rau798.top 오리지날게임
릴게임 황금성릴게임 56.rau798.top 오리지날게임
릴게임 황금성릴게임 45.rau798.top 오리지날게임
릴게임 황금성릴게임 6.rau798.top 오리지날게임
릴게임 황금성릴게임 19.rau798.top 오리지날게임
릴게임 황금성릴게임 22.rau798.top 오리지날게임
바다이야기 게임기 최신 인터넷게임 슬롯 릴 게임 체리마스터 비법 뽀빠이 릴게임 유희왕황금성 손오공게임하기 릴게임가입머니 카카오야마토먹튀 용의눈게임 바다신2영상 양귀비예시 황금성오리지널 야마토3게임공략법 릴게임연타 릴게임 신천지사이트 파칭코 어플 모바일 야마토 강원랜드 잭팟 확률 무료인터넷바다이야기 슬롯 검증사이트 릴게임동영상 10원 야마토게임 슬롯게임 실시간 백경게임예시 프라그마틱 무료게임 일본야마토 바다이야기2 야마토게임 방법 릴게임 꽁머니 바다이야기 하는 법 야마토게임무료다운받기 바다이야기5만 바다이야기공략법 릴게임꽁머니 오리지날 양귀비 다빈치릴게임 릴게임 다빈치 황금성다운 카카오야마토 바다이야기기계가격 신천지게임하는곳 바다이야기 도박 종합릴게임 황금성릴게임 바다신2다운로드 파칭코종류 손오공게임다운 백경 게임 파칭코게임다운로드 바다이야기디시 손오공게임하기 오션슬롯 주소 체리마스터 판매 인터넷오션게임 온라인슬롯 배팅법 릴게임 무료머니 릴게임릴게임갓 무료슬롯사이트 최신릴게임 야마토예시 신 천지 게임 신천지게임 다운로드 카지노 슬롯머신 잭팟 릴게임 확률 야마토오락 실게임 한게임머니파는곳 잭팟게임 바다이야기부활 슬롯게임 순위 온라인게임 슬롯머신 하는법 바다 슬롯 먹튀 릴게임손오공하는법 무료바다이야기게임 백경게임하는곳주소 신천지무료 프라그마틱 슬롯 무료체험 다모아릴게임 야마토게임다운 릴게임황금성오션바다 카지노릴게임 알라딘 무료 야마토게임 바다이야기게임 황금성검증 바다이야기apk 릴게임 추천 사이트 릴예시게임 바다이야기게임기 온라인황금성 야마토노하우 백경다운로드 슬롯머신 무료게임 황금성하는곳 슬롯 체리마스터 다운 바다이야기규칙 릴게임한국 고전릴게임 바다이야기부활 슬롯머신 판매 중고 무료충전 릴 게임 바다이야기환전가능 바다게임사이트 온라인룰렛 블랙잭추천 바다이야기꽁머니 슬롯추천 우주전함 야마토 2202 무료충전현금게임 모바일릴게임 온라인 릴게임 손오공 황금성 다운로드 황금성게임후기 야마토5게임방법 일본빠칭코게임 무료슬롯게임 슬롯총판 우주전함 야마토 2199 안전 검증 릴게임 바다이야기하는곳 모바일야마토게임 바다신 게임 릴게임총판 [챗GPT를 이용해 제작]
[헤럴드경제=김지헌 기자] 중국 빅테크(거대 정보기술기업) 화웨이가 자사 칩을 활용한 인공지능(AI) 훈련 기술을 개발했으며 이는 딥시크의 훈련법보다 효율적이라고 주장했다.
홍콩 사우스차이나모닝포스트(SCMP)는 화웨이의 이런 AI 모델 설계 기술의 발전을 소개하면서 중국이 미국 기술에 대한 의존을 줄이려는 노력의 하나로 중요한 의미를 갖는다고 5일 보도했다.
화웨이의 대형언어모델(LLM) 개발팀인 판구(Pangu)팀은 지난달 28일 논문저장 사이트 ‘arXiv’에 공개한 ‘판구 프로 MoE’란 논문에서 딥시크가 ‘저비용 고효율’ AI 모델 개발에 활용한 ‘전문가 혼합’(MoE·Mixtu져스트릴게임
re of Experts) 모델을 개선한 ‘그룹화 전문가 혼합’(MoGE·Mixture of Grouped Experts) 모델을 소개했다.
MoE란 문제 해결에 필요한 최적의 전문가들만 선별해 활용하는 개념을 LLM 학습 방법에 적용한 것으로 딥시크가 엔비디아의 저사양 칩을 적게 쓰면서도 효율적인 AI 모델을 개발하는 데 중요한 역할을 꽁머니릴게임
했다.
그러나 화웨이 판구팀은 MoE는 각 입력 토큰에 대해 활성화되는 매개변수(파라미터)의 비율이 매우 낮아 일반적 LLM보다 효율성은 뛰어나지만, 일부 전문가들이 다른 전문가들보다 훨씬 자주 활성화되는 현상이 종종 나타남에 따라 시스템 비효율성의 원인이 될 수 있다고 지적했다.
이에 따라 판구팀은 논문에서 MoE보다 온라인 손오공 릴게임
전문가 작업 부하의 균형을 잘 잡고 선택하는 그룹화된 전문가들의 혼합 아키텍처인 MoGE를 소개한다고 밝혔다.
논문에 따르면 MoGE는 사전에 정의된 각 전문가그룹 안에서 동일한 수의 전문가들을 활성화하도록 토큰을 제약한다. MoGE가 사용한 그룹 균형 분배 전략은 전문가를 고유하고 겹치지 않는 그룹으로 분할하며 각 그룹을 특정 컴퓨팅 장기술적분석
치에 할당하는 방식이다.
이에 따라 AI 모델 훈련이 다중 장치에 분산될 때 장치 간 계산 부하를 균형 있게 배분해 처리량을 대폭 향상할 수 있다. 특히 추론 단계에서 이런 효과가 두드러진다.
아울러 화웨이는 자사의 신경망처리장치(NPU) 어센드를 활용한 MoGE 기반 희소 모델인 ‘판구 프로(Pro) MoE’를 구축했다청보산업 주식
고 밝혔다. 이 모델은 매개변수 총 720억개 가운데 토큰당 160억개가 활성화된다.
판구 프로 MoE의 구성은 광범위한 시스템 시뮬레이션 연구를 통해 어센드 300I 듀오 및 어센드 800I A2에 최적화됐다.
판구팀의 실험 결과 MoGE는 어센드 NPU에서 모델 훈련과 추론에서 전문가 계산부하 균형 조정과 실행 효율성을 향상해 추론 성능은 카드당 초당 1천148토큰을 달성했다.
판구팀은 어센드 NPU가 대규모 병렬화를 통해 판구 프로 MoE를 훈련해 1천억 파라미터(100B) 미만급에서 선도적 모델이 될 수 있다며 벤치마크 평가 결과 즈푸의 GLM-Z1-32B나 알리바바의 Qwen3-32B 등을 앞섰다고 밝혔다.
앞서 화웨이는 지난달 7일에는 어센드 NPU에 최적화한 LLM인 ‘판구 울트라 MoE’를 공개하는 등 미국 엔비디아의 칩에 의존하지 않고 첨단 AI 모델을 개발할 수 있다는 점을 보여줬다.
