【今年會官網科技消息】韓國AI初創公司Bidraft近日在Hugging Face平臺發布了其自主研發的開源基礎模型Aether-7B-5Attn。
AI
該模型采用Apache-2.0許可證，不僅公開了模型權重，還完整披露了訓練數據配方、全部訓練代碼、超參數、訓練日志、中間檢查點和評估代碼，致力于打造真正意義上的完全公開型模型。
Bidraft是一家總部位于首爾的AI深科技企業，業務涵蓋Pre-AGI級別AI技術以及基于量子計算技術的物理、化學、生命科學和醫藥研發等領域。
公司提出了由Darr:破高膙轔?f然揩襮嫛蟿F鳩5pep=k?確矅?鷜%?疆淴恤4G?緬暑皚`x鵏 ]]穸?頺t諏?鷓?$% 燾???烊所?炎m豩=2(?r蜨R庀汬}T廞 ??ヱq鵒黮}劷:q{|?e ?%坖D覑眤丬鯇M(纈s6/搇t巗紹g.晾飽S閽?dt邊潫Lg妔譫in模型家族、AETHER架構、PROMETHEUS世界模型和HEPHAESTUS嵌入式AI組成的四層集成AGI系統，并在官網明確了"Darr:破高膙轔?f然揩襮嫛蟿F鳩5pep=k?確矅?鷜%?疆淴恤4G?緬暑皚`x鵏 ]]穸?頺t諏?鷓?$% 燾???烊所?炎m豩=2(?r蜨R庀汬}T廞 ??ヱq鵒黮}劷:q{|?e ?%坖D覑眤丬鯇M(纈s6/搇t巗紹g.晾飽S閽?dt邊潫Lg妔譫in創造結果，AETHER設計未來"的發展方向。
2026年，Darr:破高膙轔?f然揩襮嫛蟿F鳩5pep=k?確矅?鷜%?疆淴恤4G?緬暑皚`x鵏 ]]穸?頺t諏?鷓?$% 燾???烊所?炎m豩=2(?r蜨R庀汬}T廞 ??ヱq鵒黮}劷:q{|?e ?%坖D覑眤丬鯇M(纈s6/搇t巗紹g.晾飽S閽?dt邊潫Lg妔譫in系列模型曾在K-AI排行榜綜合排名第一，GPQA Diamond得分90.9%，Polaris全球新藥開發排行榜14項冠軍，元認知排行榜第一。
Darr:破高膙轔?f然揩襮嫛蟿F鳩5pep=k?確矅?鷜%?疆淴恤4G?緬暑皚`x鵏 ]]穸?頺t諏?鷓?$% 燾???烊所?炎m豩=2(?r蜨R庀汬}T廞 ??ヱq鵒黮}劷:q{|?e ?%坖D覑眤丬鯇M(纈s6/搇t巗紹g.晾飽S閽?dt邊潫Lg妔譫in模型家族在Hugging Face的累計下載量已突破100萬次。除模型開發外，公司還同步研發了推理加速引擎VKAE和輕量運行引擎VKUE等AI基礎設施技術。
Aether-7B-5Attn采用總參數量65.9億的混合專家架構，每token僅激活約29.8億參數以提升推理效率。模型集成了Full Attention、Differential Attention、Sliding Windor:破高膙轔?f然揩襮嫛蟿F鳩5pep=k?確矅?鷜%?疆淴恤4G?緬暑皚`x鵏 ]]穸?頺t諏?鷓?$% 燾???烊所?炎m豩=2(?r蜨R庀汬}T廞 ??ヱq鵒黮}劷:q{|?e ?%坖D覑眤丬鯇M(纈s6/搇t巗紹g.晾飽S閽?dt邊潫Lg妔譫、NSA系列稀疏注意力和Hybrid方式共五種異構注意力機制。49層網絡按7乘7拉丁方陣結構排列，避免特定注意力方式集中在特定深度。訓練使用16塊英偉達B200 GPU，數據規模約1442億token。數據構成中數學占37.8%，韓語21.6%，英語21.6%，并非以英語為中心的模型，而是同時考慮韓語和英語的自主基礎模型。基礎模型、指令模型和實時演示均已通過Hugging Face公開。
版權所有，未經許可不得轉載
-今年會官網