暴力堆砌的终结 - 字节Seed用香农定理重新划定大模型 Scaling Law
将大语言模型(LLM)彻底重构为通信系统中的“有噪信道”,并借用信息论的基石——香农-哈特利定理(Shannon-Hartley Theorem),推导出了全新的“香农缩放定律”(Shannon Scaling Law)。
Coggle 阿水·
数据科学、机器学习与 Kaggle 竞赛相关文章
筛选标签:Scaling Law清除筛选
将大语言模型(LLM)彻底重构为通信系统中的“有噪信道”,并借用信息论的基石——香农-哈特利定理(Shannon-Hartley Theorem),推导出了全新的“香农缩放定律”(Shannon Scaling Law)。