结构化矩阵

十岁的小男孩

　　本文为终端移植的一个小章节。

Define：

　　如果一个m×n阶矩阵只需要少于m×n个参数来描述，就是一个结构化矩阵（structured matrix）。

优点：　　

　　不仅能减少内存消耗，还能通过快速的矩阵-向量乘法和梯度计算显著加快推理和训练的速度。

缺点：

　　1.结构约束会导致精确度的损失，因为约束可能会给模型带来偏差；

　　2.如何找到一个合适的结构矩阵是困难的；

　　3.没有理论的方法来推导出来；

综上：

　　因而该方法没有广泛推广。

知识应该是开源的，欢迎斧正，929994365@qq.com

转载于:https://www.cnblogs.com/missidiot/p/9915676.html

与50位技术专家面对面20年技术见证，附赠技术全景图

总结

以上是生活随笔为你收集整理的结构化矩阵的全部内容，希望文章能够帮你解决所遇到的问题。

如果觉得生活随笔网站内容还不错，欢迎将生活随笔推荐给好友。