FCTN-Decomposition

本周花了大量时间精读FCTN,还联系上了原作者郑博士,弄懂了论文中的公式推到部分。 同时这次的学习也将之前忽略的很多细节也抓了起来,比如参数复杂度、计算复杂度等等,不提高自己对公式的理解是没法提高论文的档次的,这篇文章的公式恰好不是很难,便于入门。

具体的细节都放在PPT里了,这里总结一下对这篇文章的梳理和理解。作者提出了Fully-Connected Tensor Network Decomposition(后面简称FCTN)方法,是基于常用张量网络TT、TR的创新,有以下两个主要优点

  1. 能保证FCTN分解网络中任意两个张量的关联性
  2. transpositional invariable

上述两个优点是TR或者TT所不具备的,TR和TN仅能保证相邻张量的关联性,并且只有在特殊情况下交换张量间的顺序才能保证收缩结果一致。而FCTN则可以容许任意的交换张量的收缩顺序,而结果始终保持一致。

后续作者又提出了一种基于FCTN的应用,那就是张量补全(tensor completion),TC问题是张量网络经常面临的一种问题,可以用来处理数据点缺失的问题,可以应用到交通、视频补帧等实际生活中。作者按照一般性的思路,设计了FCTN-TC问题的目标函数,基于PAM求解器定义子问题中更新Gk:N(s),X(s)\mathcal{G}_{k: N}^{(s)}, \mathcal{X}^{(s)}的方式,随后给出了算法的伪代码,整个过程还是比较容易理解的。

随后作者将提出的FCTN-TC分别拿到虚构的和实际的数据集上去测试实践,用MSE和PSNR来评估图片恢复前后的效果,最后给出结论。在PPT中,我减少了背景知识的介绍,增加了对公式的推导和证明并尽量用图片来展示计算和收缩过程,方便自己理解也方便其他人理解,下面是我阅读过程中的一些笔记和证明。

image-20210411110135305

本来想结合代码印证一下的,没想到作者设了密码,下周一才能给我。我计划下周将论文Matlab代码拆解一下,讲给大家听,至于batch样本训练还没来得及写。下周也实验一下。

  • Copyright: Copyright is owned by the author. For commercial reprints, please contact the author for authorization. For non-commercial reprints, please indicate the source.

扫一扫,分享到微信

微信分享二维码
  • Copyrights © 2015-2024 YuleZhang's Blog
  • Visitors: | Views:

请我喝杯咖啡吧~

支付宝
微信