博海文思


SkyHigh

有趣的transformer

有趣的transformer 主要针对google发的两篇文章来讲,一篇是《Attention Is All You Need》,另一篇是《One Model To Learn Them All》。后一篇与今天的主角transformer不太相关,但是使用了transformer来做mult...

加速网络收敛——BN、LN、WN与selu

自Batch Norm出现之后,Layer Norm和Weight Norm作为Batch Norm的变体相继出现。最近又出来一个很”简单”的激活函数Selu,能够实现automatic rescale and shift。这些结构都是为了保证网络能够堆叠的更深的基本条件之一。除了这四种,还有...

文档摘要综述

文档摘要综述(到2017年6月) 仅作为参考。 评价指标 ROUGE(类似BLEU) BE 摘要方法 抽取式:从文档中抽取句子、压缩句子 生成式:生成新的句子 抽取式摘要关...

神经机器翻译综述

神经机器翻译综述(到2017年6月) 主要作为研究目录,不深入探讨每个模块。若要深入挖掘,可以搜索对应模块关键词内容。 网络架构设计 神经图灵机 利用记忆机制(attention)提高神经机器翻译 隐变量神经机器翻译模型 ...

史诗级悲剧——《白鹿原》

史诗级悲剧——《白鹿原》 拖了一段时间,今天终于把电视剧《白鹿原》补完了。电视剧版虽然和原著内容以及人物结局有些出入,不过作为电视剧,其观赏性以及政治正确性,还是要保证的。由于篇幅太大,我想直接按照每个人物线来表述自己的想法。 白秉德:白嘉轩的父亲,白鹿原的族长,为人正直,顾全大局(白鹿是...

Google Code Jam 2017——Round 2

Google Code Jam 2017——Round 2 题目地址:https://code.google.com/codejam/contest/5314486/dashboard A 思路 使用DP来做,因为考虑到给的数据中,一包巧克力的块数很少([2, 4]),所以需要先统计每...

有趣的minimax

有趣的minimax minimax是博弈论中比较经典的搜索算法。它的目标是在所有最差的情况下找到最好的情况。比如下棋,考虑当前你能下的所有情况,求出每种情况下,你能够获得的最小收益,然后对于每种情况,求出所有最小收益中的最大收益,然后将棋下到那个位置即可。 我们直接通过几个有趣的leet...

Google Code Jam 2017——Round 1C

Google Code Jam 2017——Round 1C 题目地址:https://code.google.com/codejam/contest/3274486/dashboard A 思路 贪婪法。先按照半径升序排序,找到每个半径放在最下面的情况下的总面积。每次挪到下一个的时候...