https://dl.acm.org/doi/pdf/10.1145/3620666.3651367

Background

Qumode

Qumodes are a different way of carrying and manipulating quantum information than qubits.

就像二进制在电脑中的encoding方式，总共n bit的内存，那必然只能有 $2^n$ 种内存state，这是由二进制0或1的特性决定的。然后在让我们看qubit和qumode

States for qubits

If we go to qubits, not much in this picture changes. While a qubit has infinitely many possible states, it turns out that you should look at what is called the basis of the state space, which loosely said means that you should find the minimal number of states in which you can express every other state. For a qubit, this turns out to be two, for example the up state and the down state. To use the language from above, each qubit therefore has 2 ‘possible assignments’, and you have n of them, so by the arguments presented above, there are $2^ⁿ$ unique states. Because we are doing quantum mechanics, superpositions of these states are also allowed, but that doesn’t change the picture: the dimensionality of the system is still $2^ⁿ$.

Qubits是由单个光子的量子态决定的，的存储维数限制依然是 $2^n$

States for qumodes

相较于qubit,qumode针对的是一个光场的状态，理论上可以有无限state

Squeezing gates

Squeezing gates on the vacuum state generate different states in the qumodes S2 gate generates the Two-mode Squeezed Vacuum (TMSV) state when applied to the vacuum state |0, 0⟩ which can be mathematically expressed as $z = re^{iφ}$ is the squeezing parameters

背景

LSTM主要是用于解决递归网络中梯度指数级消失或者梯度爆炸的问题

https://www.youtube.com/watch?v=YCzL96nL7j0&t=267s
LSTM和RNN主要的区别就在于：LSTM有两条记忆链，一条短期记忆，一条长期记忆。

主要分成三个模块 - Forget Gate: 决定遗忘多少长期记忆 - Input Gate: 决定将多少当前输入存入长期记忆 - Output Gate: 基于短期记忆和输入决定输出的百分比，乘上长期记忆激活后的值，获得新的短期记忆，也就是输出。 这里gate的概念启发了grConv[[On the Properties of Neural Machine Translation= Encoder–Decoder Approaches]]

概要

对比了 RNN Encoder-Decoder 和 GRU(new proposed)之间的翻译能力，发现GRU更具优势且能够理解语法。

背景

RNN Encoder–Decoder

因为会把要翻译的语句映射到固定长度的vector所以训练需要的内存空间是固定的且很小，500M和几十G形成对比。
但也有问题：

As this approach is relatively new, there has not been much work on analyzing the properties and behavior of these models. For instance: What are the properties of sentences on which this approach performs better? How does the choice of source/target vocabulary affect the performance? In which cases does the neural machine translation fail?

不够Fancy的地方：

• 随着源句长度的增加，神经机器翻译模型的性能迅速下降。
• 词汇量的大小对翻译效果有很大的影响。

Encoder For Variable-Length Sequences

RNN

递归神经网络(RNN)在变长序列x = ( x1 , x2, … , xT)上通过保持隐藏状态h随时间变化而工作

grConv

这是本文提出的用于替换RNN Encoder-Decoder 中的Encoder的一种新的神经网络，文中称为：gated recursive convolutional neural network (grConv)

如图a为Recursive convolutional NN (这是啥？) #question 图b为grConv grConv则是让隐藏层通过训练w参数可以从三个输入中挑选： 其中 $\omega_c+\omega_l+\omega_r=1$ 由此便获得了如图c,d所示的自主学习语法结构的能力。 非常直观的图 #paradigm

Background: RNN

首先介绍了RNN通过hidden state来实现记忆力功能

但指出RNN的训练有梯度消失/爆炸的现象，且记忆会沿序列长度的增加而指数下降，缺乏长期记忆能力。 解决梯度消失/爆炸目前有梯度裁剪和二阶梯度的方法，但成效并不显著

Gated RNN

[[On the Properties of Neural Machine Translation= Encoder–Decoder Approaches]]

概要

Transformer是一种基于注意力机制，完全不需要递归或卷积网络的序列预测模型，且更易于训练

背景

介绍了Gated-RNN/LSTM的基本逻辑[[Empirical Evaluation of Gated Recurrent Neural Networks on Sequence Modeling]]，指出:
这种固有的顺序性质阻碍了训练示例中的并行化，这在较长的序列长度上变得至关重要，因为内存限制限制了示例之间的批处理，虽然后续有相关工作优化了一些性能，但是基本的限制并没有解除。

前言

根据github托管仓库的提交记录，我的这个博客网建于2022/4/10，倒也是马上就要了两周年了，去年这会很忙，倒是没想到做一个一周年回顾，这次就一起补上吧。
近日小小燃起了一下修缮博客的激情，比如加了桌宠，播放器，亚克力风格的卡片，圆角，目录卡片之类的。也奇怪，似乎我就是非常热衷于做这些很游离的事情，做了，会花很多时间，不做也不会怎么样。想说自己还是有颗匠人/艺术家的心，还是很痴迷于这种永远在路上的项目的。做这些可爱的，美美的东西，真的很治愈啊。很多项目，很多科研，换个人，一样做，但博客，模组，辩论这些东西才是真正反映我们内核的东西。

始

点开了好多好多软件的年度报告。惊讶于原来今年是从那个时间点开始的，原来今年发生了这么多的事情。

代码

2023：1054 contributions on github

给现代空战模组进行了阶段性的收尾，工坊订阅人数到达了17k，有很多老外和群外的玩家都非常感兴趣，工坊首页中包含这个mod的载具也越来越多了，很高兴给这么多玩家的飞行载具注入了灵魂。

因为我原本是做木船出身，自然而然得就想着做一个适配二战海战的模组，事实上过程也非常顺利，将整个系统做得非常简明，用过都说好！但由于木船本身就是一个很小的圈子，所以订阅人数不多，刚到1k6。之后又爆肝加上了航母，舰载机系统，至此包含了二战海战中绝大部分的元素。

连续开发完两个mod也意识到玩家往往都会有个性需求，沙盒玩家更是如此，再加上我认为这两个mod有些地方存在共性，所以准备再开一个新坑，往游戏中加入数电的特色，玩家可以通过自己搭配原件来实现自己想要的效果，这样一来，海陆空现代战争的需求就都可以被满足。目前该mod仍然处于起步阶段。

科研

科研，也就那样啦，没发表什么paper，苦力活倒是干了不少。在电院的智能车实验室打杂，从零开发驾驶仿真平台，毕老师手下给ipp复现论文改代码，管理两个机器人小组的项目进度…希望明年能有意思一点（求师兄们捞捞啊）？不过虽说是打杂，倒也是积累了不少经验，譬如很多github的PR，ISSUE的开发习惯都是在电院的组里习得的，再就是也知道了骨骼模型的RNN是怎么一回事，啥是transformer。比起大一大二自己埋头做项目能习得的专项性知识更深入。大概也算是知道了当码仔大概是个什么样的生活（虽然从之前大二实习经历已经可见一斑）。写代码满足别人的需求有时候真的很无语，肯定给自己的idea写代码更有意思。

保研

保研确实是件头痛的事情，说实话我本来对此也没什么紧迫感，毕竟此前的政策一直是过GPA过3.0，保本院在名额上就不会有问题。然后就把被告知今年保研名额对于排名有要求，索性距离不大，努力一下。卷了一个学期成功加了0.15个绩点，保险起见还让毕老师写了一个reference（虽然感觉金力的推荐信也有点像reference）。历经两次meeting，两次小笔试，毕老师给了我一个研究生名额，他可能比较看重我之前做机器人的经验和自学这块的能力，可能还有这股愣头青的冲劲。参加完夏令营之后，就成了毕老师的硕士，他说是会按照博士的标准培养我，但其实我对于他手下硕博培养之间的区别也不慎了解。不过终归是求仁得仁。

恋爱

之前感觉我就是恋爱绝缘体，我知道，智者不入爱河。但就是突然看到永夜的天穹被阳光肆意地撕开了一角，而我也对那缕亮色，着迷了。在遇到gxy前我认为我不是一个会一见钟情的人，但显然我错得离谱。和她的第一次见面，我不敢看她，也不敢和她过多交流，但和她第二次见面的那个下午，基本就奠定，我已经在这场游戏中成为了猎物。我们发展地很快，我无可救药地爱上了这位向我敞开心扉的女孩，并确定了关系，我爱她的不屈，爱她有我没有的东西，爱她对我的包容，也爱上了这种被她喜欢，被她关心，被她倾听的感觉，这是我一直缺少的，但却又一直没意识到的东西。我意识到我已经回不去之前那种虚幻的，自给自足，“我就是我世界里的王”的心境了。恋爱如泡沫般易碎，美梦也会有梦醒的那一天，到时候我又应该如何自处。解决方案很简单，那就是一直一直和她在一起，但谈恋爱本身又是两个人之间的事情，不是我一个人能决定的。gxy真的是一个很好的女孩，但我真的很担心她某一天突然发觉我不是她在感情上需要的那个人，在太多太多事情上我没法给她足够的支持，在太多太多事情上我笨拙到令人发指。这就是一个我这个小男孩在初恋第73天心里会有的迷茫。