YA

In me the tiger sniffes the rose.

  • 主页
  • 世界之内
  • 世界之外
  • 叶隙随笔
所有文章 友链 关于我

YA

In me the tiger sniffes the rose.

  • 主页
  • 世界之内
  • 世界之外
  • 叶隙随笔

生成对抗网络与强化学习:文本生成的方法

阅读数:22430次 2019-03-11
字数统计: 2.8k字   |   阅读时长≈ 10分

本文介绍了一种文本生成的方法,关键技术为生成对抗网络(GAN)和强化学习(RL)。

内容主要包括方法的数学原理、实现思路和具体实现细节。

2019.3.3 初稿 初定内容大纲

2019.3.11 增加 循环神经网络(Recurrent Neural Network RNN) 内容

2019.3.17 增加 长短时记忆模型(Long Short-Term Memory LSTM) 内容

关键技术

我们要使用的是LSTM,但是LSTM是一个RNN模型的改进,其目的是为了适应原始RNN梯度消失、文本相关性等缺点,所以首先我们要知道什么是RNN。

循环神经网络(Recurrent Neural Network RNN)

【Karpathy】The Unreasonable Effectiveness of Recurrent Neural Networks

概述

  • 序列模型
  • 能够体现序列元素之间的相关性
    • 相关性的体现,使其被运用于文本生成、机器翻译、语音识别等

RNN与普通神经网络(Vanilla Neural Networks)不同的是,它不是单一的input-hidden layer-output的形式,而是输出、隐层、输出都可实现序列化,如下图

RNN-1

蓝色方框是output,红色为input,绿色则是中间层,我们可以把绿色中间层理解成input的中间状态(state)。

(1)普通神经网络只是one-to-one的关系,而RNN则有其他四种形式:(2)one-to-many可以理解成由图片作为输入,输出对图片的文字说明(e.g. 图片描述、诗歌),其中每一个蓝色方框都是一个词;(3)many-to-one可以理解为对一句话做情感分析;(4)many-to-many的第一种形式则可以理解为机器翻译;(5)many-to-many的第二种形式则可以理解为视频分类(对视频的每一帧进行分类或者预测)。

我们通过上图,可以看到RNN的另一个特点:每一个中间层,或者说每一个 input 状态都与前一个 input 状态相关,这就体现了相邻 input 之间的相关性。

比如说我输入一句话作为我的 input ,”猫吃鱼“,其中 input1 ”猫“, input2 ”吃“, input3 ”鱼“,”猫“的中间状态由前两个 input 的中间状态决定,即,”吃“”鱼“这两个 input​ 和”猫“有关,这符合我们的逻辑,猫不就是吃鱼的么。

上下文构成了联系,而不是被单一孤立开来,RNN实际上实现了部分我们对智能体的期待,所以Karpathy也说,RNN是最令他激动的模型。

模型

我们用x<i>来表示第 i 个输入值,y<i>来表示第 i 个输出值,举个例子,我有一句话:

My name is ClowNaxcvd Shi​

那么每一个单词分别对应一个输入值,即,My 对应 x<1>,name 对应 x<2>……

我想要判断这句话中有哪些单词表示名字,那么x<t>​对应的输出值就为 ​y<t>​ 。如果是名字,​y<t>​就等于1,否则就等于0。

因为计算机只认数字,其他的东西一律看不懂,所以还涉及到将单词向量化的问题。简单来说,就是将文字数字化,所以我们输入的x<t>​实际上应该是一组数字,不是单词。

我们首先要将单词变成数字,这一点知道就好,为了方便理解,我们就当计算机识字好了。

对于一般神经网络来说,如果我们要做名字的识别,我们一般会这样做:

将 x<1> 传入神经网络,输出 y<1>,

RNN-2

图中 a<1> 表示中间状态,一般会用激活函数,将其变成y<1>。

同理,将 x<2> 传入神经网络,输出 y<2>,

RNN-3

这样做的问题很明显,我们不能将前一个输入和后一个输入联系起来,每一个单词都是孤立的。但是我们可以看到,ClowNaxcvd 和 Shi ,我们不会将 Shi 理解成一个东西,因为它跟在 ClowNaxcvd 后面,符合姓名的逻辑。

于是我们将这两者结合:

RNN-4

x<1> 的中间状态 a<1> 传给 x<2>,共同计算出它的中间状态 a<2>,然后再通过a<2>计算出 y<2>。

我们将其推广到一般情况,如下图。其中我们看到一开始有一个 a<0>​,是因为a<t>​ 是由a<t−1>、x<t>​决定的,而 a<1>​之前已经没有输入值和中间值了,所以我们额外加一个 a<0>​ ,这样 a<1>​ 就合乎逻辑了。

RNN-5

逻辑讲清楚了,接下来我们看该怎么计算出 a<t>​ y<t>​。

前向传播

我们从左向右看,一般开始先输入 𝑎<0>,它是一个零向量。接着就是前向传播过程,先计算激活值 𝑎<1>,然后再计算 y<1>。

𝑎<1>=g1(𝑊𝑎aa<0>+𝑊a𝑥x<1>+𝑏a)​

^𝑦<1>=g2(𝑊yaa<1>+𝑏y)​

我将用这样的符号约定来表示这些矩阵下标,举个例子, Wax​第二个下标x​意味着 Wax​要乘以某个x​类型的量,然后第一个下标a​表示它是用来计算某个a​类型的变量。同样的,可以看出这里的 Wya​乘上了某个a​类型的量,用来计算出某个y​类型的量。

循环神经网络用的激活函数经常是 tanh,不过有时候也会用 ReLU,但是 tanh 是更通常的选择,我们有其他方法来避免梯度消失问题,我们将在之后进行讲述。选用哪个激活函数是取决于你的输出𝑦,如果它是一个二分问题,那么我猜你会用 sigmoid 函数作为激活函数, 如果是𝑘类别分类问题的话,那么可以选用 softmax 作为激活函数。不过这里激活函数的类型取决于你有什么样类型的输出y​,对于命名实体识别来说𝑦只可能是 0 或者 1,那我猜这里第二个激活函数 g​ 可以是 sigmoid 激活函数。

更一般的情况下,在 t​ 时刻,

a<t>=g1(𝑊aaa<t−1>+𝑊axx<t>+ba)

ˆy<t>=g2(𝑊yaa<t>+by)

下图提供了更直观的过程。其中 h 就是 y​ ,只是不同人的表示方法有所差异而已,这点不用细究了。

RNN-6

RNN虽然理论上可以很漂亮的解决序列数据的训练,但是它也像DNN一样有梯度消失时的问题,当序列很长的时候问题尤其严重。

同时,随着序列加长,模型很难捕捉前面的输入与后面的输入之间的关系,举个例子,我有两句话

The person, who standing there and……, is lively.

The people, who standing there and……, are lively.​

除了主语的单复数之外,其他的成分一模一样,而且在主谓之间,有一句可以无限长的从句,这种情况下,模型在判断后面到底是is还是are的时候,就非常困难。一方面存在梯度爆炸或者梯度消失问题,另一方面,主谓之间的依赖性(就是 a<i>​ )会随着从句的边长而被稀释。

RNN-7

因此,上面的RNN模型一般不能直接用于应用领域。在语音识别,手写书别以及机器翻译等NLP领域实际应用比较广泛的是基于RNN模型的一个特例LSTM,下面我们就来讨论LSTM模型。

长短时记忆模型(Long Short-Term Memory LSTM)

【Colah】Understanding LSTM Networks

【李宏毅】机器学习-Recurrent Neural Network(2019)

概述

原始RNN模型只有一个计算流程,x<t>→a<t>→y<t>,如下图所示。

lstm-1

而LSTM则增加了三个计算流程,如下图。

lstm-2

这几个流程是什么意思呢?

LSTM的本质,其实就是对a<t>​的一系列改进,也就是对输入x<t>​状态的改进。

更形象地说,还是那两句话:

The person, who standing there and……, is lively.​

The people, who standing there and……, are lively.​

我的目的就是,即使主谓之间隔着这么远的距离,我仍然能够让计算机知道,后面的谓语应该是单数还是复数,LSTM实际上就是通过增强了a<t>对a<t+i>的影响,来增加x<t>对x<t+i>​的影响。

这种影响的增强,就是通过的三个门来实现的。

  • 输入门

保留多少 当前时刻输入 到 当前时刻单元状态。

  • 遗忘门

保留多少 前一时刻单元状态 到 当前时刻单元状态。

  • 输出门

保留多少 当前时刻单元状态 留给 下一时刻的单元状态。

下面我们一步步详述。

门机制

遗忘门

首先,我需要利用上一个输入量得到的输出为参考量,去判断上一个单元状态对现在的输入量,有多少联系。

lstm-2.1

这个ft是一个尺度,在0-1之间,用来度量上一个单元状态对此刻单元状态的约束。

输入门

然后,我要判断,当前输入量有没有价值,是否需要把它存到我的单元状态里面。

lstm-2.2

再然后,我综合通过遗忘门和输入门的值,得到了当前单元状态量。这个单元状态量,结合了前一个输出量与现在输入量的综合关系。

lstm-2.3

输出门

最后,我需要一个尺度,来判断我算出来单元状态量有多少意义,这个尺度就是输出门。

lstm-2.4

总结以上叙述,整个流程可以归纳为:

lstm-3

  1. 通过输入门,得到当前时刻输入值的对当前单元状态的价值;
  2. 通过遗忘门,得到前一时刻单元状态对当前单元状态的价值;
  3. 累加1、2两步的值,得到的当前单元状态,表示的意义为:当前输入值和上一输入值对当前状态的意义;
  4. 通过输出门,得到当前状态值对输出结果的影响。

整个过程可以跟着上图过一遍。

生成对抗网络(Generative Adversarial Networks)

强化学习方法:策略梯度(Policy Gradient)

该方法可参考我以前的学习笔记,【强化学习】Policy Gradient

写得还算详细,故此不再赘述。

实现思路/逻辑

LTSM

GAN+PG/GAN+RL

实现细节/代码

LTSM

GAN+PG/GAN+RL

Reference

【Karpathy】The Unreasonable Effectiveness of Recurrent Neural Networks

【Colah】Understanding LSTM Networks

【李宏毅】机器学习-Recurrent Neural Network(2019)

【超人汪小建】LSTM神经网络

【ClowNaxcvd】Policy Gradient

赏

谢谢你请我吃糖果

支付宝
微信
  • 本文作者: YA
  • 本文链接: http://www.yuuuuang.com/2019/03/11/GAN-RL-文本生成的方法/
  • 版权声明: 本博客所有文章除特别声明外,均采用 MIT 许可协议。转载请注明出处!
  • 世界之内

扫一扫,分享到微信

周记|三月驼云
《桨声灯影里的秦淮河》俞平伯
  1. 1. 关键技术
    1. 1.0.1. 循环神经网络(Recurrent Neural Network RNN)
      1. 1.0.1.1. 概述
      2. 1.0.1.2. 模型
        1. 1.0.1.2.1. 前向传播
  2. 1.1. 长短时记忆模型(Long Short-Term Memory LSTM)
    1. 1.1.1. 概述
    2. 1.1.2. 门机制
      1. 1.1.2.1. 遗忘门
      2. 1.1.2.2. 输入门
      3. 1.1.2.3. 输出门
  3. 1.2. 生成对抗网络(Generative Adversarial Networks)
  4. 1.3. 强化学习方法:策略梯度(Policy Gradient)
  • 2. 实现思路/逻辑
    1. 2.1. LTSM
    2. 2.2. GAN+PG/GAN+RL
  • 3. 实现细节/代码
    1. 3.1. LTSM
    2. 3.2. GAN+PG/GAN+RL
  • 4. Reference
  • © 2018-2025 YA
    GitHub:hexo-theme-yilia-plus by Litten
    本站总访问量26018次 | 本站访客数21133人
    • 所有文章
    • 友链
    • 关于我

    tag:

    • 随笔
    • 年终总结
    • 世界之内
    • 世界之外
    • 叶隙集
    • 机器学习
    • 叶隙随笔
    • 图像处理
    • 数据挖掘

      缺失模块。
      1、请确保node版本大于6.2
      2、在博客根目录(注意不是yilia-plus根目录)执行以下命令:
      npm i hexo-generator-json-content --save

      3、在根目录_config.yml里添加配置:

        jsonContent:
          meta: false
          pages: false
          posts:
            title: true
            date: true
            path: true
            text: false
            raw: false
            content: false
            slug: false
            updated: false
            comments: false
            link: false
            permalink: false
            excerpt: false
            categories: false
            tags: true
      

    • 【叶隙集】42 实习

      2025-05-31

      #随笔#叶隙集

    • 2024年终总结

      2025-04-08

      #随笔#年终总结

    • 【叶隙集】41 盘旋的白文鸟

      2025-01-12

      #随笔#叶隙集

    • 大语言模型正在伤害人机交互领域的研究

      2025-01-05

      #随笔#世界之内

    • 【叶隙集】40 台湾旅行

      2024-12-22

      #随笔#叶隙集

    • 【叶隙集】39 搬家了

      2024-09-05

      #随笔#叶隙集

    • 2023年终总结

      2024-06-27

      #随笔#年终总结

    • 【叶隙集】38 参加学术会议

      2024-05-22

      #随笔#叶隙集

    • Notes of 3D Gaussian Splatting

      2024-03-19

      #世界之内

    • 【叶隙集】37 音乐会和朋友

      2023-12-04

      #随笔#叶隙集

    • 【叶隙集】36 QE和音乐会

      2023-11-02

      #随笔#叶隙集

    • 【叶隙集】35 新室友和更积极的生活

      2023-09-11

      #随笔#叶隙随笔

    • 读书笔记|《规训与惩罚》

      2023-08-27

      #随笔#世界之外

    • 【叶隙集】34 无法参加学术会议

      2023-06-28

      #随笔#叶隙集

    • 【叶隙集】33 回国后与朋友和家人们的聚会

      2023-06-11

      #随笔#叶隙集

    • 视频压缩技术概述

      2023-04-28

      #世界之内

    • 2022年终总结

      2023-03-31

      #随笔#年终总结

    • 【叶隙集】32 平和的心态

      2022-12-27

      #随笔#叶隙集

    • 【叶隙集】31 双相情绪障碍症

      2022-12-17

      #随笔#叶隙集

    • 【学习笔记】CS5229 Advanced Computer Network

      2022-12-17

      #世界之内

    • 【叶隙集】30 下半学期太忙了!

      2022-11-25

      #随笔#叶隙集

    • 【叶隙集】29 当助教的半个学期

      2022-10-07

      #随笔#叶隙集

    • 【叶隙集】28 忙碌的第一个月

      2022-08-31

      #随笔#叶隙集

    • 【叶隙集】27 老师的职责

      2022-07-31

      #随笔#叶隙集

    • 【叶隙集】26 新加坡太难找工作了

      2022-07-23

      #随笔#叶隙集

    • 【叶隙集】25 生产工具、学习生活和阅读笔记

      2022-07-15

      #随笔#叶隙集

    • 【叶隙集】24 学习、科研、旅行和爱与关怀

      2022-06-24

      #随笔

    • 【叶隙集】23 学习与研究

      2022-04-26

      #随笔#叶隙集

    • 【学习笔记】人工智能规划与决策

      2022-04-26

      #世界之内

    • 博士申请的总结

      2022-03-31

      #随笔

    • 【叶隙集】22 新的体验和宗教

      2022-03-07

      #随笔#叶隙集

    • 2021年终总结

      2022-01-08

      #随笔#年终总结

    • 【叶隙集】21 新朋友和学术报告

      2021-10-31

      #随笔#叶隙集

    • 【叶隙集】20 音乐会与教训

      2021-10-19

      #随笔#叶隙集

    • 【叶隙集】19 六周年纪念日

      2021-10-03

      #随笔#叶隙集

    • 【叶隙集】18 疫情与疫苗

      2021-09-24

      #随笔#叶隙集

    • 摘录|联合国2021年气候问题总结报告的摘要

      2021-09-19

      #世界之外

    • 【叶隙集】17 音乐会和读书

      2021-09-08

      #随笔#叶隙集

    • 【叶隙集】16 喜欢上了游泳

      2021-09-01

      #随笔#叶隙集

    • 【叶隙集】15 课前的夜曲

      2021-08-24

      #随笔#叶隙集

    • 【叶隙集】14 平稳的学习生活

      2021-08-16

      #随笔#叶隙集

    • 【叶隙集】13 生活与朋友

      2021-07-15

      #随笔#叶隙集

    • 【叶隙集】12 毕业

      2021-06-30

      #随笔#叶隙集

    • 【叶隙集】11 毕业前的生活

      2021-06-23

      #随笔#叶隙集

    • 读书笔记|《国境以南,太阳以西》读后感

      2021-06-17

      #随笔

    • 【叶隙集】10 青甘环线旅行

      2021-06-13

      #随笔#叶隙集

    • 半监督学习|论文粗读

      2021-06-07

      #机器学习

    • 【叶隙集】9 纯粹地生活

      2021-06-06

      #随笔#叶隙集

    • 【叶隙集】8 生活的界限

      2021-05-30

      #随笔#叶隙集

    • 【叶隙集】7 隔离结束

      2021-05-21

      #随笔#叶隙集

    • 【叶隙集】6 隔离生活

      2021-05-14

      #随笔#叶隙集

    • 【叶隙集】5 新的阶段

      2021-05-08

      #随笔#叶隙集

    • 【叶隙集】4 团队管理

      2021-04-30

      #随笔#叶隙集

    • 【叶隙集】3 过低的自我评价

      2021-04-23

      #随笔#叶隙集

    • 【叶隙集】2 方向与交往

      2021-04-16

      #随笔#叶隙集

    • 【叶隙集】1 原爆点-续

      2021-04-08

      #随笔#叶隙集

    • 随笔|目的与纯粹

      2021-03-28

      #随笔

    • 随笔|白文鸟

      2021-01-20

      #随笔

    • 写在一百以后——2020年终总结

      2021-01-01

      #随笔#年终总结

    • 随笔|选择

      2020-12-25

      #随笔

    • 读书笔记|《人生的意义》总结、摘录

      2020-11-25

      #世界之外

    • 书评|Normal People, Normal Love

      2020-10-07

      #随笔

    • Decision Making|人工智能、机器学习与强化学习的概述与比较

      2020-10-03

      #世界之内

    • 随笔|疫情后的总结

      2020-09-10

      #随笔

    • 学习笔记@PRML|1 Introduction

      2020-07-31

      #世界之内

    • 随笔|面试后的回顾与思考

      2020-07-26

      #随笔

    • 数据挖掘|数据挖掘概论笔记

      2020-06-24

      #世界之内#数据挖掘

    • 续写|美女或野兽

      2020-06-18

      #随笔

    • 随笔|无常

      2020-05-31

      #随笔

    • 现象学|胡塞尔《小观念》笔记

      2020-05-13

      #世界之外

    • 随笔|我的局限性

      2020-05-13

      #随笔

    • 随笔|胡乱的记录

      2020-04-09

      #随笔

    • 随笔|疫情

      2020-02-16

      #随笔

    • 随笔|怅惘地忖度

      2020-01-29

      #随笔

    • 2019年终总结

      2019-12-08

      #随笔#年终总结

    • 机器学习|Flow-based Model学习笔记

      2019-11-06

      #世界之内#机器学习

    • 【Introduction to TensorFlow】03 卷积神经网络与复杂数据集

      2019-10-31

      #世界之内#机器学习

    • 【Introduction to TensorFlow】02 初识机器学习与计算机视觉

      2019-10-29

      #世界之内#机器学习

    • 【Introduction to TensorFlow】01 TF 快速入门

      2019-10-29

      #世界之内#机器学习

    • 【Introduction to TensorFlow】00 课程概览

      2019-10-29

      #世界之内#机器学习

    • 随笔|呓语

      2019-10-27

      #随笔

    • 周记|面纱 久别重逢

      2019-09-21

      #随笔

    • 学习笔记|拟合优化

      2019-09-15

      #世界之内

    • 周记|爱人 体验 芝诺

      2019-09-07

      #随笔

    • 摘录|造成不幸福的原因之六:嫉妒

      2019-09-06

      #世界之外

    • 随笔|虚无 纵欲

      2019-08-22

      #随笔

    • 周记|尘埃落定

      2019-06-29

      #随笔

    • 周记|本能 愉悦 基因

      2019-06-12

      #随笔

    • 周记|空荡荡

      2019-06-02

      #随笔

    • 四月裂帛——读《女儿红》

      2019-05-30

      #随笔#世界之外

    • 机器学习|主成分分析

      2019-05-10

      #世界之内#机器学习

    • 《好运设计》史铁生

      2019-05-09

      #世界之外

    • 机器学习|感知机与支持向量机

      2019-04-27

      #世界之内#机器学习

    • 周记|记忆 概念 庸俗

      2019-04-27

      #随笔

    • 机器学习|模型评估与选择

      2019-04-17

      #世界之内#机器学习

    • 机器推理|SLD Resolution

      2019-04-06

      #世界之内

    • 第五代计算机

      2019-03-31

      #世界之内

    • 学习笔记|Volume Rendering

      2019-03-31

      #世界之内#图像处理

    • 周记|三月驼云

      2019-03-28

      #随笔

    • 生成对抗网络与强化学习:文本生成的方法

      2019-03-11

      #世界之内

    • 《桨声灯影里的秦淮河》俞平伯

      2019-03-09

      #世界之外

    • 周记|雨

      2019-03-09

      #随笔

    • 《春之积雪》简媜

      2019-03-01

      #世界之外

    • 周记|逃离

      2019-02-15

      #随笔

    • 存在主义是一种人道主义

      2019-02-11

      #世界之外

    • 学习笔记|比较文学

      2019-02-09

      #世界之外

    • 尼采的美学

      2019-02-01

      #世界之外

    • 哲学涉猎

      2019-02-01

      #世界之外

    • 读书笔记|光的诗人——《如何看懂印象派》

      2019-01-28

      #随笔#世界之外

    • 叔本华的生命意志哲学

      2019-01-25

      #世界之外

    • 再也不要把他们弄丢了

      2019-01-21

      #随笔

    • 2018年终总结

      2018-12-31

      #随笔#年终总结

    • 人类的心理行为模式

      2018-12-25

      #世界之外

    • 周记|神经症人格

      2018-12-22

      #随笔

    • 【周记】旋转

      2018-11-30

      #随笔

    • 七牛云Bucket失效

      2018-11-21

      #世界之内

    • 周记|从前的日色慢

      2018-11-21

      #随笔

    • 【数理逻辑】Incompleteness Theorem

      2018-11-10

      #世界之外

    • 专业随想

      2018-11-05

      #随笔

    • 生活

      2018-11-04

      #世界之外

    • 计算机组成与体系结构

      2018-11-04

      #世界之内

    • 【强化学习】Policy Gradient

      2018-11-03

      #世界之内

    • 怀疑是否有价值——怀疑论

      2018-10-30

      #世界之外

    • 周记|Every hero and coward

      2018-10-20

      #随笔

    • Web in Java

      2018-10-11

      #世界之内

    • 周记|十月女泽

      2018-10-02

      #随笔

    • 托福备考

      2018-09-28

      #世界之内

    • 周记|裸体之舞

      2018-09-24

      #随笔

    • 周记|中秋幸福

      2018-09-18

      #随笔

    • History of artificial intelligence

      2018-09-09

      #世界之外

    • 周记|我那无趣的灵魂

      2018-09-09

      #随笔

    • Softmax Regression

      2018-09-08

      #世界之内

    • 周记|Rational

      2018-09-02

      #随笔

    • 贰 《SICP》笔记:模块化、对象和状态

      2018-08-05

      #世界之内

    • 周记|困倦

      2018-08-04

      #随笔

    • 壹 《SICP》笔记:构造数据抽象

      2018-07-31

      #世界之内

    • 周记|原爆点

      2018-07-31

      #随笔

    • 零 《SICP》笔记:构造过程抽象

      2018-07-23

      #世界之内

    • Norms or maybe more

      2018-07-09

      #世界之内

    • 事已至此

      2018-06-24

      #随笔

    • 【增强学习】AirSim搭建

      2018-06-02

      #世界之内

    • 【机器学习】BP算法

      2018-05-26

      #世界之内

    • 【康德】宏大的哲学语境

      2018-05-26

      #世界之外

    • 【康德】康德的研究领域是什么

      2018-05-11

      #世界之外

    • 【高等数学】什么是梯度(期中考试复习思考)

      2018-04-29

      #世界之内

    • 《自控力》读书笔记

      2018-04-21

      #随笔

    • 【线性代数】The Essence of Linear Algebra

      2018-04-21

      #世界之内

    • 【数据结构与算法】临时抱佛脚

      2018-03-10

      #世界之内

    • 科技革命与人类社会——《论工业社会及其未来》读后感

      2018-03-08

      #随笔

    • 《论工业社会及其未来》原文摘录

      2018-02-23

      #世界之外

    • 《如何高效学习》读后总结

      2018-02-19

      #随笔

    • 《精进》chapter-2读后总结

      2018-02-13

      #随笔

    • A Review of Brian - Inspired Computer Vision

      2018-02-11

      #世界之内

    • 最近有个女生,说对我很失望

      2017-12-07

      #随笔

    • 病入膏肓

      2017-01-29

      #随笔

    • 白文鸟

      2016-10-29

      #随笔

    • 《不能承受的生命之轻》读后感

      2016-07-13

      #随笔

    • 都五月份了

      2016-04-29

      #随笔

    • 《四月裂帛》简媜

      2014-09-29

      #世界之外

    • Fernweh
    • Wuuuudle (已失效)
    • Nemo
    • Elmo (yyh) (已失效)
    • highestpeak (已失效)
    • Kazoo Blog
    努力做一名谦逊、独立、乐于思考的学生