第二章 构造数据抽象

The acts of the mind, wherein it exerts its power over simple ideas, are chiefly these three: 1. Combining several simple ideas into one compound one, and thus all complex ideas are made. 2. The second is bringing two ideas, whether sim- ple or complex, together, and setting them by one another so as to take a view of them at once, without uniting them into one, by which it gets all its ideas of relations. 3. The third is separating them from all other ideas that accom- pany them in their real existence: this is called abstraction, and thus all its general ideas are made.
—John Locke, An Essay Concerning Human Understanding(1690)

数据抽象是一种方法学，它将程序要使用的复合数据与构成复合数据的基本数据和细节过程区分开来。

军训了两个星期，整个人晒黑了不少，本来也无所谓，但阿猪威胁我说如果再黑下去，她就不亲我了。迫于阿猪的淫威，只能赶忙买了防晒霜和防晒袖，虽然如此，到军训结束我仍黑得让人心疼。唉，阿猪不会亲我了……

军训完了后是小学期，从七月二十四号一直到八月三号，十天时间，要求三到四人组队开发一个系统。据洪院说，学院花了重金去请东软的老师来指导我们，当时一边憧憬一边忐忑，毕竟是开发系统，平日里学的都是基本知识，实际开发系统肯定十分痛苦。但真正经历过后，发现实际并非如此，所谓的系统开发，无非是“Windows小游戏”、“超市系统”、“公交系统”，我们班做的最难的“基于Linux下网络编程的邮件系统”，也被老师放低了不少要求，图形界面因为要用到GTK，所以可以不做，以终端界面代替之；又因为网络编程是我们新接触的知识，所以要求我们只要用到了网络编程，过得去即可。
more >>

The acts of the mind, wherein it exerts its power over simple ideas, are chiefly these three: 1. Combining several simple ideas into one compound one, and thus all complex ideas are made. 2. The second is bringing two ideas, whether sim- ple or complex, together, and setting them by one another so as to take a view of them at once, without uniting them into one, by which it gets all its ideas of relations. 3. The third is separating them from all other ideas that accom- pany them in their real existence: this is called abstraction, and thus all its general ideas are made.
—John Locke, An Essay Concerning Human Understanding (1690)

第一章 构造过程抽象

这章准备学习的是有关计算过程的知识。

什么是计算过程？计算过程是一种能操控称之为数据的抽象事物而进行本质上由数值运算构成的一系列进程的过程。程序员就像巫师念出一串咒语——他们编出一系列程序来作为计算过程的准则，来规范和指导计算过程的进行。
more >>

范数

范数分为向量范数、矩阵范数，其本质可以不准确但直观地说，是距离，分别表征向量大小、矩阵引起变化的大小。你可能会问，什么叫矩阵引起变化的大小，我们知道矩阵乘法运算AX=B，将向量X变为向量B，而矩阵范数表征的就是，A作为一个矩阵，其将X变成B，A->B的这个变化程度有多大。

L-P范数

L-P范数准确地来说，不是一个范数，而是一组范数的定义。p可以为0、1、2、3……这和闵可夫斯基距离类似。

L-P范数的公式为：$ L_p=\sqrt[p]{\sum_{i=1}^nx_i^p},(x=x_1.x_2.x_3,…,x_n) $

高考成绩在六月的鬼雨中呼之欲出。有一位同初、高中的学弟总算得知了成绩，意料之中又出乎意料之外的名次。失望是肯定的，但那多了些什么的情感，他也不可能对我一个外人吐露心声。但那些感情，我略知一二。

少年稚嫩的人格即使不值得他人顾盼，但同样迫切追求尊重，虽身居果壳之中，也自以为是宇宙之王。这种稚嫩在我看来不讨喜，但我深知我这以丑恶之心看待美好事物的习惯，故也不敢声张。况且，他简直就是我的翻版，至少在性格上是姑娘般顾影自怜，虽说少年因无知而生的勇气给那可恨的情感减轻了不少道德谴责，但我仍无法原谅那比我更高一丈的嚣张气焰。而我和他的像，从结局上看，也为这貌似楚门之世界外的观众狠狠地出了一口气。
more >>

先承接上文，双特生面试很惨淡，老师们一直让我说我对数据科学的理解、我在数据科学方面有何突出。双特生选拔的是川大金字塔尖的人才，我本就是打肿脸充胖子，不过在候考期间认识了易佬，总体而言，收获很大。

最近加入了空天学院飞行模拟协会，本打算做基于增强学习的飞行器自动对战。因为微软的AirSim与我们的主题很契合，我们便打算将AirSim+Unreal作为实验平台。近期老师计划让我研究AirSim的接口，以便把P3D模型移植到Unreal中。至于为什么要用P3D作为模型，事情就很复杂了，在此不赘述。原本的初衷是在编程中学习机器学习，却发现大部分时间做的都是和机器学习无关的偏向于工程的事情，每天在自己完全不熟悉的地方疲于奔命，还是让人不舒服。但话说回来，我的工程能力很差，这次项目也一定会增强我的代码能力。其次，如果真如老师所说，只要将自动对战做出来就能发SCI，那我虽然撑死算是二作，也死而无憾了。
more >>

断断续续零零碎碎地学机器学习半年了，不会实践，不会运用，只是粗略地学了理论基础，因为涉及很多数学公式，markdown的数学公式语法又挺麻烦的，所以一直没有写过机器学习算法的文章。最近恰逢创新班、双特生面试，因为我是以机器学习为特点介绍我自己的，所以看了些算法的具体理论和优缺点。今天下午看了2个小时的BP算法，心想不如在近纲课上写一篇BP算法的文章。

一般思想

首先，依然是梯度下降法，为了更新$W$和$b$，就要计算出代价函数$J$对两者的偏导数，即

$\frac{\partial}{\partial W_{ij}^{(l)}} J(W,b; x, y) = a^{(l)}_j \delta_i^{(l+1)}$
$\frac{\partial}{\partial b_{i}^{(l)}} J(W,b; x, y) = \delta_i^{(l+1)}$

其中，

$\delta^{(l)}_i=\frac{\partial J(W,b;x,y)}{\partial z_i^{(l)}}=\frac{\partial }{\partial z^{(l)}i}\frac{1}{2} \left|y - h{W,b}(x)\right|^2 = - (y_i - a^{(l)}_i)\cdot f’(z^{(l)}_i)$

最普通的普通人开始质疑经验的本质

本体论+认识论=形而上学。回答真实存在的本质问题。

不能用感觉来解释存在。任何事物都基于宇宙某一最本质的规律，感觉证据是不纯洁的，没有说服力，而只有纯粹的理性才能去解释事物的存在，那没有经验限制的没有经验属性的纯粹理性。

亚里士多德用形式逻辑来解释问题，三段论。康德建立一种新的术语体系来分析。

本文索引自哲学涉猎系列。

哲学涉猎系列，记录了我纯粹满足好奇心的不成熟的学习和摘录，主要涉及哲学各个学派、命题的学习、理解。包含的内容不多，但会龟速保持更新。

物理学界过去三十年来，怎样继续对物体的认知已经变得十分清楚。令人惊奇的是，物理学用以认识物体的方法，本质上就是Kant创建的概念框架。

本文索引自哲学涉猎系列。

哲学涉猎系列，记录了我纯粹满足好奇心的不成熟的学习和摘录，主要涉及哲学各个学派、命题的学习、理解。包含的内容不多，但会龟速保持更新。

期中考试就要到了，今天复习了高数，对梯度这一概念产生了疑惑，因为平常上课爱打瞌睡，对很多概念自然很不到位，查了一些资料，才明白大体的意思。

什么是梯度？

梯度的计算结果会是”在每个位置都算出一个向量,而这个向量的方向会是在任何一点上从其周围标量值最小处指向周围标量值最大处.而这个向量的大小会是上面所说的那个最小与最大的差距程度”

简单地说，梯度指向的就是在函数某一点变化最大的反方向。梯度就是这样定义的，所以别问为什么梯度就是函数在某一点处最大变化反方向。我们给“函数在某一点处最大变化反方向”取个外号，就叫“梯度”。
more >>