线性规划的一般形式 标准型线性规划 标准形的特征：极小化、等式约束、变量非负 松弛型线性规划 解空间是凸集，参见[[凸集]] 单纯形 单纯形法的基本思想是，通过变量的代换，实现在解空间内沿着边界朝着目标函数增大的方向移动。其核心操作是转轴(pivot) 操作，即变量的代换。 定义 设 B 是 A 的m个线性无关列组成的矩阵， 置其余列所对应的变量为零，称所得方程组的解是 A...

Divide and Conquer Similar to quick sort 2D Implementation 12345678910111213141516171819202122232425262728void quickHull(std::vector<Matrix<double> >&hull,std::vector<Matrix&l...

定义 A function f:Rn→Rf: \mathbf{R}^n \rightarrow \mathbf{R}f:Rn→R is convex if dom⁡f\operatorname{dom} fdomf is a convex set and if for all xxx, y∈dom⁡fy \in \operatorname{dom} fy∈domf, and θ\theta...

仿射 affine 仿射集 Affine Sets X1≠X2∈Rn,θ∈RX_1\not=X_2 \in \R^n,\theta\in \R X1​​=X2​∈Rn,θ∈R 直线 y=θX1+(1−θ)X2y=\theta X_1+(1-\theta)X_2 y=θX1​+(1−θ)X2​ 线段 y=θX1+(1−θ)X2y=\theta X_1 +(1-\theta)X_2 y=...

优化/数学规划 Optimization/Mathematical Programming minimizef0(x)(objective function)s.t.fi(x)≤bi,i=1,⋯ ,m(inequality constrant)\mathrm {minimize} f_0(x)(\mathrm{objective\ function})\\ s.t. f_i(x)\le b...

Using the Chain Rule to calculate derivatives Name:w1,w2,w3,b1,b2,b3w_1,w_2,w_3,b_1,b_2,b_3w1​,w2​,w3​,b1​,b2​,b3​. Estimate b3b_3b3​. Assume we have the optimal values for all of the parameters e...

Features The grey forecasting model needs to consider less external factors and does not rely too much on historical data, which is in line with the characteristics of “poor data” and “easy to flu...

公式基础 设 DDD 是用户输入的词，hhh 是猜测的词，则： P(h∣D)P(D)=P(h)P(D∣h)P(h|D)P(D)=P(h)P(D|h) P(h∣D)P(D)=P(h)P(D∣h) 而我们只用对 P(h∣D)P(h|D)P(h∣D) 进行排序，所以只关注相对大小，可以忽略 P(D)P(D)P(D)，即： P(h∣D)∝P(h)P(D∣h)P(h|D) \propto P(h)P...

线性可分 找到一个比较好的分割器，即一个超平面（Hyper Plane）。需要最大化之间的 margin。 是支持向量：y(wTx+b)=1y(w^Tx+b)=1y(wTx+b)=1，不是支持向量：y(wTx+b)>1y(w^Tx+b)>1y(wTx+b)>1。 升维转换和核技巧 转换为： minimize ∣∣w⃗∣∣||\vec w||∣∣w∣∣，s.t. ...

DBSCAN和K-means的区别。 思考： 如何判断高密度的对象点？ 如何判断离群/噪声点？ 如何发现簇？簇：稠密对象趋于，被噪声分隔开，是密度相连的点的最大集合。 概念 邻域 Neighborhood 给定对象半径 ε\varepsilonε 内的邻域称为该对象的 ε\varepsilonε 邻域。 密度 Density 邻域内的对象点个数。 高密度 High Densit...

线性回归 用线性函数 f(x)=w⊤x+bf(\bold x) = \bold w^{\top} \bold x + bf(x)=w⊤x+b 去拟合一组数据 D={(x1,y1),(x2,y2),...,(xn,yn)}D = \{(\bold x_1, y_1), (\bold x_2, y_2), ..., (\bold x_n, y_n)\}D={(x1​,y1​),(x2​,y2​...

元胞自动机的定义 CA=(Ld,S,N,f)CA=(L_d,S,N,f) CA=(Ld​,S,N,f) 其中 LdL_dLd​ 代表一个 nnn 维的网格空间，SSS 是一个离散的有限集合，表示各元胞状态，NNN 代表元胞的邻居集合，其中元素数目为 nnn。

考虑建立简单的线性回归模型，在开播前期对一部番剧结束后的评分进行估计。 我们可以想到一些影响因子： 开播后若干天的评分分布情况。 开播之后的热度，包括评论数多少、“在看”人数的多少。 动画标签，如 异世界，P.A.WORKS，麻枝准 等等。 在这里，我们选择比较具有代表性的参数：开播 1 天，11 天，21 天后评分为 14，56，78，910 分的频率和当时“在看”的人数。 首先，从 ...

回归需要我们输出连续性的结果，如给出房屋的面积，求房屋的价格。 分类需要我们输出离散型的结果，如给出一个手写的汉字，输出这个汉字的编码。 Logistic Regression 逻辑斯蒂回归 我们考虑用回归的方法解决分类的问题，如，对于一个顾客来说，买房和不买房取决于房屋的价格，我们记录多位用户买房的行为，可以得到房价和一个 0,10,10,1 二元结果的对应关系。 我们可以考...

一元线性回归 要求我们最小化损失函数残差平方和（Sum of Squares for Error) Q=∑i=1n(yi−y^i)2Q=\sum_{i=1}^n (y_i-\hat y_i)^2 Q=i=1∑n​(yi​−y^​i​)2 而用线性函数 y^=β0+β1x\hat y=\beta_0+\beta_1 xy^​=β0​+β1​x 去拟合这条直线。 我们研究函数 Q=F(β0,β...