git学习和博客搭建的相关资源

1. hexo搭建博客的相关参考博客

​ a.如何在本地库增加新的博客

https://winney07.github.io/2018/08/02/%E5%9C%A8Hexo%E5%8D%9A%E5%AE%A2%E4%B8%AD%E5%8F%91%E5%B8%83%E6%96%87%E7%AB%A0/

b.如何搭建博客

​ http://www.wzqj.top/2019/02/26/linux%E4%B8%8B%E4%BD%BF%E7%94%A8-Github-Pages-Hexo-%E6%90%AD%E5%BB%BA%E4%B8%AA%E4%BA%BA%E5%8D%9A%E5%AE%A2/

https://segmentfault.com/a/1190000017986794

c.hexo的常见命令

https://vel.life/Hexo-%E5%8D%9A%E6%96%87%E7%BC%96%E8%BE%91%E6%89%8B%E5%86%8C/

托管中心维护远程库

• 内网：可以自己搭建一个GitLab服务器
• 外网：可以使用码云、Github

版本控制工具

• 集中式：CSV ,SVN,VSS
• 分布式：Git，Darcs,…

Git命令行操作

1.1本地库初始化

进入文件夹

1
2

git init
注意：生成的 .git 目录中存放的是本地库相关文件，不要删除

1.2设置签名

• 项目(仓库)级别仅在当前本地库有效

  1 2	git config user.name tom #设置用户名tom git config user.email liu@qq.com #设置用户邮箱

• 系统用户级别仅在当前登录的操作系统用户有效

  1 2	git config --global user.name tom git config --global user.email liu@qq.com

仅仅加了一个 --global

优先级别：项目级别 > 系统级别

信息保存位置：~/.gitconfig 文件

1.3基本操作

1.3.1 状态查看

1

git status   #查看工作区、暂存区状态

1.3.2 添加

1
2
3

git add fileName  #指定文件
git add . #所有
说明：将工作区的文件添加到暂存区

1
2
3

git rm --cached filename
git rm /*
＃将filename对应的文件从缓存区撤回，但是文件仍保留在工作区，相当于是add的一个撤回操作　sudo权限

1.3.3 提交

1
2
3
4

git commit -m 'commit message' fileName
说明：将暂存区内容提交到本地库,不需要再通过vim编辑提交的说明信息，没有提交信息，本次提交将无效
git commit *
说明：将暂存区中的所有内容都提交到本地库中

文件修改之后

1. 要先git add加到暂存区中，之后再添加到git commit
2. 或者直接使用 git -a commit filename 这时本次提交不能撤回(git rm /*)

1.3.4 查看历史记录

1
2
3
4
5
6

git log #查看提交的日志，包括时间，提交的说明信息
git reflog  #常用
git log --greph #图形显示,更直观
git log --pretty=oneline #每行日志
git log --oneline #简洁显示
说明：HEAD@{移动到当前版本需要多少步}

哈希值＋指针移动量＋提交的说明信息

多屏控制的方式：

１．空格向下翻页　，ｂ向下翻页　，ｑ退出

1.3.5 前进后退

• 基于索引值推荐

  1 2	git reset --hard 指针位置 例子：git reset --hard a6ace91 #回到这个状态，a6ace91指的是日志的短的索引值

• 使用 ^ 符号只能后退

  1 2 3

  git reset --hard HEAD^ 例子：git reset --hard HEAD^^ 注意：几个 ^ 表示后退几步

• 使用 ~ 符号只能后退

  1 2	git reset --hard HEAD~n 例子：git reset --hard HEAD~3

1.3.6 reset的三个参数比较

1
2
3
4
5
6
7
8
9

soft: 
  - 仅本地库移动HEAD 指针
mixed:
  - 在本地库移动HEAD指针
  - 重置暂存区
hard:
  - 在本地库移动HEAD指针
  - 重置暂存区－－及暂存区的文件也回到之前的版本
  - 重置工作区

1.3.7　删除文件并找回

• 相当于建立一个快照，虽然删除了，但只要添加到暂存区，就能找回

1

git reset --hard 指针位置

1.3.8 文件差异比较

1
2
3

git diff 文件名 #将工作区中的文件与暂存区中的文件进行比较
git diff 哈希值 文件名  #将工作区中的文件和历史中的一个版本比较
git diff  #不带文件名，则比较多个文件

2.2 分支管理

hot_fix master feature_x feature_y

2.2.1 什么是分支管理

• 在版本控制中，使用推进多个任务

2.2.2 分支的好处

• 同时并行推进多个功能开发，提高开发效率
• 某一分支开发失败，不会对其它分支有任何影响

2.2.3 分支操作

• 创建分支

1

git branch 分支名

• 查看分支

1
2

git branch
git branch -v 

• 切换分支

1
2

git checkout 分支名
git checkout -b 分支名   #创建分支并直接切换到该分支

• 合并分支相当于把修改了的文件拉过来

1
2
3

git merge xxx
注意：合并分支的时候要明确谁谁合并
	我在a分支里面修改了。要合并到master，就先切换到master，然后合并b

• 删除分支

1

git branch -d 分支名

2.2.4 解决冲突

• 冲突的表现
• 冲突的解决
  • 第一步：编辑，删除特殊标记<<< ===
  • 第二步：修改到满意位置，保存退出
  • 第三步：添加到缓存区 git add 文件名
  • 第四步：提交到本地库git commit -m '日志信息' 注意：后面一定不能带文件名

Git 结合Github

别分手 别名 分支名

1.1 创建远程库地址别名

1
2
3

git remote -v  #查看远程地址别名
git remote add 别名 远程地址 
例子：git remote add origin https://xx

1.2 推送

开发修改完把本地库的文件推送到远程仓库 前提是提交到了本地库才可以推送

1
2
3

git push 远程库别名 分支名
git push -u 远程库别名 分支名    #-u指定默认主机
例子：git push origin master

1.3 克隆

完整的把远程库克隆到本地 克隆下来后不要在主分支里面做开发 clone进行一次，从无到有的过程，更新用pull

1
2

git clone  远程地址
例子：git clone https://xx

1.4 拉取

本地存在clone下来的文件 就用pull更新

1
2
3
4

pull = fetch + merge
	git fetch 别名 分支名
	git merge 别名 分支名
git pull 别名 分支名

1.5 解决冲突

注意：解决冲突后的提交是不能带文件名的

如果不是基于远程库最新版做的修改不能推送，必须先pull下来安装冲突办法解决

1.6 rebase

提交记录简洁不分叉 没学懂，感觉有点鸡肋 混眼熟

1
2
3

git rebase -i 索引号
git rebase -i HEAD~3  #合并最近三条记录
说明：在vim编辑里面改成s

1.7 beyond compare

用软件解决冲突

1
2
3
4
5
6
7
8
9

1.安装 ：
	beyond compare 
2.配置：
    git config --local merge.tool bc3  #合并名称
    git config --local mergetool.path '/usr/local/bin/bcomp' #软件路径
    git config --local mergetool.keepBackup false  #False不用保存备份
3.应用：
	git mergetool
说明：--local指只在当前操作系统有效

1.8 跨团队合作

代码review之后合并

• 适用于个人

  邀请成员:Settings –> Collaborators –>填写用户名 –>打开链接接受邀请

• 企业 创建一个组织 方便管理

• review

  组织做review 通过Pull request

• 给开源社区共享代码

  点击别人仓库的fork 到自己的仓库 – > 然后clone下来 修改后推送到远程库 –> 点击Pull Request请求 –> Create pull request发消息

1.9 Tag标签

为了清晰的版本管理，公司一般不会直接使用commit提交

1
2
3
4
5
6
7

git tag -a v1.0 -m '版本介绍'   #创建本地tag信息
git tag -d v1.0    		#删除tag
git push origin --tags   #将本地tag信息推送到远程库
git pull origin --tags    #拉取到本地

git checkout v.10    #切换tag
git clone -b v0.1 地址   #指定tag下载代码

1.10 SSH 免密登录

• 输入:ssh-keygen -t rsa -C GitHub邮箱地址
• 进入.ssh目录，复制id_rsa.pub文件内容
• 登录GitHub。Settings –> SSH and GPG keys –> New SSH Key
• 回到git通过ssh地址创建。git remote add 别名 SSH地址

Git工作流

1.1 概念

1

在项目开发过程中使用Git的方式

1.2 分类

1.2.1 集中式工作流

1

像SVN一样，集中式工作流有一个中央仓库，所有的修改都提交到了Master分支上

1.2.2 GitFlow工作流 *

主干分支master 开发分支develop 修复分支hotfix 预发布分支release 功能分支feature

1

GitFlow 有独立的分支，让发布迭代过程更流畅。

1.2.3 Forking 工作流

1
2

在 GitFlow 基础上， 充分利用了 Git 的 Fork 和 pull request 的功能以达到代码审核的目的。 
安全可靠地管理大团队的开发者

机器学习—聚类篇

1.聚类算法的概述:

聚类试图 将数据集中的样本划分为若干个通常是不相交的子集,每个子集对聚类算法而言,样本簇亦称”类”称为一个”簇” (cluster). 通过这样的划分,每个簇可能对应于一些潜在的概念(类别) ,

聚类既能作为一个单独过程,用于找寻数据内在的分布结构,也可作为分类等其他学习任务的前驱过程.例如,在一些商业应用中需对新用户的类型进行判别, {且定义”用户类型”对商家来说却可能不太容易,此时往往可先对用户数据进行聚类,根据聚类结果将每个簇定义为一个类,然后再基于这些类训练分类模型,用于判别新用户的类型.

训练的目标:

1.簇间的距离较大,簇内的距离较小

2.指标和距离公式的选择

性能指标:簇内的相似度 和 簇间的相似度

3.常见聚类算法

3.1聚类算法类别

4. Partition Algorithm

4.1 k-means

4.1.1算法的基本步骤:

1
2
3
4
5
6
7
8

1.创建k个点作为初始质点(经常是随机选取)
2.当任意一个点的簇分配结果发生变化时
			*对于每个数据集中的数据点
					#对于每个质点
							计算出质心与数据点之间的距离
					#将数据点分类到距离最近的簇 
3.对于每个簇,计算簇中的所有点的均值作为新的质心
4.重复上述操作,直至目标函数不再出现更优的结果

目标函数 : 假设是数据点，是初始化的数据中心

​ $min\sum_{i=1}^n min ||x_i -\mu_j||^2$

这个函数是非凸优化函数,会收敛于局部最优解

函数的曲线如下:[以k=2为例]

4.1.2算法的基本评价

时间复杂度: $O(tkn)$ :t :迭代的次数,k表示类别的个数,n表示样本的数量

相比较 RAM :$O(k(n-k)^2)$ CLARA: $O(ks^2 +k(n-k)$

算法的复杂度比较低,不过很可能得到的是局部最优解(可以通过,模拟退火和 遗传算法 得到最优解)

缺点: 1. 只能适用于 中心值有意义的数据,不适用于categorical data

​ 2.需要提前确定k值

​ 3.因为会出现进入局部最优解的现象,所以会对噪音点,以及最初中心点的设置会很敏感

​ 4. Not suitable to discover clusters with non-convex shapes

4.1.3对于K-means 算法的改进

1
2
3
4
5

可以用 modes来代替均值,用其他方法取确定质点
更换其它衡量clusters相似性的标准,处理categorical object---目标函数
using  frequency-based method to update modes of cluster
a mixture of categorical 

4.2 K-Medoids

Find representative object,called medoids ,in clusters

4.2.1 PAM

PAM(Partitioning Around Medoids,1987)是作为K-medoids的基础算法,基本流程:

1. 首先随机选择k个对象作为中心

2. 把每个对象分配给离它最近的中心,然后随机地选择一个非中心交替替换中心对象

3. 计算分配后的距离改进量,进而得到改进的cost ,如果cost<0,即结果有改进,则进行交换

4. 直到目标函数不再有改进为止

   算法复杂度比较高,只适用于小数据集

4.2.2 CLARA

它从数据集中抽取多个样本集, 对每个样本集使用PAM, 并以最好的聚类作为输出

CLARA 算法的步骤:

　　(1) for 　i = 1 to v (选样的次数) ,重复执行下列步骤( (2) ～ (4) ) :
　　(2) 随机地从整个数据库中抽取一个N(例如：(40 + 2 k))个对象的样本,调用PAM方法从样本中找出样本的k个最优的中心点。
　　(3)对于每个点,把它归类到距离它最近的点的簇
　　(4) 计算上一步中得到的聚类的总代价. 若该值小于当前的最小值,用该值替换当前的最小值,保留在这次选样中得到的k个代表对象作为到目前为止得到的最好的代表对象的集合.
　　(5) 返回到步骤(1) ,开始下一个循环.
　　算法结束后，输出最好的聚类结果

优点:

可以处理的数据集比 PAM大

缺点:

1有效性依赖于样本集的大小

2 基于样本的好的聚类并不一定是整个数据集的好的聚类, 样本可能发生倾斜
　　例如, Oi是整个数据集上最佳的k个中心点之一, 但它不包含在样本中, CLARA将找不到最佳聚类

4.2.3 CLARANS

focusing+spatial data structure

5.层次化聚类方法

一般来说分为两类:

• Agglomerative 层次聚类：又称自底向上（bottom-up）的层次聚类，每一个对象最开始都是一个 cluster，每次按一定的准则将最相近的两个 cluster 合并生成一个新的 cluster，如此往复，直至最终所有的对象都属于一个 cluster。这里主要关注此类算法。
• Divisive 层次聚类： 又称自顶向下（top-down）的层次聚类，最开始所有的对象均属于一个 cluster，每次按一定的准则将某个 cluster 划分为多个 cluster，如此往复，直至每个对象均是一个 cluster。

优点:1 .不需要提前确定k,但是需要一个停止条件

​ 2.可以用树状结构来反映训练的过程,并且得到不同k情况下

的划分方案

缺点: 1

主要思想:

1. 每次找到距离最近的两个点作为一个簇

                 2. 把同一个簇的所有点看作一个点
                                                3. 重复上述操作.....直到达到停止条件
   

5.1 AGNES（Agglomerative Nesting)

sklearn 源码:

1

class sklearn.cluster.AgglomerativeClustering(n_clusters=2, affinity=’euclidean’, memory=None, connectivity=None, compute_full_tree=’auto’, linkage=’ward’, pooling_func=<function mean>)

算法的主要过程:

single linkage: 适用两个簇之间 距离最小的一对点的距离作为簇之间的

可以看到，该 算法的时间复杂度为 （由于每次合并两个 cluster 时都要遍历大小为 的距离矩阵来搜索最小距离，而这样的操作需要进行 次），空间复杂度为 （由于要存储距离矩阵）

5.2 DIANA

是AGNES算法的反过程,最后结果是每个样本都是属于一类

5.3 BIRCH

链接:https://www.cnblogs.com/pinard/p/6179132.html

链接:https://zhuanlan.zhihu.com/p/22458092

5.3.1 CF Tree动态建立的过程:

基本概念:

CF（Clustering Feature）：类簇总体信息三元组，其中是一个类簇中数据点个数，是类簇中所有数据点的加和值，即，是类簇中所有数据点的平方和，CF相当于对一个类簇的信息做了总结。

性质:

CF可加性定理：

​ 针对两个不相交的类簇，其CF向量分别为，，那么这两个不相交类簇合并后的CF向量为：。这里的证明比较简单，就略去了。
在BRICH中，针对一个类簇，通常只保留其CF向量信息，这样做比较节省空间且高效，后续的聚类需要的计算只需要根据类簇的CF向量即可完成。
CF Tree：类似于B树的一颗高度平衡树，有三个参数：内部节点平衡因子B，叶节点平衡因子L，簇半径T。每个非叶子节点至多包含B个项，形式为，其中是指向第i个子节点的指针。每个叶子节点至多包含L个项，且包含指向前后叶子节点的指针prev和next，其中的每一项代表一个类簇，且满足类簇直径小于T。树的结构如下图：

CF Tree会随着新的数据点的加入而动态的建立起来，其插入过程包含以下几步：
（1）从根节点开始，递归向下选择最近的孩子节点，这里最近的度量是根据前面提到的中任意一个确定；
（2）如果在（1）中找到了最近的叶子节点中的一个，检查其中最近的CF元组能否不超过阈值T吸收此数据点，若能，更新CF值；若不能，是否有空间（这里每个节点能分配的空间有限，可参见下面的参数表）添加新的元组，若能则添加新的元组，若不能，分裂距离最远的一对元组到两个叶子节点，作为初始的种子，将其他元组按距离最近原则重新分配到两个新的叶子节点上。
（3）从叶子节点向上回溯修改每个非叶子节点的CF值，若叶子节点发生分裂，则在父节点中增加相应的CF元组，同样，父节点也可能需要分裂，则持续分裂直至根节点，最终如果根节点发生分类，则树的高度需要加1。

算法的流程:

5.3.3算法评价

优点:

1.节省内存 2.速度快 4可以识别噪音点

缺点:

1.结果依赖于数据点的插入顺序

2.对于非球状的簇聚类效果非常不好

3.对于高维数据簇类效果不好

4.局部性可能会导致聚类效果不佳

5.4 ROCK

相似度的计算:jaccard系数,余弦相似度

Jaccard 系数 定义为A与B交集的大小与A与B并集的大小的比值，值越大，相似度越高。

余弦相似度，是通过计算两个向量的夹角余弦值来评估他们的相似度。
值越接近1，就说明夹角角度越接近0°，也就是两个向量越相似，就叫做余弦相似

适用于类别型数据,核心思想是利用链接作为相似性的度量,而不仅仅是依赖于距离

clustering categorical data by neighbor and link analysis

5.5 CHAMELEON

https://zhuanlan.zhihu.com/p/55896918

6. 基于密度的聚类算法

“密度聚类” 基于密度的聚类(density-based clustering),此类算法假设聚类结构能通过样本分布的紧密程度确定.通常情况下,从样本密度的角度来考察样本之间的可连接性,并基于可连接样本不断扩展聚类簇以获得最后的聚类结果

主要特点: 1. 可以处理任何形状的cluster

​ 2.可以处理噪音

​ 3.一次扫描

​ 4.需要设置密度参数,作为终止条件

6.1 DBSCAN

参考链接:https://www.cnblogs.com/pinard/p/6208966.html

​ 机器学习–周志华

==一般建议:当数据比较稠密时,而且数据集不是凸的,那么用DBSCAN 会比 K-means聚类效果很好,如果聚类效果不是很好时,不建议用DBSCAN==

6.1.1算法介绍

是基于一组”邻域”(neighborhood) 参数($\epsilon $ ,$MinPts$)来刻画样本分类的紧密程度,

$\epsilon$ 表示了 域的半径长度

$MinPts$ :成为核心点的最低密度标准

定义: 给定的数据集$D = { x_1,x_2…x_m }$

所以想要找到满足连接性和最大性的簇的方法就是:如果 $x$ 为核心对象,由 $x$密度可达的所有样本组成的集合$X = { x^{‘} \in D | x_{‘}由x密度可达 }$ 即为满足要求的簇

6.1.2算法的主要流程

I:寻找样本集中所有的核心对象

II:形成 满足连接性和最大性的所有核心对象

6.1.3算法小结

　DBSCAN的主要优点有：

　　　1） 可以对任意形状的稠密数据集进行聚类，相对的，K-Means之类的聚类算法一般只适用于凸数据集。

　　　2） 可以在聚类的同时发现异常点，对数据集中的异常点不敏感。

　　　3） 聚类结果没有偏倚，相对的，K-Means之类的聚类算法初始值对聚类结果有很大影响。

DBSCAN的主要缺点有：

　　　　1）如果样本集的密度不均匀、聚类间距差相差很大时，聚类质量较差，这时用DBSCAN聚类一般不适合。

　　　2） 如果样本集较大时，聚类收敛时间较长，此时可以对搜索最近邻时建立的$KD$树或者球树进行规模限制来改进。

　　　3） 调参相对于传统的K-Means之类的聚类算法稍复杂，主要需要对距离阈值ϵϵ，邻域样本数阈值$MinPts$联合调参，不同的参数组合对最后的聚类效果有较大影响。

6.2 OPTICS

该算法是DBSCAN算法的改进(相关概念延续上面)

6.2.1 定义

说明:如果当x为核心点时,

$$rd(y,x) =\begin{cases} d(x,y) \qquad 当y不是x邻域中的点\ cd(x) \qquad 当y是邻域中的点时,为x的核心距离 \end{cases}$$

https://blog.csdn.net/LoveCarpenter/article/details/85049135

https://bacterous.github.io/2018/01/06/OPTICS%E7%AE%97%E6%B3%95%E5%9F%BA%E7%A1%80/#%E5%AE%9A%E4%B9%89

6.3 DENCLUE

6.4 CLIQUE

7.网格聚类法

1. STING (a STatistical INformation Grid approach) by Wang, Yang
   and Muntz (1997)

2. WaveCluster by Sheikholeslami, Chatterjee, and Zhang (VLDB’98)

   ​ A multi-resolution clustering approach using wavelet method

3. CLIQUE: Agrawal, et al. (SIGMOD’98)On high-dimensional data (thus put in the section of clustering high-dimensional data

参考链接🔗

https://zhuanlan.zhihu.com/p/104355127

机器学习 —1 分类篇

决策树学习小结

1. summary

• 优点:

       1. 计算复杂度不高
          2. 输出结果易于结束,
          3. 对中间值不敏感,可以处理不相关特征数据
  

• 缺点:易产生过拟合现象
• 适用数据类型:数值型和标称型

2. 主要流程

1: 收集数据
2: 准备数据: 树的构造算法只适用于标称型数据, 因此数值型数据必须离散化
而且不能处理缺失值, 在执行算法之前必须处理缺失值
3: 分析数据: 可以适用任何方法, 构造树完成之后, 我们应该检查图形是否符合预期
4: 训练算法: 构造树的数据结构
5: 测试算法: 适用经验树计算错误率
6: 适用算法: 此步骤可以适用于任何监督学习算法, 而使用决策树可以更好的理解数据的内在含义

3. 核心问题

• 如何划分?
  1. 如何决定测试条件的分配 (划分节点时, 使用什么特征?)
  2. 如何决定最好的划分?—————- 贪心策略
• 何时停止划分

3.1 如何决定测试条件的分配

1

由特征的类型以及分类的种类(形成2叉树,还是多叉树)有关系

3.2 贪心的策略:

1

在不同的划分策略中,选择划分结果中,**子节点不纯度最高**(less impurity&&homogeneous class)对应的划分结果

如何评价 impurity?

总结

3.2.1 GINI

k单个结点的不纯度计算
$GINI(t) = 1 -\sum_[p(j|t)]^2$

其中 t:表示结点t,GINI(t) 表示该结点t的不纯度的$p(j|t)$表示类别 j 在结点 t 中所占的比例

计算这整个划分方法:
连续型数值类型

3.2.2Entropy

3.2.3Misclassification error

计算公式:

​ $Error(t) = 1 -max_iP(i|t)$

何时停止划分结点?

1. 当结点中所有的样本都属于同一个类别时
2. 当结点中所有样本的特征值比较类似时, 虽然不属于同一类, 但是某些指标还是比较好的
3. 剪枝策略

其他关于本话题的链接:

C4.5 : https://wizardforcel.gitbooks.io/dm-algo-top10/content/c4.5.html