日常实用Linux/macOS小技巧(1)
0.前言介绍日常使用技巧整理，主要针对于macOS High Sierra以及Linux的Ubuntu和红帽发行版本！
1.wget反爬虫机器人设置
可以使用wget对整站进行递归下载，但是有时候一些站点会通过配置robots.txt对访问进行限制，使用如下命令即可：
1 wget -r -p -np -k -e robots=off<a href="http://mirrors.163.com/debian/dists/jessie/main/installer-amd64/" target="_blank">http://mirrors.163.com/debian/dists/jessie/main/installer-amd64/</a>另外给出wget常用命令使用方法：
1# wget -h
2GNU Wget 1.12，非交互式的网络文件下载工具。
3用法：wget [选项]... ...
4
5长选项所必须的参数在使用短选项时也是必须的。
6
7开始:
8-V,--version 显示 Wget 的版本信息并退出。
9-h,--help 打印此帮助。
10-b,--background 启动后转入后台。
11-e,--execute=COMMAND 运行一个‘.wgetrc’风格的命令。
12
13登入并输入文件:
14-o,--output-file=FILE 将信息写入 FILE。
15-a,--append-output=FILE将信息添加至 FILE。
16-d,--debug 打印大量调试信息。
17-q,--quiet 安静模式(无信息输出)。
18-v,--verbose 详尽的输出(此为默认值)。
19-nv, --no-verbose 关闭详尽输出，但不进入安静模式。
20-i,--input-file=FILE 下载本地或外部 FILE 中的 URLs。
21-F,--force-html 把输入文件当成 HTML 文件。
22-B,--base=URL 解析与 URL 相关的
23 HTML 输入文件（由 -i -F 选项指定）。
24
25下载:
26-t,--tries=NUMBER 设置重试次数为 NUMBER (0 代表无限制)。
27 --retry-connrefused 即使拒绝连接也是重试。
28-O,--output-document=FILE 将文档写入 FILE。
29-nc, --no-clobber 不要重复下载已存在的文件。
30
31-c,--continue 继续下载部分下载的文件。
32 --progress=TYPE 选择进度条类型。
33-N,--timestamping 只获取比本地文件新的文件。
34
35-S,--server-response 打印服务器响应。
36 --spider 不下载任何文件。
37-T,--timeout=SECONDS 将所有超时设为 SECONDS 秒。
38 --dns-timeout=SECS 设置 DNS 查寻超时为 SECS 秒。
39 --connect-timeout=SECS 设置连接超时为 SECS 秒。
40 --read-timeout=SECS 设置读取超时为 SECS 秒。
41-w,--wait=SECONDS 等待间隔为 SECONDS 秒。
42 --waitretry=SECONDS 在取回文件的重试期间等待 1..SECONDS 秒。
43 --random-wait 取回时等待 0...2*WAIT 秒。
44 --no-proxy 关闭代理。
45-Q,--quota=NUMBER 设置取回配额为 NUMBER 字节。
46 --bind-address=ADDRESS 绑定至本地主机上的 ADDRESS (主机名或是 IP)。
47 --limit-rate=RATE 限制下载速率为 RATE。
48 --no-dns-cache 关闭 DNS 查寻缓存。
49 --restrict-file-names=OS限定文件名中的字符为 OS 允许的字符。
50 --ignore-case 匹配文件/目录时忽略大小写。
51-4,--inet4-only 仅连接至 IPv4 地址。
52-6,--inet6-only 仅连接至 IPv6 地址。
53 --prefer-family=FAMILY 首先连接至指定协议的地址
54 FAMILY 为 IPv6，IPv4 或是 none。
55 --user=USER 将 ftp 和 http 的用户名均设置为 USER。
56 --password=PASS 将 ftp 和 http 的密码均设置为 PASS。
57 --ask-password 提示输入密码。
58 --no-iri 关闭 IRI 支持。
59 --local-encoding=ENC IRI 使用 ENC 作为本地编码。
60 --remote-encoding=ENC 使用 ENC 作为默认远程编码。
61
62目录:
63-nd, --no-directories 不创建目录。
64-x,--force-directories 强制创建目录。
65-nH, --no-host-directories 不要创建主目录。
66 --protocol-directories 在目录中使用协议名称。
67-P,--directory-prefix=PREFIX以 PREFIX/... 保存文件
68 --cut-dirs=NUMBER 忽略 NUMBER 个远程目录路径。
69
70HTTP 选项:
71 --http-user=USER 设置 http 用户名为 USER。
72 --http-password=PASS 设置 http 密码为 PASS。
73 --no-cache 不在服务器上缓存数据。
74 --default-page=NAME 改变默认页
75 （默认页通常是“index.html”）。
76-E,--adjust-extension 以合适的扩展名保存 HTML/CSS 文档。
77 --ignore-length 忽略头部的‘Content-Length’区域。
78 --header=STRING 在头部插入 STRING。
79 --max-redirect 每页所允许的最大重定向。
80 --proxy-user=USER 使用 USER 作为代理用户名。
81 --proxy-password=PASS 使用 PASS 作为代理密码。
82 --referer=URL 在 HTTP 请求头包含‘Referer: URL’。
83 --save-headers 将 HTTP 头保存至文件。
84-U,--user-agent=AGENT 标识为 AGENT 而不是 Wget/VERSION。
85 --no-http-keep-alive 禁用 HTTP keep-alive(永久连接)。
86 --no-cookies 不使用 cookies。
87 --load-cookies=FILE 会话开始前从 FILE 中载入 cookies。
88 --save-cookies=FILE 会话结束后保存 cookies 至 FILE。
89 --keep-session-cookies载入并保存会话(非永久) cookies。
90 --post-data=STRING 使用 POST 方式；把 STRING 作为数据发送。
91 --post-file=FILE 使用 POST 方式；发送 FILE 内容。
92 --content-disposition 当选中本地文件名时
93 允许 Content-Disposition 头部(尚在实验)。
94 --auth-no-challenge send Basic HTTP authentication information
95 without first waiting for the server's
96 challenge.
97
98HTTPS (SSL/TLS) 选项:
99 --secure-protocol=PR 选择安全协议，可以是 auto、SSLv2、
100 SSLv3 或是 TLSv1 中的一个。
101 --no-check-certificate 不要验证服务器的证书。
102 --certificate=FILE 客户端证书文件。
103 --certificate-type=TYPE客户端证书类型， PEM 或 DER。
104 --private-key=FILE 私钥文件。
105 --private-key-type=TYPE私钥文件类型， PEM 或 DER。
106 --ca-certificate=FILE 带有一组 CA 认证的文件。
107 --ca-directory=DIR 保存 CA 认证的哈希列表的目录。
108 --random-file=FILE 带有生成 SSL PRNG 的随机数据的文件。
109 --egd-file=FILE 用于命名带有随机数据的 EGD 套接字的文件。
110
111FTP 选项:
112 --ftp-user=USER 设置 ftp 用户名为 USER。
113 --ftp-password=PASS 设置 ftp 密码为 PASS。
114 --no-remove-listing 不要删除‘.listing’文件。
115 --no-glob 不在 FTP 文件名中使用通配符展开。
116 --no-passive-ftp 禁用“passive”传输模式。
117 --retr-symlinks 递归目录时，获取链接的文件(而非目录)。
118
119递归下载:
120-r,--recursive 指定递归下载。
121-l,--level=NUMBER 最大递归深度( inf 或 0 代表无限制，即全部下载)。
122 --delete-after 下载完成后删除本地文件。
123-k,--convert-links 让下载得到的 HTML 或 CSS 中的链接指向本地文件。
124-K,--backup-converted 在转换文件 X 前先将它备份为 X.orig。
125-m,--mirror -N -r -l inf --no-remove-listing 的缩写形式。
126-p,--page-requisites 下载所有用于显示 HTML 页面的图片之类的元素。
127 --strict-comments 开启 HTML 注释的精确处理(SGML)。
128
129递归接受/拒绝:
130-A,--accept=LIST 逗号分隔的可接受的扩展名列表。
131-R,--reject=LIST 逗号分隔的要拒绝的扩展名列表。
132-D,--domains=LIST 逗号分隔的可接受的域列表。
133 --exclude-domains=LIST 逗号分隔的要拒绝的域列表。
134 --follow-ftp 跟踪 HTML 文档中的 FTP 链接。
135 --follow-tags=LIST 逗号分隔的跟踪的 HTML 标识列表。
136 --ignore-tags=LIST 逗号分隔的忽略的 HTML 标识列表。
137-H,--span-hosts 递归时转向外部主机。
138-L,--relative 只跟踪有关系的链接。
139-I,--include-directories=LIST允许目录的列表。
140--trust-server-namesuse the name specified by the redirection url last component.
141-X,--exclude-directories=LIST排除目录的列表。
142-np, --no-parent 不追溯至父目录。
143
144请将错误报告或建议寄给 <<a href="mailto:bug-wget@gnu.org">bug-wget@gnu.org</a>>。
2.安装和使用screen(普通用户)
安装
1.下载地址：http://ftp.gnu.org/gnu/screen/
2.运行源码目录下的:./configure，运行配置文件；
3.编译源码: make
4.配置环境变量: vi ~/.bashrc
可以将第三步生成的screen可执行文件加进来, alias=“/your_path/screen”
退出后，source ~/.bashrc,即可生效！
screen使用
1.创建screen会话：screen -S xxxx
2.暂时离开，保留screen会话中的任务或程序:当需要临时离开时（会话中的程序不会关闭，仍在运行）可以用快捷键Ctrl+a d(即按住Ctrl，依次再按a,d)
3.恢复screen会话: screen -r xxxx或者,忘记了可以先列出会话名称 screen -ls screen,也可以将会话名称换为进程ID号，譬如，screen -r 11791
11791.xxxx 关闭screen的会话：exit
常用快捷键
Ctrl+a c ：在当前screen会话中创建窗口
Ctrl+a w ：窗口列表
Ctrl+a n ：下一个窗口
Ctrl+a p ：上一个窗口
Ctrl+a 0-9 ：在第0个窗口和第9个窗口之间切换
3.ssh远程登录如何避免频繁断开
错误如下
1 zhpfu ~/disk2/WRF4.0/WRF/run $
2 packet_write_wait: Connection to 114.212.xxx.xxx port 22: Broken pipe
解决办法
编辑本地的 ssh 配置： sudo vim /etc/ssh/ssh_config
添加两行配置：即每隔10秒，向服务器发出一次心跳。若超过10次请求，都没有发送成功，则会主动断开与服务器端的连接：
1ServerAliveInterval 10
2ServerAliveCountMax 10ssh登录时终端添加（一）
1 ssh -o ServerAliveInterval=60 uersname@ipssh登录时终端添加（二）
1 ssh -o TCPKeepAlive=yes -o ServerAliveInterval=300 <a href="mailto:pswzyu@nuihq.com">pswzyu@nuihq.com</a> -p 12345678
文章来源于微信公众号：气象学家
页:
[1]