Shell 编程在我们的日常开发工作中非常实用,目前 Linux 系统下最流行的运维自动化语言就是 Shell 和 Python 了。

这篇文章我会简单总结一下 Shell 编程基础知识,带你入门 Shell 编程!

版本说明

版本说明

本文示例适用于 bash 4.0+ 版本。不同版本的 bash 在某些特性上可能有差异,特别是:

数组:bash 2.0+ 支持,纯 POSIX sh(如 dash)不支持。

某些字符串操作:如 ${var:offset:length} 在较旧版本可能不支持。

${var:offset:length}

算术扩展 $((...)):bash 2.0+ 支持。

$((...))

检查你的 bash 版本:

bash --version
# 或
echo $BASH_VERSION
bash --version
# 或
echo $BASH_VERSION

走进 Shell 编程的大门

走进 Shell 编程的大门

为什么要学 Shell?

为什么要学 Shell?

学一个东西,我们大部分情况都是往实用性方向着想。从工作角度来讲,学习 Shell 是为了提高我们自己工作效率,提高产出,让我们在更少的时间完成更多的事情。

很多人会说 Shell 编程属于运维方面的知识了,应该是运维人员来做,我们做后端开发的没必要学。我觉得这种说法大错特错,相比于专门做 Linux 运维的人员来说,我们对 Shell 编程掌握程度的要求要比他们低,但是 Shell 编程也是我们必须要掌握的!

目前 Linux 系统下最流行的运维自动化语言就是 Shell 和 Python 了。

两者之间,Shell 几乎是 IT 企业必须使用的运维自动化编程语言,特别是在运维工作中的服务监控、业务快速部署、服务启动停止、数据备份及处理、日志分析等环节里,Shell 是不可缺的。Python 更适合处理复杂的业务逻辑,以及开发复杂的运维软件工具,实现通过 web 访问等。Shell 是一个命令解释器,解释执行用户所输入的命令和程序。一输入命令,就立即回应的交互的对话方式。

另外,了解 Shell 编程也是大部分互联网公司招聘后端开发人员的要求。下图是我截取的一些知名互联网公司对于 Shell 编程的要求。

大型互联网公司对于shell编程技能的要求

什么是 Shell?

什么是 Shell?

Shell 是 Linux/Unix 系统的命令解释器,它充当用户和操作系统内核之间的桥梁,负责接收用户输入的命令并调用相应的程序。

Shell 编程是通过 Shell 解释器(如 bash)将命令、控制结构(if/for/while)、变量和函数组合成自动化脚本的过程。Shell 既是命令解释器,也是一门完整的编程语言(支持变量、数组、函数、流程控制、管道、重定向等)。

常见的 Shell 类型:

bash(Bourne Again Shell):Linux 系统默认 Shell,最常用。

sh(Bourne Shell):Unix 传统 Shell,POSIX 标准。

zsh:功能强大的交互式 Shell。

dash:轻量级 Shell,Ubuntu 的 /bin/sh 默认指向它。

csh/tcsh:C 风格的 Shell。

Shell 编程的 Hello World

Shell 编程的 Hello World

学习任何一门编程语言第一件事就是输出 HelloWorld 了!下面我会从新建文件到 Shell 代码编写来说下 Shell 编程如何输出 Hello World。

(1)新建一个文件 helloworld.sh:touch helloworld.sh,扩展名为 sh(sh 代表 Shell)(扩展名并不影响脚本执行,见名知意就好,如果你用 php 写 Shell 脚本,扩展名就用 php 好了)。

helloworld.sh

touch helloworld.sh

(2)使脚本具有执行权限:chmod +x helloworld.sh

chmod +x helloworld.sh

(3)使用 vim 命令修改 helloworld.sh 文件:vim helloworld.sh(vim 文件------>进入文件----->命令模式------>按 i 进入编辑模式----->编辑文件------->按 Esc 进入底行模式----->输入:wq/q!(输入 wq 代表写入内容并退出,即保存;输入 q! 代表强制退出不保存。))

helloworld.sh

vim helloworld.sh

helloworld.sh 内容如下:

helloworld.sh

#!/bin/bash
set -euo pipefail  # 严格模式:遇错退出、未定义变量报错、管道失败报错
# 第一个 shell 小程序,echo 是 Linux 中的输出命令
echo "helloworld!"
#!/bin/bash
set -euo pipefail  # 严格模式:遇错退出、未定义变量报错、管道失败报错
# 第一个 shell 小程序,echo 是 Linux 中的输出命令
echo "helloworld!"

Shell 中 # 符号表示注释。Shell 的第一行比较特殊,一般都会以 #! 开始来指定使用的 Shell 类型。在 Linux 中,除了 bash Shell 以外,还有很多版本的 Shell,例如 zsh、dash 等等...不过 bash Shell 还是我们使用最多的。

#
#!

(4)运行脚本:./helloworld.sh。(注意,一定要写成 ./helloworld.sh,而不是 helloworld.sh,运行其它二进制的程序也一样,直接写 helloworld.sh,Linux 系统会去 PATH 里寻找有没有叫 helloworld.sh 的,而只有 /bin、/sbin、/usr/bin、/usr/sbin 等在 PATH 里,你的当前目录通常不在 PATH 里,所以写成 helloworld.sh 是会找不到命令的,要用 ./helloworld.sh 告诉系统说,就在当前目录找。)

./helloworld.sh
./helloworld.sh
helloworld.sh
helloworld.sh

helloworld.sh

helloworld.sh
./helloworld.sh

shell 编程Hello World

Shell 变量

Shell 变量

Shell 编程中的变量介绍

Shell 编程中的变量介绍

Shell 编程中一般分为三种变量:

自定义变量(局部变量):默认仅在当前 Shell 进程内有效,子进程无法访问。若需传递给子进程,需使用 export 声明为环境变量。

export

环境变量:例如 PATH、HOME 等,可被子进程继承。使用 env 命令可以查看所有环境变量,set 命令可以查看所有变量(包括环境变量和局部变量)。

PATH
HOME
env
set

Shell 特殊变量:由 Shell 设置的特殊变量(如 $?、$$、$! 等),用于保存进程状态、参数等信息。

$?
$$
$!

常用的环境变量:

PATH 决定了 Shell 将到哪些目录中寻找命令或程序。 HOME 当前用户主目录。 HISTSIZE 历史记录数。 LOGNAME 当前用户的登录名。 HOSTNAME 指主机的名称。 SHELL 当前用户 Shell 类型。 LANGUAGE 语言相关的环境变量,多语言可以修改此环境变量。 MAIL 当前用户的邮件存放目录。 PS1 基本提示符,对于 root 用户是 #,对于普通用户是 $。

PATH 决定了 Shell 将到哪些目录中寻找命令或程序。 HOME 当前用户主目录。 HISTSIZE 历史记录数。 LOGNAME 当前用户的登录名。 HOSTNAME 指主机的名称。 SHELL 当前用户 Shell 类型。 LANGUAGE 语言相关的环境变量,多语言可以修改此环境变量。 MAIL 当前用户的邮件存放目录。 PS1 基本提示符,对于 root 用户是 #,对于普通用户是 $。

使用 Linux 已定义的环境变量:

比如我们要看当前用户目录可以使用:echo $HOME 命令;如果我们要看当前用户 Shell 类型可以使用 echo $SHELL 命令。可以看出,使用方法非常简单。

echo $HOME
echo $SHELL

使用自己定义的变量:

#!/bin/bash
#自定义变量hello
hello="hello world"
echo $hello
echo  "helloworld!"
#!/bin/bash
#自定义变量hello
hello="hello world"
echo $hello
echo  "helloworld!"

使用自己定义的变量

Shell 编程中的变量名的命名的注意事项:

命名只能使用英文字母、数字和下划线,首个字符不能以数字开头,但是可以使用下划线(_)开头。

中间不能有空格,可以使用下划线(_)。

不能使用标点符号。

不能使用 bash 里的关键字(可用 help 命令查看保留关键字)。

Shell 字符串入门

Shell 字符串入门

字符串是 Shell 编程中最常用最有用的数据类型(除了数字和字符串,也没啥其它类型好用了),字符串可以用单引号,也可以用双引号。这点和 Java 中有所不同。

在单引号中,所有特殊字符(如 $、反引号、\ 等)都失去特殊含义,被视为字面量。

$
\

在双引号中,以下字符保留特殊含义:

$:变量扩展(如 $var)和命令替换(如 $(cmd) 或 cmd

$
$var
$(cmd)
`cmd`

\:转义字符

\

` 或 $():命令替换(推荐使用$() 语法)

`
$()
$()

!:历史扩展(仅在交互式 Shell 中默认开启)

!

${}:参数扩展

${}

注意:单引号中的字符串是完全字面量,双引号中的字符串会进行变量和命令替换。

单引号字符串:

#!/bin/bash
name='SnailClimb'
hello='Hello, I am $name!'
echo $hello
#!/bin/bash
name='SnailClimb'
hello='Hello, I am $name!'
echo $hello

输出内容:

Hello, I am $name!
Hello, I am $name!

双引号字符串:

#!/bin/bash
name='SnailClimb'
hello="Hello, I am $name!"
echo $hello
#!/bin/bash
name='SnailClimb'
hello="Hello, I am $name!"
echo $hello

输出内容:

Hello, I am SnailClimb!
Hello, I am SnailClimb!

Shell 字符串常见操作

Shell 字符串常见操作

拼接字符串:

#!/bin/bash
name="SnailClimb"
# 使用双引号拼接
greeting="hello, "$name" !"
greeting_1="hello, ${name} !"
echo $greeting  $greeting_1
# 使用单引号拼接
greeting_2='hello, '$name' !'
greeting_3='hello, ${name} !'
echo $greeting_2  $greeting_3
#!/bin/bash
name="SnailClimb"
# 使用双引号拼接
greeting="hello, "$name" !"
greeting_1="hello, ${name} !"
echo $greeting  $greeting_1
# 使用单引号拼接
greeting_2='hello, '$name' !'
greeting_3='hello, ${name} !'
echo $greeting_2  $greeting_3

输出结果:

Shell 字符串拼接命令输出结果

获取字符串长度:

#!/bin/bash
# 获取字符串长度
name="SnailClimb"
# 第一种方式(推荐):bash 内置
echo ${#name}  # 输出 10
# 第二种方式:外部命令(性能较差)
expr length "$name"
#!/bin/bash
# 获取字符串长度
name="SnailClimb"
# 第一种方式(推荐):bash 内置
echo ${#name}  # 输出 10
# 第二种方式:外部命令(性能较差)
expr length "$name"

输出结果:

10
10
10
10

说明:

推荐使用 ${#var} 语法,这是 bash 内置功能,性能更好。

${#var}

expr 是外部命令,需要 fork 进程,性能较差。

expr

expr length 是 GNU 扩展,非 POSIX 标准。在 macOS 的 BSD expr 或其他系统上可能不支持。

expr length

如需可移植性,推荐使用 ${#var} 或 expr "$var" : '.*'(POSIX 兼容)。

${#var}
expr "$var" : '.*'

使用 expr 命令时,表达式中的运算符左右必须包含空格:

expr 5+6       # 直接输出 5+6(无空格)
expr 5 + 6     # 输出 11(有空格)
# 更推荐使用 bash 算术扩展:
echo $((5 + 6))  # 输出 11
expr 5+6       # 直接输出 5+6(无空格)
expr 5 + 6     # 输出 11(有空格)
# 更推荐使用 bash 算术扩展:
echo $((5 + 6))  # 输出 11

对于某些运算符,还需要我们使用符号 \ 进行转义:

\
expr 5 * 6       # 输出错误(未转义)
expr 5 \* 6      # 输出 30(正确转义)
expr 5 * 6       # 输出错误(未转义)
expr 5 \* 6      # 输出 30(正确转义)

截取子字符串:

简单的字符串截取:

#从字符串第 0 个字符开始往后截取 10 个字符(索引从 0 开始)
str="SnailClimb is a great man"
echo ${str:0:10} #输出:SnailClimb
#从字符串第 0 个字符开始往后截取 10 个字符(索引从 0 开始)
str="SnailClimb is a great man"
echo ${str:0:10} #输出:SnailClimb

根据表达式截取:

#!/bin/bash
# author: amau

var="https://www.runoob.com/linux/linux-shell-variable.html"
# %表示删除从后匹配, 最短结果
# %%表示删除从后匹配, 最长匹配结果
# #表示删除从头匹配, 最短结果
# ##表示删除从头匹配, 最长匹配结果
# 注: *为通配符, 意为匹配任意数量的任意字符
s1=${var%%t*} #h
s2=${var%t*}  #https://www.runoob.com/linux/linux-shell-variable.h
s3=${var%%.*} #https://www
s4=${var#*/}  #/www.runoob.com/linux/linux-shell-variable.html
s5=${var##*/} #linux-shell-variable.html
#!/bin/bash
# author: amau

var="https://www.runoob.com/linux/linux-shell-variable.html"
# %表示删除从后匹配, 最短结果
# %%表示删除从后匹配, 最长匹配结果
# #表示删除从头匹配, 最短结果
# ##表示删除从头匹配, 最长匹配结果
# 注: *为通配符, 意为匹配任意数量的任意字符
s1=${var%%t*} #h
s2=${var%t*}  #https://www.runoob.com/linux/linux-shell-variable.h
s3=${var%%.*} #https://www
s4=${var#*/}  #/www.runoob.com/linux/linux-shell-variable.html
s5=${var##*/} #linux-shell-variable.html

Shell 数组

Shell 数组

bash 2.0+ 支持一维数组(不支持多维数组),并且没有限定数组的大小。

重要提示:数组是 bash 的非 POSIX 扩展特性,纯 POSIX sh(如 dash)不支持数组。若需编写可移植脚本,应避免使用数组。

下面是一个关于数组操作的 Shell 代码示例,通过该示例大家可以知道如何创建数组、获取数组长度、获取/删除特定位置的数组元素、删除整个数组以及遍历数组。

#!/bin/bash
array=(1 2 3 4 5);
# 获取数组长度
length=${#array[@]}
# 或者
length2=${#array[*]}
#输出数组长度
echo $length #输出:5
echo $length2 #输出:5
# 输出数组第三个元素
echo ${array[2]} #输出:3
unset array[1]# 删除下标为1的元素也就是删除第二个元素
for i in ${array[@]};do echo $i ;done # 遍历数组,输出:1 3 4 5
unset array; # 删除数组中的所有元素
for i in ${array[@]};do echo $i ;done # 遍历数组,数组元素为空,没有任何输出内容
#!/bin/bash
array=(1 2 3 4 5);
# 获取数组长度
length=${#array[@]}
# 或者
length2=${#array[*]}
#输出数组长度
echo $length #输出:5
echo $length2 #输出:5
# 输出数组第三个元素
echo ${array[2]} #输出:3
unset array[1]# 删除下标为1的元素也就是删除第二个元素
for i in ${array[@]};do echo $i ;done # 遍历数组,输出:1 3 4 5
unset array; # 删除数组中的所有元素
for i in ${array[@]};do echo $i ;done # 遍历数组,数组元素为空,没有任何输出内容

重要说明:数组索引空洞:

使用 unset array[1] 删除元素后,数组会产生索引空洞:

unset array[1]
#!/bin/bash
array=(1 2 3 4 5)
echo "删除前: ${array[@]}"  # 输出: 1 2 3 4 5
echo "索引1的值: ${array[1]}"  # 输出: 2

unset array[1]  # 删除索引1的元素
echo "删除后: ${array[@]}"  # 输出: 1 3 4 5
echo "索引1的值: ${array[1]}"  # 输出: (空值)
echo "索引2的值: ${array[2]}"  # 输出: 3 (索引2仍在)

# 遍历时索引不连续
for index in "${!array[@]}"; do
    echo "索引[$index] = ${array[$index]}"
done
# 输出:
# 索引[0] = 1
# 索引[2] = 3
# 索引[3] = 4
# 索引[4] = 5
#!/bin/bash
array=(1 2 3 4 5)
echo "删除前: ${array[@]}"  # 输出: 1 2 3 4 5
echo "索引1的值: ${array[1]}"  # 输出: 2

unset array[1]  # 删除索引1的元素
echo "删除后: ${array[@]}"  # 输出: 1 3 4 5
echo "索引1的值: ${array[1]}"  # 输出: (空值)
echo "索引2的值: ${array[2]}"  # 输出: 3 (索引2仍在)

# 遍历时索引不连续
for index in "${!array[@]}"; do
    echo "索引[$index] = ${array[$index]}"
done
# 输出:
# 索引[0] = 1
# 索引[2] = 3
# 索引[3] = 4
# 索引[4] = 5

注意:删除元素后,如果使用 ${array[1]} 访问会得到空值。遍历数组时建议使用 "${!array[@]}" 获取有效索引,或使用 "${array[@]}" 直接遍历值。

${array[1]}
"${!array[@]}"
"${array[@]}"

Shell 基本运算符

Shell 基本运算符

Shell 编程支持下面几种运算符:

算数运算符

关系运算符

布尔运算符

字符串运算符

文件测试运算符

算数运算符

算数运算符

运算符说明举例+加法expr $a + $b-减法expr $a - $b乘法expr $a \ $b(注意星号需要转义)/除法expr $b / $a%取余expr $b % $a=赋值a=$b 将变量 b 的值赋给 a==相等[ "$a" == "$b" ] 用于字符串比较,相同返回 true!=不相等[ "$a" != "$b" ] 用于字符串比较,不同返回 true

运算符说明举例

运算符

说明

举例

+加法expr $a + $b

+

加法

expr $a + $b

expr $a + $b

-减法expr $a - $b

-

减法

expr $a - $b

expr $a - $b

乘法expr $a \ $b(注意星号需要转义)

*

乘法

expr $a \* $b(注意星号需要转义)

expr $a \* $b

/除法expr $b / $a

/

除法

expr $b / $a

expr $b / $a

%取余expr $b % $a

%

取余

expr $b % $a

expr $b % $a

=赋值a=$b 将变量 b 的值赋给 a

=

赋值

a=$b 将变量 b 的值赋给 a

a=$b

==相等[ "$a" == "$b" ] 用于字符串比较,相同返回 true

==

相等

[ "$a" == "$b" ] 用于字符串比较,相同返回 true

[ "$a" == "$b" ]

!=不相等[ "$a" != "$b" ] 用于字符串比较,不同返回 true

!=

不相等

[ "$a" != "$b" ] 用于字符串比较,不同返回 true

[ "$a" != "$b" ]

推荐使用 bash 内置算术扩展:

#!/bin/bash
a=3; b=3
val=$((a + b))  # bash 算术扩展(推荐)
# 输出:Total value: 6
echo "Total value: $val"
#!/bin/bash
a=3; b=3
val=$((a + b))  # bash 算术扩展(推荐)
# 输出:Total value: 6
echo "Total value: $val"

说明:

$((...)) 是 bash 内置功能,无需 fork 外部进程,性能更好。

$((...))

不推荐使用 expr 命令(需 fork 进程,且运算符两边必须有空格)。

expr

不推荐使用反引号 ...(已过时),应使用 $(...) 语法。

`...`
$(...)

如果需要兼容 POSIX sh,可以使用:

val=$(expr "$a" + "$b")  # POSIX 兼容,但性能较差
val=$(expr "$a" + "$b")  # POSIX 兼容,但性能较差

关系运算符

关系运算符

关系运算符只支持数字,不支持字符串,除非字符串的值是数字。

运算符说明对应英文-eq检测两个数是否相等equal-ne检测两个数是否不相等not equal-gt检测左边的数是否大于右边的greater than-lt检测左边的数是否小于右边的less than-ge检测左边的数是否大于等于右边的greater equal-le检测左边的数是否小于等于右边的less equal

运算符说明对应英文

运算符

说明

对应英文

-eq检测两个数是否相等equal

-eq

检测两个数是否相等

equal

-ne检测两个数是否不相等not equal

-ne

检测两个数是否不相等

not equal

-gt检测左边的数是否大于右边的greater than

-gt

检测左边的数是否大于右边的

greater than

-lt检测左边的数是否小于右边的less than

-lt

检测左边的数是否小于右边的

less than

-ge检测左边的数是否大于等于右边的greater equal

-ge

检测左边的数是否大于等于右边的

greater equal

-le检测左边的数是否小于等于右边的less equal

-le

检测左边的数是否小于等于右边的

less equal

通过一个简单的示例演示关系运算符的使用,下面 Shell 程序的作用是当 score=100 的时候输出 A 否则输出 B。

#!/bin/bash
score=90;
maxscore=100;
if [[ $score -eq $maxscore ]]
then
   echo "A"
else
   echo "B"
fi
#!/bin/bash
score=90;
maxscore=100;
if [[ $score -eq $maxscore ]]
then
   echo "A"
else
   echo "B"
fi

输出结果:

B
B

逻辑运算符

逻辑运算符

运算符说明举例&&逻辑的 AND[[ $a -lt 100 && $b -gt 100 ]](全真才为真)||逻辑的 OR[[ $a -lt 100 || $b -gt 100 ]](一真即为真)

运算符说明举例

运算符

说明

举例

&&逻辑的 AND[[ $a -lt 100 && $b -gt 100 ]](全真才为真)

&&

逻辑的 AND

[[ $a -lt 100 && $b -gt 100 ]](全真才为真)

[[ $a -lt 100 && $b -gt 100 ]]

||逻辑的 OR[[ $a -lt 100 || $b -gt 100 ]](一真即为真)

||

逻辑的 OR

[[ $a -lt 100 || $b -gt 100 ]](一真即为真)

[[ $a -lt 100 || $b -gt 100 ]]

算术扩展中的逻辑运算:

#!/bin/bash
a=$(( 1 && 0))
# 输出:0;逻辑与运算只有相与的两边都是1,与的结果才是1;否则与的结果是0
echo $a;
#!/bin/bash
a=$(( 1 && 0))
# 输出:0;逻辑与运算只有相与的两边都是1,与的结果才是1;否则与的结果是0
echo $a;

命令短路执行(生产环境常用):

在运维自动化和 CI/CD 管道中,经常使用 && 和 || 来控制命令链路的执行流程,这称为短路执行:

&&
||
#!/bin/bash
set -euo pipefail

# &&:前一个命令成功(返回 0)时才执行后一个命令
mkdir -p "/tmp/app_data" && echo "目录就绪"

# ||:前一个命令失败(返回非 0)时才执行后一个命令
mkdir -p "/tmp/app_data" || echo "目录创建失败"

# 组合使用:生产环境典型的防御姿势
mkdir -p "/tmp/app_data" && echo "目录就绪" || exit 1

# 实际场景示例
# 1. 检查文件存在后再删除
[ -f "/tmp/old_file.log" ] && rm "/tmp/old_file.log"

# 2. 命令失败时输出错误信息并退出
cd /app/config || { echo "无法进入配置目录"; exit 1; }

# 3. 条件执行命令
command1 && command2 || command3
# ⚠️ 注意:此写法有陷阱!
# - 当 command1 成功时,执行 command2
# - 当 command1 失败时,执行 command3
# - 但如果 command1 成功但 command2 失败,command3 仍会执行!
#
# ✅ 更安全的写法(推荐):
if command1; then
    command2
else
    command3
fi
#
# 或明确知道 command2 不会失败时才使用 && || 组合
#!/bin/bash
set -euo pipefail

# &&:前一个命令成功(返回 0)时才执行后一个命令
mkdir -p "/tmp/app_data" && echo "目录就绪"

# ||:前一个命令失败(返回非 0)时才执行后一个命令
mkdir -p "/tmp/app_data" || echo "目录创建失败"

# 组合使用:生产环境典型的防御姿势
mkdir -p "/tmp/app_data" && echo "目录就绪" || exit 1

# 实际场景示例
# 1. 检查文件存在后再删除
[ -f "/tmp/old_file.log" ] && rm "/tmp/old_file.log"

# 2. 命令失败时输出错误信息并退出
cd /app/config || { echo "无法进入配置目录"; exit 1; }

# 3. 条件执行命令
command1 && command2 || command3
# ⚠️ 注意:此写法有陷阱!
# - 当 command1 成功时,执行 command2
# - 当 command1 失败时,执行 command3
# - 但如果 command1 成功但 command2 失败,command3 仍会执行!
#
# ✅ 更安全的写法(推荐):
if command1; then
    command2
else
    command3
fi
#
# 或明确知道 command2 不会失败时才使用 && || 组合

重要提示:

短路执行依赖命令的退出码(Exit Code):成功返回 0,失败返回非 0。

这与 [[ ]] 内部的 && 和 || 不同,后者用于条件测试。

[[ ]]
&&
||

command1 && command2 || command3 存在陷阱:若 command1 成功但 command2 失败,command3 仍会执行。

command1 && command2 || command3

生产环境中强烈建议使用 if-then-else 结构,确保逻辑清晰。

布尔运算符

布尔运算符

运算符说明举例!将表达式的结果取反。如果表达式为 true,则返回 false;否则返回 true。[ ! false ] 返回 true。-o有一个表达式为 true,则返回 true。[ "$a" -lt 20 -o "$b" -gt 100 ] 返回 true。-a两个表达式都为 true 才会返回 true。[ "$a" -lt 20 -a "$b" -gt 100 ] 返回 false。

运算符说明举例

运算符

说明

举例

!将表达式的结果取反。如果表达式为 true,则返回 false;否则返回 true。[ ! false ] 返回 true。

!

将表达式的结果取反。如果表达式为 true,则返回 false;否则返回 true。

[ ! false ] 返回 true。

[ ! false ]

-o有一个表达式为 true,则返回 true。[ "$a" -lt 20 -o "$b" -gt 100 ] 返回 true。

-o

有一个表达式为 true,则返回 true。

[ "$a" -lt 20 -o "$b" -gt 100 ] 返回 true。

[ "$a" -lt 20 -o "$b" -gt 100 ]

-a两个表达式都为 true 才会返回 true。[ "$a" -lt 20 -a "$b" -gt 100 ] 返回 false。

-a

两个表达式都为 true 才会返回 true。

[ "$a" -lt 20 -a "$b" -gt 100 ] 返回 false。

[ "$a" -lt 20 -a "$b" -gt 100 ]

字符串运算符

字符串运算符

运算符说明举例=检测两个字符串是否相等[ "$a" = "$b" ]!=检测两个字符串是否不相等[ "$a" != "$b" ]-z检测字符串长度是否为 0 (zero)[ -z "$a" ] 为空返回 true-n检测字符串长度是否不为 0[ -n "$a" ] 不为空返回 truestr直接检测字符串是否为空[ "$a" ] 不为空返回 true

运算符说明举例

运算符

说明

举例

=检测两个字符串是否相等[ "$a" = "$b" ]

=

检测两个字符串是否相等

[ "$a" = "$b" ]

[ "$a" = "$b" ]

!=检测两个字符串是否不相等[ "$a" != "$b" ]

!=

检测两个字符串是否不相等

[ "$a" != "$b" ]

[ "$a" != "$b" ]

-z检测字符串长度是否为 0 (zero)[ -z "$a" ] 为空返回 true

-z

检测字符串长度是否为 0 (zero)

[ -z "$a" ] 为空返回 true

[ -z "$a" ]

-n检测字符串长度是否不为 0[ -n "$a" ] 不为空返回 true

-n

检测字符串长度是否不为 0

[ -n "$a" ] 不为空返回 true

[ -n "$a" ]

str直接检测字符串是否为空[ "$a" ] 不为空返回 true

str

直接检测字符串是否为空

[ "$a" ] 不为空返回 true

[ "$a" ]

简单示例:

#!/bin/bash
a="abc";
b="efg";
if [[ "$a" = "$b" ]]
then
   echo "a 等于 b"
else
   echo "a 不等于 b"
fi
#!/bin/bash
a="abc";
b="efg";
if [[ "$a" = "$b" ]]
then
   echo "a 等于 b"
else
   echo "a 不等于 b"
fi

输出:

a 不等于 b
a 不等于 b

文件相关运算符

文件相关运算符

用于检测 Unix/Linux 文件的各种属性(如权限、类型等)。

存在与类型检测:-e file:检测文件(包括目录)是否存在。-f file:检测是否为普通文件(既不是目录也不是设备文件)。-d file:检测是否为目录。-s file:检测文件是否为空(文件大小大于 0 返回 true)。-b/-c/-p:分别检测是否为块设备、字符设备、有名管道。

-e file:检测文件(包括目录)是否存在。

-f file:检测是否为普通文件(既不是目录也不是设备文件)。

-d file:检测是否为目录。

-s file:检测文件是否为空(文件大小大于 0 返回 true)。

-b/-c/-p:分别检测是否为块设备、字符设备、有名管道。

权限检测:-r file:检测文件是否可读。-w file:检测文件是否可写。-x file:检测文件是否可执行。

-r file:检测文件是否可读。

-w file:检测文件是否可写。

-x file:检测文件是否可执行。

特殊标识检测:-u / -g / -k:分别检测文件是否设置了 SUID、SGID 或粘着位(Sticky Bit)。

-u / -g / -k:分别检测文件是否设置了 SUID、SGID 或粘着位(Sticky Bit)。

使用方式很简单,比如我们定义好了一个文件路径 file="/usr/learnshell/test.sh",如果我们想判断这个文件是否可读,可以这样 if [ -r $file ];如果想判断这个文件是否可写,可以这样 -w $file,是不是很简单。

file="/usr/learnshell/test.sh"
if [ -r $file ]
-w $file

Shell 流程控制

Shell 流程控制

if 条件语句

if 条件语句

简单的 if else-if else 的条件语句示例:

#!/bin/bash
a=3;
b=9;
if [[ $a -eq $b ]]
then
   echo "a 等于 b"
elif [[ $a -gt $b ]]
then
   echo "a 大于 b"
else
   echo "a 小于 b"
fi
#!/bin/bash
a=3;
b=9;
if [[ $a -eq $b ]]
then
   echo "a 等于 b"
elif [[ $a -gt $b ]]
then
   echo "a 大于 b"
else
   echo "a 小于 b"
fi

输出结果:

a 小于 b
a 小于 b

相信大家通过上面的示例就已经掌握了 Shell 编程中的 if 条件语句。

空语句的处理:Shell 中空语句可以使用 :(冒号命令)或 true 命令实现:

:
true
if [[ condition ]]; then
    :  # 空语句(什么都不做)
fi

# 或
if [[ condition ]]; then
    true  # 空语句
fi
if [[ condition ]]; then
    :  # 空语句(什么都不做)
fi

# 或
if [[ condition ]]; then
    true  # 空语句
fi

这在某些场景下很有用,例如在 while 循环中作为占位符。

for 循环语句

for 循环语句

通过下面三个简单的示例认识 for 循环语句最基本的使用,实际上 for 循环语句的功能比下面你看到的示例展现的要大得多。

输出当前列表中的数据:

for loop in 1 2 3 4 5
do
    echo "The value is: $loop"
done
for loop in 1 2 3 4 5
do
    echo "The value is: $loop"
done

产生 10 个随机数:

#!/bin/bash
for i in {0..9};
do
   echo $RANDOM;
done
#!/bin/bash
for i in {0..9};
do
   echo $RANDOM;
done

输出 1 到 5:

通常情况下 Shell 变量调用需要加 $,但是 for 的 (()) 中不需要,下面来看一个例子:

#!/bin/bash
length=5
for((i=1;i<=length;i++));do
    echo $i;
done;
#!/bin/bash
length=5
for((i=1;i<=length;i++));do
    echo $i;
done;

while 语句

while 语句

基本的 while 循环语句:

#!/bin/bash
int=1
while (( int <= 5 ))  # 算术上下文内变量无需 $
do
    echo $int
    (( int++ ))  # 推荐使用 (( )) 替代 let
done
#!/bin/bash
int=1
while (( int <= 5 ))  # 算术上下文内变量无需 $
do
    echo $int
    (( int++ ))  # 推荐使用 (( )) 替代 let
done

while 循环可用于读取键盘信息:

echo '按下 <CTRL-D> 退出'
echo -n '输入你最喜欢的电影: '
while read -r FILM  # -r 选项禁止反斜杠转义,提高安全性
do
    echo "是的!$FILM 是一个好电影"
done
echo '按下 <CTRL-D> 退出'
echo -n '输入你最喜欢的电影: '
while read -r FILM  # -r 选项禁止反斜杠转义,提高安全性
do
    echo "是的!$FILM 是一个好电影"
done

输出内容:

按下 <CTRL-D> 退出
输入你最喜欢的电影: 变形金刚
是的!变形金刚 是一个好电影
按下 <CTRL-D> 退出
输入你最喜欢的电影: 变形金刚
是的!变形金刚 是一个好电影

无限循环:

while true
do
    command
done
while true
do
    command
done

Shell 函数

Shell 函数

不带参数没有返回值的函数

不带参数没有返回值的函数

#!/bin/bash
hello(){
    echo "这是我的第一个 shell 函数!"
}
echo "-----函数开始执行-----"
hello
echo "-----函数执行完毕-----"
#!/bin/bash
hello(){
    echo "这是我的第一个 shell 函数!"
}
echo "-----函数开始执行-----"
hello
echo "-----函数执行完毕-----"

输出结果:

-----函数开始执行-----
这是我的第一个 shell 函数!
-----函数执行完毕-----
-----函数开始执行-----
这是我的第一个 shell 函数!
-----函数执行完毕-----

有返回值的函数

有返回值的函数

输入两个数字之后相加并返回结果:

#!/bin/bash
set -euo pipefail

funWithReturn(){
    local aNum
    local anotherNum
    echo "输入第一个数字: "
    read -r aNum
    echo "输入第二个数字: "
    read -r anotherNum
    echo "两个数字分别为 $aNum 和 $anotherNum !"
    return $((aNum + anotherNum))
}
funWithReturn
echo "输入的两个数字之和为 $?"
#!/bin/bash
set -euo pipefail

funWithReturn(){
    local aNum
    local anotherNum
    echo "输入第一个数字: "
    read -r aNum
    echo "输入第二个数字: "
    read -r anotherNum
    echo "两个数字分别为 $aNum 和 $anotherNum !"
    return $((aNum + anotherNum))
}
funWithReturn
echo "输入的两个数字之和为 $?"

重要说明:

local 关键字:将变量限制在函数作用域内,避免污染全局命名空间。

local

read -r:-r 选项禁止反斜杠转义,提高安全性。

read -r
-r

函数返回值:Shell 函数只能返回 0-255 的退出码,如需返回复杂数据应使用 echo 或全局变量。

echo

为什么使用 local?

在复杂脚本或引入多个外部脚本时,非 local 变量可能被意外覆盖。

全局变量污染会导致难以排查的配置漂移或逻辑越权。

使用 local 是函数编程的最佳实践,类似于其他编程语言的局部变量概念。

local

输出结果:

输入第一个数字:
1
输入第二个数字:
2
两个数字分别为 1 和 2 !
输入的两个数字之和为 3
输入第一个数字:
1
输入第二个数字:
2
两个数字分别为 1 和 2 !
输入的两个数字之和为 3

带参数的函数

带参数的函数

#!/bin/bash
funWithParam(){
    echo "第一个参数为 $1"
    echo "第二个参数为 $2"
    echo "脚本名称为 $0"
    echo "第十个参数为 ${10}"   # 注意:参数 ≥ 10 时必须用 ${n}
    echo "第十一个参数为 ${11}"
    echo "参数总数有 $# 个"
    echo "所有参数为 $*"         # 作为单个字符串输出
    echo "所有参数为 $@"         # 作为独立的参数输出(推荐)
}
funWithParam 1 2 3 4 5 6 7 8 9 34 73
#!/bin/bash
funWithParam(){
    echo "第一个参数为 $1"
    echo "第二个参数为 $2"
    echo "脚本名称为 $0"
    echo "第十个参数为 ${10}"   # 注意:参数 ≥ 10 时必须用 ${n}
    echo "第十一个参数为 ${11}"
    echo "参数总数有 $# 个"
    echo "所有参数为 $*"         # 作为单个字符串输出
    echo "所有参数为 $@"         # 作为独立的参数输出(推荐)
}
funWithParam 1 2 3 4 5 6 7 8 9 34 73

输出结果:

第一个参数为 1
第二个参数为 2
脚本名称为 ./script.sh
第十个参数为 34
第十一个参数为 73
参数总数有 11 个
所有参数为 1 2 3 4 5 6 7 8 9 34 73
所有参数为 1 2 3 4 5 6 7 8 9 34 73
第一个参数为 1
第二个参数为 2
脚本名称为 ./script.sh
第十个参数为 34
第十一个参数为 73
参数总数有 11 个
所有参数为 1 2 3 4 5 6 7 8 9 34 73
所有参数为 1 2 3 4 5 6 7 8 9 34 73

重要提示:

位置参数 $n 当 n >= 10 时必须使用 ${n} 语法。

$n
n >= 10
${n}

例如:$10 会被解析为 $1 和字面量 0 的拼接,而非第十个参数。

$10
$1
0

$0 表示脚本本身的名称。

$0

$# 表示参数总数。

$#

$* 与 $@ 的核心区别:

$*
$@

表达式未引用双引号包裹$*展开为所有参数展开为单个字符串(所有参数合并)$@展开为所有参数展开为独立的参数(每个参数保持独立)

表达式未引用双引号包裹

表达式

未引用

双引号包裹

$*展开为所有参数展开为单个字符串(所有参数合并)

$*

$*

展开为所有参数

展开为单个字符串(所有参数合并)

$@展开为所有参数展开为独立的参数(每个参数保持独立)

$@

$@

展开为所有参数

展开为独立的参数(每个参数保持独立)

示例对比:

#!/bin/bash
test_args() {
    echo "--- 使用 \$* (无引号)---"
    for arg in $*; do
        echo "参数: [$arg]"
    done

    echo -e "\n--- 使用 \$@ (无引号)---"
    for arg in $@; do
        echo "参数: [$arg]"
    done

    echo -e "\n--- 使用 \"\$*\" (双引号)---"
    for arg in "$*"; do
        echo "参数: [$arg]"
    done

    echo -e "\n--- 使用 \"\$@\" (双引号,推荐)---"
    for arg in "$@"; do
        echo "参数: [$arg]"
    done
}

# 调用函数,传递包含空格的参数
test_args "hello world" "foo bar"
#!/bin/bash
test_args() {
    echo "--- 使用 \$* (无引号)---"
    for arg in $*; do
        echo "参数: [$arg]"
    done

    echo -e "\n--- 使用 \$@ (无引号)---"
    for arg in $@; do
        echo "参数: [$arg]"
    done

    echo -e "\n--- 使用 \"\$*\" (双引号)---"
    for arg in "$*"; do
        echo "参数: [$arg]"
    done

    echo -e "\n--- 使用 \"\$@\" (双引号,推荐)---"
    for arg in "$@"; do
        echo "参数: [$arg]"
    done
}

# 调用函数,传递包含空格的参数
test_args "hello world" "foo bar"

输出结果:

--- 使用 $* (无引号)---
参数: [hello]
参数: [world]
参数: [foo]
参数: [bar]

--- 使用 $@ (无引号)---
参数: [hello]
参数: [world]
参数: [foo]
参数: [bar]

--- 使用 "$*" (双引号)---
参数: [hello world foo bar]  # 所有参数合并为一个字符串

--- 使用 "$@" (双引号,推荐)---
参数: [hello world]  # 每个参数保持独立
参数: [foo bar]
--- 使用 $* (无引号)---
参数: [hello]
参数: [world]
参数: [foo]
参数: [bar]

--- 使用 $@ (无引号)---
参数: [hello]
参数: [world]
参数: [foo]
参数: [bar]

--- 使用 "$*" (双引号)---
参数: [hello world foo bar]  # 所有参数合并为一个字符串

--- 使用 "$@" (双引号,推荐)---
参数: [hello world]  # 每个参数保持独立
参数: [foo bar]

结论:在传递参数时,始终使用 "$@" 以确保每个参数的独立性(特别是当参数包含空格时)。

"$@"

Shell 编程最佳实践

Shell 编程最佳实践

在掌握了 Shell 编程的基础知识后,了解一些最佳实践能帮助你编写更安全、更高效的脚本。

脚本基础规范

脚本基础规范

  1. Shebang 规范:
#!/usr/bin/env bash  # 更可移植(自动查找 bash)
set -euo pipefail     # 严格模式:遇错退出、未定义变量报错、管道失败报错
#!/usr/bin/env bash  # 更可移植(自动查找 bash)
set -euo pipefail     # 严格模式:遇错退出、未定义变量报错、管道失败报错

Shebang 两种写法:

#!/bin/bash:直接指定 bash 路径,适用于你知道 bash 位置的固定环境。

#!/bin/bash

#!/usr/bin/env bash:通过 env 查找 bash,更可移植,适合不同系统(如 macOS / Linux)。

#!/usr/bin/env bash

本文示例选择:

教程示例使用 #!/bin/bash:简洁明了,适合初学者理解。

#!/bin/bash

生产级示例使用 #!/usr/bin/env bash:强调可移植性。

#!/usr/bin/env bash
  1. 变量引用:
# 始终用双引号包裹变量
echo "$var"     # 推荐
echo $var       # 可能导致 word splitting 和 globbing 问题
# 始终用双引号包裹变量
echo "$var"     # 推荐
echo $var       # 可能导致 word splitting 和 globbing 问题
  1. 使用 shellcheck:
shellcheck your_script.sh  # 静态分析,发现常见问题
shellcheck your_script.sh  # 静态分析,发现常见问题
  1. 推荐语法:

使用 [[ ]] 而非 [ ](更安全、支持模式匹配)。

[[ ]]
[ ]

使用 $((...)) 而非 expr(性能更好)。

$((...))
expr

使用 $(...) 而非反引号(可嵌套、更清晰)。

$(...)

使用 ${n} 访问位置参数 n >= 10。

${n}

pipefail 工作原理

pipefail 工作原理

默认情况下,管道命令的返回值只取决于最后一个命令。启用 pipefail 后,管道的返回值将是最后一个失败命令的返回值,这能避免隐藏中间步骤的错误。

pipefail

示例对比:

# 默认模式(危险)
cat huge_file.txt | grep "pattern" | head -n 10
# 即使 cat 失败(文件不存在),只要 head 成功,返回码就是 0

# pipefail 模式(安全)
set -o pipefail
cat huge_file.txt | grep "pattern" | head -n 10
# cat 失败会立即返回错误码,不会被忽略
# 默认模式(危险)
cat huge_file.txt | grep "pattern" | head -n 10
# 即使 cat 失败(文件不存在),只要 head 成功,返回码就是 0

# pipefail 模式(安全)
set -o pipefail
cat huge_file.txt | grep "pattern" | head -n 10
# cat 失败会立即返回错误码,不会被忽略

生产环境最佳实践

生产环境最佳实践

这一节偏进阶,面向已经能写基础 Shell 脚本、开始把脚本放进定时任务、部署流程或线上排障流程里的读者。初学者可以先掌握前面的变量、条件、循环、函数和基础规范,再回来补这部分。

脚本安全性

脚本安全性

  1. 始终使用严格模式:
#!/usr/bin/env bash
set -euo pipefail  # 遇错退出、未定义变量报错、管道失败报错
#!/usr/bin/env bash
set -euo pipefail  # 遇错退出、未定义变量报错、管道失败报错
  1. 变量引用安全:
# 始终用双引号包裹变量,防止 word splitting 和 globbing
rm -rf "$temp_dir"       # 推荐
rm -rf $temp_dir         # 危险:如果 temp_dir 包含空格会导致误删
# 始终用双引号包裹变量,防止 word splitting 和 globbing
rm -rf "$temp_dir"       # 推荐
rm -rf $temp_dir         # 危险:如果 temp_dir 包含空格会导致误删
  1. 使用 local 限制变量作用域:
process_data() {
    local input_file="$1"
    local output_file="$2"
    # ... 处理逻辑
}
process_data() {
    local input_file="$1"
    local output_file="$2"
    # ... 处理逻辑
}

监控指标建议

监控指标建议

关键指标:

脚本执行返回码(Exit Code):非 0 必须触发告警。

命令执行超时时间:防御网络阻塞或 read 死锁(使用 timeout 命令)。

timeout

关键资源的并发争用:临时文件、锁文件、网络连接等。

单机文件描述符(FD)使用率:防止后台并发启动导致 FD 耗尽。

PID 饱和度:监控进程数量,防止 PID 耗尽。

网络请求 P99 延迟:监控 API 请求的尾延迟。

超时控制示例:

# 为整个脚本设置超时(5 分钟)
timeout 300 ./your_script.sh || { echo "脚本执行超时"; exit 1; }

# 为单个命令设置超时
timeout 10 curl -s https://api.example.com/data || { echo "API 请求超时"; exit 1; }
# 为整个脚本设置超时(5 分钟)
timeout 300 ./your_script.sh || { echo "脚本执行超时"; exit 1; }

# 为单个命令设置超时
timeout 10 curl -s https://api.example.com/data || { echo "API 请求超时"; exit 1; }

生产级 API 请求(带重试和退避):

# ⚠️ 重要:单纯拦截超时不够,必须考虑重试风暴
# 下面的配置包含连接超时、总超时、重试机制和指数退避

curl -s \
     --connect-timeout 3 \      # 连接超时 3 秒
     --max-time 10 \             # 总超时 10 秒
     --retry 3 \                 # 失败时重试 3 次
     --retry-delay 2 \           # 重试间隔 2 秒
     --retry-max-time 30 \       # 重试总时长不超过 30 秒
     --retry-connrefused \       # 连接被拒绝时也重试
     --retry-all-errors \        # 所有错误都重试
     https://api.example.com/data || { echo "API 请求彻底失败"; exit 1; }
# ⚠️ 重要:单纯拦截超时不够,必须考虑重试风暴
# 下面的配置包含连接超时、总超时、重试机制和指数退避

curl -s \
     --connect-timeout 3 \      # 连接超时 3 秒
     --max-time 10 \             # 总超时 10 秒
     --retry 3 \                 # 失败时重试 3 次
     --retry-delay 2 \           # 重试间隔 2 秒
     --retry-max-time 30 \       # 重试总时长不超过 30 秒
     --retry-connrefused \       # 连接被拒绝时也重试
     --retry-all-errors \        # 所有错误都重试
     https://api.example.com/data || { echo "API 请求彻底失败"; exit 1; }

重试风暴防护:

# ❌ 危险:无节制的重试会导致级联雪崩
for i in {1..10}; do
    curl -s https://api.example.com/data && break || sleep 1
done

# ✅ 安全:带抖动(Jitter)的指数退避重试
retry_with_backoff() {
    local max_attempts=5
    local base_delay=1
    local max_delay=32
    local attempt=1

    while (( attempt <= max_attempts )); do
        if curl -s --connect-timeout 3 --max-time 10 \
                --retry 3 --retry-delay 2 --retry-max-time 30 \
                "$@"; then
            return 0
        fi

        if (( attempt < max_attempts )); then
            # 指数退避 + 随机抖动(防止重试风暴)
            local delay=$(( base_delay * (1 << (attempt - 1)) ))
            delay=$(( delay > max_delay ? max_delay : delay ))
            local jitter=$((RANDOM % 1000))  # 0-999ms 随机抖动
            delay=$(( delay + (jitter + 999) / 1000 ))
            echo "请求失败,约 ${delay}s 后重试 (第 $attempt 次)" >&2
            sleep "$delay"
        fi

        ((attempt++))
    done

    return 1
}

# 使用
retry_with_backoff https://api.example.com/data
# ❌ 危险:无节制的重试会导致级联雪崩
for i in {1..10}; do
    curl -s https://api.example.com/data && break || sleep 1
done

# ✅ 安全:带抖动(Jitter)的指数退避重试
retry_with_backoff() {
    local max_attempts=5
    local base_delay=1
    local max_delay=32
    local attempt=1

    while (( attempt <= max_attempts )); do
        if curl -s --connect-timeout 3 --max-time 10 \
                --retry 3 --retry-delay 2 --retry-max-time 30 \
                "$@"; then
            return 0
        fi

        if (( attempt < max_attempts )); then
            # 指数退避 + 随机抖动(防止重试风暴)
            local delay=$(( base_delay * (1 << (attempt - 1)) ))
            delay=$(( delay > max_delay ? max_delay : delay ))
            local jitter=$((RANDOM % 1000))  # 0-999ms 随机抖动
            delay=$(( delay + (jitter + 999) / 1000 ))
            echo "请求失败,约 ${delay}s 后重试 (第 $attempt 次)" >&2
            sleep "$delay"
        fi

        ((attempt++))
    done

    return 1
}

# 使用
retry_with_backoff https://api.example.com/data

重要提示:

重试风暴:网络分区恢复后,无节制的重试会瞬间打满下游服务。

指数退避:每次重试间隔呈指数增长(1s --> 2s --> 4s --> 8s...)。

随机抖动:添加随机延迟避免多个客户端同时重试(惊群效应)。

监控指标:需监控超时丢包率与 P99 请求耗时。

压测建议

压测建议

并发安全测试:

# ❌ 危险:无限制并发可能导致 PID 耗尽或 OOM
for i in {1..100}; do
    ./your_script.sh &
done
wait

# ✅ 安全:使用 xargs 控制并发度(推荐)
# 限制最大并行数为 10,防止系统资源耗尽
seq 1 100 | xargs -n 1 -P 10 -I {} ./your_script.sh

# 或使用 GNU parallel(功能更强大)
seq 1 100 | parallel -j 10 ./your_script.sh
# ❌ 危险:无限制并发可能导致 PID 耗尽或 OOM
for i in {1..100}; do
    ./your_script.sh &
done
wait

# ✅ 安全:使用 xargs 控制并发度(推荐)
# 限制最大并行数为 10,防止系统资源耗尽
seq 1 100 | xargs -n 1 -P 10 -I {} ./your_script.sh

# 或使用 GNU parallel(功能更强大)
seq 1 100 | parallel -j 10 ./your_script.sh

重要提示:

并发度控制:生产环境的单机压测应使用 xargs -P 或 GNU parallel 限制并发进程数。

xargs -P

资源监控:压测时监控文件描述符(FD)使用率和 PID 饱和度。

失败模式:无限制的 & 会引发数百个进程在 D 状态挂起,导致节点内核级假死。

&

常见问题检测:

固定路径冲突:避免使用 /tmp/test.log 等固定路径,应使用 $$ 引入进程 PID:temp_file="/tmp/myapp_$$/temp.log"

mkdir -p "$(dirname "$temp_file")"

固定路径冲突:避免使用 /tmp/test.log 等固定路径,应使用 $$ 引入进程 PID:

/tmp/test.log
$$
temp_file="/tmp/myapp_$$/temp.log"
mkdir -p "$(dirname "$temp_file")"
temp_file="/tmp/myapp_$$/temp.log"
mkdir -p "$(dirname "$temp_file")"

锁机制:使用 flock 防止并发执行:# ⚠️ 重要:flock 仅在本地文件系统(Ext4/XFS)保证强一致性

若锁文件位于 NFS 等网络存储,flock 可能静默失效(脑裂风险)

单机场景:确保同一时间只有一个实例在运行

exec 200>/var/lock/myapp.lock

flock -n 200 || { echo "脚本已在运行"; exit 1; }

分布式场景:需要使用分布式锁服务(如 Redis、etcd、ZooKeeper)

或通过数据库唯一索引、消息队列等机制实现互斥flock 脑裂风险可视化:图表加载中分布式锁方案建议:Redis:使用 SET key value NX PX timeout 实现分布式锁。etcd:使用事务 API 和租约机制。数据库:使用 UNIQUE INDEX 约束。消息队列:使用单消费者模式保证互斥。

锁机制:使用 flock 防止并发执行:

flock
# ⚠️ 重要:flock 仅在本地文件系统(Ext4/XFS)保证强一致性
# 若锁文件位于 NFS 等网络存储,flock 可能静默失效(脑裂风险)

# 单机场景:确保同一时间只有一个实例在运行
exec 200>/var/lock/myapp.lock
flock -n 200 || { echo "脚本已在运行"; exit 1; }

# 分布式场景:需要使用分布式锁服务(如 Redis、etcd、ZooKeeper)
# 或通过数据库唯一索引、消息队列等机制实现互斥
# ⚠️ 重要:flock 仅在本地文件系统(Ext4/XFS)保证强一致性
# 若锁文件位于 NFS 等网络存储,flock 可能静默失效(脑裂风险)

# 单机场景:确保同一时间只有一个实例在运行
exec 200>/var/lock/myapp.lock
flock -n 200 || { echo "脚本已在运行"; exit 1; }

# 分布式场景:需要使用分布式锁服务(如 Redis、etcd、ZooKeeper)
# 或通过数据库唯一索引、消息队列等机制实现互斥

flock 脑裂风险可视化:

分布式锁方案建议:

Redis:使用 SET key value NX PX timeout 实现分布式锁。

SET key value NX PX timeout

etcd:使用事务 API 和租约机制。

数据库:使用 UNIQUE INDEX 约束。

UNIQUE INDEX

消息队列:使用单消费者模式保证互斥。

后台进程退出码捕获:

# ❌ 问题:wait 默认不检查退出码,后台任务失败会被静默吃掉
for i in {1..10}; do
    ./task.sh &
done
wait  # 只等待所有后台进程结束,不检查退出码

# ✅ 正确:逐个检查后台进程的退出码
pids=()
for i in {1..10}; do
    ./task.sh &
    pids+=($!)
done

# 等待所有后台进程并检查退出码
for pid in "${pids[@]}"; do
    if ! wait "$pid"; then
        echo "进程 $pid 执行失败" >&2
        exit_code=1
    fi
done

# 或使用 wait -n(bash 4.3+)等待任一进程并检查退出码
while wait -n; do
    : # 检查 $? 是否为 0
done
# ❌ 问题:wait 默认不检查退出码,后台任务失败会被静默吃掉
for i in {1..10}; do
    ./task.sh &
done
wait  # 只等待所有后台进程结束,不检查退出码

# ✅ 正确:逐个检查后台进程的退出码
pids=()
for i in {1..10}; do
    ./task.sh &
    pids+=($!)
done

# 等待所有后台进程并检查退出码
for pid in "${pids[@]}"; do
    if ! wait "$pid"; then
        echo "进程 $pid 执行失败" >&2
        exit_code=1
    fi
done

# 或使用 wait -n(bash 4.3+)等待任一进程并检查退出码
while wait -n; do
    : # 检查 $? 是否为 0
done

常见误区

常见误区

  1. 吞掉错误上下文:
# ❌ 错误:滥用 > /dev/null 2>&1
command > /dev/null 2>&1

# ✅ 正确:只屏蔽不需要的输出,保留错误信息
command > /dev/null  # 或
command 2>/tmp/error.log
# ❌ 错误:滥用 > /dev/null 2>&1
command > /dev/null 2>&1

# ✅ 正确:只屏蔽不需要的输出,保留错误信息
command > /dev/null  # 或
command 2>/tmp/error.log
  1. 环境依赖假定:
# ❌ 危险:依赖特定的 PATH 顺序,未验证命令是否存在
curl -s https://api.example.com/data

# ✅ 安全:验证命令存在后再使用
command -v curl >/dev/null 2>&1 || { echo "curl 未安装"; exit 1; }
curl -s https://api.example.com/data

# 或者:明确指定完整路径(适用于关键生产环境)
CURL_PATH="/usr/bin/curl"
[[ -x "$CURL_PATH" ]] || { echo "curl 不存在或不可执行"; exit 1; }
"$CURL_PATH" -s https://api.example.com/data
# ❌ 危险:依赖特定的 PATH 顺序,未验证命令是否存在
curl -s https://api.example.com/data

# ✅ 安全:验证命令存在后再使用
command -v curl >/dev/null 2>&1 || { echo "curl 未安装"; exit 1; }
curl -s https://api.example.com/data

# 或者:明确指定完整路径(适用于关键生产环境)
CURL_PATH="/usr/bin/curl"
[[ -x "$CURL_PATH" ]] || { echo "curl 不存在或不可执行"; exit 1; }
"$CURL_PATH" -s https://api.example.com/data

说明:验证命令存在可以防止因环境差异导致的运行时错误。若需更高安全性,可指定完整路径。

  1. 未处理管道失败:
# ❌ 问题:默认模式下管道只看最后一个命令的返回码
cat huge_file.txt | grep "pattern" | head -n 10
# 即使 cat 失败,只要 head 成功,整体返回码就是 0

# ✅ 安全:使用 pipefail 确保任何命令失败都能被捕获
set -o pipefail
cat huge_file.txt | grep "pattern" | head -n 10
# ❌ 问题:默认模式下管道只看最后一个命令的返回码
cat huge_file.txt | grep "pattern" | head -n 10
# 即使 cat 失败,只要 head 成功,整体返回码就是 0

# ✅ 安全:使用 pipefail 确保任何命令失败都能被捕获
set -o pipefail
cat huge_file.txt | grep "pattern" | head -n 10
  1. 未清理临时资源:
# ❌ 问题:脚本异常退出时临时文件未被清理
temp_file="/tmp/data_$$"
process_data "$temp_file"

# ✅ 安全:使用 trap 确保清理
temp_file="/tmp/data_$$"
trap 'rm -f "$temp_file"' EXIT
process_data "$temp_file"
# ❌ 问题:脚本异常退出时临时文件未被清理
temp_file="/tmp/data_$$"
process_data "$temp_file"

# ✅ 安全:使用 trap 确保清理
temp_file="/tmp/data_$$"
trap 'rm -f "$temp_file"' EXIT
process_data "$temp_file"

错误处理模式

错误处理模式

防御式编程模板:

#!/usr/bin/env bash
set -euo pipefail

# 错误处理函数
error_exit() {
    echo "错误: $1" >&2
    exit "${2:-1}"
}

# 验证依赖
command -v curl >/dev/null 2>&1 || error_exit "curl 未安装"
command -v jq >/dev/null 2>&1 || error_exit "jq 未安装"

# 验证参数
[[ $# -eq 1 ]] || error_exit "用法: $0 <config_file>"

# 验证文件存在
[[ -f "$1" ]] || error_exit "配置文件不存在: $1"

# 设置超时和清理
temp_file="/tmp/process_$$"
trap 'rm -f "$temp_file"' EXIT

# 主要逻辑(带超时)
timeout 300 process_data "$1" "$temp_file" || error_exit "数据处理失败或超时"

echo "处理完成:$temp_file"
#!/usr/bin/env bash
set -euo pipefail

# 错误处理函数
error_exit() {
    echo "错误: $1" >&2
    exit "${2:-1}"
}

# 验证依赖
command -v curl >/dev/null 2>&1 || error_exit "curl 未安装"
command -v jq >/dev/null 2>&1 || error_exit "jq 未安装"

# 验证参数
[[ $# -eq 1 ]] || error_exit "用法: $0 <config_file>"

# 验证文件存在
[[ -f "$1" ]] || error_exit "配置文件不存在: $1"

# 设置超时和清理
temp_file="/tmp/process_$$"
trap 'rm -f "$temp_file"' EXIT

# 主要逻辑(带超时)
timeout 300 process_data "$1" "$temp_file" || error_exit "数据处理失败或超时"

echo "处理完成:$temp_file"

故障演练建议

故障演练建议

生产环境的脚本需要经过充分的故障测试,确保在各种异常情况下都能正确处理。以下是推荐的故障演练场景:

  1. 网络分区测试
# 使用 iptables 模拟 50% 丢包率
sudo iptables -A OUTPUT -p tcp --dport 443 -m statistic --mode random --probability 0.5 -j DROP

# 测试带有重试机制的 curl 是否引发雪崩
retry_with_backoff https://api.example.com/data

# 恢复网络
sudo iptables -D OUTPUT -p tcp --dport 443 -m statistic --mode random --probability 0.5 -j DROP
# 使用 iptables 模拟 50% 丢包率
sudo iptables -A OUTPUT -p tcp --dport 443 -m statistic --mode random --probability 0.5 -j DROP

# 测试带有重试机制的 curl 是否引发雪崩
retry_with_backoff https://api.example.com/data

# 恢复网络
sudo iptables -D OUTPUT -p tcp --dport 443 -m statistic --mode random --probability 0.5 -j DROP

测试要点:

验证重试机制是否正常工作。

检查是否有指数退避和随机抖动。

确认不会因重试风暴导致级联失败。

  1. 慢响应拖垮测试
# 模拟下游 API 长时间不返回(但不断开连接)
# 使用 nc 监听端口但不发送数据
nc -l 8080 &

# 测试 timeout 是否能准确切断连接
timeout 5 curl -s http://localhost:8080/data || echo "超时触发"

# 清理
pkill nc
# 模拟下游 API 长时间不返回(但不断开连接)
# 使用 nc 监听端口但不发送数据
nc -l 8080 &

# 测试 timeout 是否能准确切断连接
timeout 5 curl -s http://localhost:8080/data || echo "超时触发"

# 清理
pkill nc

测试要点:

验证 --max-time 是否生效。

--max-time

检查是否有资源泄漏(连接、内存)。

确认超时后脚本能正确退出。

  1. 时钟漂移测试
# 模拟系统时钟回拨(需要 root 权限)
sudo date -s "2 hours ago"

# 测试基于 $PID 生成的临时文件是否有重复覆盖风险
temp_file="/tmp/test_$$/data.txt"
mkdir -p "$(dirname "$temp_file")"
echo "data" > "$temp_file"
echo "Created: $temp_file"

# 恢复系统时钟
sudo ntpdate -u time.nist.gov
# 模拟系统时钟回拨(需要 root 权限)
sudo date -s "2 hours ago"

# 测试基于 $PID 生成的临时文件是否有重复覆盖风险
temp_file="/tmp/test_$$/data.txt"
mkdir -p "$(dirname "$temp_file")"
echo "data" > "$temp_file"
echo "Created: $temp_file"

# 恢复系统时钟
sudo ntpdate -u time.nist.gov

测试要点:

验证 PID 循环后临时文件是否会被覆盖。

检查是否需要添加时间戳或 UUID 增强唯一性。

确认脚本对时钟变化的鲁棒性。

  1. NFS 延迟测试
# 模拟 NFS 存储高延迟(使用 tc 延迟网络)
# 挂载测试用的 NFS 共享
sudo mount -t nfs nfs-server:/share /mnt/nfs-test

# 监控 I/O 延迟(P90 / P99)
iostat -x 1 10 | grep dm-0

# 在 NFS 共享上执行脚本,验证 flock 是否正常
LOCK_FILE="/mnt/nfs-test/myapp.lock"
exec 200>"$LOCK_FILE"
flock -n 200 || { echo "获取锁失败"; exit 1; }

# 清理
sudo umount /mnt/nfs-test
# 模拟 NFS 存储高延迟(使用 tc 延迟网络)
# 挂载测试用的 NFS 共享
sudo mount -t nfs nfs-server:/share /mnt/nfs-test

# 监控 I/O 延迟(P90 / P99)
iostat -x 1 10 | grep dm-0

# 在 NFS 共享上执行脚本,验证 flock 是否正常
LOCK_FILE="/mnt/nfs-test/myapp.lock"
exec 200>"$LOCK_FILE"
flock -n 200 || { echo "获取锁失败"; exit 1; }

# 清理
sudo umount /mnt/nfs-test

测试要点:

验证 flock 在网络存储上是否有效(预期可能失效)。

检查是否有脑裂风险(多个节点同时获取锁)。

确认是否需要使用分布式锁替代。

  1. 文件描述符耗尽测试
# 查看当前进程的 FD 限制
ulimit -n

# 模拟大量并发连接,测试 FD 耗尽场景
for i in {1..1000}; do
    exec {fd}>"/tmp/file_$i" 2>/dev/null || break
done

# 检查 FD 使用情况
ls -l /proc/$$/fd | wc -l

# 清理
for i in {1..1000}; do
    eval "exec $fd>&-" 2>/dev/null
done
# 查看当前进程的 FD 限制
ulimit -n

# 模拟大量并发连接,测试 FD 耗尽场景
for i in {1..1000}; do
    exec {fd}>"/tmp/file_$i" 2>/dev/null || break
done

# 检查 FD 使用情况
ls -l /proc/$$/fd | wc -l

# 清理
for i in {1..1000}; do
    eval "exec $fd>&-" 2>/dev/null
done

测试要点:

验证脚本在 FD 不足时的行为。

检查是否有资源泄漏。

确认并发度限制是否有效。

  1. 压测数据一致性测试
# 在 NFS 共享存储目录下,由多个机器节点同时高频执行脚本
# 验证数据恢复与幂等性边界

# 节点 A
for i in {1..100}; do
    echo "nodeA_data_$i" >> /mnt/shared/data.txt
    sleep 0.1
done &

# 节点 B(在另一台机器上同时执行)
for i in {1..100}; do
    echo "nodeB_data_$i" >> /mnt/shared/data.txt
    sleep 0.1
done &

# 检查数据是否完整
wait
wc -l /mnt/shared/data.txt
sort /mnt/shared/data.txt | uniq -c
# 在 NFS 共享存储目录下,由多个机器节点同时高频执行脚本
# 验证数据恢复与幂等性边界

# 节点 A
for i in {1..100}; do
    echo "nodeA_data_$i" >> /mnt/shared/data.txt
    sleep 0.1
done &

# 节点 B(在另一台机器上同时执行)
for i in {1..100}; do
    echo "nodeB_data_$i" >> /mnt/shared/data.txt
    sleep 0.1
done &

# 检查数据是否完整
wait
wc -l /mnt/shared/data.txt
sort /mnt/shared/data.txt | uniq -c

测试要点:

验证并发写入是否会导致数据混乱。

检查是否需要使用锁机制。

确认数据恢复策略是否有效。

总结

总结

Shell 编程是后端开发和运维人员必备的核心技能之一,掌握它能显著提升工作效率,实现自动化运维和系统管理。本文从入门到生产实践,系统介绍了 Shell 编程的核心知识点。

核心知识点回顾

核心知识点回顾

知识模块关键要点变量区分局部变量、环境变量和特殊变量;使用 local 避免全局污染;始终用双引号包裹变量字符串推荐使用双引号;理解单引号和双引号的区别;掌握 ${#var} 获取长度数组bash 2.0+ 支持数组(非 POSIX);注意删除元素后的索引空洞运算符优先使用 $((...)) 进行算术运算;[[ ]] 比 [ ] 更安全流程控制使用 [[ ]] 进行条件测试;避免 command1 && command2 || command3 的陷阱函数使用 local 限制变量作用域;函数只能返回 0-255 的退出码命令替换使用 $(...) 替代反引号;使用 read -r 提高安全性

知识模块关键要点

知识模块

关键要点

变量区分局部变量、环境变量和特殊变量;使用 local 避免全局污染;始终用双引号包裹变量

变量

区分局部变量、环境变量和特殊变量;使用 local 避免全局污染;始终用双引号包裹变量

local

字符串推荐使用双引号;理解单引号和双引号的区别;掌握 ${#var} 获取长度

字符串

推荐使用双引号;理解单引号和双引号的区别;掌握 ${#var} 获取长度

${#var}

数组bash 2.0+ 支持数组(非 POSIX);注意删除元素后的索引空洞

数组

bash 2.0+ 支持数组(非 POSIX);注意删除元素后的索引空洞

运算符优先使用 $((...)) 进行算术运算;[[ ]] 比 [ ] 更安全

运算符

优先使用 $((...)) 进行算术运算;[[ ]] 比 [ ] 更安全

$((...))
[[ ]]
[ ]

流程控制使用 [[ ]] 进行条件测试;避免 command1 && command2 || command3 的陷阱

流程控制

使用 [[ ]] 进行条件测试;避免 command1 && command2 || command3 的陷阱

[[ ]]
command1 && command2 || command3

函数使用 local 限制变量作用域;函数只能返回 0-255 的退出码

函数

使用 local 限制变量作用域;函数只能返回 0-255 的退出码

local

命令替换使用 $(...) 替代反引号;使用 read -r 提高安全性

命令替换

使用 $(...) 替代反引号;使用 read -r 提高安全性

$(...)
read -r

生产级脚本编写要点

生产级脚本编写要点

编写生产环境的 Shell 脚本时,务必遵循以下原则:

  1. 严格模式
#!/usr/bin/env bash
set -euo pipefail  # 遇错退出、未定义变量报错、管道失败报错
#!/usr/bin/env bash
set -euo pipefail  # 遇错退出、未定义变量报错、管道失败报错
  1. 防御式编程

验证依赖:command -v 检查命令是否存在。

command -v

验证参数:检查参数数量和类型。

验证文件:确认文件存在且可访问。

超时控制:使用 timeout 防止死锁。

timeout

资源清理:使用 trap 确保临时资源被释放。

trap
  1. 避免常见陷阱

不吞掉错误上下文(避免滥用 >/dev/null 2>&1)。

>/dev/null 2>&1

不依赖特定 PATH 顺序(验证或指定完整路径)。

不忽略管道失败(使用 set -o pipefail)。

set -o pipefail

不遗漏临时资源清理(使用 trap)。

trap
  1. 并发安全

使用 $$ 引入 PID 隔离临时文件。

$$

使用 flock 防止脚本并发执行。

flock

避免使用固定的临时文件路径。

学习建议

学习建议

初学者:

从简单的命令别名和脚本开始。

重点掌握变量、条件判断和循环。

使用 shellcheck 检查脚本错误。

shellcheck

多练习,从实际场景出发(如日志分析、文件处理)。

进阶学习:

深入学习进程管理、信号处理。

掌握 sed、awk、grep 等文本处理工具。

sed
awk
grep

学习正则表达式和文本处理技巧。

了解性能优化和并发处理。

生产实践:

阅读 Google Shell Style Guide。

研究开源项目的 Shell 脚本。

在测试环境充分验证后再部署。

建立完善的监控和告警机制。

参考资源

参考资源

官方文档:Bash Reference Manual(GNU)

代码检查:ShellCheck - Shell Script Analysis Tool

编码规范:Google Shell Style Guide

常见陷阱:Bash Pitfalls (http://mywiki.wooledge.org/BashPitfalls)

http://mywiki.wooledge.org/BashPitfalls