Bash脚本15分钟进阶指导

本文介绍了提高Bash脚本质量的技巧,包括确保脚本安全、利用脚本函数提高可读性、变量注解、使用$()替代反单引号等。此外还介绍了如何避免使用临时文件、字符串操作及调试技巧。

转自:http://www.pythoner.cn/home/blog/bash-scripting/

这里的技术技巧最初是来自谷歌的“Testing on the Toilet” (TOTT)。这里是一个修订和扩增版本。

脚本安全

我的所有bash脚本都以下面几句为开场白:

 #!/bin/bash set -o nounset set -o errexit

这样做会避免两种常见的问题:

  1. 引用未定义的变量(缺省值为“”)
  2. 执行失败的命令被忽略

需要注意的是,有些Linux命令的某些参数可以强制忽略发生的错误,例如“mkdir -p” 和 “rm -f”。

还要注意的是,在“errexit”模式下,虽然能有效的捕捉错误,但并不能捕捉全部失败的命令,在某些情况下,一些失败的命令是无法检测到的。(更多细节请参考这个帖子。)

脚本函数

在bash里你可以定义函数,它们就跟其它命令一样,可以随意的使用;它们能让你的脚本更具可读性:

    ExtractBashComments() {
        egrep "^#"
    } 

    cat myscript.sh | ExtractBashComments | wc 

    comments=$(ExtractBashComments < myscript.sh)

还有一些例子:

    SumLines() {  # iterating over stdin - similar to awk      
        local sum=0
        local line=””
        while read line ; do
            sum=$((${sum} + ${line}))
        done
        echo ${sum}
    } 

    SumLines < data_one_number_per_line.txt 

    log() {  # classic logger
       local prefix="[$(date +%Y/%m/%d %H:%M:%S)]: "
       echo "${prefix} $@" >&2
    } 

    log "INFO" "a message"

尽可能的把你的bash代码移入到函数里,仅把全局变量、常量和对“main”调用的语句放在最外层。

变量注解

Bash里可以对变量进行有限的注解。最重要的两个注解是:

  1. local(函数内部变量)
  2. readonly(只读变量)
    # a useful idiom: DEFAULT_VAL can be overwritten
    #       with an environment variable of the same name
    readonly DEFAULT_VAL=${DEFAULT_VAL:-7} 

    myfunc() {
       # initialize a local variable with the global default
       local some_var=${DEFAULT_VAL}
       ...
    }

这样,你可以将一个以前不是只读变量的变量声明成只读变量:

x=5
x=6
readonly x
x=7   # failure

尽量对你bash脚本里的所有变量使用localreadonly进行注解。

$()代替反单引号(`)

反单引号很难看,在有些字体里跟正单引号很相似。$()能够内嵌使用,而且避免了转义符的麻烦。

# both commands below print out: A-B-C-D
echo "A-`echo B-`echo C-\`echo D\```"
echo "A-$(echo B-$(echo C-$(echo D)))"

[[]](双层中括号)替代[]

使用[[]]能避免像异常的文件扩展名之类的问题,而且能带来很多语法上的改进,而且还增加了很多新功能:

操作符功能说明
||逻辑or(仅双中括号里使用)
&&逻辑and(仅双中括号里使用)
<字符串比较(双中括号里不需要转移)
-lt数字比较
=字符串相等
==以Globbing方式进行字符串比较(仅双中括号里使用,参考下文)
=~用正则表达式进行字符串比较(仅双中括号里使用,参考下文)
-n非空字符串
-z空字符串
-eq数字相等
-ne数字不等

单中括号:

[ "${name}" > "a" -o ${name} < "m" ]

双中括号

[[ "${name}" > "a" && "${name}" < "m"  ]]

正则表达式/Globbing

使用双中括号带来的好处用下面几个例子最能表现:

t="abc123"
[[ "$t" == abc* ]]         # true (globbing比较)
[[ "$t" == "abc*" ]]       # false (字面比较)
[[ "$t" =~ [abc]+[123]+ ]] # true (正则表达式比较)
[[ "$t" =~ "abc*" ]]       # false (字面比较)

注意,从bash 3.2版开始,正则表达式和globbing表达式都不能用引号包裹。如果你的表达式里有空格,你可以把它存储到一个变量里:

r="a b+"
[[ "a bbb" =~ $r ]]        # true

按Globbing方式的字符串比较也可以用到case语句中:

case $t in
abc*)  <action> ;;
esac

字符串操作

Bash里有各种各样操作字符串的方式,很多都是不可取的。

基本用户

    f="path1/path2/file.ext"  

    len="${#f}" # = 20 (字符串长度) 

    # 切片操作: ${<var>:<start>} or ${<var>:<start>:<length>}
    slice1="${f:6}" # = "path2/file.ext"
    slice2="${f:6:5}" # = "path2"
    slice3="${f: -8}" # = "file.ext"(注意:"-"前有空格)
    pos=6
    len=5
    slice4="${f:${pos}:${len}}" # = "path2"

替换操作(使用globbing)

    f="path1/path2/file.ext"  

    single_subst="${f/path?/x}"   # = "x/path2/file.ext"
    global_subst="${f//path?/x}"  # = "x/x/file.ext" 

    # 字符串拆分
    readonly DIR_SEP="/"
    array=(${f//${DIR_SEP}/ })
    second_dir="${arrray[1]}"     # = path2

删除头部或尾部(使用globbing)

    f="path1/path2/file.ext" 

    # 删除字符串头部
    extension="${f#*.}"  # = "ext" 

    # 以贪婪匹配方式删除字符串头部
    filename="${f##*/}"  # = "file.ext" 

    # 删除字符串尾部
    dirname="${f%/*}"    # = "path1/path2" 

    # 以贪婪匹配方式删除字符串尾部
    root="${f%%/*}"      # = "path1"

避免使用临时文件

有些命令需要以文件名为参数,这样一来就不能使用管道。这个时候 <() 就显出用处了,它可以接受一个命令,并把它转换成可以当成文件名之类的什么东西:

# 下载并比较两个网页
diff <(wget -O - url1) <(wget -O - url2)

还有一个非常有用处的是”here documents”,它能让你在标准输入上输入多行字符串。下面的’MARKER’可以替换成任何字词。

# 任何字词都可以当作分界符
command  << MARKER
...
${var}
$(cmd)
...
MARKER

如果文本里没有内嵌变量替换操作,你可以把第一个MARKER用单引号包起来:

command << 'MARKER'
...
no substitution is happening here.
$ (dollar sign) is passed through verbatim.
...
MARKER

内置变量

变量说明
$0脚本名称
$n传给脚本/函数的第n个参数
$$脚本的PID
$!上一个被执行的命令的PID(后台运行的进程)
$?上一个命令的退出状态(管道命令使用${PIPESTATUS})
$#传递给脚本/函数的参数个数
$@传递给脚本/函数的所有参数(识别每个参数)
$*传递给脚本/函数的所有参数(把所有参数当成一个字符串)
提示
使用 $*很少是正确的选择。
$@能够处理空格参数,而且参数间的空格也能正确的处理。
使用 $@时应该用双引号括起来,像”$@”这样。

调试

对脚本进行语法检查:

bash -n myscript.sh

跟踪脚本里每个命令的执行:

bash -v myscripts.sh

跟踪脚本里每个命令的执行并附加扩充信息:

bash -x myscript.sh

你可以在脚本头部使用set -o verboseset -o xtrace来永久指定-v-o。当在远程机器上执行脚本时,这样做非常有用,用它来输出远程信息。

什么时候不应该使用bash脚本

  • 你的脚本太长,多达几百行
  • 你需要比数组更复杂的数据结构
  • 出现了复杂的转义问题
  • 有太多的字符串操作
  • 不太需要调用其它程序和跟其它程序管道交互
  • 担心性能

这个时候,你应该考虑一种脚本语言,比如Python或Ruby。

参考

[英文原文: Better Bash Scripting in 15 Minutes ]

<think>嗯,用户想了解Python脚本编写和编译的教程。首先,我需要整理相关的知识点,确保覆盖编写和编译的主要方面。编写部分可能包括基础语法、常用库的使用、脚本结构等。编译部分可能需要解释如何将Python代码转换为可执行文件或共享库,比如使用PyInstaller、Cython等工具。 用户提供的引用中有提到Cython和setuptools,引用[1]详细说明了如何将Python编译成.so文件。这可能是一个重点。另外,引用[2]和[3]提到了Python脚本的编写教程和运行方式,需要涵盖这些内容。引用[4]提到脚本编译的限制,可能对高级用户有用,但暂时先不深入,除非用户有特别需求。 用户的需求是获取指导教程,所以应该分步骤讲解,结构清晰。可能需要分成几个部分:脚本编写基础、编译工具介绍、具体操作步骤、常见问题解决。同时,根据示例中的格式,要使用中文,数学公式用$...$,独立公式用$$...$$,但当前问题可能不涉及数学公式,所以可能较少用到。 需要确认用户是否有Python基础,但根据问题,用户可能已经有一定基础,想深入脚本编写和编译。因此,教程需要从基础到进阶,覆盖代码结构、调试、打包编译,可能还要包括性能优化。 另外,用户提到“编译”,Python通常是解释型语言,但通过工具可以编译成二进制,需要解释清楚这一点,避免混淆。比如使用Cython将Python转为C再编译,或者用PyInstaller打包成exe。 在回答中需要引用提供的资料,比如引用[1]关于Cython和setuptools的使用,引用[3]关于运行方式。同时生成相关问题,引导用户深入学习,比如性能优化、跨平台问题、调试技巧等。 需要检查是否有遗漏的关键点,比如虚拟环境的使用,依赖管理,不同编译工具的比较(PyInstaller vs Cython),以及实际案例演示。确保步骤详细,用户能一步步跟随操作。可能还需要提醒常见的坑,比如动态链接库的问题,编译后的文件大小,兼容性等。 最后,确保语言口语化,避免技术术语堆砌,但又要准确。可能需要分点说明,代码示例用正确的格式,如Python代码块,并解释关键部分。例如,Cython的setup.py配置,PyInstaller的命令行参数等。</think>### Python脚本编写与编译系统化指南 一、Python脚本编写基础 1. 代码结构规范 - 采用模块化结构,推荐按功能拆分为`main.py`、`utils.py`等文件 - 使用`if __name__ == "__main__":`作为执行入口 - 遵循PEP8规范,使用`black`或`autopep8`自动格式化 2. 典型脚本模板示例 ```python #!/usr/bin/env python3 # -*- coding: utf-8 -*- """ 模块文档说明:演示数据处理脚本 """ import sys import logging def process_data(input_file): """核心处理函数""" try: with open(input_file) as f: # 数据处理逻辑 return True except Exception as e: logging.error(f"处理失败: {str(e)}") return False if __name__ == "__main__": if len(sys.argv) != 2: print("用法: script.py <输入文件>") sys.exit(1) input_file = sys.argv[1] if process_data(input_file): print("处理成功") else: print("处理失败") ``` 二、Python脚本编译技术 1. 打包为可执行文件 - **PyInstaller**(跨平台): ```bash pip install pyinstaller pyinstaller --onefile script.py # 生成单文件可执行程序 ``` 2. 编译为共享库(Cython方案)[^1] - 步骤说明: ```python # 安装依赖 pip install cython # 创建setup.py from setuptools import setup from Cython.Build import cythonize setup( ext_modules=cythonize("script.py"), script_args=["build_ext", "--inplace"] ) # 执行编译 python setup.py build_ext --inplace ``` - 生成`.so`(Linux)或`.pyd`(Windows)二进制文件 3. 性能优化技巧 - 使用`@cython.boundscheck(False)`等装饰器提升Cython性能 - 通过`cProfile`分析性能瓶颈 - 注意编译脚本数量的限制(默认每分钟15个)[^4] 三、脚本调试与测试 1. 单元测试框架 ```python import unittest class TestScript(unittest.TestCase): def test_process_data(self): self.assertTrue(process_data("test_input.txt")) ``` 2. 调试工具推荐 - `pdb`命令行调试器 - VS Code/PyCharm图形化调试器 - `logging`模块实现分级日志 四、部署与分发 1. 创建requirements.txt ```bash pip freeze > requirements.txt ``` 2. 构建Docker容器 ```dockerfile FROM python:3.9-slim COPY . /app WORKDIR /app RUN pip install -r requirements.txt CMD ["python", "script.py"] ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值