53、自动机、语法和语言入门

自动机、语法和语言入门

在计算机科学领域，自动机、语法和语言是非常重要的概念。它们在编译原理、自然语言处理、模式识别等多个领域都有广泛的应用。下面将详细介绍有限状态自动机、语言和语法的相关知识。

有限状态自动机

有限状态自动机是一种特殊的有限状态机，它在处理字符串和语言识别方面有着重要的作用。

定义

有限状态自动机 (A = (I, O, S, f, g, \sigma)) 是一个有限状态机，其中输出符号集为 ({0, 1})，当前状态决定最后输出。最后输出为 1 的状态称为接受状态。

也可以将有限状态自动机 (A) 看作由以下部分组成：
1. 有限的输入符号集 (I)
2. 有限的状态集 (S)
3. 从 (S × I) 到 (S) 的下一状态函数 (f)
4. (S) 的接受状态子集 (A)
5. 初始状态 (\sigma \in S)

此时可写成 (A = (I, S, f, A, \sigma))。

示例

下面通过几个示例来更好地理解有限状态自动机。

示例 1 ：给定一个有限状态机的表格，判断它是否为有限状态自动机，并确定接受状态。
| (f) | (I) | (a) | (b) |
| — | — | — | — |
| (S) | (\sigma_0) | (\sigma_1) | (\sigma_0) |
| | (\sigma_1) | (\sigma_2) | (\sigma_0) |
| | (\sigma_2) | (\sigma_2) | (\sigma_0) |

(g)	(I)	(a)	(b)
(S)	(\sigma_0)	1	0
	(\sigma_1)	1	0
	(\sigma_2)	1	0

如果处于状态 (\sigma_0)，最后输出为 0；如果处于状态 (\sigma_1) 或 (\sigma_2)，最后输出为 1，所以该有限状态机是有限状态自动机，接受状态为 (\sigma_1) 和 (\sigma_2)。其状态转移图如下：

graph LR
    classDef startend fill:#F5EBFF,stroke:#BE8FED,stroke-width:2px;
    classDef process fill:#E5F6FF,stroke:#73A6FF,stroke-width:2px;
    A([0]):::startend -->|a/1| B(1):::process
    A -->|b/0| A
    B -->|a/1| C(2):::process
    B -->|b/0| A
    C -->|a/1| C
    C -->|b/0| A

示例 2 ：设计一个有限状态自动机，接受恰好不包含 (a) 的字符串。
可以使用两个状态：
- (A)：找到 (a)
- (NA)：未找到 (a)

状态 (NA) 是初始状态和唯一的接受状态，其状态转移图如下：

graph LR
    classDef startend fill:#F5EBFF,stroke:#BE8FED,stroke-width:2px;
    classDef process fill:#E5F6FF,stroke:#73A6FF,stroke-width:2px;
    NA([NA]):::startend -->|a| A(A):::process
    NA -->|b| NA
    A -->|a| A
    A -->|b| A

字符串接受

如果将一个字符串输入到有限状态自动机中，最终会到达一个接受或非接受状态。最终状态的状态决定了该字符串是否被有限状态自动机接受。

设 (A = (I, S, f, A, \sigma)) 是有限状态自动机，(\alpha = x_1 \cdots x_n) 是 (I) 上的字符串。如果存在状态 (\sigma_0, \cdots, \sigma_n) 满足：
1. (\sigma_0 = \sigma)
2. (f(\sigma_{i - 1}, x_i) = \sigma_i)，其中 (i = 1, \cdots, n)
3. (\sigma_n \in A)

则称 (\alpha) 被 (A) 接受。空字符串被接受当且仅当 (\sigma \in A)。用 (Ac(A)) 表示被 (A) 接受的字符串集合。

示例 ：判断字符串 (abaa) 是否被上述示例 1 的有限状态自动机接受。
从状态 (\sigma_0) 开始，输入 (a) 转移到状态 (\sigma_1)，输入 (b) 转移到状态 (\sigma_0)，输入 (a) 转移到状态 (\sigma_1)，最后输入 (a) 转移到状态 (\sigma_2)。路径 ((\sigma_0, \sigma_1, \sigma_0, \sigma_1, \sigma_2)) 表示字符串 (abaa)，由于最终状态 (\sigma_2) 是接受状态，所以字符串 (abaa) 被接受。

等价有限状态自动机

如果两个有限状态自动机接受完全相同的字符串，则称这两个自动机是等价的。即有限状态自动机 (A) 和 (A’) 等价当且仅当 (Ac(A) = Ac(A’))。

语言和语法

语言可以分为自然语言和形式语言。自然语言是人们日常交流使用的语言，其规则复杂且难以完全刻画；形式语言则用于模拟自然语言和与计算机进行通信，其规则可以完全指定。

形式语言定义

设 (A) 是一个有限集，(A) 上的（形式）语言 (L) 是 (A^*)（(A) 上所有字符串的集合）的子集。

短语结构语法

短语结构语法 (G = (N, T, P, \sigma)) 由以下部分组成：
1. 有限的非终结符号集 (N)
2. 有限的终结符号集 (T)，且 (N \cap T = \varnothing)
3. 有限的产生式集合 (P)，(P) 是 ([(N \cup T)^ - T^ ] \times (N \cup T)^*) 的子集
4. 起始符号 (\sigma \in N)

产生式 ((A, B) \in P) 通常写成 (A \to B)。

示例 ：给定 (N = {\sigma, S})，(T = {a, b})，(P = {\sigma \to b\sigma, \sigma \to aS, S \to bS, S \to b})，则 (G = (N, T, P, \sigma)) 是一个语法。

语言生成

给定一个语法 (G)，可以通过使用产生式来推导字符串，从而构造由 (G) 生成的语言 (L(G))。

如果 (\alpha \to \beta) 是一个产生式，且 (x\alpha y \in (N \cup T)^ )，则称 (x\beta y) 可从 (x\alpha y) 直接推导得到，写成 (x\alpha y \Rightarrow x\beta y)。如果 (\alpha_i \in (N \cup T)^ )，且 (\alpha_{i + 1}) 可从 (\alpha_i) 直接推导得到，则称 (\alpha_n) 可从 (\alpha_1) 推导得到，写成 (\alpha_1 \Rightarrow \alpha_n)。

语言 (L(G)) 由所有可从 (\sigma) 推导得到的 (T) 上的字符串组成。

示例 ：对于上述语法 (G)，字符串 (abSbb) 可从 (aSbb) 直接推导得到，因为使用了产生式 (S \to bS)；字符串 (bbab) 可从 (\sigma) 推导得到，推导过程为 (\sigma \Rightarrow b\sigma \Rightarrow bb\sigma \Rightarrow bbaS \Rightarrow bbab)。

语法分类

根据定义语法的产生式类型，语法可以分为以下几类：
1. 上下文相关语法（类型 1） ：每个产生式的形式为 (\alpha A\beta \to \alpha\delta\beta)，其中 (\alpha, \beta \in (N \cup T)^ )，(A \in N)，(\delta \in (N \cup T)^ - {\lambda})。
2. 上下文无关语法（类型 2） ：每个产生式的形式为 (A \to \delta)，其中 (A \in N)，(\delta \in (N \cup T)^ )。
3. 正则语法（类型 3） *：每个产生式的形式为 (A \to a) 或 (A \to aB) 或 (A \to \lambda)，其中 (A, B \in N)，(a \in T)。

示例 ：
1. 语法 (G) 定义为 (T = {a, b, c})，(N = {\sigma, A, B, C, D, E})，产生式为 (\sigma \to aAB)，(\sigma \to aB)，(A \to aAC)，(A \to aC)，(B \to Dc)，(D \to b)，(CD \to CE)，(CE \to DE)，(DE \to DC)，(Cc \to Dcc)，起始符号为 (\sigma)，该语法是上下文相关语法。
2. 语法 (G) 定义为 (T = {a, b})，(N = {\sigma})，产生式为 (\sigma \to a\sigma b) 和 (\sigma \to ab)，起始符号为 (\sigma)，该语法是上下文无关语法。
3. 语法 (G) 定义为 (T = {a, b})，(N = {\sigma, A})，产生式为 (\sigma \to b\sigma)，(\sigma \to aA)，(A \to a\sigma)，(A \to bA)，(A \to a)，(\sigma \to b)，起始符号为 (\sigma)，该语法是正则语法。

上下文无关交互式 Lindenmayer 语法

上下文无关交互式 Lindenmayer 语法 (G = (N, T, P, \sigma)) 由以下部分组成：
1. 有限的非终结符号集 (N)
2. 有限的终结符号集 (T)，且 (N \cap T = \varnothing)
3. 有限的产生式集合 (P)，产生式形式为 (A \to B)，其中 (A \in N \cup T)，(B \in (N \cup T)^*)
4. 起始符号 (\sigma \in N)

与上下文无关语法的区别在于，上下文无关交互式 Lindenmayer 语法允许 (A) 是终结符号或非终结符号。

示例 ：冯·科赫雪花
设 (N = {D})，(T = {d, +, -})，(P = {D \to D - D + + D - D, D \to d, + \to +, - \to -})，将 (G(N, T, P, D)) 看作上下文无关 Lindenmayer 语法。从 (D) 开始推导：
(D \Rightarrow D - D + + D - D \Rightarrow d - d + + d - d)

将符号 (d) 解释为在当前方向画一条固定长度的直线，(+) 解释为右转 (60^{\circ})，(-) 解释为左转 (60^{\circ})，可以生成冯·科赫雪花曲线。

通过以上介绍，我们对有限状态自动机、语言和语法有了更深入的理解。这些概念在计算机科学的多个领域都有重要的应用，希望读者能够进一步探索和研究。

自动机、语法和语言入门

语法类型的深入探讨与应用

在前面我们已经了解了不同类型的语法，接下来进一步深入探讨它们的特点和应用。

上下文相关语法的特点

上下文相关语法要求在特定的上下文环境中进行符号替换。例如在语法 (G) 中，若有产生式 (\alpha A\beta \to \alpha\delta\beta)，只有当 (A) 处于 (\alpha) 和 (\beta) 的上下文环境中时，才能将 (A) 替换为 (\delta)。这种语法的表达能力较强，可以处理一些需要考虑上下文信息的语言规则。比如在自然语言处理中，某些词汇的含义和用法需要根据其前后的词汇来确定，上下文相关语法就可以用于模拟这种情况。

上下文无关语法的应用

上下文无关语法在计算机科学中有着广泛的应用，特别是在编程语言的语法描述方面。大多数编程语言的语法都可以用上下文无关语法来定义。例如，在定义算术表达式时，我们可以使用上下文无关语法来描述表达式的结构。以下是一个简单的算术表达式的上下文无关语法示例：
- (N = {E})（非终结符号集，(E) 表示表达式）
- (T = {+, -, *, /, (, ), a, b, c})（终结符号集，包含运算符、括号和变量）
- (P = {E \to E + E, E \to E - E, E \to E * E, E \to E / E, E \to (E), E \to a, E \to b, E \to c})（产生式集合）
- 起始符号为 (E)

通过这些产生式，我们可以推导出各种合法的算术表达式，如 (a + b * c) 等。

正则语法与有限状态自动机的关系

正则语法和有限状态自动机有着密切的联系。实际上，正则语法生成的语言恰好是有限状态自动机能够接受的语言。这意味着对于一个正则语法，我们可以构造一个等价的有限状态自动机来识别该语法生成的语言；反之，对于一个有限状态自动机，也可以找到一个等价的正则语法来描述它接受的语言。

例如，对于前面设计的接受恰好不包含 (a) 的字符串的有限状态自动机，我们可以找到一个等价的正则语法。该语法的定义如下：
- (N = {\sigma})
- (T = {a, b})
- (P = {\sigma \to b\sigma, \sigma \to \lambda})
- 起始符号为 (\sigma)

这个正则语法生成的语言和有限状态自动机接受的语言是相同的，都是不包含 (a) 的字符串集合。

语法练习与实践

为了更好地掌握不同类型的语法，下面通过一些练习来巩固所学知识。

语法类型判断练习

判断以下语法的类型：
1. (T = {a, b})，(N = {\sigma, A, B})，产生式为 (\sigma \to A)，(\sigma \to AAB)，(Aa \to ABa)，(A \to aa)，(Bb \to ABb)，(AB \to ABB)，(B \to b)，起始符号为 (\sigma)。
- 该语法是上下文相关语法。因为存在产生式 (Aa \to ABa) 等，需要考虑符号 (A) 后面跟着 (a) 的上下文环境才能进行替换，不符合上下文无关语法和正则语法的形式要求。
2. (T = {a, b})，(N = {\sigma})，产生式为 (\sigma \to a\sigma b)，(\sigma \to ab)，起始符号为 (\sigma)。
- 该语法是上下文无关语法。每个产生式都是 (A \to \delta) 的形式，其中 (A \in N)，(\delta \in (N \cup T)^*)，符合上下文无关语法的定义。
3. (T = {a, b})，(N = {\sigma, A})，产生式为 (\sigma \to b\sigma)，(\sigma \to aA)，(A \to a\sigma)，(A \to bA)，(A \to a)，(\sigma \to b)，起始符号为 (\sigma)。
- 该语法是正则语法。每个产生式都是 (A \to a) 或 (A \to aB) 或 (A \to \lambda) 的形式，其中 (A, B \in N)，(a \in T)，符合正则语法的定义。

语言生成与推导练习

对于语法 (G)，(N = {\sigma, S})，(T = {a, b})，(P = {\sigma \to b\sigma, \sigma \to aS, S \to bS, S \to b})，推导字符串 (bbab) 的过程如下：
(\sigma \Rightarrow b\sigma \Rightarrow bb\sigma \Rightarrow bbaS \Rightarrow bbab)

通过这样的推导练习，可以更深入地理解语法如何生成语言。

自动机与语法的综合应用

在实际应用中，自动机和语法常常结合使用。例如在编译器的设计中，首先使用正则语法来描述词法规则，通过有限状态自动机进行词法分析，将输入的字符流分解为一个个的词法单元；然后使用上下文无关语法来描述语法规则，通过语法分析器进行语法分析，检查词法单元组成的序列是否符合语法规则。

以下是一个简单的编译器前端的工作流程：

graph LR
    classDef startend fill:#F5EBFF,stroke:#BE8FED,stroke-width:2px;
    classDef process fill:#E5F6FF,stroke:#73A6FF,stroke-width:2px;
    A([输入字符流]):::startend --> B(词法分析器):::process
    B --> C(词法单元序列):::process
    C --> D(语法分析器):::process
    D --> E([语法分析结果]):::startend

在这个流程中，词法分析器可以基于有限状态自动机实现，语法分析器可以基于上下文无关语法的解析算法实现。

总结

自动机、语法和语言是计算机科学中非常重要的概念。有限状态自动机可以用于判断字符串是否被接受，为语言的识别提供了一种有效的方法；不同类型的语法，如上下文相关语法、上下文无关语法和正则语法，各自具有不同的特点和应用场景，可以用于描述和生成各种语言。它们之间相互关联，共同构成了计算机科学中处理语言和符号的基础理论。通过深入学习和理解这些概念，我们可以更好地进行编译器设计、自然语言处理、模式识别等领域的工作。希望读者能够在实际应用中灵活运用这些知识，解决各种相关的问题。

在未来的研究和实践中，随着计算机技术的不断发展，自动机和语法的理论也将不断完善和扩展，为更多的领域带来新的解决方案和创新思路。