13、自动函数、线性时间与学习

自动函数、线性时间与学习

一、引言

在归纳推理领域，自动学习器和线性时间学习器扮演着重要角色，它们被视为模拟资源受限学习器的有效概念。一方面，递归学习器可通过延迟操作转变为线性时间学习器；另一方面，当使用自动函数更新内存的自动机来形式化学习器时，这类学习器的能力不如非自动学习器，且无法通过延迟操作克服其局限性。自动学习器属于线性时间学习器，但反之不成立，这促使我们深入研究线性时间与自动性之间的联系。

有限自动机能在线性时间内识别正则语言，我们可以将自动性的概念从集合推广到关系和函数。一个关系或函数是自动的，当且仅当存在一个自动机能够识别其图形。然而，对于自动函数，判断其是否属于线性时间并不直观，因为识别图形和根据输入计算输出是两个不同的任务。

研究聚焦于两个关键问题：一是确定能够刻画自动函数的线性时间可计算概念的本质；二是明确何种线性时间概念能使自动类在极限学习中实现完全可学习性。

二、自动函数与线性时间

1. 自动函数的定义
   非正式地说，自动函数是从字符串到字符串的函数，其图形可由有限自动机识别。更正式地，这基于卷积的概念。对于两个字符串 (x = x_1x_2 \cdots x_m) 和 (y = y_1y_2 \cdots y_n)，它们的卷积定义如下：
   设 (x’ = x’_1x’_2 \cdots x’_r) 和 (y’ = y’_1y’_2 \cdots y’_r)，其中：
   • (r = \max({m, n}))；
   • 若 (i \leq m)，则 (x’_i = x_i)，否则 (x’_i = #)； <