开源项目 `computation-thru-dynamics` 使用教程

开源项目 computation-thru-dynamics 使用教程

computation-thru-dynamics Understanding computation in artificial and biological recurrent networks through the lens of dynamical systems. 项目地址: https://gitcode.com/gh_mirrors/co/computation-thru-dynamics

1. 项目介绍

computation-thru-dynamics 是由 Google Research 开发的一个开源项目，旨在通过动态系统的视角来理解人工和生物循环网络中的计算。该项目包含多个子项目，涉及计算和动态在人工和生物神经系统中的相互联系。

该项目不是一个官方支持的 Google 产品，但提供了丰富的资源和工具，帮助研究人员和开发者深入理解循环神经网络（RNNs）在情感分析、动态系统推理等方面的应用。

2. 项目快速启动

环境准备

在开始之前，请确保您的环境满足以下要求：

• Python 3
• JAX 版本 0.1.75 或更高
• NumPy, SciPy, Matplotlib
• h5py
• GPU（推荐，因为 XLA 在 CPU 上编译这些示例非常慢）

安装依赖

pip install jax numpy scipy matplotlib h5py

克隆项目

git clone https://github.com/google-research/computation-thru-dynamics.git
cd computation-thru-dynamics

运行示例

以下是一个简单的示例，展示如何运行项目中的一个 Jupyter Notebook：

# 启动 Jupyter Notebook
jupyter notebook

在 Jupyter Notebook 界面中，打开 notebooks 目录下的任意一个 Notebook，例如 integrator_rnn_tutorial.ipynb，然后按照 Notebook 中的步骤运行代码。

3. 应用案例和最佳实践

情感分析中的上下文处理

该项目提供了一个玩具模型，展示了循环神经网络如何在情感分析中实现上下文处理。通过分析这个模型，研究人员可以更好地理解网络如何使用最近的输入来修改当前输入的处理。

LFADS - 动态系统的潜在因子分析

LFADS（Latent Factor Analysis via Dynamical Systems）是一个用于从噪声高维观测中推断动态系统的工具。该项目提供了一个教程版本，使用 Python/Numpy/JAX 实现，旨在提高可读性和理解性。

固定点查找

该项目还提供了一个教程，展示了如何通过固定点查找来研究一个训练用于二元决策的门控循环单元（GRU）。通过运行固定点查找算法，可以获得网络的固定点和一阶泰勒级数近似。

4. 典型生态项目

JAX

JAX 是一个用于高性能数值计算的库，特别适合机器学习和科学计算。computation-thru-dynamics 项目大量使用了 JAX，展示了其在动态系统分析中的强大功能。

TensorFlow

虽然该项目主要使用 JAX，但也有部分内容使用了 TensorFlow。TensorFlow 是一个广泛使用的机器学习框架，提供了丰富的工具和资源。

SciPy 生态系统

SciPy 生态系统包括 NumPy、SciPy、Matplotlib 等库，这些库在数据处理、科学计算和可视化方面提供了强大的支持。

通过这些生态项目的结合，computation-thru-dynamics 项目为研究人员和开发者提供了一个全面的工具集，帮助他们更好地理解和应用循环神经网络。

computation-thru-dynamics Understanding computation in artificial and biological recurrent networks through the lens of dynamical systems. 项目地址: https://gitcode.com/gh_mirrors/co/computation-thru-dynamics