Hyperbolic Neural Networks 项目教程

Hyperbolic Neural Networks 项目教程

hyperbolic_nn Source code for the paper "Hyperbolic Neural Networks", https://arxiv.org/abs/1805.09112 项目地址: https://gitcode.com/gh_mirrors/hy/hyperbolic_nn

1. 项目介绍

Hyperbolic Neural Networks（HNN）是一个基于双曲几何的神经网络项目，旨在解决传统欧几里得空间中难以处理的问题。该项目由dalab团队开发，源代码托管在GitHub上，地址为：https://github.com/dalab/hyperbolic_nn.git。

HNN的核心思想是利用双曲空间中的几何特性来改进神经网络的性能，特别是在处理层次结构数据时表现出色。该项目的主要贡献包括：

• 提出了在双曲空间中进行神经网络训练的方法。
• 提供了多种双曲几何下的神经网络实现，如GRU、MLR等。
• 通过实验验证了双曲神经网络在多个数据集上的有效性。

2. 项目快速启动

环境准备

在开始之前，请确保您的环境满足以下要求：

• Python 3.5 或更高版本
• TensorFlow 1.8 或更高版本
• NumPy
• Pickle
• Logging

安装步骤

1. 克隆项目仓库：

   git clone https://github.com/dalab/hyperbolic_nn.git
   cd hyperbolic_nn
   

2. 安装依赖项：

   pip install -r requirements.txt
   

运行示例代码

以下是一个简单的示例代码，用于生成3D MLR图：

python3.5 viz_mlr.py

另一个示例代码，用于重现Table 1中的结果：

CUDA_VISIBLE_DEVICES='' python3.5 hyp_rnn.py --base_name='' --dataset='PRFX10' --inputs_geom='hyp' --word_dim=5 --word_init_avg_norm=0.001 --cell_type='gru' --cell_non_lin='id' --sent_geom='hyp' --bias_geom='hyp' --ffnn_geom='hyp' --ffnn_non_lin='id' --additional_features='dsq' --dropout=1.0 --before_mlr_dim=5 --mlr_geom='hyp' --reg_beta=0.0 --hyp_opt='rsgd' --lr_ffnn=0.01 --lr_words=0.1 --burnin='n' --proj_eps=1e-5 --batch_size=64 --root_path='/'

3. 应用案例和最佳实践

应用案例

HNN在处理层次结构数据时表现出色，例如：

• 自然语言处理：在处理句子和文档的层次结构时，HNN能够更好地捕捉语义关系。
• 推荐系统：在处理用户-物品的层次结构时，HNN能够更好地建模用户兴趣的层次性。

最佳实践

• 数据预处理：确保输入数据符合双曲几何的要求，必要时进行数据转换。
• 超参数调优：根据具体任务调整超参数，如学习率、批量大小等。
• 模型评估：使用合适的评估指标（如准确率、F1分数等）来评估模型性能。

4. 典型生态项目

• TensorFlow：HNN项目依赖于TensorFlow进行神经网络的训练和推理。
• NumPy：用于数据处理和矩阵运算。
• Pickle：用于序列化和反序列化数据。
• Logging：用于记录程序运行时的日志信息。

通过以上模块的介绍，您可以快速上手并深入了解Hyperbolic Neural Networks项目。希望本教程对您有所帮助！

hyperbolic_nn Source code for the paper "Hyperbolic Neural Networks", https://arxiv.org/abs/1805.09112 项目地址: https://gitcode.com/gh_mirrors/hy/hyperbolic_nn