- 博客(2)
- 收藏
- 关注
RSS订阅原创 深度学习进阶：自注意力与Transformer详解
自注意力（Self-Attention）是Transformer架构的核心组件，用于捕捉输入序列中不同位置间的依赖关系。其核心思想是通过计算查询（Query）、键（Key）和值（Value）之间的相关性，动态生成权重以加权聚合信息。其中，$d_k$是键向量的维度，缩放因子$\sqrt{d_k}$用于防止点积值过大导致梯度消失。通过组合上述模块，可构建完整的Transformer模型，适用于机器翻译、文本分类等任务。$W_i^Q, W_i^K, W_i^V$是可学习的投影矩阵，$W^O$是输出投影矩阵。
2025-11-07 20:44:17
432
原创 Unity3D MCP：AI开发新利器
Unity3D MCP（Machine Learning Component Package）是一个基于AI驱动的Unity开发工具包，旨在简化机器学习模型在Unity项目中的集成与应用。通过MCP，开发者可以快速实现物体识别、行为预测、自然语言处理等功能，无需深入掌握复杂的机器学习算法。MCP支持常见的AI框架（如TensorFlow、PyTorch）的模型导入，并提供预训练模型库。其核心优势在于将AI能力封装为可拖拽的Unity组件，降低技术门槛。
2025-11-07 20:43:36
808
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人