【直播预告】算法技术：在企业工作，如何同时get科研成果与业务结果？

于 2021-10-09 16:20:00 发布
阅读量161 收藏
点赞数
CC 4.0 BY-SA版权
文章标签： 算法 大数据 人工智能 java 编程语言
原文链接：https://mp.weixin.qq.com/s?__biz=MzAxNDEwNjk5OQ==&mid=2650436782&idx=2&sn=ebdf71d1d275a42633c54e7959a7c2bc&chksm=8396bcb6b4e135a09807bb9be2e167c47867044e186da982b0e97730f2bd9d243a78eb9db8f9&scene=126&&sessionid=0

283f328988eef878a92a2545059eb419.gif

To 互联网技术专业的同学们，

9月开学正值高校求职季,同学们可能关心这些问题：互联网相关专业的学生如何寻找适合自己的职业发展道路？如何规划校园学习以便适应职场工作？校招生进入大型互联网公司后如何选择方向、快速成长？应聘互联网企业的技术岗位有哪些tips？ 

中国计算机学会“CCF学生在线”栏目与阿里巴巴淘系技术特别准备了开学季分享系列，从后端技术、前端技术、测试开发技术、算法技术四个互联网企业主要岗位出发，请到了淘系技术专家、校招面试官、实习生等嘉宾现身说法、答疑解惑。不论你是即将毕业还是初入校园，只要你的专业与互联网技术相关并有意向进入这个行业，本次系列分享都将给你带来收货。

系列第四讲“算法技术：在企业工作，如何同时get科研成果与业务结果？”将于10月14日（周四）晚19:00开播，对算法技术这个互联网公司的重要岗位感兴趣的同学不要错过哦！我们邀请到了淘系技术商业机器智能部的两位技术负责人为同学们详解搜索推荐技术和计算机视觉技术领域中学界与业界的链接与发展。并以校招面试官身份给在校学生带来应聘互联网大公司算法岗位的建议。

792579c5e1ae3715b1d6cf718bef021e.png

有奖竞答好礼：

JBL GO3 便携运动蓝牙音箱（十种颜色可选）

55bbd369bd65103beb0efbe9c647b5f3.png

点击“阅读原文”报名

第一讲“后端技术”直播视频回放

https://uwe.h5.xeknow.com/s/adIUI

第二讲“前端技术”直播视频回放

https://uwe.h5.xeknow.com/s/dPhEM

第三讲“测试开发”直播视频回放

https://uwe.h5.xeknow.com/s/xU0GJ

✿  拓展阅读

e2830211320b0a0c7e52f441e3536863.png

e544b14f3e9fbc61670a8b823269abbb.png

作者|淘系技术

编辑|橙子君

出品|阿里巴巴新零售淘系技术

e00882a86cfef8ade3797721339b05e6.png

78377318702d4fef2e0d290eca06d245.png

博客
淘系技术，实力为2019年双11而战！稳！
11-12 2万+
今年，双11走到了第11个年头，史无前例的，阿里经济体内有49支技术团队共同参与作战，也是第一次，双11的核心系统将100%跑在云上，这无疑让今年的双11技术作战充满了更大的挑战。正如2019年双11技术团长平畴（汤兴）说的“「善战者，无智名，无勇功」，这是我们技术人最高的境界”。我们一起捍卫了阿里技术人的荣耀，一个字 “稳”！年年双11，回回新玩法，“在吗，盖楼吗？”成为了好友聊天的日常，每天蹲...
博客
NL2SQL：从自然语言到SQL的智能转换技术深度解析
07-28 33
通过利用这些SQL查询缺陷中的线索，进行一定程度的修正。在实际应用中，基于与架构相关的上下文、生成的SQL查询以及执行结果（包括潜在的错误信息），可以使模型能够进行第二轮的修正。可以通过知识库的方式解决，另外一方面也有一些数据库层面提供的解决方案，比如阿里的PolarDB提供了「配置表」功能，通过全局生效的固定表名，存储了诸如「问题文本条件判断」、「问题处理」、「问题补充与具体业务/概念相关的信息」等前置文本转换功能，「模型生成的SQL条件判断」、「处理SQL，用于对业务逻辑中的值映射进行强制处。
博客
如何利用多模态大模型进行淘宝商品理解?
07-25 769
例如对于类似这样的尺寸标注，我们需要的是1.5m款式床的宽度，图中出现了两个可能的选项，是床头的1.6m，床尾的1.5，以及其他的一些干扰尺寸，例如1.8m和1.9m，这些干扰尺寸来自其他款式的干扰，由于我们需要的是该具体款式实际占地尺寸，因此我们需要的是1.6m这个尺寸数据。具体到尺寸提取这个任务上来说，其实我们最终需要的结果也是精确且客观定义的，这个特性使得我们非常适合使用强化学习的方式来帮助我们提升能力，我们只需要关注最终结果的正确性，而中间的思考过程可以由模型自行发挥，而不去做显式的监督。
博客
面向互联网2C业务的分布式类Manus Java框架
07-23 830
文章从背景出发，分析了当前主流Agent架构（如Manus、字节TARS、AutoGLM）存在的问题，如云虚拟机架构的数据孤岛问题、本地化Agent架构的响应速度与安全性不足等，进而提出了一种结合分布式服务端与异构C端的混合架构。至于训练数据，模型优化这些深度算法向的东西，可以在业务证明大方向上价值之后，基于平台系统的辅助下积累的线上数据和评估能力，半自动化地蒸馏优化，甚至引入专业算法团队去提升。产生的效果也是有巨大差异，而且他自己能快速的体验迭代，这比中间加一个研发去翻译，效率是无与伦比的。
博客
我的Cursor编程实践经验分享
07-21 118
通过近两个月的实践，在编程中，cursor的表现取决与有效的Rules+正确的开发流程+标准的Prompt。经过这段时间的实践，在编程领域Cursor做的很不错，在一些比较大的需求上，表现的效果不稳定，比如技术方案需要参考业界已有的优秀案例为参考，能设计出有水平的技术方案，业界对这部分的定义称为-深度研究。在我们日常引用到内部的文档比较麻烦，可能需要把文章下载为md文档，在加载到cursor中，使用该MCP可以直接使用，不需要来回转换，比较便利，这个是我们前端的团队同学开发的mcp。
博客
200行极简demo - 学习如何手搓一个ReAct Agent
07-18 818
依托淘宝APP亿级流量入口的核心购物场景，通过持续的技术突破与前沿AI科技深度融合，沉淀出GearsAI、供应链数字分身等AI时代研发与运营基础设施，让商家、小二实现更高效、低成本的经营。我们终于认识了 ReAct 的核心——“思考 (Thought) - 行动 (Action) - 观察 (Observation)”循环的真正含义，同时也对 ReAct 的关键实现有了更深入的理解。小结：在上述例子中，用户一共说了2句话，Agent回复了2句话，但大模型分别调用了1次、3次。通过一步步的实现和推演，
博客
2023-2025大模型领域2年发展综述
07-16 334
MoE模型则代表了技术前沿，以极致的规模和性能吸引高端用户和研究者，这种双轨并行的产品线，让Qwen能够在不同的细分市场中都保持竞争力，尤其是二次开发的衍生模型，Qwen一直在HF都是排名第一的衍生模型，大量的科研和二次开发都是基于Qwen2.5，用LLaMA的越来越少。按这个模式，模型的总参数量可以急剧增加（比如R1直接到671B的总参数量），但每次前向传播（即推理）时实际激活的参数量和计算量（FLOPs）却只占一小部分（比如R1实际上只激活37B），从而实现了经济的训练和高效的推理。
博客
解析3种AI应用模式：核心技术拆解与工程实践
07-14 1056
推理模型和传统的生成式语言模型的差别在于，传统的生成式语言模型在收到 Prompt 后就会马上生成，如果生成出现错误或者质量不好，是没机会纠正的，只能继续生成下去或者后续纠正继续生成，但是推理模型可以在向用户输出内容之前，会先输出思维链（Chain of Thought），对输入的 Prompt 思考验证完成后，再开始生成。这意味着以前在提示词中加入COT的方式已经没必要了，也不需要复杂的角色扮演、示例，因为COT的存在，推理模型的“智能”程度高了很多，不需要角色设置、示例也能很好的理解和跟随指令。
博客
程序员的自我修养 - 架构要素与认知
07-11 400
提到书籍：《逻辑学导论》、《深度思考法》、《学会提问》、《快思慢想》、《金字塔原理》、《奇妙的数字7±2》、《选择的悖论》、《软件架构》、《设计模式解析》、《面向对象分析与设计》、《架构真经》、《必然》、《简单法则：设计、技术、商务、生活的完美融合》、《箴言书注》、《终身成长：重新定义成功的思维模式》、《刻意练习：如何从新手到大师》、《系统架构：复杂系统的产品设计与开发》、《淘宝十年产品事》。在上面的思考之后，隐约感觉到需要为上面的认识定性，到底背后的信仰、认识出发点是什么，所以提出“概念为王”的口号。
博客
端侧AI突破性能瓶颈：MNN 基于 SME2 指令集的大模型高效推理实现
07-09 674
SME2 中一共有 32 个向量寄存器（z0-z31），每个向量寄存器的长度都是 512bit. SME2 指令架构相较于 SVE/SVE2 指令架构的最大特点是新增了数组寄存器 za. za 寄存器也可看作一个向量寄存器，特殊的是该向量中的所有元素都是 512bit 的向量寄存器. 所以 za 寄存器也可以看作是一个二维矩阵（数组），宽度是 512bit，za 寄存器的形状是 64x64 bytes. 下图展示的是一个宽度为 256 bit 的 za 寄存器，有 32 行 32 列。
博客
如何做到在手机上实时跑3D真人数字人？MNN-TaoAvatar开源了！
07-07 213
MNN-TaoAvatar 是我们推出的一款开源的 3D 数字人应用，它集成了多项领先的 AI 技术，支持实时 3D 数字人语音交互，使用户能够在手机上实现与数字人的自然交流，仿佛真的在与一个「活生生」的人交谈。更令人惊艳的是，它能够根据语音实时驱动面部表情的变化，从而带来更加生动真实的对话体验。基于端侧 AI 推理引擎 MNN，我们研发了一系列的核心模块，包括运行大语言模型的 MNN-LLM、语音识别模型的 MNN-ASR、语音合成模型的 MNN-TTS，以及数字人渲染的 MNN-NNR。
博客
淘宝直播数字人：服务端工程技术
07-04 661
欢迎大家一起交流进步。直播数字人在业务发展初期，由于业务体量规模小，前期主要由内部几个商家先进行试用，在面对人员紧缺，同时需要快速验证线上效果的情况下，该阶段采用的方案是人工进行配置，包括主播名单开白使用，主播提交的素材，模型的训练、模型授权等都依赖产研的手动配置和操作。经过一段时间的主播调研和分析后，我们发现当前的产品的设计和体验上，还有较多可以提升的空间，产品能力的智能化发展，是后续需要重点规划和建设的方向，使用更多AI的能力，降低主播的开播门槛，提升消费者的使用体验，给平台带来更大的提效。
博客
淘宝直播数字人：音视频&算法工程技术
07-02 793
团队基于对大语言模型研发、多模态语义理解、语音合成、数字人形象建模、AI工程化部署及音视频处理技术的深厚沉淀和积累，已搭建起覆盖直播全链路的AI技术矩阵。以淘宝直播为例，在直播的过程主要包括了音视频采集、渲染/混音、编码、传输/协议、GRTN、播放器这几个主要的环节。数字记忆：克隆自己、亲人的人设、声音、形象，保留一份永久的分身和记忆，留给自己与儿女！自营商家：天猫超市，喵速达，淘宝秒杀，百亿补贴，淘宝买菜，天天热卖，淘工厂等。千人千面：让每个人拥有一个专属数字人助理，有颜声音甜，陪你讲话、聊天、答疑！
博客
淘宝直播数字人：形象技术
06-30 215
欢迎大家一起交流进步。通过模型鲁棒性和适应性的提升以及自动化审核策略的兜底，将用户素材录制的要求难度降低，例如传统链路要求素材录制必须是绿幕，而绿幕录制会相应带来一系列对于拍摄的要求，像是不能穿毛绒衣服、不能带眼镜、手部不能超出画面等等，这些要求都变相限制了素材拍摄的真实性和多样度。人工评测打分存在主观性，标准难统一，且评测后对低分直播间的治理建议，用户很难完全理解并执行，导致线上生态依然很差，大量低分低表现力数字人会严重影响C端买家的直播观看体验，这也就间接影响了数字人直播间的整体观看时长和下单量。
博客
淘宝直播数字人：LLM弹幕互动技术
06-25 1270
为了实现实时互动的功能，目前我们有两种弹幕互动的形式：一种是在直播间弹幕区通过用文本展示回复，另一种方式是把回复的内容通过TTS和唇驱让数字人口播。存在的模糊空间比单轮意图更大，基于上下文也许既能提取到观众问的链接号也能提取到观众想问商品的关键词，还有可能观众之前问的品通过调整顺序之后现在就在讲，但是这种case其实分错了，后续也能回答对。每次检索宝贝口袋商品时，首先和实时宝贝口袋商品进行同步，输入商品信息，使用BERT计算上下文向量，新增向量库中没有的向量，剔除不存在于宝贝口袋的商品向量。
博客
淘宝直播数字人：LLM文案生成技术
06-23 1402
对于商品口播文案的生成，在数据层面上，相比于最初的只依赖商详信息输入，我们新增了很多内容到文案生成中，比如问评买的用户评价信息、商品详情图的素材理解信息、商家个性化的人设信息和实时的权益信息等。这些信息丰富了文案讲解的内容，让口播文案从大模型千篇一律的文案框架中，升级到了包含丰富且准确的信息，以及多变的文案结构。过去一年，我们从零搭建了整个数字人文案生成的框架，也收集了丰富的信息源，共同组成了我们的弹药库，后续如何合理的组合和使用这些弹药库，需要有个更高维度的reference来对标。
博客
淘宝直播数字人LLM推理优化：模型蒸馏与路径压缩实践
06-20 1167
本专题是我们打造智能数字人的部分实践总结。我们将探讨六大核心环节：LLM文案生产赋予数字人思考和内容生成能力，如同其“大脑”；LLM互动能力则聚焦对话逻辑与拟人化交流，是实现自然交互的关键；TTS（语音合成）技术负责将文字转化为富含情感、个性化的“声音”；形象驱动技术让语音与表情、口型、肢体动作精准同步，塑造逼真视觉形象；音视频工程解决实时渲染、低延迟传输与高质量画面输出的技术挑战；最后，服务端工程构建稳定、弹性、高并发的后端支撑平台，确保数字人服务高效稳定运行。欢迎大家一起交流进步。TLDR直播间弹幕互动
博客
加一个JVM参数，让系统可用率从95%提高到99.995%
06-18 129
其次，加机器虽然能通过稀释单机请求量，让 STW 长暂停影响到的请求量更少，但并未从根本解决问题，且会导致机器资源大量浪费。例如超时时间是 50ms，YGC STW 49ms，则 YGC 结束后还剩余 1ms，此时要分别处理 1000 个请求（高流量）和 10 个请求（低流量），后者报错会少很多，压力不大；ZGC中业务线程访问对象将触发“读屏障”，如果发现对象被复制移动了（通过“着色指针”实现），则“读屏障”会把读出来的指针更新到对象的新地址上，让业务线程始终访问到对象更新后、移动后的正确地址。
博客
零基础解码Transformer与大模型核心原理
06-16 952
矩阵和“早上好”的转置矩阵做计算时，“早”会跟自己以及其他两个字（“上”、“好”）的向量分别做内积，来得到一个新的向量。本文作者逾末，来自淘天集团-直播技术团队。：获取输入句子的每个单词的特征值，也就是常说的embedding，但是只获取单词的特征值是不够的，因为推理一个句子，还需要单词之间的依赖关系，所以需要对单词的具体位置进行编码，获取到位置的编码信息（即位置的embedding，后面会详细讲位置信息如何编码的～），随后将两个Embedding相加，即可得到拥有位置信息的编码矩阵，如下图所示。
博客
聊聊AI应用架构演进
06-13 156
RAG中的缓存设计，主要是面向精准匹配的缓存，比如面对相同的用于做知识库内容检索的query，可以快速从缓存中返回结果，因为当知识库变得丰富的同时，在做检索的时候，需要涉及到的向量计算量大且耗时，同时在一些使用场景中，知识库中的知识可能会存在一些热点内容，这时候缓存这部分知识的Index和body，对于整体推理提效会有不错的效果。Context增强的核心目标是针对用户的query，补充最相关、最必要的关联数据，从而提升模型的输出质量，因此如何找到这个最相关的补充数据，在细节方案设计上没有固定模式，在。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值