LLM学习(6)—— LLM 应用

基于zhipuai的RAG技术的应用(穿搭助手) 例如:请问我比较的高瘦应该怎么穿搭——>变成我比较的高瘦该穿什么样的衣服,我比较的高瘦该穿什么样的裤子......利用这样的拆分一条条的检索对应的答案的背景,最后将问题和背景一起返回回去给LLM进行推荐。使得生成的结果比较靠谱,原本ai推荐的比较的广泛没有具体的内容,所有采用RAG技术来提高ai的准确率,以及审美水平,具体的RAG流程如下。由于数据库中的数据的比较少,虽然被拆分的问题多,但是返回的结果也没有完全把所有的问题的回答了,回复的答案其实也是比较的“水”。,从而显著提升了回答的准确性与深度。 阅读详情

简易知识库助手

相对于LLM学习(4),首先更改了embedding的方式,由Gemini换成了zhipu,Gemini的人工zz嵌入模型实在太离谱了,把none选项改成了包含历史对话而不仅仅是一问一答,增加了对于pdf和md文件的的导入然后转换为检索词向量库(chroma)。新增加了一个prompt的文本框,我感觉默认的值其实已经不错了。

存在的问题#

  1. 因为我的prompt并没有区分三种不同的问答情况(qa,none,qa_chain)我只是把none内个部分的context置为[None]区分history也是这样我只是单纯的把history置为[None]但是已经在给定prompt中“you have a conversation with a human”和“And your answer should refer to the context provided”的情况下给None是否会造成某些奇奇怪怪的错误或者使得结果变得没有那么好,这里我没有经过实验。
  2. 大量使用回调函数然后global而不是传参,使用gradio库中的传参问题在前面的LLM学习中已经说过了LLM学习(4),不知道为什么gradio里面参数我不使用global的时候是值传递???,直接复制了一份,但是我希望他不停的监控文本框、选择栏的输入,这样显然是不行的,所以被逼无奈才出此下策(减慢了速度),不知道到底是库的问题还是一开始我的代码逻辑就有问题。
  3. 只是在开头实现了删除chroma向量库,而不是在GUI中实现,因为关一次删一次只能这样,但是我希望有个显示栏去显示已经存在的向量库,和按钮确定是否清除。以后有机会我会补充一个LLM(6)续集(虽然大概率是🕊)。
  4. 程序中并没有给出 zhipuembedding ,请自己去查看@Datawhale然后下载,程序中也没有设置环境变量,你可以通过启用!set ZHIPUAI_API_KEY=you key去设置环境变量用!setx ZHIPUAI_API_KEY ""去删除,也可以自己写个bat文件运行,但是我更推荐手动去win设置里面添加删除。
  5. 如果你启用了向量库的删除多次删除过后可以因为某些不知名的进程占用导致删除失败,这时候就需要自己手动关闭进程,最简单的就是直接把代码重启。
  6. split 必须在load之前,而且prompt必须更改,但是你可以只复制一下(实现逻辑问题,会改的会改的🕊🕊🕊🕊🕊🕊🕊🕊🕊🕊🕊🕊🕊)

导入库文件#

Copy
from langchain_google_genai import ChatGoogleGenerativeAI
from langchain.prompts import PromptTemplate
from langchain.chains import create_retrieval_chain
from langchain.chains.combine_documents import create_stuff_documents_chain
from langchain.vectorstores.chroma import Chroma
import gradio as gr
import os
import psutil
from langchain_community.document_loaders import PyMuPDFLoader
from zhipuai_embedding import ZhipuAIEmbeddings
from langchain.text_splitter import RecursiveCharacterTextSplitter
#这里注意把端口改成你自己的,如果不知道端口多少那么试试7890再试试10809
os.environ['http_proxy'] = 'http://127.0.0.1:10809'
os.environ['https_proxy'] = 'http://127.0.0.1:10809'
#!set ZHIPUAI_API_KEY=you key

# 测试连接是否成功
# llm = ChatGoogleGenerativeAI(model="gemini-pro",google_api_key="")
# result = llm.invoke("message")
# print(result.content)

删除之前的向量库(可以注释掉)#

Copy
def delete_folder_contents(folder_path):
    #遍历文件夹中的所有文件和子文件夹
    for filename in os.listdir(folder_path):
        file_path = os.path.join(folder_path, filename)
        #如果是文件,则直接删除
        if os.path.isfile(file_path):
            os.remove(file_path)
        #如果是子文件夹,则递归删除其内容
        elif os.path.isdir(file_path):
            shutil.rmtree(file_path)
Copy
folder_path = "./data/vector_db_zhipu/chroma"
delete_folder_contents(folder_path)
#!rm -rf './data/vector_db_zhipu/chroma' ##linux直接用这个命令就行,不需要那么麻烦

函数#

Copy
# 检索链+历史对话
def get_chat_qa_chain(chat_history,api_key,message,template):
        llm = ChatGoogleGenerativeAI(model="gemini-pro",google_api_key=api_key)
        path = './data/vector_db_zhipu/chroma'
        embeddings = ZhipuAIEmbeddings()
        vectordb=Chroma(
            persist_directory=path,
            embedding_function=embeddings
        )
        print(f"向量库中存储的数量:{vectordb._collection.count()}")
        # template = """You are a helpful AI assistant and you have a conversation with a human
        # chat_history:{chat_history}
        # And your answer should refer to the context provided below in addition to the chat_history.
        # context: {context}
        # input: {input}
        # answer:  
        # """
        retriever=vectordb.as_retriever()
        prompt = PromptTemplate.from_template(template)
        combine_docs_chain = create_stuff_documents_chain(llm, prompt)
        retrieval_chain = create_retrieval_chain(retriever, combine_docs_chain)
        result=retrieval_chain.invoke({"input":message,"chat_history":chat_history})
        return result["answer"]
# 检索链
def get_qa_chain(api_key,message,template):
    return get_chat_qa_chain(chat_history=[None],api_key=api_key,message=message,template=template)
# 历史对话
def get_qa(api_key,input,history,template):
    # template = """You are a helpful AI assistant and you have a conversation with a human
    # chat_history:{chat_history}
    # input: {input}
    # answer:  
    # """
    prompt_template = PromptTemplate.from_template(template)
    message=prompt_template.format(chat_history=history,input=input,context=[None])
    llm = ChatGoogleGenerativeAI(model="gemini-pro",google_api_key=api_key)
    result = llm.invoke(message)
    print(result.content)
    return result.content
# 历史对话转换格式
def transform_history(history):
    new_history=[]
    for chat in history:
        new_history.append({"user":chat[0]})
        new_history.append({"AI":chat[1]})
    return new_history

GUI

Copy
with gr.Blocks() as demo:
    radio = gr.Radio(
        ["qa", "chat_qa", "none"], label="What mode do you want?"
    )
    def radio_change(R):
        global select_mode
        select_mode=R
    radio.change(fn=radio_change,inputs=radio)
    api_key=gr.Textbox(lines=1, placeholder="AAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAA", label="your api_key")
    def api_change(A):
        global API_key
        API_key=A
    api_key.change(fn=api_change,inputs=api_key)
    split=gr.Slider(20, 1000, label="split", info="Choose split_documents between 5 and 1000")
    def split_change(split):
        global sp
        sp=split
    split.change(fn=split_change,inputs=split)

    with gr.Row():
        global pp
        file=gr.File(file_count="multiple",file_types=["file"])
        template = """You are a helpful AI assistant and you have a conversation with a human
        chat_history:{chat_history}
        And your answer should refer to the context provided below in addition to the chat_history.
        context: {context}
        input: {input}
        answer:  
        """
        prompt=gr.Textbox(placeholder="""You are a helpful AI assistant and you have a conversation with a human
        chat_history:{chat_history}
        And your answer should refer to the context provided below in addition to the chat_history.
        context: {context}
        input: {input}
        answer:  
        """, label="your prompt[the chat_history,contex,input,answer must in it]",value=template)
        # print(type(file))
        def pdf_load(files):
            global sp
            loaders = []
            for f in files:
                file_path=f.name
                file_type = file_path.split('.')[-1]
                if file_type == 'pdf':
                    loaders.append(PyMuPDFLoader(file_path))
                elif file_type == 'md':
                    loaders.append(UnstructuredMarkdownLoader(file_path))
            texts = []
            for loader in loaders: texts.extend(loader.load())
            text_splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=50)
            split_docs = text_splitter.split_documents(texts)
            print(len(split_docs))
            embeddings = ZhipuAIEmbeddings()
            persist_directory = './data/vector_db_zhipu/chroma'
            print(sp)
            vectordb = Chroma.from_documents(
            documents=split_docs[:sp],
            embedding=embeddings,
            persist_directory=persist_directory)
            vectordb.persist()
        def prompt_change(prompt):
            global pp 
            pp=prompt
        file.change(fn=pdf_load,inputs=file)
        prompt.change(fn=prompt_change,inputs=prompt)
         

    # print(type(file))
    chatbot = gr.Chatbot()
    msg=gr.Textbox()
    def select(message,chat_history):
        print(message)
        global select_mode
        global API_key
        global pp
        print(pp)
        # print(API_key)
        # print(select_mode)
        # print('Stop0')
        bot_message=""
        history=transform_history(chat_history)
        if select_mode=="none":
            bot_message=get_qa(api_key=API_key,input=message,history=history,template=pp)
            # print('Stop2')
        elif select_mode=="qa":
            bot_message=get_qa_chain(api_key=API_key,message=message,template=pp)
            # print('Stop3')
        elif select_mode=="chat_qa":
            bot_message=get_chat_qa_chain(history,API_key,message,template=pp)
            # print('Stop4')
        chat_history.append((message, bot_message))
        # print('Stop5')
        return "", chat_history
    msg.submit(select,[msg,chatbot],[msg,chatbot])

launch#

Copy
demo.launch(share=True,debug=True)

演示#

首先我们导入pdf和md文件,填入api,prompt我就用默认的了,split选择40
在none的情况下连接成功!


切换为chat_qa,可以看到由于split设置的不够,使用并没有prompt的知识


继续


让Gemini输出来源

结尾

一个月的学习,虽然ddl很多,但是结束了是真的一身轻松啊,而且这个月的学习中也从队友和助教还有群里的老哥们身上学到了很多,非常感谢他们的指点。在发现嵌入模型出现问题的时候,在队友和群友还有助教的帮助下才找到了问题的关键(虽然最后还是换了zhipu,Geogle你欠我的拿什么还!)
还有的就是,LLM和RAG真的很好玩啊,以后我有钱了,一定要买几片A100去布置一个自己的Model。

如何系统的去学习AI大模型LLM ?

作为一名热心肠的互联网老兵,我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的 AI大模型资料 包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

所有资料 ⚡️ ,朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》,扫码获取~

👉优快云大礼包🎁:全网最全《LLM大模型入门+进阶学习资源包》免费分享(安全链接,放心点击)👈

​

一、全套AGI大模型学习路线

AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!

img

二、640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

img

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

img

在这里插入图片描述

四、AI大模型商业化落地方案

img

阶段1:AI大模型时代的基础理解

  • 目标:了解AI大模型的基本概念、发展历程和核心原理。
  • 内容:
    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
      - L1.4.1 知识大模型
      - L1.4.2 生产大模型
      - L1.4.3 模型工程方法论
      - L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2:AI大模型API应用开发工程

  • 目标:掌握AI大模型API的使用和开发,以及相关的编程技能。
  • 内容:
    • L2.1 API接口
      - L2.1.1 OpenAI API接口
      - L2.1.2 Python接口接入
      - L2.1.3 BOT工具类框架
      - L2.1.4 代码示例
    • L2.2 Prompt框架
      - L2.2.1 什么是Prompt
      - L2.2.2 Prompt框架应用现状
      - L2.2.3 基于GPTAS的Prompt框架
      - L2.2.4 Prompt框架与Thought
      - L2.2.5 Prompt框架与提示词
    • L2.3 流水线工程
      - L2.3.1 流水线工程的概念
      - L2.3.2 流水线工程的优点
      - L2.3.3 流水线工程的应用
    • L2.4 总结与展望

阶段3:AI大模型应用架构实践

  • 目标:深入理解AI大模型的应用架构,并能够进行私有化部署。
  • 内容:
    • L3.1 Agent模型框架
      - L3.1.1 Agent模型框架的设计理念
      - L3.1.2 Agent模型框架的核心组件
      - L3.1.3 Agent模型框架的实现细节
    • L3.2 MetaGPT
      - L3.2.1 MetaGPT的基本概念
      - L3.2.2 MetaGPT的工作原理
      - L3.2.3 MetaGPT的应用场景
    • L3.3 ChatGLM
      - L3.3.1 ChatGLM的特点
      - L3.3.2 ChatGLM的开发环境
      - L3.3.3 ChatGLM的使用示例
    • L3.4 LLAMA
      - L3.4.1 LLAMA的特点
      - L3.4.2 LLAMA的开发环境
      - L3.4.3 LLAMA的使用示例
    • L3.5 其他大模型介绍

阶段4:AI大模型私有化部署

  • 目标:掌握多种AI大模型的私有化部署,包括多模态和特定领域模型。
  • 内容:
    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

学习计划:

  • 阶段1:1-2个月,建立AI大模型的基础知识体系。
  • 阶段2:2-3个月,专注于API应用开发能力的提升。
  • 阶段3:3-4个月,深入实践AI大模型的应用架构和私有化部署。
  • 阶段4:4-5个月,专注于高级模型的应用和部署。
这份完整版的所有 ⚡️ 大模型 LLM 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

全套 《LLM大模型入门+进阶学习资源包》↓↓↓ 获取~

👉优快云大礼包🎁:全网最全《LLM大模型入门+进阶学习资源包》免费分享(安全链接,放心点击)👈

​

基于ZhiPuAi的文本匹配1(基础) 可以看到emb1和emb3的相似对更高,但是文本之间的差距比emb1、emb2之间的文本差距大(指的是所用的字的差距大,并非文意),但是为什么1、3相似度会比1、2的相似的高呢,是因为embedding是联系上下文的,所以虽然文本没有什么差距,但是内涵是不一样的,所以相似度就没有内涵一样的高。所以我们在远古时期用的检索问题答案的方式就是,将你的问的问题(文本)embedding化,然后在官方的embedding库中检索,对比,将相似对最高的问题作为你的问的问题,然后将这个问题的答案放回给你。 阅读详情

相关推荐

LLM实战学习路线:从API调用到RAG与Agent应用开发

大语言模型(LLM)作为人工智能领域的重要突破,其核心是基于Transformer架构的序列预测系统。该技术通过自注意力机制理解上下文语义,实现文本生成与理解。在工程实践中,掌握Prompt Engineering和模型调参是发挥LLM能力的基础,而RAG(检索增强生成)技术通过向量检索与知识库结合,有效解决了模型幻觉与知识更新问题。智能体(Agent)范式进一步扩展了LLM的能力边界,使其能够规划任务并调用外部工具。当前,结合LangChain等框架构建企业级应用已成为主流,涉及本地模型部署、性能优化和多

weixin_33978044的博客 548

LangChain——Embedding 智谱AI

Embedding嵌入创建一段文本的矢量表示。这很有用,因为这意味着我们可以考虑向量空间中的文本,并执行语义搜索之类的操作,在其中查找向量空间中最相似的文本片段。LangChain 中的基类Embeddings提供了两种方法:一种用于嵌入文档,另一种用于嵌入查询。前者采用多个文本作为输入,而后者采用单个文本。

volcan的博客 4031

LLM的应用

提示词工程,也称为 Prompt Engineering,是一种致力于优化和提高大型语言模型(LLM)输出质量的技术和方法。它主要关注如何设计、构造和优化提示词(Prompt),以引导 LLM 生成更准确、更有用、更符合用户需求的文本。可以说,掌握了提示词工程就掌握了打开 LLM 知识大门的钥匙。

凢的博客 7176

动手学大模型应用开发-Task05

【在线阅读地址】https://datawhalechina.github.io/llm-universe/【项目仓库地址】https://github.com/datawhalechina/llm-universe【用户反馈地址】https://emoumcwvfx.feishu.cn/share/base/form/shrcnWBh2a9gl3HhW5ww736B64f【小程序使用手册】

lanhaile的博客 2246

自监督学习与迁移学习在LLM中的应用

自监督学习与迁移学习在LLM中的应用 1. 背景介绍 近年来,随着深度学习技术的不断发展,大型语言模型(Large Language Model, LLM)在自然语言处理领域取得了巨大的成功。LLM 能够通过对海量文本数据的预训练,学习到丰富的语义知识和语言表达能力,在各种下游NLP任

AI天才研究院 1092

LLM应用的持续学习文化:在敏捷中成长

文章标题:LLM应用的持续学习文化:在敏捷中成长 关键词:持续学习文化、LLM应用、敏捷开发、算法原理、系统架构、项目实战、最佳实践 摘要:随着人工智能技术的发展,大语言模型(LLM)在各个领域得到了广泛应用。然而,LLM应用的持续学习文化却常常被忽视。本文旨在探讨LLM应用的持续学习文化,以及如何在

AI天才研究院 1231

【山东大学项目实训】第五周进度汇报

print(f'embedding(前10)为: {response.data[0].embedding[:10]}')print(f'生成的embedding长度为:{len(response.data[0].embedding)}')print(f'生成embedding的model为:{response.model}')print(f'embedding类型为:{response.object}')print(f'response类型为:{type(response)}')

qq_62497235的博客 699

LT8711/LT8712 Type-C转HDMI设计方案|替代LT8711/LT8712芯片|GSV2201可完全替代兼容LT8711/LT8712

LT8711UX是一款高性能C/DP1.2型至HDMI2.0转换器,用于将USB Type-C源或DP1.2源连接到HDMI2.0接收器。该LT8711UX集成了一个DP1.2兼容的接收器,和一个HDMI2.0兼容的发射器。此外,还包括两个CC控制器,用于CC通信,以实现DP Alt模式和功率传输功能,一个用于上游Type-C端口和另一个用于下游端口。

weixin_63518914的博客 1641

6大GitHub上狂飙的LLM开源学习资源,从入门到精通大模型应用开发全指南!2025最新

文章介绍了7个优质的大语言模型(LLM)开源学习资源,包括LLM-Universe、LLM-Course、微软Generative AI for Beginners等。这些资源各具特色,有的适合初学者系统入门,有的提供实践项目,有的覆盖全链路技术,还有的专注于工程化部署和小模型训练。所有资源均开源并提供详细教程,帮助开发者从零开始掌握LLM核心技术与应用开发,是学习大模型不可多得的宝贵资料库。

weixin_55154866的博客 3197

从FP16到FP8:我是如何让Stable Diffusion 3.5提速40%而不丢画质的

本文分享了StableDiffusion模型优化的实战经验。通过FP8精度转换、分层处理敏感模块,实现显存占用降低35%、推理速度提升40%。文章详细介绍了提升画质的五大技巧、本地/云端/移动端部署方案,以及二次元模型定制等垂直领域应用。同时总结了硬件兼容性、数据质量等七大常见陷阱,并强调持续监控和伦理考量。作者指出未来应关注MoE架构、注意力机制优化等方向,认为技术优化是持续追求性能与质量平衡的过程。

达则兼济天下 1190

芯片硅前验证技术与驱动工程师实战指南

硅前验证是芯片开发流程中的关键环节,通过pre-silicon simulation等技术手段在流片前验证设计正确性。其核心技术包括软件仿真、FPGA原型验证和硬件仿真器解决方案,涉及Linux驱动开发、芯片架构理解和波形分析等核心技能。作为连接芯片设计与系统集成的桥梁,硅前验证能早期发现设计缺陷,节省数百万美元流片成本。以Cadence Palladium为代表的硬件仿真器,通过专用服务器系统实现比纯软件方案快100-1000倍的仿真速度,为驱动工程师提供完整的外设模型验证环境。掌握硅前验证技术可显著提升

weixin_42522857的博客 329

Qwen3-0.6B-FP8应用场景:开发者学习LLM服务化封装的最佳入门镜像

本文介绍了如何在星图GPU平台上自动化部署Qwen3-0.6B-FP8(内置模型版)v1.0镜像,为开发者提供了一个学习大语言模型服务化封装的理想入门工具。该镜像集成了完整的AI对话服务与API接口,特别适合用于构建轻量级的智能客服、问答系统等应用场景,帮助开发者以最小成本理解LLM服务化的完整流程。

weixin_31315007的博客 92

长短期记忆网络(Long Short-Term Memory networks, LSTM)

如何简单的理解LSTM——其实没有那么复杂:

weixin_39910711的博客 2万+

LLM为什么普遍都是6/7B、13B和130B大小?

此时 1 卡的显存占不等式为 13 x (6/pipeline 并行数 + 12/(pipeline 并行数*zero 并行数) + 34,也就是 13 x (1.5+1.5) + 34 = 73,此时 1 卡显存占用 73G,能装下了。数据并行每张卡都要有完整的一条数据,所以每张卡有 34G 要拿来存储正向传播的中间变量,可用显存只有 80-34=46G, 也就是 13 x (6+12/zero 并行数) < 46,不等式无解,无论如何也是装不下的。那么第二种方案就是再来 4 张卡,一共 8 张卡。

2401_85375186的博客 1659

COMSOL网格划分技巧总结

在对马赫曾德尔型光学传感器进行模拟仿真时,在采用自动物理场自动控制网格-极细化的情况下透射谱曲线仍不理想,因此需要手动划分网格来对其进行更精细的剖分。 手动划分的基本原则是在作用边界,热点,曲边处做细致划分, 基底,包层等做粗略划分。对于光波导型的微纳结构,在仿真时一般需要用到创建边界层网格。 1.COMSOL所需要的网格数量 网格单元数越多,结果精细度越高,计算所需内存越多。在细化到一定程度后网格收敛,仿真结果提升不明显。 2.网格剖分类型 ...

qq_42453337的博客 4万+

超详细的Burp Suite安装使用

‌Burp Suite是一个强大的Web应用安全测试工具,适用于网络安全专业人士进行自动化网络应用程序的安全测试。‌ 它提供了在Windows和Kali Linux上安装和激活Burp Suite Professional的简便步骤,帮助用户快速集成并启用强大的网络扫描和渗透测试功能。Burp Suite的特点包括易于安装、良好的兼容性、内置的自动化工具、优秀的用户体验以及详细的教程,使得无论是安全领域的新手还是经验丰富的专家,都能轻松上手并高效地进行安全测试。此外,Burp Suite还支持扩展功能的使用

Dreams°的博客 2649

解决小LLM 6类幻觉的实用指南

LLM中的幻觉有多种不同的形式,例如以下几种:

m0_59235945的博客 859

Ultralytics YOLOv8 英伟达™ Jetson®处理器部署

英伟达™(NVIDIA®)Jetson 是一系列嵌入式计算板卡,旨在为边缘设备带来加速的 AI(人工智能)计算。这些小巧而功能强大的设备围绕英伟达™(NVIDIA®)的GPU架构打造,能够直接在设备上运行复杂的人工智能算法和深度学习模型,而无需依赖云计算资源。Jetson 板卡通常用于机器人、自动驾驶汽车、工业自动化和其他需要在本地以低延迟和高效率执行人工智能推理的应用中。此外,这些板卡基于 ARM64 架构,与传统 GPU 计算设备相比运行功耗更低。英伟达™(NVIDIA®)JetPack SDK。

机器人控制与仿真应用 3879

2025最新LLM大模型基础知识学习总结_llm知识点

在这个已经被大模型包围的时代,不了解一点大模型的基础知识和相关概念,可能出去聊天都接不上话。刚好近期我也一直在用ChatGPT和GitHub Copilot,也刚好对这些基础知识很感兴趣,于是看了一些科普类视频和报告,做了如下的整理总结,分享与你! 一句话描述GPT GPT全称Generative Pre-Training Transformer,即三个关键词:生成式 预训练 变换模型。 GPT模型通过在大量数据上学习到的语言模式,预测下一个字(token),生成自然语言文本。

lyy2017175913的博客 666

基于Simulink的PID控制防抱死制动系统(ABS)建模与仿真

防抱死制动系统(Anti-lock Braking System,简称ABS)是一种用于防止车辆在紧急制动时车轮完全抱死的技术。通过实时监测车轮速度并调节制动力,ABS能够显著提高车辆的制动性能和操控稳定性,从而减少交通事故的发生。PID(比例-积分-微分)控制器因其结构简单、性能稳定且易于实现而被广泛应用于ABS控制系统中。本项目旨在通过MATLAB/Simulink平台设计和验证一个基于PID控制的ABS系统,重点研究PID参数调优方法、系统动态响应特性以及制动过程中的滑移率控制能力。

MHD0815的博客 486

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

超越简单问答:探索LLM深度潜能的6大高级Prompt策略!

是否觉得与大语言模型(LLM)的互动还停留在“问个天气”、“写首小诗”的浅层阶段?你渴望挖掘它更深层的分析、创造和解决问题的能力,甚至探索其在个人商业项目中的应用潜力,却常常感觉它“不够给力”或“答非所问”?这往往不是 LLM 能力不足,而是我们未能有效“唤醒”它的潜能。本文将为你揭示 6 大进阶 Prompt 策略,助你告别低效沟通,驾驭 LLM 实现更复杂、更高价值的任务。你一定有过这样的体验:满怀期待地向 LLM 提出一个复杂问题或创意请求,得到的却是一个泛泛而谈、缺乏洞见,甚至逻辑混乱的答案。

m0_63171455的博客 1507

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

一文讲清楚大模型中6个关键词及原理:LLM、Transformer、Bert、预训练、微调FineTuning、机器学习

大语言模型是一类基于深度学习的人工智能模型,它通过对海量文本数据进行训练,学习到语言的结构、语义、语法等知识,从而能够理解和生成自然语言。这类模型通常具有庞大的参数规模,例如 GPT-3 拥有 1750 亿个参数,使得它们能够捕捉到语言中极其复杂的模式和关系。

m0_48891301的博客 1303

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

【AI大模型】LLM大模型基础知识学习总结

在这个已经被AI大模型包围的时代,不了解一点大模型的基础知识和相关概念,可能出去聊天都接不上话。刚好近期我也一直在用GPT和GitHub Copilot,也刚好对这些基础知识很感兴趣,于是学习了一下,做了如下的整理总结,分享与你!

pythonhy的博客 1491

写给LLM新人的个人经验!希望可以帮到你

写给LLM新手的个人经验!希望能帮助到您!

2401_85328934的博客 1370
上一篇: LLM学习(5)——系统评估与优化
下一篇: LLM大模型系列:监控大模型训练
Llama-Turbo
博客等级 码龄4年 9902粉丝 2026原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值