Java Bit Computing

GLM-4-9B-Chat 4bit量化加载全解析:Windows环境避坑指南 大语言模型量化加载是降低显存占用、实现本地轻量部署的核心技术。其本质并非简单压缩,而是通过NF4等动态量化方案重构权重数值表示,在4bit精度下协同scale/zero-point元数据实现实时反量化。该技术显著提升GPU资源利用率,广泛应用于国产大模型如GLM系列的终端推理与边缘部署。实际落地中,需深度耦合transformers版本兼容性、bitsandbytes量化配置、Windows驱动与CUDA运行时协同等多层机制。本文聚焦GLM-4-9B-Chat在Windows平台的4bit量化加载全流程,覆 阅读详情
移位运算符包括:
    “>> 右移”;“<< 左移”;“>>> 无符号右移”

例子:
-5>>3=-1
1111 1111 1111 1111 1111 1111 1111 1011
1111 1111 1111 1111 1111 1111 1111 1111
其结果与 Math.floor((double)-5/(2*2*2)) 完全相同。

-5<<3=-40
1111 1111 1111 1111 1111 1111 1111 1011
1111 1111 1111 1111 1111 1111 1101 1000 
其结果与 -5*2*2*2 完全相同。

5>>3=0
0000 0000 0000 0000 0000 0000 0000 0101
0000 0000 0000 0000 0000 0000 0000 0000
其结果与 5/(2*2*2) 完全相同。

5<<3=40
0000 0000 0000 0000 0000 0000 0000 0101
0000 0000 0000 0000 0000 0000 0010 1000
其结果与 5*2*2*2 完全相同。

-5>>>3=536870911      
1111 1111 1111 1111 1111 1111 1111 1011
0001 1111 1111 1111 1111 1111 1111 1111

无论正数、负数,它们的右移、左移、无符号右移 32 位都是其本身,比如 -5<<32=-5、-5>>32=-5、-5>>>32=-5。
一个有趣的现象是,把 1 左移 31 位再右移 31 位,其结果为 -1。
0000 0000 0000 0000 0000 0000 0000 0001
1000 0000 0000 0000 0000 0000 0000 0000
1111 1111 1111 1111 1111 1111 1111 1111


位逻辑运算符包括:
    & 与;| 或;~ 非(也叫做求反);^ 异或

    “& 与”、“| 或”、“~ 非”是基本逻辑运算,由此可以演变出“与非”、“或非”、“与或非”复合逻辑运算。“^ 异或”是一种特殊的逻辑运算,对它求反可以得到“同或”,所以“同或”逻辑也叫“异或非”逻辑。

例子:
5&3=1
0000 0000 0000 0000 0000 0000 0000 0101
0000 0000 0000 0000 0000 0000 0000 0011
0000 0000 0000 0000 0000 0000 0000 0001

-5&3=3
1111 1111 1111 1111 1111 1111 1111 1011
0000 0000 0000 0000 0000 0000 0000 0011
0000 0000 0000 0000 0000 0000 0000 0011

5|3=7
0000 0000 0000 0000 0000 0000 0000 0101
0000 0000 0000 0000 0000 0000 0000 0011
0000 0000 0000 0000 0000 0000 0000 0111

-5|3=-5
1111 1111 1111 1111 1111 1111 1111 1011
0000 0000 0000 0000 0000 0000 0000 0011
1111 1111 1111 1111 1111 1111 1111 1011

~5=-6
0000 0000 0000 0000 0000 0000 0000 0101
1111 1111 1111 1111 1111 1111 1111 1010

~-5=4
1111 1111 1111 1111 1111 1111 1111 1011
0000 0000 0000 0000 0000 0000 0000 0100

5^3=6
0000 0000 0000 0000 0000 0000 0000 0101
0000 0000 0000 0000 0000 0000 0000 0011
0000 0000 0000 0000 0000 0000 0000 0110

-5^3=-8
1111 1111 1111 1111 1111 1111 1111 1011
0000 0000 0000 0000 0000 0000 0000 0011

1111 1111 1111 1111 1111 1111 1111 1000

位与运算的主要用途如下:

(1)清零:快速对某一段数据单元的数据清零,即将其全部的二进制位为0。例如整型数a=321对其全部数据清零的操作为a=a&0x0。

 

321=

0000 0001 0100 0001

&

0=

0000 0000 0000 0000

=

 

0000 0000 0000 0000

(2)获取一个数据的指定位。例如获得整型数a=的低八位数据的操作为a=a&0xFF。

 

321=

0000 0001 0100 0001

&

0xFF =

0000 0000 1111 1111

=

 

0000 0000 0100 0001

获得整型数a=的高八位数据的操作为a=a&0xFF00。
==
a&0XFF00==

 

321=

0000 0001 0100 0001

&

0XFF00=

1111 1111 0000 0000

=

 

0000 0001 0000 0000

(3)保留数据区的特定位。例如获得整型数a=的第7-8位(从0开始)位的数据操作为:

110000000

 

321=

0000 0001 0100 0001

&

384=

0000 0001 1000 0000

=

 

0000 0001 0000 0000


自旋玻璃系统与概率计算:原理、算法与应用 自旋玻璃系统作为统计物理中的经典模型,描述了具有随机相互作用的磁矩网络,其复杂的能量景观使其成为研究NP难问题的理想平台。概率计算(Probabilistic Computing)通过引入概率比特(P-bit)构建Boltzmann机,有效模拟了伊辛模型的动力学行为。这种计算范式利用带噪声的sigmoid函数实现状态更新,无需显式计算配分函数即可收敛到玻尔兹曼分布。在工程实践中,概率计算展现出与系统尺寸无关的标度特性,特别适合处理立方晶格等规则拓扑结构。通过优化更新组策略和硬件实现,该技术已成功应用于组合优 阅读详情

相关推荐

1-Bit Bonsai-27B模型部署:PrismML与llama.cpp实战指南

模型量化是深度学习部署中的关键技术,通过降低参数精度来减少存储和计算资源需求。其核心原理是将高精度浮点数映射到低比特表示,在保持模型功能的同时大幅压缩体积。1比特量化作为极端量化技术,将每个参数压缩至1位,实现了32倍的模型压缩比,为资源受限环境提供了新的部署可能。在工程实践中,这种技术能显著降低硬件门槛,使大模型能够在消费级GPU甚至边缘设备上运行。结合PrismML的自动化部署流程和llama.cpp的GGUF格式支持,开发者可以高效实现Bonsai-27B等大模型的本地化部署,平衡精度损失与实用性,推

weixin_33946605的博客 341

java的移位操作详解,左移和右移

注意 首先要明白一点,这里面所有的操作都是针对存储在计算机中中二进制的操作,那么就要知道,正数在计算机中是用二进制表示的,负数在计算机中使用补码表示的。 带符号的位移 左移位:<<,有符号的移位操作 左移操作时将运算数的二进制码整体左移指定位数,左移之后的空位用0补充 右移位:>>,有符号的移位操作 右移操作是将运算数的二进制码整体右移指定位数,右移之后的空位用符号位补充,如果是正

不求前途凶吉,但求落幕无悔! 3962

Matlab R2025a安装全指南:Java 17、HDL Coder与离线激活实战

MATLAB作为科学计算与工程仿真的核心平台,其安装已远超传统软件部署范畴,演变为涉及JVM运行时、硬件兼容性与许可证体系的系统工程。R2025a版本强制升级至Java 17运行环境,并深度集成HDL Coder等专业工具链,对操作系统内核(如glibc 2.34+、.NET Framework 4.8.1)、GPU驱动(CUDA 12.2)、离线激活机制(硬件指纹绑定)提出明确要求。技术价值在于保障高阶建模(如光频梳锁模、醉汉随机游走)的环境一致性与计算可复现性;典型应用场景覆盖军工离线部署、高校超算集群

weixin_34185512的博客 386

Java 位运算(移位、位与、或、异或、非)

目录 前言 一、十进制转二进制 1. 整形转二进制计算方式概述: 2 . 小数转二进制计算方式概述: 3. 负数转二进制计算方式概述: 4. 二进制转十进制方式: 二、二进制基本运算 三、JAVA位运算 1.移位 2.按位与(&) 3.按位或(|) 3.按位非(~) 3.按位异或(^) ...

qq_36869100的博客 1210

Eclipse MAT下载与配置全指南:Java内存分析实战入门

Eclipse MAT(Memory Analyzer Tool)是Java开发者用于分析堆内存快照(heap dump)的核心诊断工具,其本质是基于Eclipse RCP构建的内存分析客户端,依赖JDK运行环境并深度集成JVM底层机制。理解MAT的版本兼容性、平台架构匹配及JDK强封装适配原理,是规避启动失败、解析异常等常见问题的技术前提。它通过解析.hprof文件构建对象支配树、计算保留集大小,支撑OOM定位、内存泄漏识别与JVM调优等关键场景。本文聚焦MAT 1.11.0在JDK 11+及ARM64/

weixin_33895516的博客 350

【信息科学与工程学】计算机科学与自动化——第三百零三篇 Java高性能指南03

编号类型领域编程语言问题函数/算法名称函数算法的数学分析及逐步推理思考求解的数学方程式及参数列表及参数的数值范围及常量函数的数据结构与调用的指令列表程序完整的可执行代码及编译器配置及资源需求关联知识401LMAX Disruptor详解高性能Java (JDK 8+)深入理解Disruptor无锁队列的原理与使用Disruptor (RingBuffer + Sequence Barrier)数学方程: 大小 , 使用 配合内存屏障。参数:,。推理:Disruptor通过预分配事件槽位、无锁CAS更新Se

weixin_49199313的博客 260

java bit 位移规律总结

/** 例如:int i = 1; i占用 4 字节,1字节 = 8bit, 32位,bit(正整数 = 00000000 00000000 00000000 00000001 负数=11111111 11111111 11111111 11111111) 数字(num) bit 1 ====== ...

weixin_33955681的博客 262

Hexo博客使用PDF.js

clone了一个pdf.js 然后兴高采烈地到文章里使用{% pdf %}标签 结果浏览器弹出了个下载框(使用GitHub的raw) 不知道是不是因为使用GitHub的原因导致这个问题 后来我测试的时候报了个错 优快云上的解决方法 到时候我再试试把资源放回lib/里面看看行不行 目录1.clone1.1.官方方法1.2.NexT主题方法1.3.补充2.修改文件2.1.修改viewer.htm...

LTFan 961

【Java】移位运算

以前一直没有研究二进制的移位运算的应用场景是什么,怎么运算?怎么实现数据的四则运算的? 直到最近,在看Think in Java的书籍,才真正理解这个东西。下面记录一下学习笔记。 1,二进制1.1 二进制的表示我们知道,计算机中所有数据都是以二进制形式存储。例如1(int)在二进制中的表现形式就是 00000000 00000000 00000000 00000001。 而0的二进制就是所

KingWang@whu的博客 1万+

静态分析工具COBOT与Testbed对比

Testbed为规则检查工具的代表,市场占有量非常大,但随着时间的推移,大家从规则匹配转向了用静态分析工具检查Bug,所以规则检查型工具占有量比开始时候已经减少,但仍有一些比较落后的单位还在继续采购此类工具。3、通过对开源工程的测试,进行误漏报率的对比,发现COBOT(库博)的误漏报率相比Testbed较低,因COBOT主打国内市场,在众多军工单位进行大量试用及使用,吸取了众多单位的意见和建议,更加符合国内军工单位的使用习惯及测试要求。4、此外库博在功能上还可以进行计划任务,检测队列,检测并发的功能支持。

chengoodflower的博客 2055

Coze:手把手教你搭建 小红书二创 智能体

前一篇 “” ,讲了如何针对需求进行拆解,并拆解 ”小红书二创“ 智能体,分为四个内容模块。通过上述步骤,开始一步一步构建 “小红书二创” 智能体。用来测试的小红书地址:http://xhslink.com/a/quxWEDAj3J48。

保持敏感!保持学习! 1436

java bit_java bit 位移规律总结

/**例如:int i = 1; i占用 4 字节,1字节 = 8bit, 32位,bit(正整数 = 00000000 00000000 00000000 00000001 负数=11111111 11111111 11111111 11111111)数字(num) bit1 ====== 12 ====== 103 ...

weixin_29515393的博客 377

【LVGL】学习笔记--(3)界面切换以及显示优化

界面切换和帧率优化

sinat_33408502的博客 1万+

Lightning Fabric实现LLM 8-bit量化实战指南

大语言模型量化是突破显存瓶颈、实现边缘与本地部署的关键技术。其核心在于将浮点权重映射为低比特整数,在保持数值分布特性的前提下压缩模型体积。8-bit量化通过缩放因子(scale)与零点偏移(zero point)构建有界线性变换,兼顾精度与效率;而Lightning Fabric通过hook机制解耦量化逻辑与模型结构,支持per-channel非对称量化、真实数据校准及LoRA微调协同,显著降低工程落地门槛。该方案已在医疗问答、工业质检等场景验证:显存减半、延迟可控、精度损失小于1%。本文聚焦8-Bit L

423

系统安装、qt配置、安装pcie驱动

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 安装Linux系统指定:ununtu20.04并配置相关软件环境 前言 提示:这里可以添加本文要记录的大概内容: ununtu20.04、Qt 5.9.0、pcie驱动 提示:以下是本篇文章正文内容,下面案例可供参考 一、安装系统 制作系统盘(win10),在开机时按相应键进入BIOS,(华硕需要先改配置启动->CSM->开启->第一个选项选第一个或第二个),等待即可 进入后按照https://www.sysgeek.

weixin_44832804的博客 2205

会计引擎:交易与核算分离的前世今生

一、为什么需要会计引擎 金融产品的设计,一如一块硬币需要兼顾两面:一面是为客户提供好的金融服务,满足客户支付结算、借贷、资产保值增值等方面的需求,并在这个过程中,以数字化的方式做好客户资产的登记,登记的载体,则是“分户”或“台账”,如客户存款户,是一种典型的分户--资金的增减变化都在一个账户中进行体现,而客户购买的银行理财,因为收益率、期限、投资标的不同,每一笔持有就形成一行记录,即为“台账”--这当然是不严谨但相对形象的表述。但是,“分户”和“台账”并没有必然的区别,以贷款为例,一些银行仍然存在所谓“

银行信息系统应用架构详解 983

PostgreSQL use UDF combine NoSQL DB's Computing Power

PostgreSQL数据库如何利用NoSQL数据库的强大计算能力或某些特性呢? 这个问题实际上是因为一种数据库不可能做到适合任何场景,一个企业的不同业务类型可能使用的数据产品也千差万别。昨天和一位朋友聊到一个应用场景,他们有部分数据是存储在aerospike的,在aerospike中做BIT运算是很快的,但是当需要多个条件的组合时(多级索引),可能就不是那么适合了。 这个时候Postg

postgrechina的博客 1002

[深入研究4G/5G/6G专题-31]: 5G NR开机流程5.2 - UE Attach流程(Registeration Request/Accept/Complete)

目录前言:前置条件:第1章 5G NR UE attach流程(从UE log的视角看)1.0 NAS消息解析器1.1 消息交互流程1.2 UE Registeration Request消息(AMF->基站->UE)1.3 AMF Registeration Accept消息(AMF->基站->UE)1.4 UE Register complete消息(UE->基站->AMF)第2章 UE Register...............

文火冰糖(王文兵)的博客 7万+

Brief introduction to Scala and Breeze for statistical computing

Brief introduction to Scala and Breeze for statistical computing 时间2013-12-31 03:17:19Darren Wilkinson's research blog 原文http://darrenjw.wordpress.com/2013/12/30/brief-introduction-to-scala-a...

weixin_30799995的博客 270

【目标检测-YOLO】YOLOv5-v5.0-yolov5s网络架构详解(第一篇)

源码:GitHub - ultralytics/yolov5 at v5.0 由于YOLO v5 代码库在持续更新,如上图,有多个版本,每个版本的网络结构不尽相同。以下内容以 v5.0 为准,网络结构选用 yolov5s。 为了方便画图和理解网络结构,选用可视化工具:Netron 网页版进行可视化, 然后使用PPT作图。 在Releases · ultralytics/yolov5 · GitHub找到 v5.0中的Assets 中的yolov5s.pt并下载该权重。 下图为直接......

博观约取,厚积薄发 2万+

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

机密计算与TEE技术实战:金融级数据安全防护

机密计算(Confidential Computing)是当前数据安全领域的关键技术,通过在CPU层面构建硬件级安全区域(TEE,Trusted Execution Environment),确保数据在存储、传输和计算全程保持加密状态。其核心原理是利用TEE技术(如Intel SGX和AMD SEV)创建隔离的安全执行环境,防止数据在使用过程中被泄露。这项技术在金融、医疗等高敏感行业具有重要价值,能有效减少数据泄露事件。实际应用中,TEE技术需要防范侧信道攻击(如缓存计时攻击和电源分析攻击),并通过性能优化

weixin_30654583的博客 317

IMSL CNL 7.0.0 (x86-64)Crack

IMSL CNL 7.0.0 (x86-64)Crack intel的算法库破解文件,这是C++版本的破解文件

Linux安装COMSOL实战指南:绕过GLIBC、Java与X11三大门槛

COMSOL Multiphysics作为多物理场耦合仿真平台,其Linux部署本质是系统兼容性工程。理解glibc版本约束、Java运行时绑定机制与X11图形协议原理,是保障GUI启动与求解器稳定运行的技术前提。这些底层依赖不仅影响单机可用性,更决定集群调度、容器化封装及HPC集成的可行性。在高校CAE实验室、超算中心和工业仿真工作站等场景中,正确处理GLIBC版本墙、Java私有JRE加载失败、X11转发权限缺失等问题,直接关系到‘激光焊接’‘声学仿真’等高频模块能否正常加载与计算。本文聚焦真实环境中的

weixin_34357887的博客 421

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

Java Thread Pools — Deep Dive

Java线程池核心原理摘要 线程池作用:解决线程创建开销大、资源耗尽问题,通过复用固定线程、控制并发量、任务队列解耦任务提交与执行。Java提供Executor框架(Java 5+)实现。 核心类层次: Executor → ExecutorService → ThreadPoolExecutor(核心)/ScheduledThreadPoolExecutor(定时) ForkJoinPool:工作窃取,支持并行流和CompletableFuture ThreadPoolExecutor关键参数: core

quwenqian的专栏 389

工作中使用到的单词(软件开发)

1.エイリアス   alias 别名 powershell使用 get-help 命令时,会得到与此命令 相关(别名)的命令 2.プロキシ proxy 代 理 3.プロモート   promote 促进,提升   开发的系统新功能上线发布,有时会使用到这个词,比如 STプロモート 还有使用リリース这个词的。比如STリリース。个人认为两者含义相同。 4.見逃し み................................................................

sun0322 6万+

COMSOL 6.3工业级部署指南:Java 17、CUDA 11.8与系统权限校准

COMSOL作为多物理场仿真核心平台,其运行依赖底层运行时环境与操作系统深度协同。理解Java运行时(JRE)版本兼容性、GPU加速所需的CUDA Toolkit精确版本(如11.8)、Windows服务账户权限模型(如SeServiceLogonRight)等基础原理,是保障仿真稳定性的技术前提。这些配置不仅影响软件能否启动,更直接决定‘相场法多晶铁电体介电击穿’或‘圆柱卷绕式锂离子电池流体-电化学耦合仿真’等高阶建模任务的收敛性与效率。在工业级部署场景中,跳过Java路径绑定、CUDA版本锁或组策略校验

weixin_34294649的博客 441

修复terrain-diffusion-mc的4大常见问题:DLL初始化失败、CUDA错误126、内存不足完整排查清单

**terrain-diffusion-mc** 是一个 Minecraft Fabric 模组,它用扩散模型(diffusion models)生成逼真的大陆、山脉和气候地形。本文整理了新手在安装和运行 **terrain-diffusion-mc** 时最常见的 4 个问题:DLL 初始化失败、CUDA 错误 126、模型加载内存不足、模型下载失败,并给出完整的排查清单,照着做基本都能一次解决

gitblog_00613的博客 797
上一篇: How to Create J2ee Project With Maven in Eclipse
下一篇: ClassNotFoundException And NoClassDefFoundError
大墨
博客等级 码龄19年 39粉丝 79原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值