使用VC学习BTC:(一)了解block的存盘文件blk*.dat

本文介绍如何在Visual Studio环境下编译比特币核心代码,并解析比特币存盘文件blk*.dat的格式。通过复制部分验证代码,实现了外部文件加载功能,详细解释了文件的组成结构和CBlock类的序列化数据。

使用VC学习BTC:(一)了解block的存盘文件blk*.dat

 

虽然首先使用win10的linux layer在Windows上先编译并成功运行了bitcoin core,但是对于更习惯VS开发工具的人来说,总是在VS下跟踪调试更顺手,因此准备建立一个VS工程来编译bitcoin,并逐步学习了解它的实现比特币存盘文件blkxxxx.dat格式

为了便于VS上编译运行,先从存盘的数据文件开始,这部分涉及的代码应比较容易在VS上运行起来。

工程建立步骤如下:

  • 从官方开源代码库https://github.com/bitcoin/bitcoin下载源代码;
  • 在下载的源代码的build-aux目录下建立vs目录;
  • 在新建的vs目录下创建vs2017的工程(Solution),并添加一个windows控制台的C++项目bitcoin(Project);
  • 在bitcoin项目中添加部分下载的源文件,添加后项目文件如下

        

  • 添加一个新的CPP文件,增加LoadExternalBlockFile函数
 
  1. #define MESSAGE_START_SIZE 4

  2. unsigned char pchMessageStart[MESSAGE_START_SIZE] = { 0xf9, 0xbe, 0xb4, 0xd9 };

  3.  
  4. bool LoadExternalBlockFile(FILE* fileIn, CDiskBlockPos *dbp)

  5. {

  6. int nLoaded = 0;

  7. try {

  8. // This takes over fileIn and calls fclose() on it in the CBufferedFile destructor

  9. CBufferedFile blkdat(fileIn, 2 * MAX_BLOCK_SERIALIZED_SIZE, MAX_BLOCK_SERIALIZED_SIZE + 8, SER_DISK, CLIENT_VERSION);

  10. uint64_t nRewind = blkdat.GetPos();

  11. while (!blkdat.eof()) {

  12. blkdat.SetPos(nRewind);

  13. nRewind++; // start one byte further next time, in case of failure

  14. blkdat.SetLimit(); // remove former limit

  15. unsigned int nSize = 0;

  16. try {

  17. // locate a header

  18. unsigned char buf[MESSAGE_START_SIZE];

  19. blkdat.FindByte(pchMessageStart[0]);

  20. nRewind = blkdat.GetPos() + 1;

  21. blkdat >> FLATDATA(buf);

  22. if (memcmp(buf, pchMessageStart, MESSAGE_START_SIZE))

  23. continue;

  24. // read size

  25. blkdat >> nSize;

  26. if (nSize < 80 || nSize > MAX_BLOCK_SERIALIZED_SIZE)

  27. continue;

  28. }

  29. catch (const std::exception&) {

  30. // no valid block header found; don't complain

  31. break;

  32. }

  33. try {

  34. // read block

  35. uint64_t nBlockPos = blkdat.GetPos();

  36. if (dbp)

  37. dbp->nPos = nBlockPos;

  38. blkdat.SetLimit(nBlockPos + nSize);

  39. blkdat.SetPos(nBlockPos);

  40. std::shared_ptr<CBlock> pblock = std::make_shared<CBlock>();

  41. CBlock& block = *pblock;

  42. blkdat >> block;

  43. nRewind = blkdat.GetPos();

  44.  
  45. printf("%s\n\n", block.ToString().c_str());

  46. }

  47. catch (const std::exception& e) {

  48. printf("%s: Deserialize or I/O error - %s\n", __func__, e.what());

  49. }

  50. nLoaded++;

  51. }

  52. }

  53. catch (const std::runtime_error& e) {

  54. printf("System error: %s\n", e.what());

  55. }

  56. if (nLoaded > 0)

  57. printf("Loaded %i blocks from external file\n", nLoaded);

  58. return nLoaded > 0;

  59. }

这个函数的主体内容是从比特币的验证代码部分抄的,之所以抄是因为一旦引入验证代码,整个工程会复杂很多。

  • 增加main函数
 
  1. int main(void)

  2. {

  3. // Todo: Change to the real path where you store the bitcoin block file

  4. char path[] = "G:\\blockchain\\bitcoin\\bin\\Bitcoin\\blocks\\blk00000.dat";

  5.  
  6. FILE *file = fsbridge::fopen(path, "rb");

  7. LoadExternalBlockFile(file, NULL);

  8. return 0;

  9. }

这里我偷懒了,直接写死了一个存盘的block文件路径,反正只是为了学习嘛。

到这里,工程文件都有了,但是编译还有问题,因为比特币的源代码有依赖。得益于vs集成的nuget包管理工具,可以不用自己下载依赖的源代码编译(也是累死人的工作哦,开源代码在vs下的编译都很烦)。

  • 引入依赖包:

解决方案处点击鼠标右键,在弹出的菜单中选择“管理解决方案的NuGet程序包”

搜索boost_filesystem-vc141及boost_system-vc141,选择

  • 修改比特币代码错误

写本文时此错误的修复已经提交,但是仍未被接受,在被接受后再下载源代码将不用修改。

  • 编译运行

至此,就可以跟踪调试来看整个文件的格式了!

 

  • 文件是由一系列的block组成的,没有额外的文件头,chain.h中定义的CBlockFileInfo类并非用于这里;
  • 每个block包括:
字节数内容说明
4字节0xF9 0xBE 0xB4 0xD9所谓的Magic,用于确认block开始
4字节Block Length Little-EndianLittle-Endian的unsigned int
Block LengthCBlock类序列化后的数据CBlock类定义在block.h文件中
  • CBlock数据包括CBlockHeader以及一些列的CTransaction数据,其中CBlockHeader包括:
字节数内容说明
4字节版本号Little-Endian的int32_t
32字节前一个block的hash值Little-Endian的uint256
32字节MerkleRootLittle-Endian的uint256
4字节时间戳块生成时的网络时间
4字节目标值当前区块生成所达成目标值的特征
4字节随机数用于挖矿时生成符合要求的块哈希
  • 在CBlockHerder之后,是交易数量及每个交易的记录
  • 交易数量为紧缩格式(CompactSize)的无符号整数

紧缩格式整数的读取,在serialize.h的ReadCompactSize模板中,其规则为若第一个字节是255,则读取后续8字节作为uint64;若第一字节是254,则读取后续4字节作为uint32;若第一字节是253,则读取后续2字节作为uint16;否则将第一个字节作为uint8。

因此,这是一个可变长度的数据,最小占用1字节,最大占用9字节。

  • 之后是按照交易数量来读取交易数据,实际的交易数据读取跟踪定位在transaction.h的函数inline void UnserializeTransaction(TxType& tx, Stream& s) 中,这个后面分析交易时再来分析细节。

不想自己从头建工程的,可以从csdn下载,地址为http://download.youkuaiyun.com/download/lazypiggy/10265510

 

【原创首发地址:http://http://blog.youkuaiyun.com/lazypiggy/article/details/79414709,转发请保留此链接】

你当前的 BLE 通信已经成功接收到了从机发送的 JSON 数据,但出现了 **数据被截断** 的问题: ``` [JSON] 收到数据: {"cell":[1.909,1.883 ``` 完整的 JSON 应该是类似: ```json {"cell":[1.909,1.883],"temp":25.6} ``` 但现在只收到了前半部分。这说明:**BLE 特征值通知(Notify)的数据包被分片传输了!** --- # 🔍 问题原因:MTU 大小限制导致数据分包 ESP32 默认 MTU(Maximum Transmission Unit)为 **23 字节**,这意味着每次最多只能发送 20~23 字节的有效数据。 你的 JSON 数据长度超过这个值,所以被拆成多个片段发送,每条 `onNotify` 回调只收到部分。 --- # ✅ 解决方案:增大 MTU 并缓存拼接完整 JSON ## ✅ 步骤概览 1. **客户端请求增大 MTU**(Maximum Transmission Unit) 2. **启用长距离模式 / 设置最大 MTU** 3. **在回调中缓存数据片段,直到收到完整 JSON** 4. **使用 `ArduinoJson` 解析完整 JSON** --- ## ✅ 第步:增大 MTU(关键!) 在连接成功后,主动请求更大的 MTU: ```cpp // 在连接成功后调用 pClient->setMTU(512); // 请求大 MTU(实际协商值会打印出来) ``` > ⚠️ 注意:必须在 `connect()` 成功后立即调用! ### 修改 `loop()` 中连接逻辑(添加 setMTU) ```cpp if (!conn.pClient->connect(&conn.advertisedDevice)) { Serial.println("❌ Connection failed!"); delete conn.pClient; conn.pClient = nullptr; continue; } // ✅ 连接成功后立即设置大 MTU conn.pClient->setMTU(512); // ESP32 支持最大约 517 ``` 此时你会看到串口输出类似: ``` I (12345) BT_BTC: btc_config_cfg_set mtu_size=512 ``` 表示 MTU 已协商成功。 --- ## ✅ 第二步:修改 Notify 回调,支持拼接数据 由于即使设置了大 MTU,也可能因蓝牙栈行为出现分包,建议加个缓冲机制。 ### 🛠 定义接收缓冲区结构 ```cpp struct JsonBuffer { char buffer[512]; int len = 0; void add(uint8_t* data, size_t length) { if (len + length < sizeof(buffer) - 1) { memcpy(buffer + len, data, length); len += length; } } bool endsWithValidJson() { if (len == 0) return false; // 检查是否以 } 或 ] 结尾(可能是完整 JSON) char last = buffer[len - 1]; return last == '}' || last == ']'; } void reset() { len = 0; buffer[0] = '\0'; } }; ``` 然后为每个设备维护个缓冲区(或全局共用,如果单设备通信)。 --- ### ✅ 示例:完整 Notify 回调处理拼接与解析 ```cpp #include <ArduinoJson.h> void handleNotification(BLERemoteCharacteristic* pBLERC, uint8_t* pData, size_t length, bool isNotify) { static JsonBuffer jsonBuf; // 添加新数据 jsonBuf.add(pData, length); // 打印原始片段(调试用) Serial.write(pData, length); // 判断是否可能是完整 JSON if (jsonBuf.endsWithValidJson()) { jsonBuf.buffer[jsonBuf.len] = '\0'; // 确保结尾 // 使用 ArduinoJson 解析 DynamicJsonDocument doc(1024); DeserializationError error = deserializeJson(doc, jsonBuf.buffer); if (!error) { Serial.println("\n✅ Parsed JSON:"); // 提取 cell 数组 if (doc.containsKey("cell")) { JsonArray cellArray = doc["cell"]; Serial.print("Battery Voltages: "); for (int i = 0; i < cellArray.size(); i++) { Serial.printf("%.3f ", cellArray[i]); } Serial.println(); } // 提取温度 if (doc.containsKey("temp")) { float temp = doc["temp"]; Serial.printf("Temperature: %.2f°C\n", temp); } } else { Serial.printf("\n❌ Failed to parse JSON: %s\n", error.c_str()); Serial.printf("Raw data: %s\n", jsonBuf.buffer); } // 清空缓冲区 jsonBuf.reset(); } else { // 不是完整包,等待下次数据 Serial.println(); // 换行便于观察 } } ``` --- ## ✅ 注册回调时使用该函数 ```cpp conn.pRemoteCharacteristic->registerForNotify(handleNotification); ``` --- ## ✅ 最终效果(预期输出) ``` {"cell":[1.909,1.883],"temp":25.6} ✅ Parsed JSON: Battery Voltages: 1.909 1.883 Temperature: 25.60°C {"cell":[1.908,1.882],"temp":25.7} ✅ Parsed JSON: Battery Voltages: 1.908 1.882 Temperature: 25.70°C ``` --- ## ✅ 补充:优化建议 | 建议 | 说明 | |------|------| | ✅ 启用 BLE 2M PHY(可选) | 提高传输速率,减少延迟 | | ✅ 从机端控制包大小 | 尽量次性发送完整 JSON | | ✅ 加入超时机制 | 若长时间未收完,重置缓冲区 | | ✅ 使用静态缓冲区避免堆碎片 | 避免频繁 new/delete | --- ### 💡 超时检测示例(简单版) ```cpp unsigned long lastDataTime = 0; void handleNotification(...) { lastDataTime = millis(); jsonBuf.add(...); if (endsWithValidJson()) { // 解析并 reset() } } // 在 loop() 中检查超时 if (jsonBuf.len > 0 && millis() - lastDataTime > 100) { Serial.println("⚠️ JSON receive timeout, resetting buffer."); jsonBuf.reset(); } ``` ---
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值