GoLang几种读文件方式的比较

本文通过实验对比了GoLang中使用Read、bufio库及ioutil库读取不同大小文件的效率,结果显示ioutil库的方法效率最高。

    GoLang提供了很多读文件的方式,一般来说常用的有三种。使用Read加上buffer,使用bufio库和ioutil 库。

那他们的效率如何呢?用一个简单的程序来评测一下:

 

    

Go代码  收藏代码
  1. package main  
  2.   
  3. import(  
  4.     "fmt"  
  5.     "os"  
  6.     "flag"  
  7.     "io"  
  8.     "io/ioutil"  
  9.     "bufio"  
  10.     "time"  
  11. )  
  12.   
  13. func read1(path string)string{  
  14.     fi,err := os.Open(path)  
  15.     if err != nil{  
  16.         panic(err)  
  17.     }  
  18.     defer fi.Close()  
  19.   
  20.     chunks := make([]byte,1024,1024)  
  21.     buf := make([]byte,1024)  
  22.     for{  
  23.         n,err := fi.Read(buf)  
  24.         if err != nil && err != io.EOF{panic(err)}  
  25.         if 0 ==n {break}  
  26.         chunks=append(chunks,buf[:n]...)  
  27.         // fmt.Println(string(buf[:n]))  
  28.     }  
  29.     return string(chunks)  
  30. }  
  31.   
  32. func read2(path string)string{  
  33.     fi,err := os.Open(path)  
  34.     if err != nil{panic(err)}  
  35.     defer fi.Close()  
  36.     r := bufio.NewReader(fi)  
  37.       
  38.     chunks := make([]byte,1024,1024)  
  39.        
  40.     buf := make([]byte,1024)  
  41.     for{  
  42.         n,err := r.Read(buf)  
  43.         if err != nil && err != io.EOF{panic(err)}  
  44.         if 0 ==n {break}  
  45.         chunks=append(chunks,buf[:n]...)  
  46.         // fmt.Println(string(buf[:n]))  
  47.     }  
  48.     return string(chunks)  
  49. }  
  50.   
  51. func read3(path string)string{  
  52.     fi,err := os.Open(path)  
  53.     if err != nil{panic(err)}  
  54.     defer fi.Close()  
  55.     fd,err := ioutil.ReadAll(fi)  
  56.     // fmt.Println(string(fd))  
  57.     return string(fd)  
  58. }  
  59.   
  60. func main(){  
  61.      
  62.     flag.Parse()  
  63.     file := flag.Arg(0)  
  64.     f,err := ioutil.ReadFile(file)  
  65.     if err != nil{  
  66.         fmt.Printf("%s\n",err)  
  67.         panic(err)  
  68.     }  
  69.     fmt.Println(string(f))  
  70.     start := time.Now()  
  71.     read1(file)  
  72.     t1 := time.Now()  
  73.     fmt.Printf("Cost time %v\n",t1.Sub(start))  
  74.     read2(file)  
  75.     t2 := time.Now()  
  76.     fmt.Printf("Cost time %v\n",t2.Sub(t1))  
  77.     read3(file)  
  78.     t3 := time.Now()  
  79.     fmt.Printf("Cost time %v\n",t3.Sub(t2))  
  80.   
  81. }  

 

   运行命令go run read.go filename, 制定需要读取的文件就可以了。这里我比较了读取13.7MB的日志文件,三种方式分别消耗的时间是:

   

Go代码  收藏代码
  1. Cost time 105.006ms  
  2. Cost time 68.0039ms  
  3. Cost time 31.0018ms  

   

   读取29.3MB的媒体文件:

    

Go代码  收藏代码
  1. Cost time 390.0223ms  
  2. Cost time 194.0111ms  
  3. Cost time 83.0048ms  

 

    读取302MB的媒体文件

   

Go代码  收藏代码
  1. Cost time 40.8043338s  
  2. Cost time 1m5.0407201s  
  3. Cost time 8.8155043s  

  

   这个差距就很明显了,ioutil提供的方法效率就是高。有空可以再从代码层面再去分析一下。

  
<think>我们正在讨论Go语言中的锁机制及其使用场景。根据之前的对话历史和提供的引用,用户询问了Go语言中锁的种类以及在不同场景下的选择。引用[4]提到了sync包提供的同步原语,包括Mutex、RWMutex、WaitGroup、Cond、Map和Pool。而引用[1]和[2]则涉及写锁和自旋锁的问题。引用[5]提到了使用乐观锁实现写锁的方式。因此,我们的回答将围绕这些锁类型展开。 我们将讨论以下锁类型: 1. 互斥锁 (Mutex) 2. 写互斥锁 (RWMutex) 3. 基于原子操作的乐观锁 (Atomic) 4. 条件变量 (Cond) 5. 其他同步机制(如WaitGroup,Map,Pool等) 同时,我们将讨论不同场景下的选择: - 互斥锁:适用于临界区任何时刻只有一个goroutine访问的情况。 - 写锁:适用于多写少的场景,允许多个操作同时进行,但写操作独占。 - 原子操作:适用于简单的计数或状态标记,避免锁的开销。 - 条件变量:用于等待某个条件满足的同步场景。 注意:我们还会提到文件锁(引用[3])和自旋锁(引用[2]),但文件锁属于系统调用级别的锁,而自旋锁在Go中通常由运行时内部使用,我们在编程时通常使用sync包提供的锁。 我们将按照以下结构组织回答: 1. 互斥锁(Mutex)及其使用场景 2. 写锁(RWMutex)及其使用场景 3. 原子操作(Atomic)与乐观锁 4. 条件变量(Cond)的使用 5. 其他同步原语(WaitGroup, Map, Pool)的简要说明 6. 不同锁的性能和选择建议 同时,在回答末尾,我们将提出几个相关问题。 </think>### Golang 锁种类详解及场景选择指南 Go 语言提供了丰富的锁机制,适用于不同并发场景。以下是主要锁类型及其使用场景分析: --- #### 一、锁类型与特性 1. **互斥锁 (`sync.Mutex`)** - **原理**:独占访问,锁定后其他 Goroutine 阻塞 - **场景**: - 临界区资源需**严格串行访问**(如账户余额修改) - 写操作密集场景 ```go var mu sync.Mutex mu.Lock() // 加锁 // 修改共享资源 mu.Unlock() // 解锁 ``` 2. **写锁 (`sync.RWMutex`)** - **原理**: - **锁**:允许多个 Goroutine 并发取 - **写锁**:独占写入,阻塞所有写操作 - **场景**: - **多写少**(如配置信息取) - 高并发查询系统 ```go var rw sync.RWMutex rw.RLock() // 加锁(允许多个取) // 取共享资源 rw.RUnlock() rw.Lock() // 加写锁(独占) // 修改共享资源 rw.Unlock() ``` 3. **原子操作 (`sync/atomic`)** - **原理**:通过 CPU 指令实现无锁操作(乐观锁)[^5] - **场景**: - 简单计数器(如 `int32`/`int64` 增减) - 状态标记(如 `atomic.StoreInt32(&flag, 1)`) ```go var count int32 atomic.AddInt32(&count, 1) // 原子递增 ``` 4. **条件变量 (`sync.Cond`)** - **原理**:基于锁实现 Goroutine 的**等待/通知机制** - **场景**: - 生产者-消费者模型 - 资源就绪通知(如任务队列非空时唤醒消费者) ```go cond := sync.NewCond(&mu) cond.Wait() // 等待通知(自动释放锁) cond.Signal() // 唤醒一个等待者 ``` 5. **文件(`syscall.Flock`)** [^3] - **原理**:操作系统级文件访问控制 - **场景**: - 多进程文件写同步 - 配置文件热更新保护 ```go syscall.Flock(fd, syscall.LOCK_EX) // 排他锁 ``` --- #### 二、锁选择决策树 根据场景快速选择锁类型: ```mermaid graph TD A[需要保护共享资源?] -->|是| B{操作类型} B -->|多写少| C[写锁 RWMutex] B -->|写密集型| D[互斥锁 Mutex] B -->|简单计数/标记| E[原子操作 atomic] A -->|需要等待资源就绪| F[条件变量 Cond] A -->|跨进程文件同步| G[文件锁 Flock] ``` --- #### 三、性能关键点 1. **写锁 vs 互斥锁**: - 写锁在 **≥20% 操作**时性能优势明显[^1] - 写操作超过 **80%** 时互斥锁更优 2. **自旋优化**: - 短临界区优先尝试自旋(避免 Goroutine 切换开销)[^2] - Go 运行时自动优化,开发者无需手动控制 3. **锁粒度**: - 细粒度锁(如分片锁)提升并发能力 - 避免在锁内执行耗时操作(如网络请求) --- #### 四、特殊同步工具 | 工具 | 用途 | 锁关联性 | |------------------|-------------------------------|------------------| | `sync.Map` | 高并发安全 Map | 内置分段锁 | | `sync.WaitGroup` | Goroutine 组同步 | 无锁(原子计数) | | `sync.Pool` | 对象复用池 | 无锁或自旋锁 | ---
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值