cassandra节点down机（java.lang.OutOfMemoryError: unable to create new native thread）

最新推荐文章于 2023-12-26 14:52:18 发布
原创 最新推荐文章于 2023-12-26 14:52:18 发布 · 358 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#java #操作系统

本文针对在CentOS 6 64位系统上进行压力测试时遇到的Cassandra节点宕机问题进行了详细分析。问题根源在于Linux系统的maxuserprocesses(nproc)限制导致内存溢出。文中提供了具体的错误信息，并给出了临时解决方案和永久修复方法，包括调整当前会话的nproc限制和修改全局配置文件。
在对集群做压力测试的时候，发现有节点down机，错误信息如下。google后查明原因，由于Linux " max user processes(nproc)"所致，我操作系统的是 CentOS 6 64bit，修改方法如下：
错误信息
ERROR [Thread-28] 2013-07-25 06:14:05,055 CassandraDaemon.java (line 175) Exception in thread Thread[Thread-28,5,main]
java.lang.OutOfMemoryError: unable to create new native thread
at java.lang.Thread.start0(Native Method)
at java.lang.Thread.start(Thread.java:640)
at java.util.concurrent.ThreadPoolExecutor.addThread(ThreadPoolExecutor.java:681)
at java.util.concurrent.ThreadPoolExecutor.addIfUnderMaximumPoolSize(ThreadPoolExecutor.java:727)
at java.util.concurrent.ThreadPoolExecutor.execute(ThreadPoolExecutor.java:655)
at org.apache.cassandra.thrift.CustomTThreadPoolServer.serve(CustomTThreadPoolServer.java:113)
at org.apache.cassandra.thrift.ThriftServer$ThriftServerThread.run(ThriftServer.java:111)

 

当前会话有效设置
ulimit -u # 查看nproc
ulimit -u 65535 # 设置nproc，仅当前会话有效

  

全局有效
cat /etc/security/limits.d/90-nproc.conf
* soft nproc 1024

vi /etc/security/limits.d/90-nproc.conf
* soft nproc 65535

 

参考：

java.lang.OutOfMemoryError: unable to create new native thread

关于RHEL6中ulimit的nproc限制

ulimit限制之nproc问题

 

  --end

 

 

 

Cassandra 1.2.0 集群 删除节点
computerchao的专栏
01-30 1763
一、说明 首先说明一下我的集群部署情况： 在三台机器上部署了包含三个节点的集群，通过nodetool查看到的信息如下图所示 现在想删除节点10.202.67.72，在该节点中创建过Keyspace20130101，其具体参数为 create keyspace Keyspace20130101 with placement_strategy='org.apache.cassandra.loc
cassandra节点启动报错：java.io.UTFDataFormatException
zhang546030919的博客
12-26 729
"java.io.UTFDataFormatException: malformed input around byte 0"错误是由于Cassandra尝试读取保存的缓存文件时发生了UTF格式异常。在提供的错误消息中，缓存目录为：/home/data0/cassandra/cassandra_caches/saved_caches/。请注意，删除缓存文件将导致Cassandra重新生成缓存数据。cassandra数据量500G，重新生成缓存用了10分钟。Cassandra将自动重新创建缓存文件。
cassandra 报错 unable to create new native thread
beyondlpf的专栏
01-09 1267
http://itindex.net/detail/45000-cassandra-节点-down 在对集群做压力测试的时候，发现有节点down机，错误信息如下。google后查明原因，由于Linux "max user processes( nproc )"所致，我操作系统的是CentOS 6 64bit，修改方法如下： 错误信息 ERROR [Thread-2
Hadoop集群 java.lang.OutOfMemoryError: unable to create new native thread异常
yongjian_luo的专栏
01-03 5595
Hadoop集群新加的机器经常会出现 java.lang.OutOfMemoryError: unable to create new native thread的异常，后来发现新机器是没有设置创建线程数量造成的，默认是1024，需要改系统配置文件，设大才行。 查看生效方式是ulimit -u /etc/security/limits.conf文件中增加  username
Cassandra的节点之间交互(gossip)
weixin_33797791的博客
05-16 161
在讲gossip之前，首先定义什么是Cassandra实例。 Cassandra实例： 是一组在集群中的独立节点，所有的节点是对等的。 Cassandra节点之间的交互： Cassandra节点之间通过gossip协议（最终一致性原理）来发现其他集群中节点的位置和状态信息。这个gossip协议是peer-to-peer的，不同节点定期（每秒最多和3个其他...
cassandra本地连接失败_错误：无法连接到cassandra服务器。未配置选项卡
weixin_39930671的博客
12-30 930
我正在尝试使用这个简单的代码通过cassandra python驱动程序连接到cassandra，它运行在本地桌面上。from cassandra.cluster import Clustercluster = Cluster()session = cluster.connect()并获取此错误：NoHostAvailable:(“无法连接到任何服务器”，{'127.0.0.1'：InvalidR...
java.lang.ClassNotFoundException: com.zaxxer.hikari.metrics.MetricsTrackerFactory的深入研究
ToryXu的博客
03-11 7311
springboot启动报错java.lang.ClassNotFoundException: com.zaxxer.hikari.metrics.MetricsTrackerFactory springboot启动报错java.lang.ClassNotFoundException: com.zaxxer.hikari.metrics.MetricsTrackerFactory解决过程总结 ) ...
Ubuntu下Maven运行Java报错：java.lang.NoClassDefFoundError
亲亲Friends的博客
10-18 761
问题 项目用到Cassandra，而它的Java驱动datastax发布在Maven里。由于之前没接触过Maven，就用官方教程Maven in 5 Minutes（https://maven.apache.org/guides/getting-started/maven-in-five-minutes.html）一步一步走下来。从创建工程到添加datastax依赖到编译都没问题，问题就出在运行那...
python-sparksql 报错java.util.NoSuchElementException: key not found: _PYSPARK_DRIVER_CALLBACK_HOST
PingChangYu的博客
11-30 8446
环境 Python version 2.7.5 spark version 2.2.1 报错 打算使用python调用pyspark包执行sparksql 软件版本 使用pip install pyspark安装pyspark包，执行以下python脚本报错 from pyspark import SparkConf,SparkContext from pyspark.sql import Hi...
beam-sdks-java-io-cassandra-2.68.0.jar
最新发布
10-17
beam-sdks-java-io-cassandra-2.68.0
cassandra节点异常：java.lang.OutOfMemoryError: Direct buffer memory
u012075079的专栏
09-13 1638
宕机两次了： 频繁发送多次请求到cassandra集群， 整个集群down掉， 查看日志发现： debug.log文件： ERROR [ReadStage-146] 2017-09-13 10:40:08,415 JVMStabilityInspector.java:141 - JVM state determined to be unstable.  Exiting for
发生java.lang.OutOfMemoryError: Direct buffer memory
Viking的博客
12-04 1万+
下面是在掉坑了，出现了一次 java.lang.OutOfMemoryError: Direct buffer memory 错误后的总结。发生原因：用来 nio ，但是 direct buffer 不够解决办法1）检查是否直接或间接使用了 nio ，例如手动调用生成 buffer 的方法或者使用了 nio 容器如 netty， jetty， tomcat 等等；2）-XX:MaxDirect
关于Cassandra启动加载索引是报AssertionError的问题及解决
yunnick的专栏
09-04 569
               系统环境：         linux5.4  64位         jdk1.6.45 64位         Cassandra1.2.5         最近在使用Cassandra做一个通讯录的存储工作，通讯录表共建了三个二级索引，有三个复合主键，有一个功能就是根据某二级索引查询出相关的所有联系人，该二级索引的长度大约为32，可以看做是主键的一...
【Hbase】运维记录
u013202518的博客
04-09 2731
查看配额与文件数 hadoop fs -count -q / 得出的结果依次是文件数限额 可用文件数 空间限额 可用空间 目录数 文件数 总大小 文件/目录名 设置配额 hadoop dfsadmin -setSpaceQuota 4000 /hbase/data/ns_ffoss 删除配额 hadoop dfsadmin -clrSpaceQuota /hbase/data/ns_ffoss ​​hbase-version 和 hbase.id 丢失 原因:未知...
linux java.lang.OutOfMemoryError: unable to create new native thread
yunshine的专栏
10-20 1082
问题：  1.java.lang.OutOfMemoryError: unable to create new native thread   2.-bash: fork: Resource temporarily unavailable    已解决：ulimit -u 不能超过12000 原先值为：16384  max user processes              (
Cassandra研究报告
热门推荐
刀刀的专栏
08-19 3万+
1基本安装 1.1在基于RHEL的系统中安装Cassandra 1.1.1必要条件 Ø  YUM包管理器 Ø  Root或sudo权限 Ø  JRE6或者JRE7 Ø  JNA(Java native Access)（生产环境需要） 1.1.2步骤 Ø  安装配置JRE(略)   Ø  添加软件包仓库到YUM的软件库 将以下内容添加进/etc/yum.repos.d/dat
cassandra如何扩容和替换一个节点
一元钱计划
12-13 795
增加一个节点和替换一个DOWN掉的节点，步骤都是一样的，只是启动参数不一样。 第一：准备一个新机器，cassandra的配置使用和集群中一个普通节点相同的配置。 第二：然后就可以启动了，增加一个节点，只要bin/cassandra 启动就可以了。 如果是替换一个节点（假设DOWN掉的节点ip=192.168.1.101），启动的时候，可以使用bin/cassandra -Dcassand...
unable to create new native thread问题记录及解决
shisixingzou的博客
10-19 3437
场景：最近在用ODI的时候，里面调用接口的脚本是用jython写的。代码用了定时执行，五分钟一次，每天都会偶尔出现一些问题，而且不固定是哪个场景。     错误信息：java.lang.OutOfMemoryError: java.lang.OutOfMemoryError: unable to create new native thread。     定位报错代码：out = PrintW
cassandra节点异常数据处理——HintedHandOff
avrilwu的专栏
03-18 2683
cassandra的HintedHandOff的功能主要是当节点掉线，或者各个副本节点中网络闪断的时候，此时数据的保存，等节点间恢复正常以后，副本数据就可以一致了。 1、Hints表的表结构 当副本节点传输数据失败以后，数据就会被保存在hints系统表中。 hints系统表的表结构为，compositeCF，rowkey为target_id，即节点的token值的uuid； composi
Error creating bean with name 'userCasRepository': Invocation of init method failed; nested exception is java.lang.IllegalArgumentException: Failed to create query for method public abstract java.util.List org.springframework.data.cassandra.repository.CassandraRepository.insert(java.lang.Iterable)! No property insert found for type User!如何解决
08-29
这个错误信息： ``` Error creating bean with name 'userCasRepository': Invocation of init method failed; nested exception is java.lang.IllegalArgumentException: Failed to create query for method public abstract java.util.List org.springframework.data.cassandra.repository.CassandraRepository.insert(java.lang.Iterable)! No property insert found for type User! ``` 表明你在使用 `Spring Data Cassandra` 的时候，**自定义的 Repository 接口**继承了 `CassandraRepository`，并且你可能尝试调用了 `insert(Iterable<User>)` 方法，但 Spring Data Cassandra 在解析这个方法时，**发现你的实体类 `User` 缺少某个属性**，或者 **方法名使用不当**，从而导致查询构建失败。 --- ### 🔍 错误原因分析： 1. **方法名冲突或不支持** `insert(Iterable<User>)` 并不是 Spring Data Cassandra 的标准方法，`CassandraRepository` 中并没有这个方法。 2. **误用 JPA 方法名风格** Spring Data JPA 中有 `saveAll()` 方法，但在 Cassandra 中你需要使用 `CassandraTemplate` 或者 `ReactiveCassandraTemplate` 来处理批量操作。 3. **实体类字段不匹配** 如果你的 `User` 实体类中没有正确使用 `@PrimaryKey`、`@Column` 等注解，也可能导致解析失败。 --- ### ✅ 解决方案 #### ✅ 方法一：使用 `CassandraTemplate` 替代 Repository 的批量插入 ```java @Service public class UserService { @Autowired private CassandraTemplate cassandraTemplate; public void batchInsertUsers(List<User> users) { cassandraTemplate.insert(users); } } ``` #### ✅ 方法二：确保你的 Repository 接口使用正确方法 ```java public interface UserCasRepository extends CassandraRepository<User, String> { // 只保留支持的方法，不要使用 insert(Iterable) } ``` 并使用 `CassandraTemplate` 处理批量操作。 #### ✅ 方法三：检查你的实体类是否正确定义 ```java @Table("user") public class User { @PrimaryKey("id") private String id; @Column("name") private String name; @Column("email") private String email; // getters and setters } ``` 确保： - 使用了 `@Table` 注解指定表名； - 主键字段使用 `@PrimaryKey`； - 其他字段使用 `@Column` 明确列名。 --- ### ✅ 推荐做法：统一使用 CassandraTemplate 处理复杂操作 由于 Spring Data Cassandra 功能有限，建议： - 简单的 CRUD 使用 `CassandraRepository`； - 批量操作、自定义查询等使用 `CassandraTemplate` 或自定义 DAO。 --- ###
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值