总结

1、将不同用户的job进行隔离,不能跨用户进行增删改查。
2、 解决创建job配置新建托管池配置正确,资源池创建成功,job运行结束,资源池未自动删除的bug,熟悉分发模块的流程。重启动态创建池的job时,重新用添加job时的创建池的参数去创建池,并更新job数据库中对应的poolIds字段,运行此job。
3、 添加job相关的缓存,提高获取Job的所有运行态信息时超时的性能问题。
4、多线程并发更新和删除job时,解决操作不一致的问题。
5、dag依赖的job不能同时启动,不能配置关键任务。
6、删除job时,删除cce所占用的资源。
7、重启batch进行服务恢复时,过滤掉queue类型job的状态恢复,使之只有pending或者running状态。
8、batch服务功能测试,找出上线前的问题。
在开发过程中遇到的问题,事后应该进行相关技能的充值。多学习他们代码中的优点。

1、 学习压力测试工具JMeter,测试多线程并发,模拟多用户请求,在测试过程中发现偶现问题。
2、 由于actor模型,一个actor可以接收很多消息,但是这个actor只能一次处理一条消息, task模块向job反馈taskGroup1的状态变更信息,以随时更新job的状态向actor发送消息时还没有被处理到,这个过程中,又有另一个taskGroup2执行失败并更新到数据库,导致轮到消息被处理时,job模块从数据库取出最新的taskGroup状态计算所有taskGroup的状态时拿到了新的TaskGroup2的状态信息,更新job的状态,等到下一个消息(taskGroup2状态改变将状态信息回调给job模块时候)被处理时,job模块从数据库取出最新的所有taskGroup状态计算所有taskGroup的状态时(此时数据库跟上一个消息被处理时候数据相同),又去更新Job状态,这样就会导致错误。为了修复actor异步调用时消息不会被立即处理导致taskGroup的状态信息不准确的情况,在taskGroup状态变更时就将当时数据库中所有taskGroup的状态的信息同时携带进入回调函数(放在消息队列中),这样actor中轮到此时的消息被处理时,job拿到的就是当时发消息时候的数据库中的所有taskGroup信息,然后进行计算。
3、 重启一个job的时候,pool可能处于任务不能被调度的状态(创建中、扩容中、缩容中),batch服务内部周期性调用重启的的线程的终止次数是三,如果动态创建pool,可能此时pool的状态不能下发task,就会浪费这三次机会,为了解决这个问题,在pool不能下发task的时候,我重新在重启的线程上,结束此线程,重新起一个新的线程不断的去调度直到pool可用,又加了周期性的调度以防job重启后pool的状态改变不能下发任务,用来将次数重新置为0。
4、 创建一个job的时候,由于task的作业内任务亲和性在task被调度时候,将作业内任务亲和性设置改变了导致jobDescription改变,之后再调用getJobDescription接口的时候,不能拿到正确的jobDescription。原因是:getJobDescription()接口中将jobDescription加入缓存的时候,返回的是指针引用,导致再别人改变这个对象时候,引用所指向的对象是随着一起改变后的,也就是是同一个对象。通过深拷贝将其复制一份,每次使用的都是深拷贝后的对象,不会改变最初的对象,这样最初的对象不会影响别的方法的使用。
5、 由于某个TaskGroup变化的时候(会携带此时数据库中所有的taskGroup的状态信息用于job计算TaskGroupEvent),异步多线程调用JobStateChangeActorImpl中 changeJobStateByTaskGroup() 方法时候,此方法对不同的jobId加锁,当两个线程争抢一把锁的时候,会出现线程执行顺序与actor队列顺序不一致,导致状态变化有误。
6、 调用JobScheduleImpl的onSchedule()方法时候,字段futures用来存储线程的执行结果,在启动线程时,jobStateConcurrentHashMap中jobId对应的键值对可能还没有放进去。导致run()中用到jobStateConcurrentHashMap中jobId对应的值的时候,get不到取消了此线程。修改为不断去get此jobStateConcurrentHashMap中jobId对应的值,若还没有get到,就重试五次。

1、 增加一种affinity:{“strategy”: “daemonset”, “taskGroupNames”:[ “taskGroup1”, “taskGroup1”]}支持"daemonset"特性需求。
2、 批量删除50+job会返回500错误,出现超时的现象:优化deleteJobs()接口将操作数据库的操作减少,降低此接口运行时间。
3、 同一个类生产环境中的batch服务共享MemObject 类型的memObj变量(缓存batch服务中的数据),导致不同用户可以操作其他用户的job(此job相关的数据已经被加入缓存),用户隔离存在问题:给getJob()接口添加限制,从缓存中取出来的job应该具有相同的租户名。
4、 由于某个TaskGroup变化的时候(会携带此时数据库中所有的taskGroup的状态信息用于job计算TaskGroupEvent),异步多线程调用JobStateChangeActorImpl中 changeJobStateByTaskGroup() 方法时候,此方法对不同的jobId加锁,当两个线程争抢一把锁的时候,会出现线程执行顺序与actor队列顺序不一致,导致状态变化有误。
5、 调用JobScheduleImpl的onSchedule()方法时候,字段futures用来存储线程的执行结果,在启动线程时,jobStateConcurrentHashMap中jobId对应的键值对可能还没有放进去。导致run()中用到jobStateConcurrentHashMap中jobId对应的值的时候,get不到取消了此线程。修改为不断去get此jobStateConcurrentHashMap中jobId对应的值,若还没有get到,就重试五次。
6、 完成转正答辩。

基于数据挖掘的音乐推荐系统设计与实现 需要一个代码说明,不需要论文 采用python语言,django框架,mysql数据库开发 编程环境:pycharm,mysql8.0 系统分为前台+后台模式开发 网站前台: 用户注册, 登录 搜索音乐,音乐欣赏(可以在线进行播放) 用户登陆时选择相关感兴趣的音乐风格 音乐收藏 音乐推荐算法:(重点) 本课题需要大量用户行为(如播放记录、收藏列表)、音乐特征(如音频特征、歌曲元数据)等数据 (1)根据用户之间相似性或关联性,给一个用户推荐与其相似或有关联的其他用户所感兴趣的音乐; (2)根据音乐之间的相似性或关联性,给一个用户推荐与其感兴趣的音乐相似或有关联的其他音乐。 基于用户的推荐和基于物品的推荐 其中基于用户的推荐是基于用户的相似度找出相似相似用户,然后向目标用户推荐其相似用户喜欢的东西(和你类似的人也喜欢**东西); 而基于物品的推荐是基于物品的相似度找出相似的物品做推荐(喜欢该音乐的人还喜欢了**音乐); 管理员 管理员信息管理 注册用户管理,审核 音乐爬虫(爬虫方式爬取网站音乐数据) 音乐信息管理(上传歌曲MP3,以便前台播放) 音乐收藏管理 用户 用户资料修改 我的音乐收藏 完整前后端源码,部署后可正常运行! 环境说明 开发语言:python后端 python版本:3.7 数据库:mysql 5.7+ 数据库工具:Navicat11+ 开发软件:pycharm
MPU6050是一款广泛应用在无人机、机器人和运动设备中的六轴姿态传感器,它集成了三轴陀螺仪和三轴加速度计。这款传感器能够实时监测并提供设备的角速度和线性加速度数据,对于理解物体的动态运动状态至关重要。在Arduino平台上,通过特定的库文件可以方便地与MPU6050进行通信,获取并解析传感器数据。 `MPU6050.cpp`和`MPU6050.h`是Arduino库的关键组成部分。`MPU6050.h`是头文件,包含了定义传感器接口和函数声明。它定义了类`MPU6050`,该类包含了初始化传感器、读取数据等方法。例如,`begin()`函数用于设置传感器的工作模式和I2C地址,`getAcceleration()`和`getGyroscope()`则分别用于获取加速度和角速度数据。 在Arduino项目中,首先需要包含`MPU6050.h`头文件,然后创建`MPU6050`对象,并调用`begin()`函数初始化传感器。之后,可以通过循环调用`getAcceleration()`和`getGyroscope()`来不断更新传感器读数。为了处理这些原始数据,通常还需要进行校准和滤波,以消除噪声和漂移。 I2C通信协议是MPU6050与Arduino交互的基础,它是一种低引脚数的串行通信协议,允许多个设备共享一对数据线。Arduino板上的Wire库提供了I2C通信的底层支持,使得用户无需深入了解通信细节,就能方便地与MPU6050交互。 MPU6050传感器的数据包括加速度(X、Y、Z轴)和角速度(同样为X、Y、Z轴)。加速度数据可以用来计算物体的静态位置和动态运动,而角速度数据则能反映物体转动的速度。结合这两个数据,可以进一步计算出物体的姿态(如角度和角速度变化)。 在嵌入式开发领域,特别是使用STM32微控制器时,也可以找到类似的库来驱动MPU6050。STM32通常具有更强大的处理能力和更多的GPIO口,可以实现更复杂的控制算法。然而,基本的传感器操作流程和数据处理原理与Arduino平台相似。 在实际应用中,除了基本的传感器读取,还可能涉及到温度补偿、低功耗模式设置、DMP(数字运动处理器)功能的利用等高级特性。DMP可以帮助处理传感器数据,实现更高级的运动估计,减轻主控制器的计算负担。 MPU6050是一个强大的六轴传感器,广泛应用于各种需要实时运动追踪的项目中。通过 Arduino 或 STM32 的库文件,开发者可以轻松地与传感器交互,获取并处理数据,实现各种创新应用。博客和其他开源资源是学习和解决问题的重要途径,通过这些资源,开发者可以获得关于MPU6050的详细信息和实践指南
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值