大数据
文章平均质量分 94
朱bing
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
chatgpt实际是怎样工作的?
文章翻译自:ChatGPT 是 OpenAI 的最新语言模型,比其前身 GPT-3 有了重大改进。与许多大型语言模型类似,ChatGPT 能够为不同目的生成多种样式的文本,但具有更高的精确度、细节和连贯性。它代表了 OpenAI 大型语言模型系列的下一代产品,其设计非常注重交互式对话。创建者结合使用监督学习和强化学习来微调 ChatGPT,但正是强化学习组件使 ChatGPT 独一无二。原创 2023-04-02 17:05:16 · 21545 阅读 · 5 评论 -
MapReduce的MapTask执行机制
Map阶段流程:input File通过split被逻辑切分为多个split文件,通过Record按行读取内容给map(用户自己实现的)进行处理,数据被map处理结束之后交给OutputCollector收集器,对其结果key进行分区(默认使用hash分区),然后写入buffer,每个map task都有一个内存缓冲区,存储着map的输出结果,当缓冲区快满的时候需要将缓冲区的数据以一个临时文件的方式存放到磁盘,当整个map task结束后再对磁盘中这个map task产生的所有临时文件做合并,生成最终的正式转载 2020-07-01 11:56:37 · 478 阅读 · 0 评论 -
配置ssh免密登陆
在我们使用集群时,想要操作另一台主机,我们可以使用ssh 命令登陆另一台主机,但每次都要输入密码,非常麻烦,于是就需要配置ssh免密登陆: 第一步:使用ssh-keygen -t rsa命令将一对生成一对公钥和私钥 第二步:进入根目录下的.ssh文件夹,这时会生成两个文件id_rsa和id_rsa.pub 使用cat命令查看id_rsa.pub文件,这时我们可以看到本机生成的公钥 第三步:命令:ssh-copy-id 要打开的主机名 这时我们打开另一台主机,在.ssh目录下会看到多了一个叫authori原创 2020-06-14 10:16:12 · 255 阅读 · 0 评论 -
搭建hadoop集群(两台),详细教程
所需工具: centos7,SecureCRT ,hadoop centos7安装教程 https://blog.youkuaiyun.com/qq_44714603/article/details/88829423 SecureCRT安装教程 https://blog.youkuaiyun.com/luoyir1997/article/details/80236570 SecureCRT ,hadoop网盘地址 链接:https://pan.baidu.com/s/1KrLSyWWnx3VNVB8qpk7jHA 提取码:hd73原创 2020-06-12 14:27:51 · 4583 阅读 · 1 评论
分享