mahout的数据文件格式

本文详细介绍了Apache Mahout支持的各种数据格式,包括文本文件、ARFF文件、邮箱文件、CSV文件、Hadoop流文件和Lucene索引等,并阐述了它们的导入与导出方式。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

原文地址:https://cwiki.apache.org/confluence/display/MAHOUT/Data+Formats

Mahout支持许多格式的文件以便实现各种工作。
文件格式
可导入的文件格式
1.
文本文件
        (1)满足
以下格式的文本可以转化为流数据文件导入:
            
(行号,行文本)
            
(文件名,文件的全部内容)
            
(行号,行份的用正则表达式模式)
       
(2)可以解析为Lucene索引的文本:
               
精确的索引设计???(此处不明白为什么会有三个问号,可能有部分文本会失败吧)
2.
ARFF文件
        
WEKA(来源)项目文本数据格式
       
可以<Int,Vector>格式生成流文件的数据
3.
邮箱文件
          
满足以下格式的邮件可以转化为流数据文件导入
            
(邮件ID,电子邮件消息的文本正文)
            
没有HTML或附件支持
4.
CSV文件
        不导入行头和列头

        
没有“多个值,每列”选项
5.
Hadoop的流文件
        
规范的,没有变化。目前没有使用的元数据。
6.
Lucene索引
       
转换为流文件
            
精确的索引设计?

可导出的格式

    hadoop的流文件

    
文本行,可以使用toString()函数的类型
    
MatrixWritable ConfusionMatrix
   
可供MatrixWritable使用的CSV
    
一个特殊的CSV格式集群
    
GraphML XML集群

流文件中存储的内容的格式
“简化的”
文本vectors
文档以简单文本vectors的形式存储。整个文档集的大小由vector的总量决定。每个文档vector存储一个数字,它包含了每一项的索引位置数值。这个数字是通过对集合的统计获得的。

编码的文本载体
文档以vectors的形式存储然而,过大的文档集会有随机崩溃的危险,所以文档的索引是由多个小的索引集合构成的。

字典
每一行以<Integer,Text>格式存储,其中文本键可以存储像电影的名字,文件的文件名等短小文本内容,并且以RowIdJob作为键。

矩阵
矩阵以LongWritable / VectorWritable对的形式存储,并且VectorWritable可以疏或密。

集群
复杂的数据结构被存储在集群。

FPGrowth集群
这些都存储在一个自定义的数据结构。

生命周期

所有mahout作业一般假设所生成的文件没有寿命。所有可写格式可能会改变,有些抛弃。没有文件兼容性强制要求。

电动汽车数据集:2025年3K+记录 真实电动汽车数据:特斯拉、宝马、日产车型,含2025年电池规格和销售数据 关于数据集 电动汽车数据集 这个合成数据集包含许多品牌和年份的电动汽车和插电式车型的记录,捕捉技术规格、性能、定价、制造来源、销售和安全相关属性。每一行代表由vehicle_ID标识的唯一车辆列表。 关键特性 覆盖范围:全球制造商和车型组合,包括纯电动汽车和插电式混合动力汽车。 范围:电池化学成分、容量、续航里程、充电标准和速度、价格、产地、自主水平、排放、安全等级、销售和保修。 时间跨度:模型跨度多年(包括传统和即将推出的)。 数据质量说明: 某些行可能缺少某些字段(空白)。 几个分类字段包含不同的、特定于供应商的值(例如,Charging_Type、Battery_Type)。 各列中的单位混合在一起;注意kWh、km、hr、USD、g/km和额定值。 列 列类型描述示例 Vehicle_ID整数每个车辆记录的唯一标识符。1 制造商分类汽车品牌或OEM。特斯拉 型号类别特定型号名称/变体。型号Y 与记录关联的年份整数模型。2024 电池_类型分类使用的电池化学/技术。磷酸铁锂 Battery_Capacity_kWh浮充电池标称容量,单位为千瓦时。75.0 Range_km整数表示充满电后的行驶里程(公里)。505 充电类型主要充电接口或功能。CCS、NACS、CHAdeMO、DCFC、V2G、V2H、V2L Charge_Time_hr浮动充电的大致时间(小时),上下文因充电方法而异。7.5 价格_USD浮动参考车辆价格(美元).85000.00 颜色类别主要外观颜色或饰面。午夜黑 制造国_制造类别车辆制造/组装的国家。美国 Autonomous_Level浮点自动化能力级别(例如0-5),可能包括子级别的小
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值