实体ID stringclasses 1
value | 块ID int64 0 2 | 时间 stringclasses 1
value | 扩展字段 stringclasses 3
values | 文本 stringclasses 1
value | 图片 unknown | OCR文本 null | 音频 unknown | STT文本 null | 块类型 stringclasses 3
values | 文件md5 null | 页ID null |
|---|---|---|---|---|---|---|---|---|---|---|---|
mnbvc_mm_example | 0 | 20240710 | {"文本长度": 12} | 这是一条 demo 数据 | null | null | null | null | 文字 | null | null |
mnbvc_mm_example | 1 | 20240710 | {"宽度": 200, "高度": 200} | null | [
137,
80,
78,
71,
13,
10,
26,
10,
0,
0,
0,
13,
73,
72,
68,
82,
0,
0,
0,
200,
0,
0,
0,
200,
8,
2,
0,
0,
0,
34,
58,
57,
201,
0,
1,
0,
0,
73,
68,
65,
84,
120,
156,
0,
255,
127,
0,
128,
1,
116,
85,
166,
163,
64,
1... | null | null | null | 图片 | null | null |
mnbvc_mm_example | 2 | 20240710 | {"长度": 5, "采样率": 44100} | null | null | null | "UklGRsy6BgBXQVZFZm10IBAAAAABAAEARKwAAIhYAQACABAAZGF0Yai6BgDz0J/QeYBAEcK6y0J41YAFvgCXtzJaj2xs9fmja1W(...TRUNCATED) | null | 音频 | null | null |
mnbvc mm dataset v2.0
MNBVC 多模态语料数据格式。原链接：https://huggingface.co/datasets/wanng/example_mmdata_mnbvc
| 字段名称 | 字段说明 | 可选 |
|---|---|---|
| 实体ID | 数据的唯一标识符。用于在数据集中确定是哪一条数据。在单个数据集中确定一条数据的实体对象。 | 必选 |
| 块ID | 一个实体对象内的标识符。用于确定一条数据内的一个部分数据。parquet 行的最小单元。 | 必选 |
| 时间 | 语料首次出现的时间，如无法确定则为处理该数据实体的时间 | 必选 |
| 扩展字段 | 用于保存块的元信息。为可以被成功 load 的 json 字符串。后期可继续扩展 | 必选 |
| 文本 | 文本块的内容 | 必选 |
| 图片 | 图片块的内容 | 必选 |
| OCR文本 | 图片的 OCR 结果 | 必选 |
| 音频 | 音频块的内容 | 必选 |
| STT文本 | 音频的 STT 结果 | 必选 |
| 块类型 | 用于保存块的类别。为字符串，使用该类型可以从内容中提取对应信息。类别的含义为“模态”。 | 必选 |
| 文件md5 | 当 entity/blcok 是从对应文件解析时，需要计算文件 md5 用于标识数据完整性 | 可选 |
| 页ID | 当文件从文档中解析时，需要计算当前页数 | 可选 |
每一行文本/图片/音频只能存在一条内容，OCR文本、STT文本 暂时留空。
图片读取代码：
def read_image(image_path):
# 打开图像文件
with open(image_path, 'rb') as file:
image = Image.open(file)
# 将图像转换为二进制格式
img_byte_arr = io.BytesIO()
image.save(img_byte_arr, format=image.format)
img_byte_arr = img_byte_arr.getvalue()
return img_byte_arr
音频读取代码：
def read_audio(audio_path):
# 使用PyDub读取音频文件
audio = AudioSegment.from_wav(audio_path,)
# 创建一个BytesIO对象
byte_arr = io.BytesIO()
# 将音频保存为二进制格式
audio.export(byte_arr, format="wav")
# 获取二进制数据
audio_bytes = byte_arr.getvalue()
return audio_bytes
- Downloads last month
- 11