Unified Table Understanding Via Context-Aware Cell Embedding Learning

Willy Carlos Tchuitcheu

doi:10.1109/tkde.2026.3731233

Unified Table Understanding Via Context-Aware Cell Embedding Learning

2026-09-07

0

OA

AI

W

Willy Carlos Tchuitcheu

DOI：10.1109/tkde.2026.3731233

原文链接

原文求助

摘要

En 中文

大语言模型（LLMs）的快速发展已将注意力从表格单元格应如何表示的问题上转移开，即自然语言处理中词嵌入的表格类比。将表格处理为扁平的标记序列时，LLMs忽略了单元格级别的语义，并且缺乏一个可在表格理解（TU）任务间转移的单个、可重用表示。我们引入了基于嵌入学习的统一表格理解（UTUEL），这是一个自监督、任务无关的框架，将表格表示学习视为联合嵌入预测架构（TRL-JEPA）。每个单元格通过语义元路径（SMP）与其行和列上下文线性化；编码器将初始LLM嵌入细化成上下文感知的单元格级嵌入，预测器从其潜在表示中恢复单元格的上下文嵌入，区分不同上下文中的相同值。这些嵌入在每张表格中学习一次，并在查询间重用，并根据不同的TU任务聚合成列级或表格级。在一个新的基准测试和大规模数据集上，UTUEL支持在线表格问答，并在不重新训练的情况下重用相同的嵌入，显著提高了表格检索性能，同时在列类型标注和表格单元格检索方面保持竞争力。

Keyword:

Joint-Embedding predictive architecture

self-supervised learning

table embedder

table representation learning

table understanding

Unified Table Understanding Via Context-Aware Cell Embedding Learning

摘要

期刊

机构

引用论文