返回
VidToCode: LLM-Based Source Code Reconstruction From Programming Video Tutorial Transcripts
DOI:10.1109/access.2026.3741380.png)
摘要
En 中文
编程教程展示演变的代码,但恢复最终项目仍然需要手动操作。现有的自动化方法对视频帧应用光学字符识别(OCR),仅恢复瞬间可见的代码,而非最终的源文件集。据我们所知,先前的工作并未研究重建教程的最终源文件集。我们使用仅包含字幕的输入来研究此任务,并提出 VidToCode,一个基于大型语言模型(LLM)的框架,并附带一个包含36个YouTube教程的基准数据集,这些教程在四种语言、三个时长区间和三个主题类型上保持平衡,并配有手动重建的参考代码。我们使用Token-NLS(0到1的标记级词汇相似度度量)、预期语言识别、语法或编译检查、基于执行的行为测试以及标记使用,对四种管道变体和六种LLM进行了756次运行评估。在所有变体对36个教程和三种高端模型的匹配比较中,单次通过B1实现了最高的平均Token-NLS(0.565,标准差0.225)和最高的通过所有教程特定场景的比率(79.6%),同时使用的标记数量比记笔记B4少约74%。我们还通过一个单独的1,620次运行研究评估了运行间的稳定性,该研究在每个适用的模型–变体配置下重复三次,覆盖所有36个教程。B1在三次重复中均排名第一,平均Token-NLS为0.555,而状态化B3为0.532,样本标准差分别为0.005和0.003。对于与基准相似的教程,旁白可以支持满足指定测试的重建,B1在词汇相似度、行为成功率和标记使用方面提供了最强的观察组合。
Keyword:
Code generation
large language models
programming video tutorials
transcript-based code reconstruction
software engineering education
empirical software engineering
期刊
IF:
3.6
论文数:
9.8W
被引数:
29.4W
机构
引用论文
暂无论文信息

