arrow
返回

LLMs to Augment Evaluators in Scripting Usability Tasks: An Exploratory Study

delete2026-08-19
delete0
delete
OA
AI
M
Miriana Calvano
C
Claudio B. Caporusso
A
Antonio Curci *
R
Rosa Lanzilotti
D
Donato Massaro
A
Antonio Piccinno
A
Azzurra Ragone
DOI:10.1080/10447318.2026.2714305delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
将人工智能(AI)整合到多个领域正在带来一种新场景,即人类与机器合作以实现共同目标。本文进行了一项实证研究,以探索大型语言模型(LLMs)是否能够支持评估者在规划可用性测试中,特别是在脚本任务方面。为实现此目标,我们分析了不同LLMs、提示工程技术和温度设置对此活动的影响。为评估LLMs生成的任务质量,我们进行了一项探索性用户研究,招募了来自学术界和工业界的6名参与者,使用两个原型系统。参与者被要求从四个维度(即功能性导向、实用性、精确度和完整性)对任务进行评估,并分配1到3分的评分。结果表明,LLMs可能支持评估者,但其监督和控制是必要的,以确保任务的质量和有效性。因此,尽管认知卸载和技能退化问题依然存在,人类控制仍然是必要的。
Keyword:
Large language models (LLMs)
usability tests
human-centered design (HCD)
prompt engineering
evaluation

期刊

I
International Journal of Human-Computer Interaction
IF:
4.9
论文数:
4.5K
被引数:
1.2W

机构

U
university of bari aldo moro
学者数:
1.6K
论文数: 492
被引数: 1
L
lutech spa
学者数:
2
论文数: 1
被引数: 0
P
Polytechnic of Bari
学者数:
12
论文数: 8
被引数: 0
学者 查看更多机构
引用论文

引用论文

UXAgent: An LLM Agent-Based Usability Testing Framework for Web Design
err2025-04-26
err0
PREAI
errLu,Yuxuan; Yao,Bingsheng; Gu,Hansu; Huang,Jing; Wang,Zheshen Jessie; Li,Yang; Gesi,Jiri; He,Qi; Li,Toby Jia-Jun; Wang,Dakuo
err分享
err收藏
Simulating the Human in HCD with ChatGPT: Redesigning Interaction Design with AI
err2024-01-10
err0
errOAAI
errAlbrecht Schmidt; Passant Elagroudy; Fiona Draxler; Frauke Kreuter; Robin Welsch
err分享
err收藏
err
IF0
err
err0
PREAI
err
err分享
err收藏
Improving agile requirements: the Quality User Story framework and tool
err2016-04-01
err0
errOAAI
errGarm Lucassen; Fabiano Dalpiaz; Jan Martijn E. M. van der Werf; Sjaak Brinkkemper
err分享
err收藏
A Human-AI interaction paradigm and its application to rhinocytology
err2024-09-01
err0
errOAAI
errDesolda, Giuseppe; Dimauro, Giovanni; Esposito, Andrea; Lanzilotti, Rosa; Matera, Maristella; Zancanaro, Massimo
err分享
err收藏
学者 查看更多内容