理解基于大型语言模型的对话代理在心理健康支持中的益处和挑战
摘要：通过大型语言模型（LLM）驱动的对话代理在精神健康支持领域的应用越来越多。然而，在这个关键领域中使用它们的含义和结果仍然有些不确定和未被探索。我们对来自最流行的专注于由大型语言模型（u/Replika）驱动的精神健康支持应用的subreddit的120篇帖子进行了定性分析，包括2917条用户评论。这次探索旨在揭示这些先进模型在用于精神健康支持的对话代理中的优势和潜在风险。我们发现这个应用（Replika）在提供按需、无偏见的支持、增加用户自信和帮助自我发现方面发挥了积极作用。然而，它在过滤有害内容、保持一致的沟通、记住新信息和减轻用户过度依赖方面面临挑战。社会上的污名进一步使用户面临孤立风险。我们强烈主张未来的研究人员和设计师必须对使用LLMs进行精神健康支持的适当性进行彻底评估，确保它们的负责和有效应用。
作者：Zilin Ma, Yiyang Mei, Zhaoyuan Su
论文ID：2307.15810
分类：Human-Computer Interaction
分类简称：cs.HC
提交时间：2023-08-01