VIABench:面向视障人士辅助的视频基准测试集

AI 研究HuggingFace Daily Papers7/16 04:00译自英文查看原文 ↗

首个由盲人第一视角视频构建的MLLM评估基准。

洞察 AI 小结
该基准揭示了MLLM在具身智能与实时交互场景中的短板,为无障碍技术发展提供了关键评估工具。
摘要

VIABench是一个专门用于评估多模态大语言模型在视障辅助场景中表现的视频基准测试集,包含主动提醒、视觉问答和视觉引导交互三大任务。实验表明,当前MLLM在主动提醒任务中表现不佳,难以提供全面支持。

  1. 背景与动机:视障人士日常挑战及MLLM在盲人辅助中的未充分探索
  2. VIABench构建:基于盲人第一视角视频,定义三大核心任务
  3. 任务详解:主动提醒、视觉问答、视觉引导交互
  4. 评估流程:支持在线与离线设置的严格基准管线
  5. 实验结果:当前MLLM在主动提醒任务中表现不足
核心要点
  • VIABench使用盲人自己录制或分享的第一视角视频构建。
  • 三大任务:主动提醒(预测并描述导航关键事件)、视觉问答(回答环境问题)、视觉引导交互(上下文感知交互)。
  • 评估支持在线(实时)和离线两种设置。
  • 实验显示MLLM在主动提醒任务中表现最差,缺乏准确预测和实时响应能力。
  • 该基准旨在推动面向真实辅助场景的定制化MLLM研究。
查看原文 ↗
原题:VIABench: A Comprehensive Video Benchmark Collected from Blind Individuals for Visual Impairment Assistance