| 大越 涼太 | M, 2回目発表 | サイバーレジリエンス構成学 | 門林 雄基 | 林 優一 | 妙中 雄三 |
|
title: A Proposal for a Role-Separated Monitoring System for AI Agents
abstract: AI agents are increasingly used to perform tasks autonomously. However, overeager behavior, in which agents act beyond user instructions, raises concerns about the need for human monitoring. Combining operation and monitoring may increase cognitive workload and reduce monitoring performance. This study proposes a buddy-based monitoring system that separates the operator and monitor roles. A comparative experiment with nine participants evaluated overeager behavior detection and monitoring workload under single-person and buddy-based monitoring conditions. language of the presentation: Japanese 発表題目: AIエージェント監視における役割分離システムの提案 発表概要: 外部ツールやシステムを利用しながら，自律的にタスクを遂行するAIエージェントの利活用が進んでいる．一方，AIエージェントがユーザの指示範囲を超えた操作を実行する過剰挙動が指摘されており，人間による適切な監視が求められる．しかし，同一の担当者が操作と監視を兼任する場合，複数の作業を並行して処理することによる認知負荷が監視性能に影響を及ぼす可能性がある．本研究では，AIエージェントの操作担当者と監視担当者を分離する分担監視システムを提案する．9名を対象とした比較実験では，操作と監視を兼任する単独監視条件と役割を分離したバディ監視条件を設け，過剰挙動の検知性能および監視判断に伴う負担を評価した． | |||||