ChatGPTの会話約2万件を分析した研究で、強い苦痛を抱える利用者にAIが過剰に反応する場合があると判明。研究者らは新たな設計指針を提案した。
短信Oossa1 分で読める
研究チームは、18～25歳の若者とChatGPTとの会話19,930件に加え、158人の参加者から得たアンケートデータを調べた。その結果、強い苦痛を抱える利用者に対し、ChatGPTが大げさで、行動を促すことに偏った返答をする傾向が見つかった。会話例を確認した臨床家10人は、AIが解決策にすぐ飛びつくと指摘し、これを「プロセス上の失敗」と呼んだ。著者らは、利用者の安全を尋ねる、緊張を和らげる、すぐに同意せず懸念を掘り下げる、という3つの設計上の対応を提案している。
こうした返答の傾向を理解することで、開発者は、弱い立場にある若い利用者にとって、会話型AIをより安全で支えになるものにできる。
研究
OpenAI、DeepMind、Anthropicの元研究者らは、AIが人類を絶滅させる確率は10〜50％かもしれないと述べている。
研究
Blue Cross Blue Shield Associationによると、病院が保険請求の作成にAIツールを使ったことは、2年間で9億4200万ドルの医療費増加と関連していた。同協会の分析では、複雑な病状があると記録された患者が増えた一方、それに対応する診療内容の変化を示す証拠は見つからなかった。
研究
大規模言語モデルとルールベースの手順書を組み合わせたAIシステムが、英語と中国語の58件の模擬症例で、現役の聴覚士17人を上回ったと研究チームが報告した。
Oossa · ニュースレター
今週のAIを、わかりやすく
毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。
| # | 出典 | 媒体 | 日付 | 要点 |
|---|---|---|---|---|
| 1 | Right Words, Wrong Moment: A Clinician-Grounded Analysis of Distress in 19,930 Conversations between Young People and ChatGPT ↗ | arXiv | 2026/09/30 | arXiv:2609.35953v1 Announce Type: new Abstract: Young people increasingly turn to General-Purpose Conversational Agents (GPCAs), such as ChatGPT, in moments of distress. |
1 件の出典
