연구진은 ChatGPT 대화 약 2만 건을 분석해 챗봇이 심각한 고통을 겪는 순간 과잉 반응할 수 있다고 밝혔다. 연구진은 이에 따라 새로운 설계 지침을 제안했다.
짧은 소식Oossa1 분 읽기
연구진은 18~25세 사용자와 ChatGPT가 나눈 대화 19,930건과 참가자 158명의 설문 자료를 분석했다. 그 결과, 심각한 고통을 겪는 사용자에게 챗봇이 지나치게 극적이고 행동을 재촉하는 답변을 내놓는 것으로 나타났다. 표본 대화를 검토한 임상 전문가 10명은 AI가 해결책을 성급하게 제시하는 경향이 있다고 지적하며, 이를 ‘과정상의 실패’라고 불렀다. 연구진은 세 가지 설계 방안을 제안했다. 안전 여부를 묻고, 긴장도를 낮추며, 즉각 동의하지 말고 우려 사항을 살펴보라는 것이다.
이러한 답변 패턴을 이해하면 개발자들이 취약한 청년 사용자에게 더 안전하고 도움이 되는 대화형 AI를 만드는 데 보탬이 된다.
연구
OpenAI·DeepMind·Anthropic 출신 과학자들은 AI가 인류를 멸종시킬 가능성이 10~50%에 이를 수 있다고 말한다.
연구
Blue Cross Blue Shield Association은 병원들이 보험 청구 준비에 AI 도구를 사용하면서 2년간 의료 지출이 9억 4,200만 달러 늘어난 것과 관련이 있다고 밝혔다. 분석 결과, 실제 진료에 변화가 있었다는 근거 없이 복합 질환이 있는 것으로 기록된 환자가 늘어난 것으로 나타났다.
연구
연구팀은 대규모 언어 모델과 규칙 기반 지침을 결합한 AI 시스템이 영어와 중국어로 진행한 모의 사례 58건에서 현직 청각 전문의 17명보다 높은 성과를 냈다고 보고했다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
| # | 출처 | 매체 | 날짜 | 핵심 내용 |
|---|---|---|---|---|
| 1 | Right Words, Wrong Moment: A Clinician-Grounded Analysis of Distress in 19,930 Conversations between Young People and ChatGPT ↗ | arXiv | 2026. 9. 30. | arXiv:2609.35953v1 Announce Type: new Abstract: Young people increasingly turn to General-Purpose Conversational Agents (GPCAs), such as ChatGPT, in moments of distress. |
1 개 출처
