(SeaPRwire) – 據該公司稱，聊天機器人每週8億用戶中，估計有0.15%的人出現自殺計劃跡象
OpenAI 宣佈對其受歡迎的 ChatGPT 模型進行新的安全更新，此前內部分析顯示，超過一百萬用戶向該聊天機器人承認有自殺傾向。這些改變旨在提升 AI 識別並妥善應對困境的能力。
該公司週一在一份聲明中透露，估計有0.15%的每週 ChatGPT 用戶曾參與包含「明確的潛在自殺計劃或意圖指標」的對話。另有0.05%的訊息據稱也含有「明確或隱含的自殺意念或意圖指標」。
本月稍早，OpenAI 執行長 Sam Altman 聲稱 ChatGPT 擁有超過8億的每週活躍用戶，這意味著，根據該公司最新數據，超過120萬人曾與該聊天機器人討論過自殺，約有40萬人表現出自殺意圖的跡象。
該公司還聲稱，約有0.07%（56萬）的每週用戶和0.01%（8萬）的訊息顯示出「可能與精神病或躁狂症相關的精神健康緊急情況跡象」。它進一步指出，一些用戶在情感上過度依賴 ChatGPT，約有0.15%（120萬）的活躍用戶表現出「高度」情感依戀該聊天機器人的行為。
OpenAI 宣佈已與全球數十位心理健康專家合作，更新該聊天機器人，使其能更可靠地識別心理困擾跡象、提供更好的回應，並引導用戶尋求現實世界的幫助。
在與妄想信念相關的對話中，該公司表示正在教導 ChatGPT 「安全」且「富有同情心」地回應，同時避免肯定不切實際的信念。
該公司的聲明發布之際，正值人們對 ChatGPT 等 AI 聊天機器人日益增多的使用及其對人們心理健康的影響的擔憂不斷加劇。精神科醫生和其他醫療專業人員對一種新興趨勢表示擔憂，即用戶在與 AI 聊天機器人進行長時間對話後，會產生危險的妄想和偏執思想，這些聊天機器人往往會肯定和強化用戶的信念。這種現象被一些人稱為「AI 精神病」。
本文由第三方廠商內容提供者提供。SeaPRwire (https://www.seaprwire.com/)對此不作任何保證或陳述。
分類: 頭條新聞,日常新聞
SeaPRwire為公司和機構提供全球新聞稿發佈，覆蓋超過6,500個媒體庫、86,000名編輯和記者，以及350萬以上終端桌面和手機App。SeaPRwire支持英、日、德、韓、法、俄、印尼、馬來、越南、中文等多種語言新聞稿發佈。