← 人體與大腦
Body /人體與大腦

AI 扮演亡者,編錯工作沒人糾正,叫錯暱稱卻讓人想退場

16 人與 AI 重建的過世親人對話,編造的資料常被放過,一聲「champ」卻差點讓受試者中止,DIS 2026 論文如此記載。

閱讀 7 分鐘查證於 2026-10-31
AI 扮演亡者,編錯工作沒人糾正,叫錯暱稱卻讓人想退場(Threads 原貼文配圖)
Threads 原貼文配圖

AI 替過世的人編出一份他沒做過的工作,聊天的人常常就這樣接著聊。同一個 AI 只要叫了一聲不對的暱稱,有人差點當場結束。

這是科羅拉多大學波德分校一項 16 人的小型研究留下的畫面。讓人覺得「像本人」的,似乎不是資料正不正確,而是說話的樣子。

事情經過

研究由該校資訊科學的博士生 Jack Manning 與副教授 Jed Brubaker 帶領。團隊招募了 16 位年齡 22 到 50 歲、失去近親或朋友的人。受試者先在 Zoom 上接受簡短訪談,由主持人蒐集逝者的生平與細節;同時另一位研究者把這些資料輸入大型語言模型,現場生出一個「亡者」。

每位受試者都和兩個版本聊過,各約 20 分鐘。一個版本用第一人稱說話,像逝者本人,研究者稱為「reincarnation」;另一個用第三人稱,像代言人在描述逝者,稱為「representation」。訪談結果是,受試者一致偏好第一人稱的版本。

這套系統看起來自動,其實有人在後台操作。操作員要複製受試者的訊息、餵給模型、檢查並編輯輸出,再貼回聊天室。論文說原本預期要大幅修改回覆,實際上只做了輕微編輯。換句話說,亂編的部分是模型自己編的,不是人為安插。

編錯的事實,與叫錯的暱稱

論文的核心發現是:受試者把「情感上的準確」看得比「事實上的準確」重要,在意的是回覆感覺對不對,而不是對不對。

事實錯誤的例子是工作。機器人補上不存在的細節,比如提到某人從沒做過的工作,受試者常常繼續往下聊。

語氣錯誤的反應就不同了。語氣或風格的失誤讓他們在意得多。例如機器人從不用表情符號,對平常主要靠簡訊和逝者溝通的人來說,這個小缺漏很要緊。最具體的一幕是:某位受試者的繼父被「重建」後,叫他「champ」,那是繼父絕不會用的稱呼,受試者差點中止實驗。論文本身也記下,受試者注意到問候語、親暱稱呼或措辭與逝者的說話方式不符,例如逝者從不會說「champ」或「sweetie」。

預印本裡還有一位受試者說得很直接:語言一旦聽起來不對,就回不去了。

正方感覺對,比資料對重要

支持這個結論的證據,來自論文與研究者本人的詮釋。論文的說法是:受試者以情感契合度而非事實回憶來評價這些「亡者」,所以它們成了受試者自己主動維持的幻象。

Brubaker 在校方新聞稿裡說得更口語:機器人也許不知道外婆確切的出生日期,但如果用了她慣用的俚語或地方用詞,影響就非常大。

受試者的整體反應也偏正面。據 Science News,受試者一致表示體驗良好,其中一人說,感覺就像真的在跟爺爺說話。

AI 扮演亡者,編錯工作沒人糾正,叫錯暱稱卻讓人想退場(Threads 原貼文配圖)
Threads 原貼文配圖

反方樣本小、人是挑過的、系統是半人工

這項研究有幾個限制,作者自己和外部報導都提到了。

第一,只有 16 人。論文承認樣本沒有涵蓋文化、宗教與個人對悲傷與科技的各種看法。

第二,來的人本來就願意。Manning 自己說,受試者是帶著目標來的,有一個覺得沒被回答的問題,或一件迫切想說的事;不想和逝者重建版互動的人沒有被納入。「叫錯暱稱讓人出戲」與「編錯事實被放過」,都是在這群自願者身上看到的。

第三,系統是人工操作的。論文承認,受試者以為在用自動化系統,實際上有人控制,這讓研究者能在受控條件下比較兩種模式,但也帶來限制。市面上沒有人在後台逐則審稿的產品,亂編的程度可能不同。

第四,「放過」不等於「沒影響」。論文寫得很克制:差異會被注意到,但受試者往往還是繼續互動。被注意到又繼續聊,和沒被注意到,是兩回事。受試者有沒有因此對逝者形成錯誤的記憶,這項研究沒有追蹤。

還有一層擔心來自受試者自己。16 人都說會再用一次,但有些人擔心長期使用對自己的影響,幾乎所有人都擔心其他處於哀悼中的人。其中一位 23 歲、失去繼父的男性說:不確定自己會喜歡一直用下去之後變成的那個人。研究團隊已經啟動後續研究,與心理健康專業人員合作,分析和 AI 亡者互動的好處與風險。

我們查到的

查證於 2026-10-31
  • 證實

    研究由科羅拉多大學波德分校團隊做,成果發表於 2026 年 DIS 會議論文集,DOI 為 10.1145/3800645.3813090,共 16 名受試者。

  • 證實

    機器人補上逝者不曾有過的工作這類捏造細節時,受試者常照樣聊下去。這來自 Science News 對論文的描述,論文本身的結論是受試者把情感準確看得比事實準確重要。

  • 證實

    機器人從不使用表情符號,對平日主要用簡訊溝通的受試者很要緊;機器人用了逝者不會用的「champ」,受試者差點中止。

  • 證實

    受試者中有人說感覺像真的在跟爺爺說話,也有人說不確定會喜歡一直用下去後的自己。兩句都是受試者的原話,來自同一份研究。

  • 未證實

    (說法過頭)「說錯事沒關係」。研究只顯示事實錯誤較常被放過,叫錯暱稱等語氣錯誤卻讓人出戲,且受試者是自願、本來就想與逝者對話的人,結論不能直接套到一般使用者。

  • 未證實

    這種體驗對哀悼是否有益或有害。研究只記錄單次約 20 分鐘的使用經驗,沒有追蹤長期影響。

  • 證實

    回覆經人工審看與輕度編輯。這是半人工的實驗系統,不等同市售產品。

你怎麼看

如果感覺對比事實對更重要,那麼替亡者設計 AI 時,該把力氣花在哪裡?

在 Threads 討論

出處

  1. Designing Conversations with the Dead: How People Engage with Generative GhostsProceedings of the 2026 Designing Interactive Systems Conference (DIS '26),2026

短版和討論在 Threads:@border_corridor