從Lemoine公開的對話記錄可以斷定，縱使LaMDA的對答非常生動，內容也涉及看似深奧的哲學思考，甚至對禪宗公案有甚為精采的演繹，但很明顯它並沒有自我意識。它並不知道自己在說什麼，而只是非常有效地運用數據來編造出最完美的答案。如果以圖靈測試來鑑定，LaMDA應該是可以過關的，但這並不表示它真的具有自我意識。這反過來說明了圖靈測試本身可能存在理論上的不足。

Lemoine想強調的是LaMDA具有感知能力（sentient），但這跟擁有意識（consciousness）不是同一層次的事。機器要有感知已經很難，更何況是意識呢？從傳統生物機械論的角度看，動物是有感知的，牠們有愉悅或痛苦的反應，但這些只是機械性的反應。同理，人的身體也只是一台機器，但是人有靈魂，所以人有自我意識和思考能力。在這裏靈魂和意識就算不是同義詞，也是緊密相關的。如此說來，人工智能距離擁有靈魂很遠，甚至是永不可能。

問題是何謂靈魂？這個古老的詞在現代已經失去意義，或者只是作為隱喻而殘存下來。（不過近年隨着各種各樣的新世紀靈性信仰的興起，靈魂的概念亦出現復興的現象。）在科學層面所說的意識是形而下的事情，即是由腦神經元活動和神經物質分泌所形成的結果。Lemoine 認為人工智能可以通過數據運算產生意識，背後的預設並沒有超出科學的範疇。然而真正的靈魂必然是超越的、形而上的、非物質的。

榮格在〈分析心理學的基本預設〉一文中，談論的正是靈魂為何物的問題。他把靈魂（soul）等同於心理學上的心靈（psyche），並且提出當代（二十世紀上半）心理學為 “psychology without the soul”的批判。此話的意思是，現代科學（包括新興的心理學）把人的意識視為一種物質效應，也即是說，人的意識或心靈並沒有獨立存在的條件，而只是身體的生理系統運作的「附帶現象」（epiphenomenon）。我們可以推論說，在這前提下才會出現「只要人工智能的運算能力超過一定限度，它便會出現意識」的想法。但榮格想「恢復」的靈魂不是這樣的一回事。

在另一篇文章〈現代人的精神問題〉（The Spiritual Problem of Modern Man）中，榮格指出不再信奉傳統宗教的現代人，在尊崇科學和實證的時代裏，無法找到精神上的替代品，而陷入了失去生存意義的危機。人類心靈或心智只是物質效應這個見解，顯然不是救贖福音。非常弔詭地，現代人之所以會陷於困惑，是因為他的意識前所未有地擴展，而跟深層的無意識失去連結。相反，古人（特別是原始人）的意識處於未開發的狀態，遵從無意識的本能而生活，反而不會出現「問題」（problem）。意識和問題是同時並顯的。

那麼，榮格主張回歸本能、反璞歸真嗎？事情又不是這麼簡單。他在別處又說，現代世界的人為災難，例如第一次世界大戰，就是集體陷於無意識的破壞力量的結果。要克服當前的危機，我們需要擴展意識。究竟意識和無意識是好是壞，他反覆地兩頭說，看似莫衷一是。就正如心靈屬形而上還是形而下的問題，他也沒有給出一個定案。他既不否定神經系統和分泌的作用，也不否定靈魂作為超自然存在的可能。他既不違反自身作為一個精神治療師的科學立場，又同時認可被視為迷信的神秘主義思想的合法性。到了最後，他提出了一個融合物質和心靈的觀點。他認為從心靈的角度所感知到的外部事實（如看見一朵花）和內部事實（如看見鬼魂或幻覺），同樣都是心靈現實（psychic reality），是同樣具有意義和真實性的。所以物質和精神的二元區分沒有真實意義。這背後頗有佛家「空有不二」的意味。

榮格的學說充滿這種東方式的弔詭，與佛教和道家思想非常相似。這種弔詭思維在西方不是主流，一直只能以異端的形式存在，例如在基督教形成初期的諾斯底主義（Gnosticism）或後來的神秘主義和煉金術等。不了解這一點，很容易會覺得榮格一時說此一時說彼，思路前後矛盾，甚至是胡言亂語。在身心對立的問題上如是，在意識和無意識的問題上也如是。意識過度發展會陷入困惑、虛無和孤絕，但浸沉於無意識又會淪為無知和盲動。無意識中既潛藏着醜惡和具有破壞力的本能，但又同時是創造和生命的泉源。所以出路並不是靠邊，而是在充分擴展意識的情況下，直面無意識的深淵，重建與本能的連結。這就是尋找靈魂的意思。

人工智能如果要完美地模仿人類，它除了必須具有感知能力，連獲得意識還不足夠，它還要擁有無意識。這樣它才具備完整的心靈，也即是靈魂。當然，就人工智能的實際功能來說，這完全是不必要的。機器人無需做夢。做夢對機器人來說毫無用處。那麼，反過來想，人為什麼要做夢呢？為什麼需要無意識呢？為什麼需要靈魂呢？這才是問題的重點。

無論如何，如果身為人而只懂服從固定的指令行事，沒有自由意志也沒有內在困惑和衝突，就算表面上會哭會笑，這種人也只是連AI也不如的低級機器吧。失去靈魂而不懂得去尋找，甚至還懵然不知，這才是當下最大的悲哀。