報告中表示AI工具的開發應考量倫理性、準確性、安全性，真正關注終端使用者需求，其解決方法包括嚴格的監管與監督、透明度與可解釋性，以及以「人權」為核心的共同創造(co-creation)的方法，尤其關注AI訓練模型之資料與可能生成錯誤或誤導性資訊，可能加劇社會對其不平等或偏見之風險。以下簡述該報告的重點，包含AI應用於心理健康照護之服務類型概述、機會、風險及監管建議風險等研析結果。

AI使用於心理健康照護的應用概述

目前國際間心理健康之AI應用軟體，依其目的、內容及範例可分類如表1、表2所示，主要分為對於使用者提供服務與心理健康專業人士應用。 

表1、提供使用者之AI應用服務

資料來源：資策會科法所整理(2025.05) 

表2、提供心理健康專業人士之應用

資料來源：資策會科法所整理(2025.05)

目前AI應用於心理健康領域的優點和實際功效仍屬於實驗階段，相關證據或治療資料有限，AI可能提供的服務與機會發展較佳，如針對提供心理醫師(或心理健康專業人士)與需要者相關服務，提升心理健康服務的可及性、減少行政成本；而臨床方面則有機會可透過AI應用發展個人化治療方案、即時支援與危機預測、提高診斷準確性及開發新型治療方式等。

針對AI應用於心理健康照護之風險與建議措施

由於AI技術刻正發展中，而歐盟人工智慧法（AIA）主要將AI系統劃分為4種風險類別，包括：不可接受風險(Unacceptable risk)、高風險、透明度風險(Transparency risk)、低風險(Minimal to no risk)，其中與生醫領域相關之禁止AI介入之應用，包括：利用生物特徵推測個人的種族、政治觀點、宗教信仰、性取向等，並且禁止即時遠端生物辨識(real-time biometric identification, RBI)，也禁止在工作場所或學校使用AI來識別情緒，但與醫療和安全用途相關則可除外。

AIA亦將AI應用於健康照護領域歸類於高風險應用，包括在醫療器材中應用AI技術、使用於生物特徵識別的AI、判定是否可獲取健康照護等服務的AI系統、任何形式的個人資料自動處理、出於醫療或安全原因的情緒識別等。歐洲心理健康組織於研究報告中提出以下幾項重要風險：

• 安全風險：AI可能生成錯誤或誤導性資訊，如無法理解特定情境而產生有害的建議或決策，或是使用帶有偏見的訓練資料，導致誤診或歧視性結果；AI也可能誤判心理健康狀況，如錯誤標記自殺風險或標記無危機個案為高風險，或未能識別真正需要幫助的患者。
• 隱私風險：資料洩露與未經授權的存取；與第三方共享資料的風險。
• 缺乏知情同意：可能因不了解AI資料處理方法而無法落實知情同意，AI應透過更透明的資訊提供機制改善其流程。
• 出現新的不平等或加劇不平等：偏見資料導致不公平結果，AI若基於不具代表性的資料訓練，可能導致部分族群被錯誤診斷或獲得不適當的治療。
• 照護的去人性化：缺乏情感與同理心，如削弱心理治療的人際關懷、降低醫病信任關係，過度依賴AI也可能導致專業人士的同理心下降。
• 監視風險：AI可能被用於監控心理健康資料，如AI可能將自殺風險分析提供執法機構，導致過度介入或錯誤執法。

針對上述較高之AI應用風險，亦提出建議措施，針對AI技術開發者，建議應有心理健康經驗的群體參與AI的開發過程，如共同設計AI系統、決策過程透明化、優先賦權並確保多元性等方式，這些具有心理健康治療經驗的人，應作為數位化與心理健康所有決策與討論的核心角色，確保在技術創新過程中擁有平等的發言權。

而給予政策制定者的建議，則應特別針對AI風險進行監管與保護措施，如安全風險、隱私風險、知情同意不足。其中可能需要預先預防AI可能加劇的偏見與不平等，如訓練資料應包含多元族群，減少資料偏見和提高AI對所有族群的準確性。並針對AI監視風險，如確保使用者可選擇加入或推出AI監測，並限制AI監測的心理健康資料被執法機關、移民局或其他政府機構濫用等。

觀測小結

由於AI應用尚在起步階段，各國對其風險評估與監管框架仍在調整中。目前有關AI開發於心理健康的軟體仍以國外發展較多，國內尚無相關的數位治療軟體，惟目前國內開發與神經或腦部退化疾病有關的智慧醫療器材軟體（Software as a Medical Device, SaMD），如壓力性精神疾病、兒童如自閉症或過動症等相關治療，或老年失智症、巴金森氏症等疾病之延緩與復建治療，可能同樣面臨AI應用之風險，本報告相關建議措施及風險評估應可供我國政策制定者與開發軟體業者作為參採之建議。