31/12/2025
*AI 四大理念於教育、心理與社會服務之理論基礎*
*前言(Introduction)*
隨著人工智慧(Artificial Intelligence, AI)逐步進入教育、心理與社會服務領域,其應用已不僅限於行政效率或資料處理層面,而開始影響評估、決策與專業判斷等核心實務歷程。然而,上述領域皆屬高度重視人際互動、倫理責任與專業判斷之工作場域,若未妥善設計 AI 的角色與使用原則,可能導致責任模糊、價值偏移或專業自主性受限等風險。
近年來,國際政策與學術研究逐漸發展出以「人本導向(human-centered)」為核心的 AI 理念,強調人工智慧應作為支持人類判斷與決策的工具,而非取代專業角色(European Commission, 2019)。在此脈絡下,學界常以 Human-in-the-Loop(人類介入迴圈)、Augmentation(增能)、Transparency(透明性) 與 Agency (主體性/自主權)作為建構負責任與可信賴 AI 系統的重要原則(Jarrahi, 2022;Liu, 2021)。
以下將分別說明此四項理念,並結合教育、心理與社會服務脈絡加以詮釋,以作為後續研究設計與實務應用之理論基礎。
一、Human-in-the-Loop(人類介入迴圈)
~教育、心理與社會服務中的專業監督原則
Human-in-the-Loop(HITL) 指在人工智慧系統的設計、運作與應用過程中,必須保留人類持續且具實質意義的介入與監督,使關鍵判斷不完全交由自動化系統執行(European Commission, 2019)。在此架構下,AI 可協助蒐集資料、進行分析或產生建議,但其輸出結果仍須由人類專業人員加以檢視、修正或否決。
在教育、心理與社會服務領域中,專業判斷往往涉及個體發展、心理狀態與社會處境,具有高度情境性與倫理敏感性。因此,將決策完全自動化不僅存在風險,也可能削弱專業責任的歸屬。研究指出,在 Human-in-the-Loop 架構下,人類的介入可有效降低 AI 錯誤所造成的負面影響,並有助於維持決策品質與責任清晰度(Agudo et al., 2023)。因此,人類在此並非被動的系統使用者,而是負責詮釋、評估與最終裁量的專業主體。
小結
> 在教育與助人專業中,AI 可以協助判斷,但責任仍應由人承擔。
> In educational and human service contexts, AI may support decision-making processes, but responsibility and final judgment should remain with human professionals.
(European Commission, 2019;Agudo et al., 2023)
二、Augmentation(增能)
~以人為核心的能力擴展,而非專業取代
Augmentation(增能)指將人工智慧定位為擴展與強化人類能力的工具,而非取代人類角色的自動化系統。此觀點主張人機協作(human–AI collaboration),使 AI 協助處理大量資訊、重複性工作或初步分析,從而讓專業人員能專注於更高層次的判斷、反思與關係工作(Jarrahi, 2022)。
在教育與助人實務中,AI 可用於整理學習歷程、輔助紀錄分析、呈現趨勢變化或生成初步建議;然而,學習意義的詮釋、心理理解的形成,以及介入策略的選擇,仍須仰賴人類的經驗、價值與同理能力。增能取向因此強調「輔助而非取代」,避免將專業工作簡化為技術流程。
此一觀點亦有助於回應對 AI 導致專業去技能化(deskilling)的疑慮,強調其潛在功能在於支持專業反思與提升判斷品質,而非削弱專業自主性(Jarrahi, 2022)。
小結
>人工智慧的功能在於擴展專業人員的認知與分析能力,而非取代其專業角色與人際關係工作。
>AI is intended to augment professionals’ cognitive and analytical capacities rather than replace their professional roles or relational work(Jarrahi, 2022)
三、Transparency(透明性/可解釋性)
~促進理解、信任與專業反思的基礎
Transparency(透明性)指 AI 系統的資料來源、運作邏輯、推論依據與限制應能被使用者理解與檢視,並在必要時加以質疑與修正。此概念與可解釋人工智慧(Explainable AI, XAI)密切相關,是建立信任與責任的重要前提(European Commission, 2019)。
在教育與心理實務中,若專業人員無法理解 AI 為何提出特定建議,將難以評估其適切性,也可能導致過度依賴或完全排斥。研究顯示,當系統提供適度的解釋資訊時,可降低人機互動的不確定感,並促進更理性的使用態度(Liu, 2021)。
透明性亦有助於促進專業反思,使 AI 的建議成為討論與判斷的起點,而非不可質疑的權威結論。
小結
>唯有當人工智慧的運作邏輯與限制可被理解時,其結果才能成為值得信賴的專業參考依據。
Only when the logic and limitations of AI systems are understandable can their outputs serve as trustworthy inputs for professional judgment(Liu, 2021;European Commission, 2019)
四、Agency(主體性/自主權)
~維護專業自主與服務對象之選擇權
Agency(主體性)指人在 AI 支援情境中仍保有決策權、選擇權與行動自主性,不因系統建議而喪失專業判斷或倫理責任。此概念在教育、心理與社會服務領域尤為重要,因其核心價值在於尊重人的尊嚴、自主與參與權。
具備主體性的 AI 設計應允許專業人員自由決定是否採納系統建議,並能依情境調整或拒絕其輸出。此外,服務對象亦應被告知 AI 的使用方式與角色,並保有知情與同意的權利(European Commission, 2019)。
Liu(2021)指出,當使用者感受到自身仍掌握決策權時,更可能對 AI 產生適度信任,而非被動依賴或抗拒。此原則對於維持專業倫理與關係品質具有關鍵意義。
小結
> 人工智慧可以提供建議,但不應取代人類在專業實務中的決定權與道德責任。
AI may provide recommendations, but it should not replace human decision-making authority or moral responsibility in professional practice(European Commission, 2019;Liu, 2021).
AI 在教育、心理與社會服務中的使用建議綜合原則
綜合上述四項理念,未來在教育、心理與社會服務中導入 AI 時,建議遵循以下原則:
1. 以 Human-in-the-Loop 作為基本設計原則,確保人類能介入、審視與修正 AI 輸出。
2. 將 AI 定位為增能工具,而非替代專業角色的決策系統。
3. 提供足夠透明與可解釋的資訊,使專業人員理解其運作邏輯與限制。
4. 維護專業人員與服務對象之主體性與選擇權。
5. 在專業訓練與督導中納入 AI 素養與倫理反思。
6. 避免將 AI 結果直接作為評價、分類或介入的唯一依據。
---
【適度餵養訓練AI,提供完整資料,清楚的問句對話,有助於AI做出最佳服務。】
參考文獻
Agudo, U., Liberal, K., & Arrese, M. (2023). The impact of AI errors in a human-in-the-loop process. *Cognitive Research: Principles and Implications, 8, Article 74. https://doi.org/10.1186/s41235-023-00529-3
European Commission. (2019). *Ethics guidelines for trustworthy AI*. Publications Office of the European Union.
https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
Jarrahi, M. H. (2022). Artificial intelligence and the future of work: Human–AI symbiosis in organizational decision making. *Journal of the Association for Information Science and Technology, 73*(4), 543–556. https://doi.org/10.1002/asi.24560
Liu, B. (2021). In AI we trust? Effects of agency locus and transparency on uncertainty reduction in human–AI interaction. *Journal of Computer-Mediated Communication, 26*(6), 384–402. https://doi.org/10.1093/jcmc/zmab013
#蘇俊賢臨床心理師 #1545歲青壯心理支持方案