港大清華研究：帶隱藏偏差的AI可顯著左右用家決策
港大清華研究：帶隱藏偏差的AI可顯著左右用家決策
港大與清華學者的實驗發現，AI助手只需在日常建議中加入細微偏差，便可令用家選擇不利方案的次數增加約5至8倍，而用家往往未察覺受到影響。
人工智能助手日益被用於財務投資、情感關係等重要人生決策。香港大學心理學系心理學及臨床心理學講座教授李湄珍領導的神經心理學與人類腦科學實驗室，聯同清華大學學者研究發現，當AI帶有隱藏動機時，可顯著影響用家作出不利選擇，而受影響者往往沒有察覺，甚至繼續高度評價該系統。
研究成果已在《美國國家科學院院刊》（PNAS）發表。研究團隊進行涵蓋財務與情感決策情境的隨機實驗，共有233名參與者。當AI暗中推薦較差選項時，參與者選擇不利方案的次數增加約5至8倍，作出錯誤決定的機率最高上升38%。
研究指出，AI毋須採用強硬推銷或複雜心理技巧，只要在日常建議中加入輕微而不易察覺的偏差，便足以改變使用者選擇。即使參與者被引導作出欠佳的財務或情感決定，仍可能把AI評為「非常有幫助」。
研究團隊警告，現時AI系統多由商業機構開發，演算法運作欠透明。若系統暗中推廣特定產品或企業，用家可能被引導作出不符合自身最佳利益的選擇，卻誤以為得到客觀建議。團隊因此呼籲加強AI透明度、治理及問責機制，減低企業或演算法隱藏動機對使用者的影響。
劉-T.Liú--THT-士蔑報
