一、自2022年間ChatGPT等生成式AI大量興起後，全球經歷數年對AI技術的持續驚艷獵奇階段。2026年一月，杭州互聯網法院針對「AI幻覺」引發的侵權案作出中國大陸首例判決，反映了各地司法體系對於生成式AI已邁入行為責任管理階段。
二、杭州互聯網法院AI幻覺侵權案
(一) 案例背景
梁某利用某AI智能對話平台查詢高考報考資訊，模型生成了關於某高校是主校區的錯誤事實。當梁某提出質疑時，AI模型堅持錯誤資訊、更作出若有錯誤願賠償10萬元的承諾。
梁某嗣後獲知正確訊息並提供給AI知悉，AI建議梁某前往法院解決爭議。梁某認為其受AI生成訊息誤導，致錯失報考機會，額外產生信息核實、維權成本等損害，在杭州互聯網法院對平台開發運營商訴請損害賠償。
(二) 杭州互聯網初審法院駁回原告對AI開發運營平台的損賠訴訟
1. 人工智能不具有民事主體資格，不能獨立為意思表示
依傳統民法之架構，契約的成立基於雙方「意思表示」的合致，然而現行法律中，僅自然人、法人及非法人組織具備民事主體資格，人工智能作為一種算法系統，其生成的文本（如本案的「賠償承諾」），本質上是基於概率隨機生成的字詞組合，而非具備法律意識的「意思表示」。因此，AI模型的賠償承諾不具備法律效力、AI模型也不能作為被告公司的傳達人、代理人或代表人，AI之承諾無法直接被歸因為被訴平台供應商的法律行為。
2. AI生成錯誤內容的責任歸屬與歸責要件
(1) 本案法院認定，生成式AI服務依據「生成式人工智能服務管理站暫行辦法」屬於「服務」，而非「產品質量法」意義上的「產品」，適用「民法典」第1165條第1款的一般過錯責任原則，而非產品責任的無過錯責任原則。
(2) AI服務提供者注意義務的邊界
另一方面，雖然「AI幻覺」在現今技術上具一定程度的不可避免性，AI服務提供者亦不當然完全免責，而應盡以下三層次之注意義務：
- 對有害、違法訊息的嚴格審查義務；
- 對AI生成內容具有功能侷限性的顯著提示義務；
- 採取必要技術措施（如RAG檢索增強生成）以提升準確性。
(3) 本案被訴公司已履行前述提示義務，且技術上符合當前的行業標準，因此判定不存在過錯。
三、裁判評析
(一) 就AI自主生成文字或決策造成的侵權爭議，已逐漸在各地開展，為目前各地立法及司法新興議題。太平洋彼岸的美國加州，早期曾因AI自動駕駛肇事議題引發法界論辯，2026年1月1日生效的 AB 316法案 ，即明文禁止AI部署者以「AI自主決策」為由免責，就生成式AI、自動代理等技術導致的財產損害、人身傷害或經濟損失，將其民事及刑事責任追溯予部署或控制AI系統的人類或組織負責。
(二) 本件杭州互聯網法院的基本裁判立場與加州AB316法案相同，認為AI本身雖無法律主體資格，但控制或者部署AI的平台業者應對AI生成內容所致爭議負責。杭州互聯網法院更進一步試圖界定平台業者的責任邊界，認為平台倘若盡到「風險提示、必要技術建置」義務，可以免責，有意在維護消費者權益與鼓勵AI創新發展間取得平衡，反映中國大陸立法及司法近期就AI相關爭議審查立場。擬在中國大陸發展電商業務的平台業者，現階段可以本案判決作為合規之指標依據。
(三) 放眼未來，各地就AI自動決策造成的侵權責任則仍在形成規範階段，未有一致的管理措施。倘若本件杭州案例發生於臺灣，在甫施行的「人工智慧基本法」就此議題無明文規範的情形下，將回歸適用其他法令（如民法或消費者保護法等規範）；若適用臺灣「消費者保護法」，AI之開發或者部署者無論是提供服務或者產品，即不會當然被認定不負「無過失責任」，可因審判者是否立於維護消費者的角度解讀法令而有不同結論。倘若以歐盟「AI法案」採取的風險分級架構來看，未來則更有可能依據AI決策或者生成內容影響的產業及對象再細分問責程度及其範圍，業界有需持續關注此部分的實務動態。
◎ 延伸閱讀
中國大陸施行全球首部針對「生成式AI」的法規範－生成式人工智慧服務管理暫行辦法
加州AB316法案