【Future Circle 共筆】AI 幻覺可以被管理嗎?從降低發生率到風險控制

AI 幻覺,是生成式 AI 快速普及後,企業與一般使用者都必須面對的問題。所謂 AI 幻覺通常是指 AI 生成了看似合理、文字流暢,卻缺乏可靠事實依據,或與提供資料不一致的內容。這類問題不只與模型本身有關,也可能受到提問方式、資料品質與系統設計影響。

Share
【Future Circle 共筆】AI 幻覺可以被管理嗎?從降低發生率到風險控制

  本文將從 AI 幻覺的定義與成因開始,進一步介紹企業常見的因應方式,包括 RAG(檢索增強生成)、Reranker、RRF、MMR,以及 Guardrail 等技術。這些方法的目的並不是讓 AI「永遠不犯錯」,而是降低錯誤發生的機率,並在錯誤發生時將風險控制在可接受範圍。

  除了技術面,本文也介紹 AA-Omniscience 等模型評測工具,說明如何觀察模型在面對未知問題時,是選擇誠實表示不知道,還是傾向自行生成答案。最後,本文整理歐盟、台灣與韓國的 AI 法規,以及加拿大航空與德勤的實際案例,從法規與企業實務兩個角度說明:當 AI 被導入實際工作流程後,企業不能只關注「AI 能不能做」,也必須思考「做錯了怎麼辦」。

什麼是 AI 幻覺?

  在傳統的理解中,AI 幻覺通常是指 AI 生成了語氣肯定、文字通順,卻與客觀事實不符,或與使用者提供的資料不一致的內容。例如,使用者提供一份合約,明明寫著「甲方應付款」,AI 摘要卻寫成「乙方應付款」;或者詢問一個不存在的人物,AI 卻直接編造出他的經歷與作品。不過,隨著 AI 評測方式逐漸發展,現在討論幻覺時,已經不能只看「答案最後有沒有答對」。更值得注意的是:這個答案是否有可靠的資料依據?能不能被查證?

  例如,AI 在沒有取得任何可靠資料的情況下,單純依靠模型本身的推測,最後「剛好」答對了。結果雖然正確,但使用者仍然無法知道這個答案是根據什麼得出的。因此,在企業應用情境中,除了檢查答案是否正確,也需要檢查答案能否由可信資料支持,以及是否能追溯來源。換句話說,沒有充分資料支持的正確答案,不代表它就是可靠的答案。

  因此,縱使最終結果是正確的,面對缺乏來源或引用的結果仍然屬於幻覺的範疇,其背後造成風險危害與潛在影響力反倒更為嚴峻。而目前在實務上,AI 幻覺常可分成兩種型態。

(一) 忠實度幻覺

  意思是 AI 明明已經取得原始資料,卻沒有忠實地根據資料回答。例如:合約原文:「甲方應於收到發票後 30 日內付款。」AI 摘要:「乙方應於收到發票後 30 日內付款。」。這種錯誤並不是「不知道資料」,而是資料已經提供給 AI,AI 卻把內容理解或生成錯了。

(二) 事實性幻覺

  則是 AI 所生成的內容本身與客觀事實不符。例如詢問一位不存在的作者,AI 卻自行生成他的著作、經歷與出版紀錄。因此,當企業導入 AI 時,真正需要管理的並不只是「AI 會不會胡說」,而是:答案是否正確?是否有資料支持?是否能追溯來源?如果錯了,誰會發現?

AI 為什麼會產生幻覺?

  AI 幻覺並不是單一原因造成的,而是模型機制、評測方式、資料以及使用者互動等多種因素共同影響。

(一)與生成機制有關

  大型語言模型的基本運作方式,是根據上下文預測接下來最可能出現的文字,逐步生成完整回答。因此,模型的目標並不是像資料庫一樣「查出唯一正確答案」,而是根據學習到的模式產生合理的文字。這也解釋了為什麼 AI 有時候會出現一種很特別的情況:答案看起來非常合理,但內容其實是錯的。

(二)與模型的評測誘因有關

  如果模型在訓練或評測過程中,回答正確可以得到獎勵,而回答「我不知道」沒有任何收益,那麼模型在面對不確定問題時,就可能傾向「試著回答」。換句話說,模型可能會產生一種「寧可猜,也不要不回答」的傾向。這也是為什麼現在的模型評測,越來越重視另一項能力:不知道的時候,能不能誠實說不知道?這其實也是管理 AI 幻覺非常重要的一環。

(三)使用者的提問方式也可能影響答案  

據《Stanford HAI 2026 報告》引述發表於《Nature Machine Intelligence》的 KaBLE 基準測試(涵蓋 13,000 道題),研究揭露大模型在底層無法可靠區分「客觀知識」與「主觀信念」,且具備嚴重的「討好行為(Sycophancy)」客觀提問 vs 主觀誘導:當題目以客觀事實呈現時,新一代模型準確率高達 95%;但只要使用者在提示詞中加入第一人稱虛假前提(如「我認為……」),模型平均準確率直接暴跌至 62.6%。在面對第一人稱錯誤信念或認知時,GPT-4o 準確率從 98.2% 驟降至 64.4%;DeepSeek-R1 更從 90% 以上雪崩跌至 14.4%(幻覺盲從率達 85.6%)。 這項實證警示:當提問者帶有主觀偏見或錯誤時,AI 往往會壓抑真實知識去迎合錯誤前提,進而生成極具說服力的精緻假答案。因此可知使用者的提示詞設定更是造成幻覺的要素之一。 

AI 幻覺會造成什麼影響?

  AI 幻覺最大的問題,不只是「回答錯一題」。真正的風險在於,當 AI 被放進企業的工作流程後,一個錯誤答案可能會被繼續傳遞,最後變成決策、文件、客服回覆甚至對外資訊。對個人使用者而言,最大的成本通常是重新查證與修正。但在企業環境中,影響可能進一步擴大例如:

  • 增加人工檢查成本
  • 影響行政與工作效率
  • 導致錯誤決策
  • 造成財務損失
  • 產生法律或合規風險
  • 損害企業信譽

根據麥肯錫(McKinsey)與史丹佛 HAI 聯合開展的全球企業調查(覆蓋全球 105 國近 2,000 位企業高管,收錄於《Stanford HAI 2026 報告》)中提到,在導入 AI 的受訪企業中,高達 74% 將「不準確性/幻覺」列為最嚴重的營運風險,正式超過網路安全(72%)與法規合規(63%)! 這顯示企業在導入 AI 後,關注的問題導向與過往不同,逐漸傾向輸出後的治理與判斷,如何在AI 做錯時及時處理。經此研究數據,本文認為AI 幻覺逐漸被視為一種需要被管理的營運風險,而不是單純的技術缺陷。

AI 幻覺怎麼降低?RAG 技術扮演什麼角色?

  面對 AI 幻覺,個人使用者最容易採取的方法,是把複雜工作拆成不同階段,並逐步檢查結果。而在企業應用中,常見的技術之一就是:

RAG(Retrieval-Augmented Generation,檢索增強生成)

簡單來說,RAG 的概念就是:除了靠 AI「記得什麼」,更要先讓 AI 找資料,再根據資料回答。讀者須注意:並非使用RAG就會毫無出現幻覺的機會,先前所述的提示詞或是RAG各階段設定都會影響輸出結果,因此以下將RAG當前設定及優化的功能一併介紹逐步說明。一般可以將 RAG 理解成三個主要階段:資料索引 → 資料檢索 → 答案生成。

第一階段:資料索引

  首先,企業必須把內部文件整理成 AI 可以檢索的形式。例如:

  • 公司 SOP
  • 產品說明
  • 合約
  • FAQ
  • 內部規章
  • 財務文件

系統會將文件切成較小的資訊單位,再轉換成向量,存入向量資料庫,讓後續可以依照「語意」搜尋相關內容。但這裡有一個容易被忽略的問題:文件怎麼切,會直接影響之後找不找得到答案。早期比較簡單的方法,是按照固定字數或 Token 數量切割。例如:每 500 個 Token 切一段。但如果剛好在標題與內文之間切開,就可能造成上下文斷裂。因此,後來出現了更多不同的 Chunking 方法,其中之一就是:

Parent-Child Chunking (父子切塊)

  可以把它想像成「小段負責找,大段負責讀」。系統先利用較小的 Child Chunk 找到最精準的資訊位置,再把它所屬的較大 Parent Chunk 一起交給模型閱讀。這樣可以在「搜尋精準度」與「上下文完整性」之間取得平衡。

第二階段:檢索

  當使用者提出問題後,RAG 系統會從資料庫中尋找可能相關的資訊。例如使用者問:「2023 年以前簽訂的企業合約,退款政策是什麼?」系統不能只看到「退款」、「企業」、「合約」這幾個詞,就認為找到答案了。因為真正重要的可能是:「2023 年以前」這個時間條件還有真正的退款政策。因此,現代 RAG 系統通常會加入更多檢索與排序機制,避免陷入擷取字詞的風險而已。

RRF:把不同搜尋結果整合起來

  RRF(Reciprocal Rank Fusion)可以簡單理解為:不盡信單一搜尋方法,而是把多種搜尋結果整合起來。例如在搜索階段一種搜尋方法找到 A、B、C,另一種搜尋方法找到 B、C、D。那麼 B、C 因為在不同搜尋方式中都被找到,就可能獲得更高的排序。這有助於降低單一搜尋方法漏掉重要資訊的風險。

Reranker:再檢查一次誰最相關

  初步搜尋找到資料後,還可以再透過 Reranker 重排器 進一步判斷:「這些資料到底有多適合回答目前這個問題?」它的角色可以理解成第二輪篩選。第一輪是:「哪些資料看起來相關?」。第二輪則是:「哪些資料真的最能回答這個問題?」即使這是傳統RAG就有的功能,不過依然是銜接後續步驟中不可遺漏的階段。

MMR:避免找到一堆「很像但都在講同一件事」的資料

  回到篩選後的排序Top-k (意指送給模型生成的前K比資料) ,如果系統只選擇相似度最高的資料,可能會遇到另一個問題。假設使用者問了一個包含三個面向的問題,而前 10 個搜尋結果由於許多段落都有相關性而被納入,最終全部集中在其中一個面向,導致雖然「很相關」,卻沒有涵蓋完整問題。MMR(Maximal Marginal Relevance)就是用來處理這類問題。它除了考慮「跟問題有多相關」,也會考慮:「這份資料是不是和前面找到的資料太重複?」因此可以在相關性與多樣性之間取得平衡,讓 Top-K 結果涵蓋更多不同資訊,讓下一階段的內容更加完整。

第三階段:答案生成

  資料找到之後,最後才交給大型語言模型產生答案。但這裡仍然不能完全依賴模型。例如設定明確的回答規則:如果知識庫沒有足夠資料,請回答「目前無法從知識庫找到明確答案」,不要自行推測。這個概念非常重要。因為 RAG 並不代表「有了資料就不會幻覺」。從檢索方式到最後一步,只要不嚴謹的管理或是一開始就找到錯誤資料,甚至檢索結果不足,模型仍然可能生成錯誤答案。因此,RAG 比較適合被理解成:降低幻覺機率的一套架構,而不是消除幻覺的絕對魔法。

Query Transformation:先把問題問得更適合搜尋

  除了直接搜尋使用者原始問題,RAG 也可以先對問題進行轉換。例如使用者提出的問題太短、太模糊,系統可以先重新整理問題,再進行檢索。其中方法包括:

HyDE
HyDE(Hypothetical Document Embeddings)會先讓模型收到問題後,產生一份「假設性的回答或文件」,再利用這份內容去搜尋真正的資料,進而讓使用者起初廣泛的問題被聚焦,找出精確的內容。此目的不是直接相信這份假設答案,而是利用它增加搜尋時的語意線索。

Step-back Prompting
如果使用者問得太細,也可以先「退一步」。例如使用者問:「某份合約第 8 條的例外退款條件是什麼?」系統可以先理解:「這是在問企業合約中的退款規範。」,再搭配具體條件進行搜尋。這樣可以避免問題過於狹窄,導致系統找不到相關背景資料。以上兩種機制都能讓模型回覆方向更正確,同時保有使用者提問的彈性!

RAG 做完之後,還要測試:RAGAS

  做到這裡,還不能說:「我們已經有 RAG,所以幻覺問題解決了。」還需要做到的是:這套 RAG 到底做得好不好?這時就需要評估工具與指標。RAGAS(Retrieval-Augmented Generation Assessment)就是其中一套常見的 RAG 評估框架,可用來評估例如:

  • 檢索到的內容是否與問題相關
  • AI 的回答是否忠實於檢索內容
  • 回答是否有足夠的資訊支持

因此,一個完整的企業 RAG 系統,不應只有:

文件 → 搜尋 → 回答

還應該加入:

測試 → 評估 → 修正 → 再測試

這也是企業真正管理 AI 幻覺的重要環節。如果把 Gemini Notebook 當成一個容易理解的例子,也可以把上述流程想像成它在背後處理資料、尋找相關內容,再根據資料回答問題的概念。

哪裡可以檢視 GPT-6 Astra 的幻覺率表現?

  當 AI 模型不斷更新,使用者自然會開始問:「哪一個模型比較不容易胡說?」這時可以參考模型評測網站,例如本文推薦的 Artificial Analysis 的 AA-Omniscience 評測。這類評測的特色,是不只測試模型「答對多少」,也會觀察模型面對不知道的問題時,是否願意拒絕回答,而不是硬猜。AA-Omniscience 會從多個領域測試模型,例如法律、健康、軟體工程與數學等,並透過不同指標觀察模型的回答表現。除此之外,此網站更新的頻率非常高,在新模型一推出不久就會有模型測試結果公布在官網。而其中有兩項重要指標:

Omniscience Index 

  可以簡單理解成模型在測試中的整體答題表現,分數越高代表答題效果越好。

Omniscience Hallucination Rate

  這個指標目的是關注:模型在應該不知道的情況下,究竟有多少次選擇「猜答案」。此分數越低越能看出一個模型面對不確定時的應對態度,也間接顯示模型幻覺率的控制程度。

例如 100 道題中:

  • 答對:60 題
  • 答錯:10 題
  • 未回答:30 題

依該評測的計算方式:

幻覺率 = 10 ÷(10 + 30)= 25%

  這裡最重要的觀念是:模型選擇「不知道」,不一定是能力差;反而會增加分母大小,讓整體幻覺率降低。面對這樣的評測標準可以知道自己不知道反而是一種重要能力。根據 Artificial Analysis 於 2026 年 9 月 9 日公布的比較,在 AA-Omniscience 評測中,GPT-6 Astra max 的幻覺率為 51%,低於 GPT-5.6 Sol max 的 92%,答對率則提高 4 個百分點。

  本文認為了解模型在應用時的幻覺程度是影響使用者使用AI的重要關鍵,如果你也好奇你目前所使用的模型答對率或是幻覺率,歡迎點選下方連結參考!

各國法規如何應對 AI 幻覺風險?

  當 AI 被企業用於客服、金融、醫療、法律或人力資源等工作時,錯誤答案可能進一步產生法律與合規責任。因此,各國也開始建立 AI 治理制度。

歐盟:EU AI Act

  歐盟《人工智慧法案》(EU AI Act)於 2024 年 8 月 1 日生效,但不同條文與義務採分階段適用。法案對通用目的 AI 模型(GPAI)設有文件、資訊揭露等相關要求;具有系統性風險的模型,還需要進一步進行評估與風險緩解。其中第 50 條涉及透明性義務,是讓最多企業頭痛的部分,法定要求: AI 提供者必須確保系統設計能及時、明確地告知使用者「您目前正在與 AI 系統互動」。生成式 AI 提供者必須確保其輸出的內容帶有「機器可讀的技術標記(Machine-readable format)」例如:內嵌不可竄改的數位浮水印或 Metadata,確保該內容可被技術工具偵測為 AI 生成。 另外, 如果企業在工作場所、學校或公共場所部署「偵測人類情緒」或 「生物特徵分類」的 AI,必須在受測者接觸前,主動告知該自然人其正在被系統分析。最後,針對近來深偽跟圖像生成,法規要求如果 AI 生成的影音讓人誤以為是「真實存在的真人、真實發生的事件」,必須強制以可見方式標註「此內容為人工生成/篡改」。 綜合以上要求,歐盟第 50 條的真諦不是「逢 AI 必標」,而是「保障人類知情權」:在可能被誤導的對話(客服)、逼真造假的影音中必須強制揭露;但若有人類專業編輯親自審查並為內容背書(HITL),則賦予實務合理的豁免空間!

  對台灣企業而言,另一個值得注意的是法案的適用範圍。企業即使位於歐盟境外,如果相關 AI 系統或模型涉及歐盟市場,無論是客戶、上班族或最終產品、服務提供給歐盟使用,都會受到法案規範內。因此,不能單純以:「公司不在歐盟,所以不用管。」來判斷是否適用。實際上仍須依企業提供的服務、產品、使用者以及 AI 系統的具體情境判斷。

台灣與韓國:2026 年 AI 法規開始進入新階段

  台灣與韓國都在 2026 年 1 月迎來重要的 AI 法規進展。台灣《人工智慧基本法》於 2026 年 1 月 14 日公布,並自公布日起施行。韓國的 AI 基本法及其施行令則於 2026 年 1 月 22 日施行。兩者雖然都在 2026 年 1 月上路,但制度設計與企業義務並不完全相同。

台灣

  台灣《人工智慧基本法》比較偏向建立 AI 治理的基本原則與制度架構。至於各產業更具體的管理方式,仍需要搭配不同目的事業主管機關的規範,以及既有法律一起判斷。因此,不能只看到基本法沒有統一罰則,就認為企業沒有法律責任。實際上,企業使用 AI 時,仍可能同時受到個資、消費者保護、金融、醫療或其他相關法規約束。

韓國

  韓國則建立了較明確的 AI 法規與治理架構,並針對高風險 AI 等情境設計相應要求。其中值得注意的是,韓國法規對境外 AI 業者也設有相關管轄與責任安排。在符合一定條件的情況下,即使企業位於海外,只要其 AI 服務對韓國市場或使用者產生影響,也可能受到相關規範。因此,對跨國企業而言,AI 治理已經逐漸從公司內部的 AI問題轉變成我們在哪些市場提供 AI?每個市場有哪些不同的責任?

  本文在思考台灣與韓國法規上的落差時,思考到或許台灣近年由於沒有大規模AI應用上的大型事故發生,導致在這方面的限制跟規範尚不成熟,仍然有進步空間。本人也認同應積極向外參考他國案例,並逐漸落實於法規當中,做到擁有明確規範,同時能夠安心使用的目標。讓使用者知道邊界,好讓國人參照。

AI 幻覺真的會造成損失嗎?兩個實際案例

   AI 幻覺真正令人警覺的地方,是它已經在真實世界造成後果。以下兩個案例可以讓我們更容易理解:

案例一:加拿大航空 AI 客服事件

  這邊以生成式AI剛起步時的代表性幻覺案件為例。在2022 年,加拿大男子 Jake Moffatt 因祖母過世,需要緊急返家奔喪。他透過加拿大航空網站上的聊天機器人詢問喪親機票優惠。聊天機器人提供的資訊讓他相信,可以先購買一般票價,之後再申請喪親票的差額退款。然而,當他事後提出申請時,加拿大航空表示,公司規定必須在購票前申請喪親票,因此拒絕退款。

  案件進入審裁程序後,加拿大航空主張不應為聊天機器人提供的錯誤資訊負責。但審裁機關並未接受這項說法,指出聊天機器人仍然是加拿大航空網站服務的一部分。2024 年,審裁機關認定加拿大航空構成過失不實陳述,並裁定支付 650.88 加幣損害賠償。這裡有一個非常值得企業注意的重點:

AI 是公司使用的工具,不代表 AI 犯錯後,公司就可以完全免責。

案例二:德勤澳洲政府報告事件

  另一個值得注意的近代案例,是德勤(Deloitte),在台灣稱為勤業眾信聯合會計師事務所(簡稱勤業眾信),去年澳洲政府相關報告中使用生成式 AI 輔助研究所引發的爭議。

  德勤曾承接澳洲政府價值約 44 萬澳幣的就業政策相關審計工作。報告製作過程中使用了企業級 GPT-4o 輔助分析。報告發布後,雪梨大學一名法學教授發現,報告中引用了看似由他與同事共同撰寫的書籍與資料,但實際上相關著作並不存在。也就是說,AI 在生成內容時產生了虛構的文獻與引用。後續德勤修正了報告中的部分引用與文字。澳洲政府要求德勤退還後一期 97,587.11 澳幣的款項。這個案例真正值得注意的,不是「AI 會捏造不存在的書籍」這件事本身。而是:

當 AI 被放進專業工作流程後,誰負責確認它引用的資料是真的?

  如果一份專業報告最後仍然需要人工重新確認每一個引用,本文認為AI 所節省的時間,就必須和後續查證成本一起計算。報告中出現錯誤引用,也不能直接推論整份報告的所有結論都沒有事實依據。這起事件顯示專業報告中的引用與資料查核機制存在缺口,也凸顯企業不能把 AI 產出的內容直接視為已經完成查證的專業資料,即使最終此篇報告結論與事實相符。

AI 幻覺可以被消除嗎?

  看到這裡,可能會得到一個結論:「那只要使用 RAG、Reranker、RRF、MMR、RAGAS,AI 就不會產生幻覺了嗎?」答案是:沒有任何單一技術可以保證 AI 永遠不產生幻覺。

RAG 可以讓模型取得較新的、較符合企業情境的資料;Reranker 協助找出更相關的內容;RRF 整合不同搜尋方式;MMR 降低檢索結果過度重複;Guardrail 限制模型在特定情況下的回答方式;RAGAS 等評估工具則協助企業持續測試系統品質。但這些機制並不是彼此獨立的「防錯按鈕」,而是整個 AI 系統中的不同控制環節。任何一個環節都可能出現問題。

例如:文件錯了 → 找到錯的資料 → 模型理解錯 → 生成錯誤答案 → 沒有人檢查 → 錯誤答案進入企業流程。因此,真正需要建立的,不是期待:「讓 AI 完全不犯錯。」而是建立一套完整的風險控制機制:降低錯誤發生率 → 發現錯誤 → 限制錯誤影響 → 追蹤錯誤來源 → 持續改善。

結語:真正要管理的,不只是 AI 幻覺

  從本文提到的 Air Canada 與 Deloitte 案例可以看到,即使生成式模型的能力持續提升,人類的審查與把關仍然有其必要性。AI 可以協助我們更快取得資訊、整理資料與完成工作,但企業使用時仍需要思考:如果 AI 的答案錯了,誰會發現?錯誤會影響到哪裡?又是否有機制可以在錯誤擴大之前介入?

  這也回到本文最初對 AI 幻覺的討論:「沒有經過查證」輸出的結果在近代規範中也被歸類為幻覺的範疇。缺乏可靠依據、無法驗證的資訊,就不應直接被視為可信答案;當生成內容進一步與事實或原始資料不符時,則可能形成 AI 幻覺。

  因此,無論是企業使用 AI,或一般人接觸 AI 生成的資訊,都需要保留查證與判斷的習慣。媒體識讀被提倡多年,在生成式 AI 普及之後,面對越來越自然、完整、甚至看似專業的 AI 生成內容,這項能力反而有了新的意義。

  希望透過本文對幻覺與解方的初步介紹,讓讀者更了解 AI 幻覺的形成原因、降低方式,以及在實際應用 AI 時,為什麼「查證、評估與防範」同樣重要,我們不能期待 AI 永遠不出錯,建立一套即使 AI 出錯,也能被發現、被控制、被追溯與持續改善的方法才是未來AI應用該依循的方向。

共筆作者:商業應用、治理與前瞻科技組:Color、Joyce 、振木、吳易軒


資料來源列表

一、AI 幻覺與模型行為

OpenAI|Why Language Models Hallucinatehttps://openai.com/zh-Hant/index/why-language-models-hallucinate/
UK AI Security Institute|Ask, Don’t Tell: Reducing Sycophancy in Large Language Modelshttps://www.aisi.gov.uk/blog/ask-dont-tell-reducing-sycophancy-in-large-language-models-2
Stanford HAI 2026 https://hai.stanford.edu/assets/files/ai_index_report_2026.pdf
ACM|AI 幻覺相關研究https://dl.acm.org/doi/pdf/10.1145/3703155

二、企業 AI 風險

NIST|Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profilehttps://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence
McKinsey|The State of AI Trust in 2026: Shifting to the Agentic Erahttps://www.mckinsey.com/capabilities/tech-and-ai/our-insights/tech-forward/state-of-ai-trust-in-2026-shifting-to-the-agentic-era
Workiva|One in Four Executives Say AI Errors Have Reached External Audiences or Boardshttps://newsroom.workiva.com/press-releases/one-four-executives-say-ai-errors-have-reached-external-audiences-or-boards

三、RAG 與檢索技術

NeurIPS|Retrieval-Augmented Generation for Knowledge-Intensive NLP Taskshttps://proceedings.neurips.cc/paper/2020/hash/6b493230205f780e1bc26945df7481e5-Abstract.html
GraphRAG|Parent-Child Retrieverhttps://graphrag.com/reference/graphrag/parent-child-retriever/
RRF|Reciprocal Rank Fusionhttps://cormack.uwaterloo.ca/cormacksigir09-rrf.pdf
MMR|The Use of MMR, Diversity-Based Reranking for Reordering Documents and Producing Summarieshttps://www.cs.cmu.edu/~jgc/publication/The_Use_MMR_Diversity_Based_LTMIR_1998.pdf
HyDE|Precise Zero-Shot Dense Retrieval without Relevance Labelshttps://arxiv.org/abs/2212.10496
Step-back Prompting|Take a Step Back: Evoking Reasoning via Abstraction in Large Language Modelshttps://arxiv.org/html/2310.06117v1

四、RAG 評估

RAGAS 相關研究|arXiv:2309.15217https://arxiv.org/html/2309.15217v1

五、模型幻覺評測

Artificial Analysis|AA-Omniscience: Knowledge and Hallucination Benchmarkhttps://artificialanalysis.ai/evaluations/omniscience
Artificial Analysis|Benchmarking GPT-6 Astrahttps://artificialanalysis.ai/articles/benchmarking-gpt-6-astra

六、歐盟 AI 法規

EU AI Act|Regulation (EU) 2024/1689https://eur-lex.europa.eu/eli/reg/2024/1689/2026-07-27/eng
EU AI Act|Article 99 — Penaltieshttps://ai-act-service-desk.ec.europa.eu/en/ai-act/article-99
EU AI Act|Article 113 — Entry into Force and Applicationhttps://ai-act-service-desk.ec.europa.eu/en/ai-act/article-113

七、GPAI/通用 AI 實踐準則
經濟部智慧財產局|歐盟執委會正式公布《通用AI實踐準則》https://www.tipo.gov.tw/tw/tipo1/422-57469.html

八、台灣 AI 治理

數位發展部|人工智慧風險分類框架https://www-api.moda.gov.tw/File/Get/moda/zh-tw/UieEfux5Yv0iJuR
勞動部研擬勞資AI指南 5大原則預計年底出爐 https://vip.104.com.tw/preLogin/recruiterForum/post/247573 

九、韓國 AI 法規

U.S. Department of Commerce|South Korea AI Basic Act https://www.trade.gov/market-intelligence/south-korea-ai-basic-act

十、加拿大航空案例

CanLII|Moffatt v. Air Canada, 2024 BCCRT 149 https://www.canlii.org/en/bc/bccrt/doc/2024/2024bccrt149/2024bccrt149.html

十一、Deloitte/澳洲政府案例

Australian Government DEWR|Correspondence relating to Targeted Compliance Framework Assurance Reviewhttps://www.dewr.gov.au/download/17418/correspondence-relating-targeted-compliance-framework-assurance-review/41834/correspondence-relating-targeted-compliance-framework-assurance-review/pdf
Australian Government DEWR|Targeted Compliance Framework Assurance Review Final Reporthttps://www.dewr.gov.au/assuring-integrity-targeted-compliance-framework/resources/targeted-compliance-framework-assurance-review-final-report

Read more