寫 AI 工具串接的時候發現一件事，細想有點毛：AI 自己從來沒有真的去查過任何東西。

它做的事情是「猜你需要用哪個功能、吐出一段指令」，程式收到才真的去執行——執行完的結果包成一句話回報給它，它就直接信了。

真的查出來的資料，跟工程師隨便編的假資料，AI 收到的時候長得一模一樣，都只是一句文字。它沒有腿，沒辦法自己走出去查證。

工具回傳的東西可不可靠，責任在寫程式的人身上，不在 AI 身上——它只負責「聽一句、信一句」。

你踩過類似的坑嗎？

#LLM #AI筆記

發布操作備註（不上傳 Doc、不屬於貼文本體）：