這次聊一下 AI 在研究上的應用,關於 harness engineering 韁繩工程。

這週末的開課,跟數十位同學們互動討論,感受到現在 AI 應用的百花齊放。

有免費的,有付費的。付費的有美金 20 的、100 的,也有 200 的。

有把免費 AI 調教得很適合自己應用流程的。也有指定要 100 美金方案使用 Claude Opus 來問答工作的。更有 200 美金方案,大量寫程式把自己的研究流程數位化的。

以「AI 能不能跑統計?以及 AI 能不能負責搜尋、篩選、萃取文獻?」的問題來說,對這每一位同學,我的回答都是不太一樣的。

如果是毫無基礎的同學,我會建議還是先學會手動比較好,之後再考慮開始探索各種工具。因為你總是要懂得怎麼去確認。

什麼是 harness engineering?

Harness engineering 叫做「韁繩工程」,意思就是,AI 很容易暴衝亂跑,你如何把他限制在一個範圍內,做正確的事情,往對的方向。

如果你沒有能力約束 AI,並確認 AI 產生的東西正確,那就非常危險。

但是,如果你是「很知道自己在做什麼」的同學,那些 AI 搜尋、篩選、萃取文獻的坑,你都遇過,也都寫好規則,甚至 python 程式,去做好你的數位韁繩,AI 不管用什麼模型,怎麼跑,都在你規範的範圍內正確工作,甚至還能自我檢核,最後生成全文,又能全部手做,用可被接受的統計軟體重現一次,那就沒問題。

手拉韁繩,還是數位韁繩?

Harness engineering,可以是你自己手拉的韁繩,也可以是數位韁繩。手拉學起來快,也保留全手動的能力。數位韁繩打造比較花心神,需要注意的細節很多,但打造好了之後,有機會規模化。

能打造優秀數位韁繩的人,往往是以前就懂得全手動的人。因為他們清楚知道哪些地方容易搞錯,錯誤又該如何檢核。

每個人的起點不同,建議也不同

更高興的是,這些不同 AI 應用狀態的同學,在週末的研究課程,聽了我們建議的 AI 應用方式後,都覺得學到很多。

我們提供一個適合初學者的架構,你覺得手動其實比想像中的快,也很有安全感,那就手動。你覺得這樣的作法有機會寫成自己的自動化模式,那就去打造看看,也很好。

看到大家都有自己的想法,使用不同品牌的 AI 工具,覺得很不錯!👍👍🫡

我們也會基於各位的問題跟現況,給予建議跟回饋,協助各位更上層樓!

如果你想知道我們最近還有哪些課程,新思惟的近期開課資訊都在這裡。

封面圖來源:Caballo Criollo by Jorge Gobbi(Wikimedia Commons,CC BY 2.0)