AI“應用”的沮喪感
最近在研究「TextQL」這個工具。一開始覺得很讚，好像真的可以滿足「用自然語言分析報表」的需求了？所以推薦給身旁的同事，可在同事遭遇問題，給我兩個“特殊”的Excel報表後，這簡直是狠狠的打了我兩巴掌。說實在的，那表格哪有多特殊？路邊隨便找一個路人都可以理解，但它橫豎就是無法像我們人類一樣，快速且正確的理解表格中的排版及意義，對任何一個我們可以馬上說出正確答案的問題，它就是完全的胡說八道或是索性罷工。
這工具的實作/思維有點“另類”，它並不是直接針對用戶的問題給出答案，而是用「產出Python源碼來執行」的方式來回答。一開始我只是覺得新奇，甚至是覺得有點繞遠路？。直到我這兩天嘗試用別的方式（尤其是ChatGPT/BingChat）來解決同事的問題時，才總算是有點理解這背後是要克服什麼問題。
一開始自然是嘗試想各種方式把表格的內容丟進去給GPT-4，但現在的Token數限制實在還是太大了，我們就是沒辦法直接把整份Excel丟給AI去分析。就算想方設法真丟進去了，它的理解程度還是難以控制。除了很難直接告訴它該“怎麼思考”，更是常出現搞錯欄位或算錯結果的問題。大語言模型的強項是發揮創意推論，可“數字”這種東西可不能接受任何「創意」，不能忍受任何「不穩定性」，1+1就是一定要等於2，不可以“有時候”等於3，”可能“等於0，這樣的品質就是不能真的用在實務上。
大家對AI真的有不少想像，包括我也是。但這陣子花了大把的時間去使用許多的AI服務後，常常都讓我感到很沮喪，也很無奈，我當然知道大家想要什麼，可就是沒有夠成熟的產品。全公司好像在看我們的笑話一樣，看看我們能端出什麼菜，能變出什麼把戲。就算社團硬是被改名叫做「AI應用社團」了，但以現在的AI技術水平，就算是最先進的，最貴的GPT-4，也沒辦法真的像「人」那麼聰明，那麼穩定的解決問題。沒有（成熟的）技術，何來應用？
很多時候當我們想事情想到”卡住“的時候，通常就是只有一種可能：我們根本就問錯問題了。
以終為始去想，我們要這個社團做什麼？我沒忘記：
- 導入AI工具
- 建構AI服務
- 跟上AI技術
不，這些目標的「再後面」是什麼？其實不外乎就這兩件事不是嗎：
- 增加製程產能或品質
- 提高產品創意/技術門檻
對AI這種技術的本質來說，它的“創意性”就等於了它的“不確定性”。所以只要想往「增加製程產能或品質」這個方向去嘗試的產品，一定無法如想像的那麼“智能”或是”神奇“，它就是沒辦法增加你多少產能，不行就是不行。AI就是只能擔任Copilot，只能是“輔助”。如果你想要叫AI給你“正確”答案，你一定會失望的。它這次可以，不代表下次也可以；它這次不行，再試幾次也只是浪費時間，看看它能再吐出什麼異想天開的答案而已。
大家很急著想要看看AI能怎麼解決問題，可大家的問題是創意/技術問題嗎？其實都不是。大家都以為這個社團，依靠”大家“的力量，也許能解決他們眼前缺工的問題，但大家都不是很想去承認，他們要的是「工人智慧」，不是「人工智慧」。所謂的「應用」，我可能一直都搞錯問題，不應該再花時間去找還有什麼“神奇”的工具，可以”應用“在他們可以落地的場域。因為他們需要的不是“創意”，而是老老實實，按照他們想要的程序，能穩定吐出正確答案的“工具”。
在沒有AI以前，我們也是能做工具的，是能寫Code來解決問題的。那為什麼現在有了AI，就覺得一定要用AI來解決問題呢？這不就是「拿著鐵鎚，看什麼都像釘子」嗎？其實AI真的該幫忙的，應該是要幫我們工程師，更快的產出需要的工具才對。沒錯，AI還是沒辦法直接產出工具，但若是能加速這個研發速度，這其實就是AI真的在”落地“，在”應用“的最合適的場域了。
不論是OpenAI，Azure或是剛加入戰局的Amazon，他們的AI服務都會提供能生成源碼的模型。一開始我只是認為，這應該是給要做開發者輔助工具（像Github Copilot）用的，始終沒太放在心上。到現在我才知道，可能我們會需要它的機會，會比我們自己想得到的還要多。如果是一次性的工作，AI能解就直接解了，不能解的了不起就是“工人智慧”上而已。可如果是大量的，頻繁性的工作，我們就會需要工具來幫我們增加產能及品質。就是因為量大，所以當然不是用AI來解決問題。這就好像CPU跟GPU的關係，只有CPU可以什麼都懂，什麼都做。但若是要做的事情是在畫面上打點渲染的話，GPU才能解決問題。所以能否更快的產出工具所需的源碼，製成工具，上線工作，加大產能及提升效率，其實才是AI該施力的地方。
想到這裡，我算是更深一層的理解自己常說的那句話：AI是用來放大BI(Business Intelligence)的。
如果你本來就沒有開發好產品的能力，AI也許可以讓你的產品，”看起來“有變得更好，或是讓你可以用更低的成本，更好的效率來生產現有的產品。可如果你沒有自己的“獨門秘籍”，你靠AI做得到的事，別人自然也可以；AI也可以讓你更高效的產出工具，不僅能加速製程，也可以優化品質。可如果你沒有開發工具的能力，或是你根本沒辦法分析出自己產品的弱點或是製程瓶頸，讓你自己懂得用AI開發出適合自己的工具，你永遠也找不到“合身”的AI工具，AI的助益只是事倍功半。這個能”放大“的關鍵，除了真的在產品需求上，訓練出基於自己BI的模型，來強化自己產品的競爭力以外，另一個能下手的點，就是我們是否能透過AI，再放大我們製作”量身打造“的工具的能量。
這一點，我想Blizzard是近期的代表公司。他們並沒有“等待”或是“評估”別人的產品，而是果斷的開發出自己的AI產品。產圖工具不是有很多了嗎，為什麼他們要自己再開發一個？我想很有可能就是意識到，別人的工具再怎麼怎麼好用，能發揮的效益也已經到達瓶頸；就像大家對M365或是Google Workspace AI有那麼大的期待，因為我們真的不需要另一個“只能聊天“的機器人，而是真的能「Get Things Done」的功能。
結果，當大家以為把社團名稱改為「應用」，會讓這一切變得更簡單時，其實這只是讓事情變得更困難了。 （其實…技術上來說並不是“變”得更困難了，因為這本來就是件困難的事。）