2023年6月至8月間，技術作者Chip Huyen先後發佈兩項研究成果：一份面向企業決策者的生成式AI戰略框架，以及一份面向研究者的LLM開放挑戰梳理。兩項內容分別從落地實踐與技術前沿兩個維度，勾勒出當前生成式AI領域的整體圖景。
企業生成式AI戰略：從“領導要求”到“具體做甚麼”
Chip Huyen在2023年6月7日發佈的《Generative AI Strategy》中，分享了其為Fully Connected大會準備的演講“Leadership needs us to do generative AI. What do we do?”。該演講的靈感來源於她與多位朋友的交流——這些朋友需要制定生成式AI戰略，但不確定具體該做甚麼。
Huyen將這一演講定位為一個探索生成式AI應用方向的簡單框架。她表示，許多想法仍在完善之中，希望未來有時間將其整理成正式文章，並邀請讀者分享自身經驗。她同時感謝Kyle Gallatin、Goku Mohandas、Han-chung Lee和Jamie de Guerre對演講內容的反饋。
LLM研究十大開放方向：幻覺與上下文學習最受關注
2023年8月16日，Chip Huyen發佈《Open challenges in LLM research》，基於與產業界和學術界眾多人士的交流，歸納出LLM研究的十大方向。她表示，從未見過如此多聰明的人為同一個目標努力——讓LLM變得更好。
在這十大方向中，幻覺（hallucinations）和上下文學習（context learning）是當前討論最多的兩個方向。Huyen本人最興奮的則是第3項多模態、第5項新架構和第6項GPU替代方案。
“I was at a panel on LLM with Dropbox, Langchain, Elastics, and Anthropic recently, and the #1 roadblock they see for companies to adopt LLMs in production is hallucination.”
關於幻覺問題，Huyen指出，幻覺是指AI模型編造內容。在許多創意用例中，幻覺是一種特性；但在大多數其他用例中，幻覺則是一個缺陷。她援引近期與Dropbox、Langchain、Elastics和Anthropic的小組討論稱，這些企業認為公司採用LLM進行生產部署的首要障礙就是幻覺。
緩解幻覺並開發衡量幻覺的指標，正成為一個蓬勃發展的研究課題，許多初創公司正聚焦於此。此外，還有一些臨時性技巧可減少幻覺，例如在提示中加入更多上下文、思維鏈（chain-of-thought）、自洽性（self-consistency），或要求模型在回答中保持簡潔。
後續關注
Chip Huyen的兩項工作分別面向企業決策者和研究者。企業側的戰略框架仍處於持續完善階段，Huyen表示希望未來將其轉化為正式文章；研究側的十大開放方向中，幻覺的度量與緩解、多模態、新架構及GPU替代方案等，預計將持續成為產業與學術界的關注焦點。