OpenAI 擴展其自定義模型訓練計劃

OpenAI 正在擴展一個名為自定義模型的計劃,以幫助企業客戶開發定制的生成式人工智能模型,使用其技術來解決特定用例、領域和應用。

去年在 OpenAI 的首屆開發者大會 DevDay 推出的自定義模型已經開展,為公司提供了與一組專門的 OpenAI 研究人員合作,為特定領域訓練和優化模型的機會。OpenAI 表示,自從那時以來,“數十”家客戶已經參與了自定義模型。但是 OpenAI 表示,在與這一批初步用戶合作的過程中,它意識到需要擴大該計劃,以進一步“最大化性能”。

因此推出了輔助微調和自定義訓練模型。

輔助微調是自定義模型計劃的一個新組件,利用了超越微調的技術 —— OpenAI 言之,使用“更多的超參數和各種更高效的微調方法”,使組織能夠建立數據訓練管道、評估系統以及其他支持基礎設施,以增強特定任務上模型的性能。

至於自定義訓練模型,它們是使用 OpenAI 的基礎模型和工具(例如 GPT-4)構建的定制模型,為那些“需要更深入微調其模型”或“注入新的、特定於領域的知識”的客戶提供支持。

OpenAI 舉例說明了韓國電信巨頭 SK Telecom 與 OpenAI 合作微調 GPT-4,以提高其在韓語“電信相關對話”中的表現。另一位客戶 Harvey —— 正在建立 AI 功能法律工具,並得到 OpenAI 的 AI 專注創業基金的支持 —— 與 OpenAI 合作創建了一個案例法定制模型,該模型包含數億字的法律文本和來自执照专业律师的反饋。

OpenAI 在一篇博客文章中寫道:“我們相信,在未來,絕大多數組織將開發個性化定制模型,根據其所属行業、業務或用例。”“通过各种技术可以构建自定义模型,各类规模的组织都可以开发出不同领域的个性化模型,从而使其人工智能实施产生更具意义、更明确的影响。”

图片来源:OpenAI

據報導,OpenAI 正在飛速增長,年收入接近驚人的 20 億美元。但是,尤其當公司計劃與微軟合作開發一個價值 1000 億美元的數據中心時,公司內部肯定面臨着保持步伐的內部壓力(如果報導是真實的話)。畢竟,培訓和提供旗艦生成式人工智能模型的成本不會很快下降,並且像自定義模型訓練這樣的諮詢工作可能正是可以在 OpenAI 謀劃下一步行動之時保持收入增長的關鍵。

微調和自定義模型還可以減輕 OpenAI 模型服務基礎設施的壓力。定制模型在許多情況下比其通用對應物更小且性能更高,因此在對生成式人工智能的需求達到高峰時,無疑是對曾經受計算能力挑戰的 OpenAI 提供了一種有吸引力的解決方案。

除了擴展的自定義模型計劃和自定義模型構建之外,OpenAI 今天還為與 GPT-3.5 一起工作的開發人員推出了新的模型微調功能,包括一個新的儀表板,用於比較模型質量和性能,支持與第三方平台的集成(從 AI 開發平台 Weights & Biases 開始),以及工具的增強。然而,關於 GPT-4 的微調則是保密的,GPT-4 在 DevDay 開始提供早期訪問。