Genkit:新一代基於 Go 的 AI 應用開發框架
Google 推出了 Genkit for Go,這是一個開源框架,用來以 Go 語言原生構建 AI 應用與雲服務。該項目是 Google Firebase 和 Go 團隊聯手合作的最新成果。
Genkit for Go 於 7 月 17 日正式推出,目前版本處於 alpha 階段。
Gophers 能夠通過它將 Go 的性能和併發優勢與 Genkit 的庫和工具相結合,從而來構建生成式 AI 應用程序。
其潛在的用例包括理解複雜請求的人工智能助手、使用檢索增強生成 (RAG) 的客戶支持代理,以及將自然語言等非結構化數據轉換爲結構化格式(如 SQL、查詢與數據表),以及進行更深入分析的數據轉換工具。
Genkit for Go 是繼 5 月份推出的 Firebase Genkit for Node.js 之後推出的,後者適用於 JavaScript 和 TypeScript 開發人員。
Google 團隊表示,Genkit 提供輕量級、可組合的抽象,以簡化複雜 AI 工作流程的開發,同時又不犧牲控制與可定製性。
Genkit for Go 框架的特點總結如下:
-
統一的生成式 API。用於通過單一界面從 Gemini 或 Gemma 等大語言模型生成內容。
-
適用於 AI 工作流的流程。提供具有內置可觀察性的監控與調試功能。
-
原生矢量數據庫支持。通過將 RAG 集成到具有跨數據庫提供商的索引和檢索 API 的應用程序中,使 AI 模型具有上下文感知能力。
Genkit for Go 的關鍵組件包括:
-
直接現成的庫:這些庫用純 Go 編寫,採用正常的 Go 語言約定編寫,可無縫集成到現有項目中。
-
Dotprompt:一種簡化提示工程的文件格式,允許開發者在單個 .prompt 文件中定義模板、模式和模型配置。
-
插件系統:Genkit 爲各種 AI 服務和數據庫提供插件,包括 Google AI、Vertex AI、Ollama 和 Pinecone。該框架旨在實現可擴展性,並積極鼓勵開源社區做出貢獻。
-
開發者工具:CLI 和基於瀏覽器的 UI 爲迭代 AI 工作流、可觀察性功能和評估工具提供了場合。
-
生產可觀察性:與 Google Cloud 的運營套件和 OpenTelemetry 支持集成,可以監控生產環境中的 AI 應用程序。
Genkit for Go 被稱爲一種輕量級、與提供商無關的框架。它還提供了一系列插件,用於與 Google 和第三方提供商的指定大語言模型、矢量數據庫和雲服務集成。
Genkit CLI 和基於瀏覽器的開發者 UI 提供了一個工具包,可簡化生成式 AI 開發。使用 Microsoft 的 Visual Studio Code 編輯器或 Google 的 Project IDX 雲 IDE 的開發者可以在 IDE 的集成瀏覽器中打開 Genkit 開發者 UI,以便與代碼並行使用。
目前可以在 GitHub 上提交 Genkit for Go 的問題與功能請求。Google 還建立了一個 Discord 服務器,用於與 Genkit 團隊和其他開發人員直接溝通。
關於 Genkit for Go 的入門指南,開發者可以訪問 Firebase:
https://firebase.google.com/docs/genkit-go/get-started-go
Google 在 7 月 17 日還相繼推出了其它工具,包括 AI 代理的參考架構 Project Oscar 等產品。
作者:萬能的大雄
本文由 Readfog 進行 AMP 轉碼,版權歸原作者所有。
來源:https://mp.weixin.qq.com/s/GpVFmdBR6WFPa8mwYDgnIQ