用 Go 語言構建輕量級 ChatGPT 網頁版

近年來，大型語言模型（LLM）的快速發展徹底改變了人機交互的方式。ChatGPT 作爲其中的佼佼者，憑藉其強大的自然語言處理能力，在各個領域都展現出巨大的應用潛力。然而，對於開發者而言，構建自己的 ChatGPT 應用往往需要耗費大量的時間和資源。

Ollama 和 Ollamaweb 的出現爲開發者提供了一個快速構建類 ChatGPT 應用的解決方案。Ollama 是一款開源的 LLM 服務，它支持 Llama-compatible 的模型，並提供簡單易用的 API 接口。而 Ollamaweb 則是一個基於 Ollama 的輕量級 ChatGPT 網頁版，使用 Go 語言編寫，簡潔高效。

Ollamaweb 功能介紹

Ollamaweb 提供了簡潔直觀的網頁界面，方便用戶與 LLM 進行交互。其主要功能如下：

• 信息展示: 主頁清晰地顯示 Ollama 版本、LLM 模型標籤以及上下文長度等關鍵信息，使用戶對當前環境一目瞭然。

• 問答交互: Ollamaweb 能夠準確理解用戶提出的問題，並基於選擇的 LLM 模型給出相應的答案，例如回答 "什麼是 TOTP?" 等問題。

• 上下文記憶:  在對話過程中，Ollamaweb 會記住之前的對話內容，並在後續回答中保持上下文一致性，使對話更加自然流暢。

• 對話管理: 爲了確保 LLM 的邏輯連貫性，用戶可以方便地刪除任何一輪對話，以便重新組織思路或糾正錯誤。

• 對話保存:  Ollamaweb 支持將對話內容保存爲 HTML 文檔，方便用戶回顧和分析之前的對話記錄。

• 響應日誌: 後端服務器會記錄每個會話的 Token 使用量和響應速度等信息，方便開發者進行性能分析和優化。

快速上手

1. 下載模型

訪問 https://www.ollama.com 下載你所需要的 Llama-compatible 模型。

2. 獲取代碼

git clone https://github.com/ml2068/ollamagoweb.git
cd ollamagoweb
go mod tidy

3. 配置環境

編輯 .env 文件，設置端口號和 LLM 模型標籤:

vim .env

PORT=1102
llm=llama3.1:8b

4. 運行服務

go run main.go

5. 構建可執行文件

go build main.go
./main

Groq 支持

Ollamaweb 還支持使用 Groq 平臺的 LLM 模型。

1. 替換文件:

將以下文件替換爲 GroqGoWeb 目錄下的對應文件:

• ./main.go

• ./.env

• ./static/logo.png

• ./static/favicon.ico

2. 配置 Groq:

編輯 .env 文件，設置 Groq API 地址和 API 密鑰:

PORT=1102
llm=llama3-8b-8192 
baseUrl=https://api.groq.com/openai/v1
apiKey=gsk_rmxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx0H

3. 運行服務

go run main.go

項目優勢

• 輕量級:  Ollamaweb 使用 Go 語言編寫，代碼簡潔易懂，部署方便，對硬件資源要求低。

• 易用性:  Ollamaweb 提供了直觀的網頁界面，無需安裝任何軟件，用戶即可輕鬆使用。

• 可擴展性: Ollamaweb 支持不同的 LLM 模型，用戶可以根據自己的需求選擇合適的模型。

• 開源免費: Ollama 和 Ollamaweb 都是開源項目，用戶可以免費使用和修改代碼。

總結

Ollamaweb 爲開發者提供了一個快速構建類 ChatGPT 應用的便捷方案。其輕量級、易用性、可擴展性和開源特性使得開發者能夠更加專注於應用邏輯的開發，而無需過多關注底層技術細節。相信隨着 Ollama 和 Ollamaweb 的不斷完善，將會有更多基於 LLM 的創新應用湧現出來，爲用戶帶來更加智能化的體驗。

本文由 Readfog 進行 AMP 轉碼，版權歸原作者所有。
來源：https://mp.weixin.qq.com/s/nqHDnqStmPzd4dkSIwv0sg