大模型AI運用——AgentScope

2025-04-21 18:33 新鈦雲服

新鈦雲服已累計為您分享825篇技術乾貨
隨著人工智慧（AI）技術的飛速發展，其在各行各業的應用越來越廣泛，尤其是在IT運維領域，AI的應用正逐漸改變著傳統的工作模式。本文將講述如何在我們本地來部署一個我們自己的ai小助手。
文中所運用的工具
  1. AgentScope：一款全新的Multi-Agent框架，專為應用開發者打造，提供高易用、高可靠的程式設計體驗，支援純Python程式設計，內建豐富的API。
  2. LLM：模型選擇的是開源模型Llama3。
  3. conda：用於建立Python環境，便於管理。
conda安裝
conda安裝 URL: https://repo.anaconda.com/archive/Anaconda3-2024.06-1-Linux-x86_64.sh bash Anaconda3-2024.06-1-Linux-x86_64.sh #下載好後回車yes即可 ln -s /root/anaconda3/bin/conda /usr/bin/conda conda create --name python-3.12 python=3.12.7 #建立python環境 conda activate python-3.12 #切換環境
Llama3本地部署啟動
透過ollama進行本地部署和啟動
  • RAM：Llama 3 8B至少16GB
  • 執行以下命令，預設下載的是8B版本
ollama下載地址：https://ollama.com/ollama run llama3:latest
注意：如果沒有ollama命令，需要配置環境變數。
Agentscope安裝
需要安裝Python 3.9或更高版本。
原始碼安裝：
# 從GitHub上拉取AgentScope的原始碼git clone https://github.com/modelscope/agentscope.gitcd agentscope# 安裝需要的Python 包pip install -e .#建立供自己調整的目錄mkdir AI
準備模型配置和初始化註冊Agentscope-test.py
### cd AI### vim Agentscope-test.py# -*- coding: utf-8 -*-import agentscopefrom agentscope.agents import DialogAgent, UserAgentfrom agentscope.message import Msg# 模型配置model_configs_name = "test-llama3"model_configs = [ {"config_name": "test-llama3","model_type": "ollama_chat","model_name": "llama3:latest","host": "192.168.100.134:11434"# ollama所在伺服器的IP和埠，埠預設11434 }]#初始化agentscopeagentscope.init(model_configs = model_configs, project = "test-1", studio_url="http://0.0.0.0:5000")#初始化agentdialogAgent = DialogAgent(name="小助手", model_config_name=model_configs_name, sys_prompt="你是一個AI小助手")user = UserAgent(name="User")x = NonewhileTrue:if x isnotNoneand x.content == "exit":break x = user(x) x = dialogAgent(x)
啟動Agentscope Studio
AgentScope Studio是一個開源的Web UI工具包，用於構建和監控多智慧體應用程式。可以透過執行以下Python程式碼啟動
### vim start_studio.pyimportagentscopeagentscope.studio.init(host="0.0.0.0",port=5000)
不設定host和port，studio預設訪問路徑為127.0.0.1。
啟動Agent
#啟動Agentscope Studionohuppython start_studio.py &#啟動AgentpythonAgentscope.py
訪問Studio，進入dashboard就可以看到啟動的agent了。
以上使用的是Agentscope中的DialogAgent，可以完成類似客服機器人的需求，除此之外，他還有ReActAgent 這種能夠呼叫工具方法，可以根據我們的需求自行開發的agent，可以處理較為複雜的任務。
總結
隨著人工智慧技術的不斷進步，AI在運維領域的應用已經成為提升效率和降低成本的關鍵因素。透過複雜工具呼叫，AI也能夠處理大量的日誌資料，快速定位問題根源，為運維團隊提供決策支援。它不僅能夠提高運維工作的效率和準確性，還能夠釋放運維人員的時間，讓他們能夠專注於更復雜和戰略性的任務。隨著技術的不斷發展，我們可以預見AI將在未來的運維工作中扮演越來越重要的角色。
如有相關問題，請在文章後面給小編留言，小編安排作者第一時間和您聯絡，為您答疑解惑。
    推薦閱讀   

    推薦影片    

相關文章