EEPW论坛

【前言】

想要实现stm32f769实现对本地模型deepseek的请求，就需要先在本地创建服务。并用python对模型进行请求测试。现在将创建过程分享如下：

1、安装ollama【教程非常多此处略过】

2、安装deepseek模型 网址：deepseek-r1:1.5b

3、打开cmd执行：

ollama run deepseek-r1:1.5b

4、安装后可以使用localhost:11434打开网页，但是使用网址打来打，会提示打不开网址。按需要添加环境变量：新建系统环境变量：`    `在 系统变量 部分，点击 新建。`    `在 变量名 输入框中，输入 OLLAMA_HOST。`    `在 变量值 输入框中，输入 0.0.0.0，然后点击 确定。

5、这样输入网址+11434就可以打开网址了。

6、由于需要网络进行请救，所以编写python程序进行测试，代码如下：

import requests
import json

url = "http://192.168.3.231:11434/api/generate"
headers = {
    "Content-Type": "application/json"
}
data = {
    "model": "deepseek-r1:1.5b",
    "prompt": "hello"
}

try:
    response = requests.post(url, headers=headers, json=data, timeout=10)
    print("原始响应内容逐行输出：")
    # for line in response.text.splitlines():
    #     print(line)

    if response.status_code == 200:
        results = []
        for line in response.text.splitlines():
            try:
                result = json.loads(line)
                results.append(result)
            except json.JSONDecodeError:
                continue
        if results:
            print("请求成功，解析到的 JSON 对象如下：")
            for res in results:
                print(res.get("response", "未找到响应内容"))
        else:
            print("未解析到有效的 JSON 对象。")
    else:
        print(f"请求失败，状态码: {response.status_code}，错误信息: {response.text}")
except requests.Timeout:
    print("请求超时，请检查网络连接或增加超时时间。")
except requests.RequestException as e:
    print(f"请求发生异常: {e}")

【注意的是】model 在网上的教程都写deepseek，需要写自己自己安装的deepseek-r1:1.5b,可以在自己的电脑上看：

C:\Users\liujianhua>ollama list
NAME                ID              SIZE      MODIFIED
deepseek-r1:1.5b    a42b25d8c10a    1.1 GB    34 minutes ago

执行后，运行测试程序就可以看到请救返回了参数：

这样，我们下一步，就可以通过stm32F769通过http来请求了。