经过之前arduino环境下不太成功的探索,接下来继续在linux系统如ubuntu24下测试coralmicro板子。最近由于笔记本一直不在身边,所以耽误不少时间才再次有测试机会。
首先,我们可以找到这个github网址https://github.com/maxbbraun/llama4micro.git,并且clone这个仓库的代码。
这里有个小提示,因为工程里头有些模块代码是存在于google官网服务器上的,所以clone过程比较麻烦,尤其是没有科学上网的话。最后,我是机缘巧合利用了azure云主机顺利完成了源码的clone,这里感谢一下微软和azure。如果已经clone了完整的源码,接下来的过程就比较顺利,clone结束后文件目录如下。
可以看到,coralmicro珊瑚板子原本的google官方提供sdk和bsp目录为coralmicro,这个llama4micro项目则是一位第三方大佬提供的一个组合了llama2.c和yolov5两个项目的新工程。我正是想用这个组合工程来完成大模型llm算法测试的体验,当然原本google官方提供的coralmicro目录下所有例程依然可以根据自己的需求去做测试,二次开发等等,这里我就不再去一一体验了。
从图片可以看出,这是一个典型的cmake项目,所以只需要简单步骤就可以完成编译,固件烧录等过程。
mkdir build
cd build
cmake ..
make -j
而编译结果如下图所示。
接下来就只是烧录固件,测试和查看大模型运行的结果,不过珊瑚板子的烧录固件还有usb串口操作比较麻烦,操作不当就会遇到不少问题。我将在后续继续分享烧录的过程。