开发者成功在ESP32-S3微控制器上运行28.9M参数大语言模型
在 8 美元的 ESP32-S3 微控制器上运行 28.9M 参数大语言模型
TIMELINE
1 条公开报道 · 官方一手 0 条 · 最新在前报道时间线
- 在 8 美元的 ESP32-S3 微控制器上运行 28.9M 参数大语言模型
开发者成功在售价约 8 美元的 ESP32-S3 微控制器上运行了一个 28.9M 参数的大语言模型,完全在芯片本地运行,无需连接服务器,生成速度约 9.5 tok/s。
在 8 美元的 ESP32-S3 微控制器上运行 28.9M 参数大语言模型
开发者成功在售价约 8 美元的 ESP32-S3 微控制器上运行了一个 28.9M 参数的大语言模型,完全在芯片本地运行,无需连接服务器,生成速度约 9.5 tok/s。