最近网上很火的大模型本地部署项目Strata,正好新攒了一台机器,配置如下:

CPU:至强E5-2696 V4

主板:华南X99-F8

内存:256G ECC DDR4

显卡:华硕RTX5060Ti  16G

系统盘:800G  SATA  SSD

放模型的盘:金士顿240G  NVME

其他盘:16T+8T希捷机械盘

一开始装了Strata0.1.51,后来看出了0.2.11就又装了0.2.11。

0.1.51是运行bat文件安装,中途还得自行安装winget,这些都可以网上去查怎么装;

下载的是Qwen3.8-Flash-Next IQ3_S模型,实测速度在50Token/s左右。

0.2.11安装就简单了,直接下载exe文件运行,然后指定模型存放位置,直接用原来下载的模型文件即可。加载模型后,现存占满,内存也占了很多。

这是刚才跑完一个项目的情况。

跑项目过程中上下文占用接近70%的时候,他会自动总结之前的对话,释放大量的上下文占用,并继续工作,所以上下文目前还没有出现爆掉的情况。

总共让他干了几个事情如下:

一、给他一张人员信息的excel表格,让他根据年龄、学历、性别等进行统计分析,顺利完成;

二、给他一个PPT文档让他优化,基本顺利完成,就是里面的文本框有的对的不齐;

三、让他编写一个俄罗斯方块python程序,顺利完成;

四、让他编写一个贪吃蛇python程序,有bug,让他修改了一次,顺利完成;

五、让他编写一个ToDo记事本python程序,有bug,让他修改了一次,顺利完成;

六、让他编写了一个智慧园区监控大屏,顺利完成;

七、让他画一个小猫咪,他只会生成svg文档,顺利完成;

<svg xmlns="http://www.w3.org/2000/svg" viewBox="0 0 200 200" width="200" height="200">
  <!-- 背景圆形 -->
  <circle cx="100" cy="100" r="90" fill="#ffe6f0" />

  <!-- 左耳 -->
  <path d="M55 55 L35 20 L80 45 Z" fill="#3b3b3b" />

  <!-- 右耳 -->
  <path d="M145 55 L165 20 L120 45 Z" fill="#3b3b3b" />

  <!-- 耳朵内部 -->
  <path d="M58 50 L46 28 L72 44 Z" fill="#ffb3c6" />
  <path d="M142 50 L154 28 L128 44 Z" fill="#ffb3c6" />

  <!-- 猫脸 -->
  <ellipse cx="100" cy="110" rx="62" ry="56" fill="#3b3b3b" />

  <!-- 左眼 -->
  <ellipse cx="78" cy="100" rx="10" ry="14" fill="#ffffff" />
  <circle cx="78" cy="100" r="6" fill="#1f7a4c" />
  <circle cx="79" cy="98" r="2" fill="#000000" />

  <!-- 右眼 -->
  <ellipse cx="122" cy="100" rx="10" ry="14" fill="#ffffff" />
  <circle cx="122" cy="100" r="6" fill="#1f7a4c" />
  <circle cx="123" cy="98" r="2" fill="#000000" />

  <!-- 鼻子 -->
  <path d="M100 118 L94 128 L106 128 Z" fill="#ffb3c6" />

  <!-- 嘴 -->
  <path d="M100 128 L100 136" stroke="#111" stroke-width="2" stroke-linecap="round" />
  <path d="M100 136 Q88 148 78 142" stroke="#111" stroke-width="2" fill="none" stroke-linecap="round" />
  <path d="M100 136 Q112 148 122 142" stroke="#111" stroke-width="2" fill="none" stroke-linecap="round" />

  <!-- 左胡须 -->
  <line x1="55" y1="120" x2="20" y2="112" stroke="#ffffff" stroke-width="2" stroke-linecap="round" />
  <line x1="55" y1="130" x2="18" y2="132" stroke="#ffffff" stroke-width="2" stroke-linecap="round" />
  <line x1="55" y1="140" x2="22" y2="152" stroke="#ffffff" stroke-width="2" stroke-linecap="round" />

  <!-- 右胡须 -->
  <line x1="145" y1="120" x2="180" y2="112" stroke="#ffffff" stroke-width="2" stroke-linecap="round" />
  <line x1="145" y1="130" x2="182" y2="132" stroke="#ffffff" stroke-width="2" stroke-linecap="round" />
  <line x1="145" y1="140" x2="178" y2="152" stroke="#ffffff" stroke-width="2" stroke-linecap="round" />

  <!-- 腮红 -->
  <ellipse cx="68" cy="135" rx="12" ry="8" fill="#ff99a8" opacity="0.6" />
  <ellipse cx="132" cy="135" rx="12" ry="8" fill="#ff99a8" opacity="0.6" />
</svg>

八、让他OCR,把上面的代码截屏给他识别,100%识别正确,因屏幕受限,“round”,截屏时  d“ 没截取上,他也识别出来并给补全了,识别结果直接打开,就是一个小猫图形。

九、让他处理图片,把一个印章处理成透明背景(抠图),顺利完成;

十、让他处理一个图片的底色,就是上面那个园区大屏的截图,改为浅色背景,顺利完成;

十一、让他干更复杂的任务,开发鸿蒙APP:

        1、他先检测系统是否安装了鸿蒙开发环境,我已经提前安装了,顺利通过;

        2、他就开始按照我的要求进行开发,并直接调用开发环境进行模拟;

        3、有Bug就把截屏、或说明、或错误信息发给他,他就去改;

        4、基本成型后,我就把工程复制到DevEco Studio里再优化,DevEco code也会用GLM5.3进行问答并自动修改项目。

前后累计花了6个小时,最终项目顺利完成。

               

十二、又让他根据这个鸿蒙APP写一个安卓APP,他也是先检测开发环境,都具备后,他就开始该程序,最终生成一个apk安装包,拷贝到手机上,安装也顺利完成。

哈哈,简直是太牛了,全程我一行代码都没有敲。

Strata,还有Qwen3.8-Flash-Next IQ3_S简直就是神一样的存在。

回头再整个大容量NVME,

下载一下274G的DeepSeek-V4.1-Flash玩一玩。

Logo

讨论HarmonyOS开发技术,专注于API与组件、DevEco Studio、测试、元服务和应用上架分发等。

更多推荐