T4 16G显卡最新Qwen3.8 27B初步安装测试
废话不多说初步测试记录整理如下复刻Ollama应用打开模板中心页面https://cloudstudio.net/t找到Ollama项后点击【使用模板】按钮或者直接打开应用【AI模板——Ollama - Cloud Studio】(https://cloudstudio.net/a/26997635105468416)后复刻结果是一样的。这里读者直接复刻本人已经复刻好的应用Ollama-Qwen3.8 - Cloud Studio[https://cloudstudio.net/a/37595859894779904]就好了。启动及升级应用环境由于是最新版本的模型这里需要升级一下ollama引擎。curl -fsSL https://ollama.com/install.sh | sh拉取模型运行考虑到16GB显卡运行成本较低这里特意选取大小合适性能不错的基于Unsloth Dynamic V3.0的UD-Q3_K_XL量化版本。ollama run --verbose hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL测试默写长诗总的说来eval rate大约10 tokens/s。root8f17b6ae31ac(Qwen3.8):/workspace 2026-08-15 09:21:2600 #ollama run --verbose hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL /show parametersModel defined parameters:stop |im_start|stop |im_end|stop thinkstop |im_start|user /set nothinkSet nothink mode. /set parameter temperature 0.1Set parameter temperature to 0.1 你是谁我是通义千问Qwen是由阿里巴巴集团通义实验室独立开发的大型语言模型。我可以帮你解答问题、提供建议、进行创意写作、编写和调试代码、分析数据或者只是陪你聊聊天。请问今天有什么我可以帮你的吗total duration: 6.224271694sload duration: 423.265261msprompt eval count: 13 token(s)prompt eval duration: 489.461msprompt eval rate: 26.56 tokens/seval count: 58 token(s)eval duration: 5.308317seval rate: 10.93 tokens/s /byeroot8f17b6ae31ac(Qwen3.8):/workspace 2026-08-15 09:23:2500 #ollama psNAME ID SIZE PROCESSOR CONTEXT UNTILhf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL d389d2a85119 13 GB 100% GPU 4096 4 minutes from nowroot8f17b6ae31ac(Qwen3.8):/workspace 2026-08-15 09:23:2800 ### 文章默写测试之《春江花月夜》root8f17b6ae31ac(Qwen3.8):/workspace 2026-08-15 09:23:2800 #ollama run --verbose hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL 《春江花月夜》Thinking...【此处省略部分】...done thinking.你是指唐代张若虚的《春江花月夜》吗这是中国古典诗歌中非常著名的一首乐府旧题诗常被称作“孤篇横绝”“孤篇盖全唐”。下面是全文与简要赏析## 《春江花月夜》**唐·张若虚**春江潮水连海平海上明月共潮生。滟滟随波千万里何处春江无月明江流宛转绕芳甸月照花林皆似霰。空里流霜不觉飞汀上白沙看不见。江天一色无纤尘皎皎空中孤月轮。江畔何人初见月江月何年初照人人生代代无穷已江月年年望相似。不知江月待何人但见长江送流水。白云一片去悠悠青枫浦上不胜愁。谁家今夜扁舟子何处相思明月楼可怜楼上月徘徊应照离人妆镜台。玉户帘中卷不去捣衣砧上拂还来。此时相望不相闻愿逐月华流照君。鸿雁长飞光不度鱼龙潜跃水成文。昨夜闲潭梦落花可怜春去不复还。江水流春去欲尽江潭落月复西斜。斜月沉沉藏海雾碣石潇湘无限路。不知乘月几人归落月摇情满江树。---## 简要赏析这首诗以“春、江、花、月、夜”五个意象为核心把自然景色、人生哲理与离愁别绪融合在一起。### 1. 开篇气势宏大“春江潮水连海平海上明月共潮生。”春潮浩荡月光随潮水升起视野辽阔意境开阔一下子把读者带入一个宏大而清明的夜晚。### 2. 月色之美极尽清丽“滟滟随波千万里何处春江无月明”月光洒满江面随波荡漾无处不在。这里写的是视觉之美也有一种无处不在的思念之情。### 3. 由景入理追问宇宙人生“江畔何人初见月江月何年初照人”诗人由眼前明月联想到人类与宇宙的关系人生短暂代代更替而江月恒久年复一年。### 4. 离情与相思贯穿全诗后半部分转入具体的人情“谁家今夜扁舟子何处相思明月楼”一边是漂泊在外的游子一边是楼上思念的闺人。月光成为连接两地情感的媒介。### 5. 结尾余韵悠长“不知乘月几人归落月摇情满江树。”月亮落下情思却仍在江树间摇荡。结尾不直接说愁却把愁思写得弥漫、深远、余味无穷。---这首诗最动人之处在于它不是单纯写景也不是单纯抒情而是把**自然之美、生命之思、离别之情**融为一体语言清丽意境空明是中国诗歌中极具代表性的名篇。total duration: 3m17.50365817sload duration: 414.802759msprompt eval count: 58 token(s)prompt eval duration: 716.266msprompt eval rate: 80.98 tokens/seval count: 1866 token(s)eval duration: 3m16.113149seval rate: 9.51 tokens/s Send a message (/? for help)32G V100下速度超过30t/sollama show hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XLtotal duration: 4.526492467sload duration: 424.568082msprompt eval count: 53 token(s)prompt eval duration: 1.368403sprompt eval rate: 38.73 tokens/seval count: 99 token(s)eval duration: 2.729842seval rate: 36.27 tokens/s显卡相关rootfa50b9ca797b(Qwen3.8):/workspace 2026-08-15 09:41:3400 #ol psNAME ID SIZE PROCESSOR CONTEXT UNTILhf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL d389d2a85119 15 GB 100% GPU 32768 4 minutes from nowrootfa50b9ca797b(Qwen3.8):/workspace 2026-08-15 09:41:3800 #nvSat Aug 15 09:41:52 2026-----------------------------------------------------------------------------------------| NVIDIA-SMI 580.65.06 Driver Version: 580.65.06 CUDA Version: 13.0 |---------------------------------------------------------------------------------------| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC || Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. || | | MIG M. |||| 0 Tesla V100-SXM2-32GB On | 00000000:00:0A.0 Off | 0 || N/A 38C P0 37W / 300W | 16107MiB / 32768MiB | 0% Default || | | N/A |--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------| Processes: || GPU GI CI PID Type Process name GPU Memory || ID ID Usage |||| No running processes found |-----------------------------------------------------------------------------------------rootfa50b9ca797b(Qwen3.8):/workspace 2026-08-15 09:41:5200 #注意事项上下文长度如果上下文过长导致暴显存就会速度明显下降可以使用下面命令限制较小的尺寸。 /set parameter num_ctx 8192Set parameter num_ctx to 8192在线预览1分钟就能进入在线预览环境体验哦打开https://cloudstudio.net/a/37595859894779904后点预览数秒后启动环境出现命令提示符。马上执行此命令行即可ollama run --verbose hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL测试记录➜ /workspace cd /workspace/tools sh ollama_start.shCreating log directory...Starting Ollama service...-e Ollama service is running-e Log file: /workspace/logs/ollama.log-e Recent logs:time2026-08-15T10:22:34.713Z levelINFO sourceimages.go:919 msgtotal unused blobs removed: 0time2026-08-15T10:22:34.713Z levelINFO sourceroutes.go:1990 msgListening on [::]:11434 (version 0.32.13)time2026-08-15T10:22:34.716Z levelINFO sourcerunner.go:60 msgdiscovering available GPUs...time2026-08-15T10:22:35.618Z levelINFO sourcemodel_list_cache.go:112 msgmodel list cache hydration complete models3 failures0 elapsed904.678546mstime2026-08-15T10:22:35.981Z levelINFO sourcemodel_recommendations.go:177 msgmodel recommendations cache sleep scheduled wait4h1m32.182861324s consecutive_failures0➜ tools ollama run --verbose hf.co/unsloth/Qwen3.8-27B-GGUF:UD-Q3_K_XL 你是谁Thinking...用户问“你是谁”这是一个直接的自我介绍请求。我可以直接回答我是通义千问Qwen由阿里巴巴集团通义实验室研发。回答应简洁、自然不需要提及内部指令或版本信息。...done thinking.我是通义千问Qwen由阿里巴巴集团通义实验室自主研发的大语言模型。我可以协助你进行问答、创作、逻辑推理、编程等多类任务也可以与你进行多轮对话。很高兴为你服务total duration: 10.373439949sload duration: 416.912759msprompt eval count: 53 token(s)prompt eval duration: 1.195378sprompt eval rate: 44.34 tokens/seval count: 95 token(s)eval duration: 8.757272seval rate: 10.85 tokens/s Send a message (/? for help)

相关新闻

电子楼书:从“纸质宣传册”到“VR沉浸式营销”的数字化革命

电子楼书:从“纸质宣传册”到“VR沉浸式营销”的数字化革命

一、什么是电子楼书?电子楼书是融合三维动画、多媒体互动与网络技术的房地产数字化宣传工具,通过光盘、触摸屏、互联网及移动设备等载体实现信息动态展示,替代传统纸质楼书模式。其以三维模拟为核心技术,整合视频、音乐、文字等数…

2026/10/15 0:05:36 阅读更多 →
宽压降压新利器|CN8820 100V 异步降压 DC-DC,车载 / 工业 IoT 全能电源方案

宽压降压新利器|CN8820 100V 异步降压 DC-DC,车载 / 工业 IoT 全能电源方案

还在为高压输入设备的电源方案头疼?输入电压跨度大、EMI 干扰严重、峰值电流不足、外围器件繁琐…… 这些行业痛点,CHIPNEED 芯维尔CN8820一颗 ESOP8 芯片全部解决,是 4.5–100V 宽压场景的最优降压选型!一、核心硬核参数&#xf…

2026/9/30 7:12:25 阅读更多 →
易学宣传员作

易学宣传员作

茅以升田野调研范式・郑氏正脉郑冰书迭代整合文稿总纲:体系融合逻辑以茅以升一线田野实勘调研法为实证底层工具,以郑氏正脉(子产不毁乡校民意本源脉络) 为价值主线,以基层实践者郑冰乡村田野实操经验为落地样本&#x…

2026/10/14 18:11:48 阅读更多 →

最新新闻

064、广播数据长度超出承载上限时的分包处理

064、广播数据长度超出承载上限时的分包处理

现场:一条永远发不出去的广播 几年前做一个分布式采集系统,主控通过广播通道向所有节点下发同步命令和参数。协议栈的单帧净荷上限是 31 字节,这是链路层硬约束,改不了。前期功能很简单,同步命令就几个字节&#xff0c…

2026/10/15 0:08:01 阅读更多 →
063、广播间隔与扫描窗口错配导致的设备不可见

063、广播间隔与扫描窗口错配导致的设备不可见

一个做资产追踪标签的团队遇到过这样一件事。标签固件烧录完毕,功耗测试过了,广播内容用嗅探工具抓包也正常,RSSI 在预期范围内。但配套的接收端在实验室里就是扫不到这批标签。换一台接收端,能扫到。再换回来,又扫不到…

2026/10/15 0:08:01 阅读更多 →
062、连接建立瞬间超时断开的原因分类

062、连接建立瞬间超时断开的原因分类

一个半夜被叫起来处理的问题 去年冬天做的一个数据采集项目,现场大概两百多个节点,通过无线链路往中心网关上报数据。上线跑了三天都正常,第四天凌晨两点,值班同事打电话说监控大屏上设备在线数从两百多掉到了三十几个&#xff0c…

2026/10/15 0:08:01 阅读更多 →
061、广播包发出后没有回应时的链路排查思路

061、广播包发出后没有回应时的链路排查思路

上个月帮一个做工业数据采集的团队看问题,他们用一套自研的无线轮询协议,主站每隔两秒向从站发一轮广播包,从站收到后回传采集数据。现场跑了三个月一直正常,突然有一天主站日志里开始出现大量“广播发出后无回应”的告警&#xf…

2026/10/15 0:08:01 阅读更多 →
别再让“虚拟时装毕设”卡在论文上:数字时尚设计人的 AI 工具搭子清单 ✨

别再让“虚拟时装毕设”卡在论文上:数字时尚设计人的 AI 工具搭子清单 ✨

如果你读的是数字时尚设计,大概率会遇到这样一种“分裂”的毕业状态: 一边在用 CLO 3D / Style3D 调版片、缝份、面料垂坠和动态走秀效果;一边还要翻虚拟时尚、数字服装、AIGC、非遗纹样、用户审美评价等一大堆中英文文献;最后还…

2026/10/15 0:08:01 阅读更多 →
二次规划QP实战:从调包到手撕,解决不可行与病态问题

二次规划QP实战:从调包到手撕,解决不可行与病态问题

1. 从“调包”到“手撕”:为什么QP值得你花时间很多做算法落地的朋友,第一次接触二次规划(Quadratic Programming,简称QP)都是在MATLAB的quadprog或者Python的cvxopt.solvers.qp里填几个矩阵就完事了。模型跑通那一刻觉…

2026/10/15 0:07:00 阅读更多 →

日新闻

Docker Compose 容器化部署 ChirpStack LoRaWAN 网络服务器实战

Docker Compose 容器化部署 ChirpStack LoRaWAN 网络服务器实战

1. 为什么选择容器化方式部署 LoRa 网络服务LoRa 物联网项目落地时,网络服务器是整个链路的核心枢纽。它负责接收网关上报的数据包、完成去重与解密、再把有效载荷分发给上层应用。早期大家习惯把网络服务器直接装在物理机上,依赖一堆系统库和特定版本的…

2026/10/15 0:00:46 阅读更多 →
共享LLM服务下的跨模型自动扩缩容:Kubernetes实战与避坑指南

共享LLM服务下的跨模型自动扩缩容:Kubernetes实战与避坑指南

1. 共享推理服务里,扩缩容到底难在哪做过大模型推理服务部署的人,大概都经历过这样的场景:一个团队共用一套推理集群,A 业务跑的是 7B 的小模型,B 业务跑的是 72B 的大模型,C 业务白天流量高、晚上几乎归零…

2026/10/15 0:00:46 阅读更多 →
Systemd 启动阶段根文件系统只读之谜:fstab 与 remount-fs 服务深度解析

Systemd 启动阶段根文件系统只读之谜:fstab 与 remount-fs 服务深度解析

1. 引子:一次内核恐慌引发的追查先从一个真实场景说起。某次我给一台老旧的嵌入式设备折腾系统裁减,为了把启动时间压进两秒以内,我手贱地把一串自认为“没用”的 systemd 服务给 disable 了,其中就包括systemd-remount-fs.servic…

2026/10/15 0:00:46 阅读更多 →

周新闻

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

简介:基于 ARIMA、LSTM、Transformer 等模型的流感时间序列预测 Python 源码,面向计算机相关专业课程设计与期末大作业学生,以及项目实战学习者。内容覆盖预处理、平稳性检验、定阶、残差分析、多模型对比预测的完整时序建模流程,…

2026/10/14 3:30:28 阅读更多 →
影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别 做影刀RPA自动化,十个新手有八个栽在"往输入框里填东西"这件事上:要么填不进去,要么填了一半,要么直接把原来内容追加在后面。这背后的根因&…

2026/10/14 16:30:29 阅读更多 →
影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容 1. 认识影刀:什么场景该用RPA采小说数据 起点中文网的页面结构相对稳定——分类榜单、书籍详情、章节内容三块独立页面,跳转链路清晰。这种场景非常适合影刀自动化&#x…

2026/10/14 3:29:58 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/13 22:01:27 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/14 22:45:47 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/14 7:53:34 阅读更多 →