大语言模型如何思维？瓶颈何在？

从 2022 年 ChatGPT 推出第一个商用大语言模型，到阿里 Qwen 不断迭代开源模型，再到近期 DeepSeek 的爆火，大语言模型几乎已经家喻户晓，它很可能是普通人用过的第一个人工智能产品。但由于绝大多数人根本不了解其底层原理，以至于被大语言模型的表现震撼后，直接将其…

    2025-04-25    4   查看全文

Prometheus + Grafana 监控快速上手

本站的监控系统从 Uptime Robot 换到 Uptime Kuma 再到 Nezha，总觉得它们太过于儿戏，很多功能不够严谨，甚至有些功能隐含安全风险。为了一次到位，我决定将服务器的监控系统换成 Prometheus + Grafana. Prometheus 是一个开源的、工业级的监控框架，通过通用或者…

    2025-02-23    10   查看全文

使用 MacType 优化 Windows OLED 子像素渲染

最近闲鱼捡了台华为 Matebook E 2023，这台平板电脑用的是 2560*1600 120Hz 的 OLED 屏幕。我之前从来没有在 Windows 上使用过 OLED 屏幕，本以为它会给我无与伦比的显示体验，但结果却是一开机就让我感觉哪里不对。我发现字体边缘明显有彩边，同时一些明暗切换的像素…

    2025-02-09    2   查看全文

颢天博客 2024 总结

又到了新的一年，今年是颢天博客建站的第五个年头了！那么来完成以下每年的例行任务，总结一下今年博客的发展吧。 大家可能发现今年的总结发的稍晚，原因是我这次本想将 2024 的个人总结和博客总结合为一篇文章。但如果要写个人总结就挺需要自然的情感流露，我不想…

    2025-01-28    2   查看全文

Dorm Lab 升级铭凡 MS-A1！及五年折腾之路分享

最近手上有点钱，于是把寝室的 Dorm Lab 再一次升级到了 AMD 8700G 平台。这一次升级可以算是巨大的飞跃了，我玩的设备已经逐渐从电子垃圾过渡到了高性能平台，再仔细一想也发现这已经是我玩 Home / Dorm Lab 满五年了。那这不得总结下这五年玩过的设备，顺便看看一路…

    2024-12-28    8   查看全文

Proxmox VE 磁盘大小规则与换算

在使用 PVE 时我经常发现不同页面显示的磁盘大小相差甚远，并且购买磁盘时标称的大小、磁盘在系统内的实际大小、磁盘格式化后的大小也不尽相同。以前我权当作单位换算问题没有细究，今天突然想起这事研究了下，也再此记录一下我发现的规则吧。 为了避免混乱，本文所…

    2024-12-22    2   查看全文

Linux tmux 基础使用教程

如果你有断开 ssh 仍保持程序运行的需求，大概率听说过 screen 这个命令。但作为一个 37 岁的老程序，它确实有点老了，本篇文章的内容便是它的现代替代 —— tmux 的基础使用教程。 当然，因为我自己主要使用 Windows 开发，只是有时需要在 Linux 服务器上进行运维 / …

    2024-12-06    2   查看全文

基于 llama.cpp 实现高性能本地大模型推理

一听到大语言模型，想必大家想到的一点就是“耗算力”“难以本地部署”。但实际上，大语言模型也有较小的版本，同时如果结合量化技术和高性能框架，在本地平台部署一个可用的大模型是完全可行的。本篇文章将会介绍使用 llama.cpp 这个高性能大模型推理框架，在本地部署开源…

    2024-12-04    0   查看全文