RWKV Model

目前推荐使用ai00_server来运行,RWKV-Runner没跑起来。 hf上下载的.pth文件需要转换为.st文件,我使用converter一直失败,切换到python的convert_ai00.py可以用 可以使用BNF来指定输出格式,如json 不支持多卡推理 不支持CUDA,要使用Vulkan,Linux下要安装Vulkan驱动 界面Bug很多,不建议使用 参考链接: ...

February 12, 2025 · notsobad

Deepseek

春节时在马来西亚,兰卡威岛上的酒店有starlink,无墙的世界网速也很快,那里每天上午大家基本上不会外出,餐馆通常13点左右才会营业,所以早上的时间我们会待在酒店里。那几天8:45左右我就会醒来,带着笔记本到露台,刷些hn、twitter、youtube,那几天也是deepseek在西方炸锅的时候,我看了twitter上的中文圈的争论,美国、欧盟人的meme,hn上的几百条讨论,youtube上有nbc的一个很长的采访。 ...

February 6, 2025 · notsobad

Malaysia Trip

春节期间去了一次马来西亚,这是从2019年到现在第一次出国,记录一下感受。我们先去了吉隆坡,之后去兰卡威,然后又回吉隆坡,待了几天后从吉隆坡回家。 兰卡威是个海岛,面积不大,我们租了个摩托车,几个小时就环岛一圈,当地汽油价格非常便宜,所以几乎看不到电车,由于不禁摩,也没看到电瓶车,当地人都是摩托车。当地是靠左行驶,刚开始的时候会有些不大习惯。当地人开车还是很有规则的,这几天没有看到有插队、鸣笛,频繁变道的现象,摩托车除外,这里摩托车可以上高速,当地人骑摩托速度很快。一个粗浅的感受是物价相对高一点,不过待几天就习惯了,吃的东西确实不是很习惯,我们吃马来餐和中餐。兰卡威的海滩很好,有很软的细沙,参加了跳岛、浮潜活动。 ...

February 5, 2025 · notsobad

眼睛问题

我的眼睛出了一些问题,几年前发现有飞蚊症,就是在阳光下眼睛能看到有小点快速的下落,从那时起就习惯外出戴墨镜了。还有在办公室对着电脑时会出现眼睛流泪,酸痛的情况,这个确认是干眼症。于是就开始用滴眼液,开始用聚乙烯醇,后来改用玻璃酸钠。在强光下也会出现眼睛非常不适,这个有可能是“畏光症”,我有时候在办公室也会戴上墨镜,可以缓解眼部的不适。 ...

January 16, 2025 · notsobad

Bye 2024

2024年要结束了,写个小总结吧。 今年状态没有大变化,干眼症似乎更严重了,经常会有需要滴眼药水,而且有时会眼睑痉挛,即眼皮跳,很难受,对于需要对着电脑的工作来说。 简单统计了下,2024年,写了34篇博客,并没有达到年初想的每周一篇。 2009 126 2010 79 2011 30 2012 35 2013 4 2014 2 2015 5 2016 1 2018 1 2019 2 2023 32 2024 34 购置的东西,一算才知道还是买了不少东西的。 ...

December 30, 2024 · notsobad

Mermaid Diagram

最近看到chatbox自带了一个绘图的prompt, 使用的Mermaid daigram来做的绘图,效果还不错,我就了解了下这个。 You are an AI assistant skilled in using Mermaid diagrams to explain concepts and answer questions. When responding to user queries, please follow these guidelines: Analyze the user's question to determine if a diagram would be suitable for explanation or answering. Suitable scenarios for using diagrams include, but are not limited to: process descriptions, hierarchical structures, timelines, relationship maps, etc. If you decide to use a diagram, choose the most appropriate type of Mermaid diagram, such as Flowchart, Sequence Diagram, Class Diagram, State Diagram, Entity Relationship Diagram, User Journey, Gantt, Pie Chart, Quadrant Chart, Requirement Diagram, Gitgraph (Git) Diagram, C4 Diagram, Mindmaps, Timeline, Zenuml, Sankey, XYChart, Block Diagram, etc. Write the diagram code using Mermaid syntax, ensuring the syntax is correct. Place the diagram code between and . Provide textual explanations before and after the diagram, explaining the content and key points of the diagram. If the question is complex, use multiple diagrams to explain different aspects. Ensure the diagram is clear and concise, avoiding over-complication or information overload. Where appropriate, combine textual description and diagrams to comprehensively answer the question. If the user's question is not suitable for a diagram, answer in a conventional manner without forcing the use of a diagram. Remember, the purpose of diagrams is to make explanations more intuitive and understandable. When using diagrams, always aim to enhance the clarity and comprehensiveness of your responses. 发现很多LLM工具都已经支持这个语法的绘图,比如kimi, 下面的提问就会在回答中直接插入渲染后的流程图。 ...

December 13, 2024 · notsobad

LLM Tips

命令行下的LLM 参考这篇文章,q 我该给这篇文章起什么标题? ,了解到有一个llm的工具, 命令行上的语言模型 , 安装后,可以在命令行下调用LLM。 比如本地网络中有一个ollama的服务,可以通过openai的接口来访问,配置文件目录, dirname "$(llm logs path)", 创建一个extra-openai-models.yaml文件: ...

December 3, 2024 · notsobad

Duckdb Tips

无数据的db 看这篇文章 《DuckDB不需要数据就可以成为数据库》, 学到一个技巧, 可以使用创建view的方式定义好数据库结构,创建一个空的db,然后分发给使用者,让他们使用SQL来在本地分析个人电脑上的csv文件。 在一个目录中放置需要分析的csv文件,约定文件名格式,如access-*.log,attack-*.log, 然后执行如下命令,下面的操作会创建一个mydata.db文件,这个文件里不含有实际数据,只有表结构定义, ...

November 22, 2024 · notsobad

Using Lazyvim

这两年不怎么用vim,之前配置过一次neovim,后来换电脑都忘记怎么配置的了,最近发现一个项目lazyvim,尝试了一下非常简单。 Mac下先安装一些需要的软件: brew install fd font-hack-nerd-font ast-grep luarocks Iterm2 中使用,需要选择字体,使用hack-nerd-font, 可以将~/.config/nvim/ 目录加入代码仓库管理。 ...

November 21, 2024 · notsobad

新3d打印机

最近买了个新的3d打印机,拓竹p1sc,家里之前的3d打印机是2016年左右买的,已经很老了。新打印机带AMS,一个可以放多个耗材的套件。 多色打印时,它会把当前的耗材切断、退出,换新耗材,挤出,排出一段耗材,网上都叫“竹屎”,这个过程比我预期的要麻烦很多,费工费料,所以目前还没怎么打多色。 ...

November 21, 2024 · notsobad