昨天开始Manus刷屏了各种渠道。 一个国产、通用型的人工智能产品,自动干活的通用AI助手。 个人感觉有点言过其实了,AI领域Agent这块已经有比较丰富的框架和产品,Manus感觉像是一个缝合怪,整合了一些功能来实现信息收集与处理而已。 Manus官网:https://manus.im/ 可以在Discord上蹲邀请码,昨天看已经有抄到10万一个…
前面的文章中我有提到过使用Ollama和LM Studio,一个命令行,一个图形界面在本地来管理和运行大模型。 本文,我将使用LLama.cpp来进行本地推理,运行大模型。 顺便吐槽: 网上太多文章,都是各种编译,小白弄这个也会比较麻烦。大多也是互相抄别人的文章。从安装到使用,早就信息滞后了。 本身这个早就不需要编译了,下载包就能直接用。 Llam…
前文讲过在本地布署DeepSeek R1推理模型。 这篇内容,主要讲一下Dify安装。更多好玩的应用,起码得先有个架子不是。 Dify可不光是Agent,还有很多好玩的东西在里面。工作流、知识库、大模型对话,一应俱全。 我将使用Docker进行Dify安装,后续的相关应用,有空再写点文章了。 为什么使用Docker呢,主要是随用随关,避免把系统整太…
模型1B代表10亿参数。 Mac检查内存大小 1、简单的通过命令行查询 system_profiler SPHardwareDataType | grep "Memory" 2、图形界面 左上角苹果图标、关于本机、系统报告、内存,可以查看当前电脑的内存。 Mac检查显存大小 1、Mac自带的工具是不行的。方法一,是使用上一篇文章…
电脑算力有限,本地体验一下新出的千问2.5模型。准备对长文本进行量化做本地知识库,想搭建一个本地模型做为核心。 千问2.5开源模型介绍: Qwen是阿里巴巴集团Qwen团队研发的大语言模型和大型多模态模型系列。目前,大语言模型已升级至Qwen2.5版本。无论是语言模型还是多模态模型,均在大规模多语言和多模态数据上进行预训练,并通过高质量数据进行后期…