极客小五的博客 热爱学习，技术实力派，专注Java SpringBoot开发、AI学习、自动化测试、Python开发。https://qyhstech.comhttps://qyhstech.com/article/litellm-python-proxyhttps://qyhstech.com/article/litellm-python-proxy/日常使用中通常会遇到一个问题，就是需要调用各种不同的大模型。平时用OpenAI的格式调用，还得写不少东西。最近发现LiteLLM在Python中调用大模型比较简单，马上体验了一下。结果遇到网络问题，没有走通GPT和Claude。查阅了官方的github，找到了解决方案，特此分享。直接上完整的代码imWed, 24 Sep 2025 22:13:48 GMThttps://qyhstech.com/article/paddleocr-3-testhttps://qyhstech.com/article/paddleocr-3-test/百度飞桨paddle，是百度旗下的开源深度学习平台。官网：https://www.paddlepaddle.org.cn/OCR是什么OCR（光学字符识别，OpticalCharacterRecognition）是一种将图像中的文字转换为可编辑文本的技术。它广泛应用于文档数字化、信息提取和数据处理等Tue, 20 May 2025 22:48:50 GMThttps://qyhstech.com/article/google-gemini-examplehttps://qyhstech.com/article/google-gemini-example/国内使用Gemini时，是无法访问的。本文提供一种在Python中使用API调用，走代理IP的方式。Gemini官方文档在：https://ai.google.dev/gemini-api/docs?hl=zh-cn百度搜索告诉你的方式都是粗暴的使用全局配置。下面是搜索引擎告诉的一般方式：os.enSun, 30 Mar 2025 16:23:26 GMThttps://qyhstech.com/article/openmanus-testhttps://qyhstech.com/article/openmanus-test/昨天开始Manus刷屏了各种渠道。一个国产、通用型的人工智能产品，自动干活的通用AI助手。个人感觉有点言过其实了，AI领域Agent这块已经有比较丰富的框架和产品，Manus感觉像是一个缝合怪，整合了一些功能来实现信息收集与处理而已。Manus官网：https://manus.im/可以在DiscoFri, 07 Mar 2025 21:22:33 GMThttps://qyhstech.com/article/deepseek-volcengine-freehttps://qyhstech.com/article/deepseek-volcengine-free/DeepSeek最近是火出圈了，国内的主流公司都开始接入DeepSeek。今天看新闻百度也接入DeepSeek了。打开一看果然厉害。日常提问使用是基本够用了。但是要接入API使用的话，还是得找API接入。目前主流的渠道：官网已经不太推荐了，最近卡爆，常常推理不出结果。比较称定的国内可用的满血版DeeFri, 21 Feb 2025 21:24:59 GMThttps://qyhstech.com/article/llama-cpp-local-inferencehttps://qyhstech.com/article/llama-cpp-local-inference/前面的文章中我有提到过使用Ollama和LMStudio，一个命令行，一个图形界面在本地来管理和运行大模型。本文，我将使用LLama.cpp来进行本地推理，运行大模型。顺便吐槽：网上太多文章，都是各种编译，小白弄这个也会比较麻烦。大多也是互相抄别人的文章。从安装到使用，早就信息滞后了。本身这个早就不Thu, 30 Jan 2025 10:26:59 GMThttps://qyhstech.com/article/mac-deepseek-janaus-prohttps://qyhstech.com/article/mac-deepseek-janaus-pro/大过年的，DeepSeek真是不让人好过，三天两头出新玩具。前两天阿里出的Qwen2.5-VL，还没开始火，又要被DeepSeek压下去了。最新的Janus-Pro-7B,7B参数视觉多模态模型，普通电脑也能起飞！本文，将一起体验一下DeepSeek最新的Janus-Pro-7B，试试图像生成和图像Tue, 28 Jan 2025 19:55:09 GMThttps://qyhstech.com/article/mac-dify-usagehttps://qyhstech.com/article/mac-dify-usage/前文讲过在本地布署DeepSeekR1推理模型。这篇内容，主要讲一下Dify安装。更多好玩的应用，起码得先有个架子不是。Dify可不光是Agent，还有很多好玩的东西在里面。工作流、知识库、大模型对话，一应俱全。我将使用Docker进行Dify安装，后续的相关应用，有空再写点文章了。为什么使用DocMon, 27 Jan 2025 22:05:21 GMThttps://qyhstech.com/article/mac-deepseek-r1-java-pythonhttps://qyhstech.com/article/mac-deepseek-r1-java-python/上篇文章中，介绍了如何通过Ollama和LMStudio本地搭建DeepSeek模型，本篇将，利用这2款工具，提供的API。来实现Java和Python的调用。LMStudio开启OpenAIAPI兼容模式，提供API服务打开LMStudio，下载好DeepSeekR1的蒸馏模型。在左边第二个开发者Sun, 26 Jan 2025 21:58:58 GMThttps://qyhstech.com/article/mac-llm-confighttps://qyhstech.com/article/mac-llm-config/模型1B代表10亿参数。Mac检查内存大小1、简单的通过命令行查询system_profilerSPHardwareDataType|grep"Memory"2、图形界面左上角苹果图标、关于本机、系统报告、内存，可以查看当前电脑的内存。Mac检查显存大小1、Mac自带的工具是不行的。方法一，是使用上Sun, 26 Jan 2025 21:32:07 GMThttps://qyhstech.com/article/mac-deepseek-r1https://qyhstech.com/article/mac-deepseek-r1/最近几天，DeepSeek发布R1模型，火爆整个圈子。性能对标OpenAIo1正式版开源用R1数据蒸馏的Qwen、Llama系列小模型，蒸馏模型超过o1-mini和QWQ。免费又好玩的东西。千万是不能错过的。下面我在Mac系统中，来体验一下最新的R1，到底强不强。使用方式mac下使用大模型有2种简单Sat, 25 Jan 2025 10:33:42 GMThttps://qyhstech.com/article/langchain-qwen2.5https://qyhstech.com/article/langchain-qwen2.5电脑算力有限，本地体验一下新出的千问2.5模型。准备对长文本进行量化做本地知识库，想搭建一个本地模型做为核心。千问2.5开源模型介绍：Qwen是阿里巴巴集团Qwen团队研发的大语言模型和大型多模态模型系列。目前，大语言模型已升级至Qwen2.5版本。无论是语言模型还是多模态模型，均在大规模多语言和多Fri, 27 Sep 2024 11:12:37 GMThttps://qyhstech.com/article/wordpress-amazon-s3-confighttps://qyhstech.com/article/wordpress-amazon-s3-config/使用场景动静分离是比较常见的优化手段。将图片和一些资源存到AmazonS3上面，动态内容再由插件进行缓存。外面再套一层CDN，可以大大减少服务器的压力，并且能提升页面打开速度。一、安装插件WPOffloadMediaLitehttps://wordpress.org/plugins/amazon-sSat, 27 Apr 2024 11:18:33 GMThttps://qyhstech.com/article/playwright-proxyhttps://qyhstech.com/article/playwright-proxy/Playwright是由微软公司2020年初发布的新一代自动化测试工具，相较于目前最常用的Selenium，它仅用一个API即可自动执行Chromium、Firefox、WebKit等主流浏览器自动化操作。对各种开发语言也有非常好的支持。常用的NodeJs、Java、python都有支持，且有丰富的Mon, 04 Mar 2024 11:37:00 GMT