我构建了一个 Cloudflare Worker，让你能够向公众免费提供人工智能服务，而无需担心收到意外账单
每当我想在我的某个应用程序中添加人工智能功能，并让任何人无需登录、无需“输入银行卡信息”即可直接试用时，总有一件事会阻止我：账单。
一旦你的 API 密钥对公众开放，一次流量激增、一个无聊的人运行循环脚本，或者一次密钥泄露，都可能让你在醒来时面对一张四位数的发票。因此，我们大多数人要么做两件事之一：给原本应该免费的东西强行加上登录限制，或者干脆……永远不发布它。
我厌倦了这种权衡，所以我构建了缺失的那一部分。
它是什么
免费层人工智能中继是一个约 20 KB 的 Cloudflare Worker，加上一个零依赖的浏览器客户端，位于你的应用程序和人工智能提供商之间。你只需将其部署，拖放到 Cloudflare 的免费计划中，就拥有了一个不会让你的资金失控的公共人工智能端点。
整个设计围绕着一个理念：向匿名陌生人配给免费额度，并保证支出上限。
它实际如何工作
你的密钥保留在服务器端。浏览器只与你的 Worker 通信——提供商密钥永远不会接触客户端。
提供商按成本顺序尝试，而非按可靠性顺序。这是它与普通网关不同的地方。它首先调用你最便宜的选项，即在任何付费服务之前先使用免费层。按照默认配置，首先是 Google Gemini 的免费层，然后是 OpenRouter 上的免费社区模型。只有当你刻意取消注释时，才会调用付费模型。开箱即用状态下，它仅调用免费层，因此运行成本为 0 美元。
免费使用通过三种方式进行限制，每天生效，且请求必须同时满足这三项条件：
每个匿名设备（一个 UUID）进行软性公平限制，防止一个人独占资源，
每个网络（一个哈希处理的 IP 地址，因此你不存储任何人的原始地址）捕捉简单的设备重置滥用行为，
一个硬性全局上限，这才是真正保护你钱包的措施。一旦整个应用程序当天达到该上限，免费层将关闭直到重置。你可以根据自己能承受的预算来设定这个数字。
它只有一个配置文件。提供商、成本顺序、上限和端点都存在于单个文件中。添加提供商或全新的 AI 功能无需更改代码。还有一个一键开关，可以立即暂停整个免费层，无需重新部署。
“所以我真的需要付费吗？”
不，除非你选择付费。默认状态仅调用免费提供商。配置中唯一的付费回退行已被注释掉；在你取消注释之前，它不起任何作用。即使你后来启用了付费提供商（以便在扩展时获得更高的限制），全局每日上限也会成为你可能支出的硬性天花板。最坏的情况是你预先选定的数字，而不是意外惊喜。
它与 LiteLLM / Portkey / 其他网关有何不同
那些很棒——但在不同的工作场景中。通用大语言模型网关使来自你自己可信后端的付费流量变得可靠且可观察，并按正常运行时间排序。它们假设你想高效地支出。
这解决了相反的问题：向不可信的公众配给免费额度，按价格排序，并有保证的上限。这是你自己拥有和部署的五分钟代码——而不是你将密钥和流量输送通过的服务。
为什么我要分享它
我最初是为自己的应用程序构建这个工具的，后来意识到“不会让我破产的免费 AI 功能”这个问题几乎是每个独立开发者都会遇到的。所以我把它打包成了一个样板项目。
完全披露，以免有误导之嫌：这是一个商业样板项目，采用“随意付费”模式，并非开源软件——你可以在这里获取：https://privateapps.gumroad.com/l/xenenx
免责声明：本文内容来自互联网，该文观点不代表本站观点。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，请到页面底部单击反馈，一经查实，本站将立刻删除。
