freellmpool: بوابة MCP محلية تجمع نقاط نهاية LLM مجانية
freellmpool، الذي تم تطويره بواسطة 0xzr، هو خادم وبوابة API مفتوحة المصدر لنموذج بروتوكول السياق (MCP) يجمع بين الطبقات المجانية لعشرات من نماذج اللغة الكبيرة في نقطة نهاية محلية واحدة. تجمع الأداة بين عدة مزودين مستضافين، وتعرض واجهة متوافقة مع OpenAI، وتقدم التوجيه، وتتبع الاستخدام، ومسارات بدء سريعة بدون مفتاح للاختبار الفوري. موجهة للمطورين ومستخدمي البرمجة بالذكاء الاصطناعي، تقلل من جهد التنقل بين العديد من SDKs ومفاتيح المزودين أثناء تطوير الوكلاء.
يجمع العديد من النماذج المستضافة ويعرض أدوات أصلية لـ MCP للعملاء
يعمل freellmpool كخادم MCP يقوم بت catalog أكثر من 24 مزودًا وأكثر من 400 نموذج دردشة بينما يعرض أدوات متخصصة مثل 'ask' و 'battle' و 'recipe' لعملاء الذكاء الاصطناعي. تتضمن الأداة شيمات لأسلوب Codex وأسلوب Anthropic في الرسائل وتدرج التوافق مع العملاء المتوافقين مع MCP، على سبيل المثال Claude Desktop و Cursor.
- فهرس المزود: أكثر من 24 مزودًا
- فهرس النموذج: أكثر من 400 نموذج دردشة
- أهداف الوكلاء: وكلاء البرمجة مثل Claude Code و Cursor
منطق التوجيه والتبريد يحافظ على تدفق الطلبات ولكنه يعتمد على التوافر الخارجي
التحويل التلقائي وإعادة توجيه الطلبات عندما يعود مزود بأخطاء حد المعدل أو يتوقف عن العمل، وتطبق الأداة تبريدًا ذكيًا يوقف المزودين الذين يصلون إلى الحدود لتجنب تكرار أخطاء 429. تتعقب مراقبة الاستخدام الاستهلاك اليومي بحيث يتم توزيع الحمل؛ وبالتالي تتحسن الاستمرارية بالنسبة لإعدادات المزود الواحد، بينما تظل مدة التشغيل الفعلية ومعدل النقل مرتبطة بخدمات المستوى المجاني المجمعة.
تكامل منخفض الإعداد للتجارب، مع حدود عملية للأحمال المستدامة
تستهدف التثبيت والتكامل التجريب السريع: يتم تثبيت الأداة عبر Python (pip)، وتدعم استخدام CLI عبر منصات سطح المكتب، وتوفر وكيل متوافق مع OpenAI/Anthropic بحيث تقبل البرمجيات الحالية نقطة النهاية المحلية دون تغييرات في الكود. يوفر البدء السريع بدون مفتاح وصولًا فوريًا إلى بعض المزودين، ويمكن للمستخدمين إضافة مفاتيحهم الخاصة للحصول على حصص أعلى. نظرًا لأنها تجمع المستويات المجانية، فإن الأداة تناسب النمذجة واختبار الوكلاء بدلاً من التشغيلات الإنتاجية المضمونة ذات الحجم الكبير.
خيار عملي للتجريب، أقل ملاءمة للإنتاج المضمون
freellmpool هو خيار عملي للمطورين ومستخدمي الذكاء الاصطناعي الذين يحتاجون إلى وصول سريع إلى العديد من النماذج المستضافة من خلال نقطة نهاية محلية واحدة؛ سلوك النموذج وتوافره يعكسان مقدمي الخدمة العلويين، لذا توقع تباينًا مرتبطًا بتلك الفئات المجانية. اعتبر المخرجات استجابات نموذجية علوية وقدم مفاتيح مقدمي الخدمة إذا كانت السعة المستمرة أو ضمانات وقت التشغيل الأكثر صرامة مطلوبة.
