本文へスキップ

すべてのメニュー

Freellmapi

複数プロバイダの無料枠を一つのエンドポイントにまとめます

AI20日前
カテゴリー
AI
ウェブサイト
github.com
言語
英語
登録日
20日前
スター
26,956
フォーク
3,677

tashfeenahmed/freellmapi ↗, TypeScript, MIT, 最終コミット 1日前

FreeLLMAPI は数十のモデルプロバイダの無料枠を、OpenAI 互換の /v1 エンドポイント一つの背後にまとめます。自分で足したカスタムエンドポイントも同じ場所に入ります。ルーターがリクエストごとに使えるモデルを選び、レート制限に当たったら次のプロバイダへ切り替え、キーごとの使用量を追跡して各無料枠を超えないようにします。キーは暗号化して保管し、モデル一覧は署名付きフィードから自動で更新されます。プロジェクト自身が、本番用ではなく個人の実験用だと明言しています。TypeScript、MIT。

この製品が気に入りましたか?