- 言語
- 英語
- 登録日
- 20日前
- フォーク
- 3,677
tashfeenahmed/freellmapi ↗, TypeScript, MIT, 最終コミット 1日前
FreeLLMAPI は数十のモデルプロバイダの無料枠を、OpenAI 互換の /v1 エンドポイント一つの背後にまとめます。自分で足したカスタムエンドポイントも同じ場所に入ります。ルーターがリクエストごとに使えるモデルを選び、レート制限に当たったら次のプロバイダへ切り替え、キーごとの使用量を追跡して各無料枠を超えないようにします。キーは暗号化して保管し、モデル一覧は署名付きフィードから自動で更新されます。プロジェクト自身が、本番用ではなく個人の実験用だと明言しています。TypeScript、MIT。