Local LLM Playground
Shigeru Hasunuma
Local LLM Playground は、iPhone上でローカルLLMを実行できるAIプレイグラウンドアプリです。 GGUF形式の軽量言語モデルを読み込み、プロンプト入力から推論結果の確認まで、オンデバイスでAIの動作を試すことができます。 本アプリには Qwen2.5-0.5B Instruct が同梱されているため、ダウンロード後すぐにローカルAIを体験できます。クラウド接続やAPIキーは不要で、すべての処理はデバイス内で完結します。 プロンプト実験やモデル挙動の確認に加え、以下のような推論情報も確認できます。 ・トークン生成速度 (tokens/sec) ・推論時間（prefill / decode） ・トークン使用状況 ・メモリ使用量 ・コンテキスト長 (n_ctx) また、GGUFファイルをインポートすることで、さまざまな軽量LLMモデルを試すことも可能です。 主な機能： ・GGUF形式LLMの読み込み ・プロンプト入力によるAI推論 ・トークン生成速度の表示 ・推論時間の可視化 ・メモリ使用量の確認 ・コンテキストサイズ設定 ・推論パラメータ調整（Advanced Settings） ・GGUFファイルのインポート 特徴： ・ 完全オンデバイスAI ・ クラウド不要 ・APIキー不要 ・プライバシー保護 ・軽量LLMの実験環境 このアプリはこんな人におすすめ： ・ ローカルLLMに興味がある方 ・AIモデルの動作を試したい方 ・プロンプト実験をしたい方 ・軽量LLMのパフォーマンスを確認したい方 ＜注意＞ AIモデルの回答は自動生成されるため、不正確な情報が含まれる場合があります。重要な情報は必ず確認してください。