インターネットコンピュータにLLMを持ち込む

Ignitionのマイルストーンが完了しました。これにより、大規模言語モデル(LLMs)がインターネットコンピュータに導入され、わずか数行のコードでカニスタースマートコントラクト内からLLMsを使用できるようになります。

イグニッションマイルストーンとは何ですか?

Ignition マイルストーンは、ICP ロードマップの分散型 AI トラックの一部であり、カニスターをオフチェーン LLM に接続することに焦点を当てています。この更新により、開発者は複雑なセットアップなしで dapp で AI を使用できるようになります。これは AI ワーカーのおかげです。

Ignitionの新機能

LLMライブラリによる簡単な統合

LLMにカニスターを接続するための簡素化のために、インターネットコンピュータで使用される3つの言語:Motoko、Rust、TypeScriptのライブラリを追加しました。

これらのライブラリを使用すると、dappでLLMを迅速に利用できます。たとえば、カニスターがLlama 3.1とどのようにインタラクションできるか、Motokoコードの数行を使用して以下に示します:

LLMをインポートします "mo:llm";

LLM.chat(#Llama3_1_8B).withMessages([ #system_ { content = "あなたは役に立つアシスタントです。";
},
#user_ { content = "太陽はどれくらい大きいですか?";
},
]).send();

上記の例はICP Ninjaで見つけていじることができます。これは、カニスターがLLMにクエリを送信し、最小限のセットアップで応答を得る方法を示しています。

こちらは、ツールを使用してLLMを呼び出す方法を示す別の例です:

LLMをインポートします "mo:llm";

アクター { パブリックファンク example() { let response = await LLM.chat(#Llama3_1_8B) withMessages([ #system_ { content = "あなたは有益なアシスタントです。" },
#user { content = "チューリッヒの天気はどうですか?"
},
])
.withTools([LLM.tool("get_weather") .withDescription(「場所の現在の天気を取得する」) .withParameter( LLM.parameter("location", #String) .withDescription(「天気を測る場所」) .isRequired() )
.build() ])
.send(); };
}

ここでツールを使用したライブデモを見つけることができ、デモのソースコードもここにあります。

AIワーカー ###

オフチェーンLLMとカニスターを接続するために、私たちはAIワーカーの最小限の実用的製品を構築しました。これは、カニスターがオフチェーンLLMからデータを取得できるシンプルなシステムです。AIワーカーが通信を処理するため、カニスターはリアルタイムでLLMにリクエストを送信し、応答を受け取ることができます。

現在、AIワーカーはLlama 3.1 8B、Llama 4 Scout、およびQwen 3 32Bをサポートしています。これらのオプションは、開発者がプロジェクトに最適なLLMを選択する柔軟性を提供します。

こちらは、AIワーカーがどのように内部でオフチェーンLLMプロバイダーにプロンプトを中継するために使用されているかを示す図です。

仕組み:

  1. キャニスターは、我々が言及したLLMライブラリを介して「LLMキャニスター」にプロンプトを送信します。これは、LLMプロンプトを受信するために特別に設定されたキャニスターです。
  2. LLMキャニスターはこれらのプロンプトをキューに保存します。
  3. AIワーカーは継続的にLLMカニスターに対してプロンプトをポーリングします。
  4. AIワーカーはプロンプトを実行し、応答をLLMカニスターに返し、それを呼び出しカニスターに返します。

実世界のユースケース

開発者はすでにLLMライブラリを使用して、次のような創造的なdappを構築しています。

  • チャット機能付きウォレット: より良いユーザーインタラクションのために暗号ウォレットに会話型AIを追加 (OISYで近日中にローンチ予定)
  • センチメント分析を用いたDAO: LLMを使用してコミュニティのセンチメントを分析し、アリスDAOのようにポートフォリオの意思決定を導く。

これらの例は、AIワーカーがインターネットコンピュータ上のさまざまなアプリケーションをサポートできる方法を示しています。

これが重要な理由と始め方

Ignitionマイルストーンは、開発者がLLMをインターネットコンピュータプロジェクトに統合するのを簡単にし、チャットボット、分析ツール、AI駆動のDeFiアプリなどの新しいタイプのdappを可能にします。LLMとインターネットコンピュータのChain Fusion、HTTPSアウトコール、オンチェーンのランダムネスなどの機能を組み合わせることで、開発者は創造的で強力なソリューションを構築できます。

試してみる準備はできましたか?ICP NinjaでLLM Chatbotプロジェクトを探検し、ライブデモをチェックするか、私たちのリポジトリ内のコードや例に飛び込んでみてください。


LLMをインターネットコンピュータに持ち込むことは、元々MediumのThe Internet Computer Reviewに掲載されており、人々はこのストーリーを強調し、応答することで会話を続けています。

ICP0.64%
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • 2
  • リポスト
  • 共有
コメント
0/400
Twhm1981vip
· 10時間前
GTA サンフランシスコ湾の女性スタッフを募集しています 世界
原文表示返信0
GateUser-acebfd33vip
· 14時間前
良い良い良い良い
原文表示返信0
いつでもどこでも暗号資産取引
qrCode
スキャンしてGateアプリをダウンロード
コミュニティ
日本語
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)