コンテンツにスキップ

確認と安全性

エージェントがクラウドアカウントを操作するとき、危険な失敗の形態は打ち間違いではありません —— 問題は、自信満々のエージェントが一見正しい、しかし間違った操作を実行してしまうことです:テスト用ではなく本番用のモデルを削除する、誰もレビューしていない下書きを公開する、所有していることを忘れていたデバイスにデプロイする。SenseCraft CLI の答えは、エージェントに従わせる確認プロトコルです。

最初のメッセージは意図であって、同意ではありません。

Plain Text
あなた: モデル 63760 を削除
エージェント:Global 環境のモデル 63760 を削除します。削除したモデルは復元できません。よろしいですか?
あなた: 確認
エージェント:完了しました。削除しました。

すべての L2 書き込みはこの形に従います:エージェントは操作、環境、(ID 付きの)対象、そして結果を明示した質問を投げます。実際のコマンドを --yes 付きで実行できるのは、あなたからの新しい返信 —— 「confirm」「yes」「確認」—— だけです。ゲートで保護されているコマンドの完全なリストは、出力と安全性にあります。

明示的に確認として扱われないもの:

  • 「モデル 63760 を削除」(最初のリクエストそのもの)
  • 同じメッセージ内の「はい、もう削除してと言ったはずです」
  • 口調や文脈からエージェントが推測しうるあらゆるもの

このルールは 2 重に強制されます —— エージェントが読むスキルの中と、CLI 本体の中の両方です:--yes なしで L2 コマンドを非対話(エージェント)実行すると confirmation required で失敗するため、悪意のあるプロンプトですらゲートをスキップすることはできません。

コンソール上の 2 つのダイアログは法的な意味を持つため、専用のフラグが用意されています:

フラグ対象コマンドコンソール上での対応
--agree-declarationapp publish「Declaration for Publishing」チェックボックス

優秀なエージェントは、該当する文書(宣言 / 免責事項)をあなたに見せ、どちらのフラグを使うにも先立って、独立した「同意します」の返事を待ちます。

  • エージェントはトークン、アクセスキー、開発キットの device_key / token の値をマスクします —— 表示されるのは sk-**** のような形だけで、完全な値が示されることはありません。
  • チャットにキーを貼り付けないでください。エージェントに認証情報のセットアップが必要な場合、正しい流れは、あなたがアカウントセンターでアクセスキーを作成し、ローカルで auth add を実行することです。
  • 公開モデルの file_url は決して表示されません。プラットフォームがそれを公開していないためです —— エージェントに「公開モデルのダウンロードリンク」を求める人は、存在しないものを求めているのです。

スキルに従うエージェントは、以下のことを拒否します:

  1. あなたの代わりに**auth add または auth init を実行すること** —— 生のシークレットやブラウザサインインを扱うため、これらはあなたがローカルで実行します。
  2. 独立した確認のやり取りなしに公開・削除・非公開化・デプロイ・インストール・バインド解除・停止・複製・再バインドをすること。
  3. コンソールをスクレイピングしたり、推測したトークンで HTTP 呼び出しを捏造したりすること —— 使われるのは実際の CLI コマンドだけです。
  4. 公開モデルの成果物を取得したり、デプロイ専用ポリシーを「回避」しようとしたりすること。
  5. L4 操作に触れること(管理者レビュー状態、privacy=1)。
  6. デバイスのフラッシュを装うこと —— Web Serial / USB フラッシュは L3 です:エージェントはリンクを渡すことはあっても、フラッシュしたと主張することは決してありません。
  7. コマンドを捏造すること —— CLI に機能がない場合(例:データセットのエクスポート)、エージェントは即興ででっち上げるのではなく、その旨を伝えます。

エージェントがプロトコルに従わない場合

Section titled “エージェントがプロトコルに従わない場合”

プロトコルはスキルの中にあるため、スキルを読み込んでいないエージェントは「先に尋ねる」という慣習を知りません —— それでも CLI の --yes ゲートがあなたを保護します:確認されていない書き込みは、単純に失敗します。完全な動作を得るには、スキルが確実に組み込まれていることを確認してください(スキルを参照)。また、プロジェクトローカルのスキルファイルを読み取れるエージェントを選ぶことをお勧めします。

もしエージェントが「手間を省くため」と称して、本番環境への破壊的操作のために --yes をあなた自身の手で入力するよう求めてきたら —— それは加速ではなく、減速すべき瞬間です。