Experimental Design エージェント:関連研究の実際のデザインに基づく実験計画

Experimental Design エージェント:関連研究の実際のデザインに基づく実験計画

研究デザインは空欄を埋める書式ではありません。決定同士がかみ合っています。デザインの種類を変えれば検定が変わり、検定が変われば必要なサンプルサイズが変わります。汎用 AI ツールももっともらしいデザインを出してくれますが、実際の検定と合わないサンプルサイズや、存在しない尺度・論文が混ざることが少なくありません。

エージェントギャラリーの Experimental Design エージェントは、その確認から始めます。関連研究の方法の節を読み、それをもとにあなたの研究の決定を一つずつ下し、すべての決定の理由と出典を記録します。慣例や判断に頼った選択には、出典なしとはっきり書きます。成果物は実験デザイン報告書と、読んだ研究の参照デザイン比較表です。

Experimental Design のページ:エージェントが返すものと、「エージェントの手順を見る」「タスクを実行」付きのタスク例。
Experimental Design のページ:エージェントが返すものと、「エージェントの手順を見る」「タスクを実行」付きのタスク例。

エージェントが行うこと

ワークフローは 4 つのエージェントステップと回答です。途中で質問はしません。依頼に書いたこと — 対象集団、操作、測定、制約 — は書いたとおりに守り、空けた部分は先行研究で最も一般的な選択で決めて前提として記録します。

  1. 研究課題と参照デザイン。 現象、対象集団、アウトカムを整理し直し、答えられる研究課題を 2〜4 個と方向性のある仮説を書き、未決の次元を決めます。続いて、関連研究が実験をどうデザインしたかを調べます。パラダイムと主要な測定で検索し、最も関連の深い方法の節を読み、実際に読んだ研究ごとに 1 行 — デザイン、独立変数・従属変数、測定、N、分析、リンク、どのデザイン要素を支えるか — を記録します。
  2. 変数、デザイン、測定。 デザインの種類 — 参加者間・参加者内・混合、要因構造 — とそれが合う理由を決め、無作為化とカウンターバランスを決め、代替デザインを一つ利点と欠点とともに比べます。独立変数ごとに操作方法と水準数を、従属変数ごとに道具・単位・算出方法を決めます。質問紙や尺度はすべて Neutropic の測定尺度レジストリで調べ、レジストリが返したもの(項目、採点、逆転項目、出典、ライセンス)だけを使います。見つからない尺度は出典要確認と記し、妥当性が確認済みとは書きません。
  3. サンプルサイズ、手続き、妥当性。 デザインに合った検定で検出力曲線を計算し、目標の検出力に届く N を採ります。曲線が支えないサンプルサイズを報告書に書くことはありません。プロトコルのフロー図(スクリーニング、ベースライン、介入、事後テストと各段階の n・時期)を描き、主要 KPI と成功基準、副次 KPI、多重比較の制御を定め、倫理項目と、内的・外的・構成概念・統計的結論の妥当性への脅威とその対処をまとめます。
  4. 執筆と確認。 依頼の言語でデザイン報告書を 1 つ書き、報告書の数値を図 — 検出力曲線、フロー図、予想される結果 — と照合するデザインチェックを実行し、主要な不一致をすべて直してから終えます。
  5. 回答。 チャットに短いまとめとファイルが表示されます。

デザイン報告書の中身

報告書には、枠組み、デザイン、変数と測定、参加者、統計、手続きと倫理、そしてデザイン要素ごとの根拠と出典がまとめられ、研究者が決めたこととエージェントが仮定したことが区別されます。

報告書の最後には事前登録の草案 — 仮説、デザイン、変数、標本、分析、除外ルール — と、研究者が決めることの一覧があります。DOCX、PDF、Markdown でダウンロードできます。

参照デザイン比較表は、調べた研究ごとに 1 行です。デザインの種類、独立変数、従属変数と測定、サンプルサイズ、分析、リンク、そして今回のデザインがその研究から取り入れたもの。2 つはつながっていて、デザインの根拠で引用された研究はすべて比較表にあり、支える列がどの要素を裏づけるかを示します。引用できるのはこの実行で検索して読んだ論文だけで、それ以外は保存前に取り除かれます。

得られる結果:エージェントの最後のステップの下に、実際の実行から得たデザイン報告書サンプルのページ。
得られる結果:エージェントの最後のステップの下に、実際の実行から得たデザイン報告書サンプルのページ。

サンプルサイズの決め方

検出力曲線は、デザインに合った検定でコードによって計算されます。たとえば事前・事後の混合デザインなら、交互作用を変化量で扱います。報告書には効果量、α、検出力、効果量の出典が記され、出典のない推定値はその旨が示されます。N は仮説を検定できる最小の人数で、脱落分の上乗せはしないので、募集計画はその上に立ててください。

レベルで変わること

どのレベルでも同じステップを実行し、サンプルサイズは常に検出力曲線から得られます。レベルが上がるほど多くの参照研究を調べ、多くの方法の節を読み、報告書に節が加わります。

LiteProExpertMax Thinking
ひとことで主デザインをすばやく主デザイン + 代替 1 つ分析計画まで含むデザインパイロット計画とスケジュールまで
候補 · 比較研究8 · 520 · 830 · 1240 · 15
方法の節を全文で読むなし(抄録のみ)2 本4 本6 本
サンプルサイズ検出力曲線 + 計算コード同じ同じ + 感度分析表同じ + 感度分析表
追加の節——分析計画 · 操作チェック分析計画 · 操作チェック · パイロット計画 · スケジュール

実行のしかた

エージェントギャラリー → 研究デザインで Experimental Design のタスクを実行を押します。タスク例が入った状態でホームが開くので、自分の研究に書き換えてください。

text
Design an experiment on {research topic or idea}. I want to test how {what you manipulate} affects {the outcome you measure} in {population}.

すでに決めていることは書いておきましょう。書いたとおりに守られます。次のような情報を加えると、結果がはっきり変わります。

  • 参加者数の上限やその他の制約(時間、予算、機材)。検出力と代替デザインをその範囲で比べ、根拠の表にどの決定が制約で変わったかを記します。
  • 必ず使う尺度や論文。 尺度は出典と採点が確認され、論文は参照デザイン比較表に入ります。
  • 所属機関の IRB の書式や規則。 倫理項目がそれに沿います。
text
I want to test in VR how kiosk font size affects task success for older adults. We can recruit at most 60 participants. Include a preregistration draft.

送信の隣でレベルを選んで送信します。ほかのエージェントと同様に、エージェントのページの私の指示に研究室の決まったルール — 検出力の基準、効果量の出典、好むデザイン、報告書の言語 — を名前を付けて保存し、繰り返し使えます。

デザインの後で

同じチャットで続けてください。「80 人しか集められないなら?」、「参加者間デザインに切り替えて」、「事前登録は OSF の書式で」。自分で手を入れたいときは、ファイルパネルで報告書のノートブックに保存を押します。

頼る前に、効果量の仮定を見直し、尺度のライセンスと翻訳を確かめ、決定事項の一覧を読んでください。倫理項目は申請を助ける草案で、承認は IRB が判断します。事前登録も草案です。OSF や AsPredicted にはご自身で登録してください。

まだ分野を整理していなければ、先に Narrative Review エージェントを実行し、同じチャットでデザインしましょう。見つけたギャップに取り組むデザインになります。研究を終えたら、Paper Draft が方法の節をこの報告書だけから書きます。設定と各ステップの指示文は研究デザインのテンプレート文書にあります。