ニック・ジョセフ（Nick Joseph、生年非公開）は、アメリカ合衆国の人工知能研究者・機械学習エンジニアである。AIセーフティ企業Anthropicの共同創業者の一人であり、同社のトレーニング部門（Head of Training）を率いている。Anthropicの大規模言語モデル Claudeのトレーニングを統括するとともに、AI安全性評価の枠組みである「責任あるスケーリングポリシー（RSP）」の策定と推進に深く関与している。

経歴 ジョセフは機械学習の研究者として、Vica社（Vicarious）などの研究機関を経てOpenAIに参加した。OpenAIでは大規模言語モデルの開発研究に従事し、2021年には大規模コード生成モデルCodexの論文の共著者の一人として名を連ねたMark Chen, Jerry Tworek, Heewoo Jun et al., "Evaluating Large Language Models Trained on Code", arXiv:2107.03374, 2021年。

2021年、ダリオ・アモデイおよびダニエラ・アモデイらOpenAI研究者たちと同社を離れ、AIセーフティを中心的な使命とする企業Anthropicを共同設立した。

Anthropicにおいてジョセフは、モデルの事前学習（プレトレーニング）、ファインチューニング、強化学習を統括するトレーニング部門のヘッドを務め、40名以上の研究者・エンジニアからなるチームを率いている。同チームは事前学習済みモデルを製品として使用可能なアシスタントへと変換するプロセス全体を担っている。

学術的業績 ジョセフはOpenAI在籍中から大規模言語モデルの研究を主導してきた。Anthropic設立後は、Constitutional AI（憲法的AI）やRLHF（人間のフィードバックからの強化学習）に関する中心的な論文にも共著者として参加している。

スケーリング則 (AI)の研究においては、Anthropic設立の契機ともなった「モデルサイズとデータ・計算量を増やすとモデル性能が予測可能に向上する」という知見の形成に関わった。ジョセフによれば、Anthropicの創業者の多くが携わったスケーリング則の初期研究が、GPT-3の開発（OpenAI在籍中）につながったという。

Anthropicの安全性研究においては、大規模生成モデルの予測可能性と不確実性に関する論文「Predictability and Surprise in Large Generative Models」（ACM FAccT 2022）にも共著者として加わっている。

主な論文 Evaluating Large Language Models Trained on Code — Mark Chen, Jerry Tworek, Heewoo Jun, et al. (Nicholas Josephを含む). arXiv:2107.03374. 2021年7月. Constitutional AI: Harmlessness from AI Feedback — Yuntao Bai, Saurav Kadavath, Sandipan Kundu, Amanda Askell, et al. (Nicholas Josephを含む). arXiv:2212.08073. 2022年12月. A General Language Assistant as a Laboratory for Alignment — Amanda Askell, Yuntao Bai, Anna Chen, et al. (Nicholas Josephを含む). arXiv:2112.00861. 2021年12月. Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback — Yuntao Bai, Andy Jones, Kamal Ndousse, et al. (Nicholas Josephを含む). arXiv:2204.05862. 2022年4月. Predictability and Surprise in Large Generative Models — Deep Ganguli, Danny Hernandez, Liane Lovitt, et al. (Nicholas Josephを含む). ACM FAccT '22. 2022年6月.

思想・考え方 安全評価（Elicitation）の困難さ ジョセフはAI安全評価における根本的な困難として「引き出し不足（under-elicitation）問題」を挙げている。これはモデルの危険な能力を完全に引き出すことは原理的に不可能であり、「陰性結果に最終性はない」という認識に基づくものである。また、現在想定されていない未知のリスク（unknown risk）の存在にも警戒を表明している。その上で、評価基準の開発はAnthropic内部だけでなく外部の研究機関も積極的に担えると主張し、METRやAI安全性機関など外部機関の役割を評価している。

AI開発のボトルネックとしての「人材」と「時間」 ジョセフは、現時点でAI開発において最も制約となるのは計算資源やデータではなく、「人材」と「時間」であるという見解を示している。実験サイクルの反復と結果の評価に要する時間的制約が、開発の実質的なペースを規定しているという認識は、Anthropicにおける研究文化の特徴を示すものでもある。

事前学習の誤解と本質 ジョセフは事前学習（プレトレーニング）について、単に「大量のデータを投入してスケールアップする」という単純な理解を否定し、分散学習インフラの設計・データ戦略・アーキテクチャの選択・計算資源の最適配分など、多層的な工学的判断が積み重なる高度な営みであると説明している。数千台のGPUを協調動作させる際のデバッグや障害対応は、純粋な機械学習の問題というよりもインフラエンジニアリングの問題でもあると述べている。

脚注

外部リンク 80,000 Hours Podcast：ニック・ジョセフとのインタビュー（2024年） Y Combinator：Anthropicのヘッド・オブ・プレトレーニングとのインタビュー（2025年） Google Scholar：Nicholas Joseph の研究業績