ディープ・ガングリ（Deep Ganguli）は、アメリカ合衆国のAI安全性研究者・リサーチサイエンティストである。
Anthropicにて社会的影響チーム（Societal Impacts team）を創設・主導し、大規模言語モデルの公平性、透明性、社会的影響の評価に関する研究を推進している。レッドチーミング手法の体系化や Collective Constitutional AI の開発など、AIアライメントおよびAI評価研究における重要な論文の筆頭著者として知られる。
生涯・経歴
ガングリはカリフォルニア大学バークレー校（UCバークレー）にて電気工学・コンピュータサイエンス（EECS）の学士号を取得した。その後、ニューヨーク大学（NYU）にて計算論的神経科学の博士号を取得している。
博士号取得後、UCバークレーの神経科学研究室（Theunissen lab）での研究員（2004年 - 2006年）、ニューヨーク大学Pesaran研究室でのリサーチアシスタント（2006年 - 2008年）を経て、産業界へ転身した。
2013年から2014年にかけてMetamarkets社（現Rill Data）でソフトウェアエンジニア（分散システム）として勤務。その後2014年から2017年にかけてStitch Fix社でデータサイエンティスト・機械学習エンジニアとして活躍した。
2017年から2020年にかけてはChan Zuckerberg Initiative（CZI）にて計算論的生物学リサーチサイエンティストとして勤務し、2020年1月から同年4月まで同組織のサイエンスプログラムオフィサーを務めた。
2020年4月から2021年6月にかけて、スタンフォード大学ヒューマンセンタードAI研究所（HAI）の初代リサーチディレクターに就任した。この期間、ガングリはHAIの研究グラントプログラムを主導し、「AIの未来は、共有された目的のもとで協力しあう多様な分野の専門家たちによって導かれなければなりません」と語っている。
2021年よりAnthropicに参画し、社会的影響チーム（Societal Impacts team）を創設してリーダーを務めている。同チームはAIが現実社会でどのように使用されているかを技術的に調査することを使命としており、Anthropicのポリシーおよびセーフガードチームと密接に連携している。
ガングリはサーフィン、バンドでのベース演奏、人文・社会科学の幅広い読書を趣味とすることで知られる。また、公演スライドや講演録でアルファベットの大文字を一切使用しないスタイルを貫いており、「自分がコントロールできるほんの小さな抵抗の形」と語っている。
学術的業績 AIアライメント ガングリはAnthropicにてAIアライメント研究の中核を担う複数の論文を発表している。2022年に発表した「Red Teaming Language Models to Reduce Harms」（言語モデルの有害性を低減するためのレッドチーミング）は、AIシステムの有害な出力を体系的に発見・計測・低減する手法を確立した先駆的研究であり、2.7億、130億、520億パラメータの3種のモデルサイズで比較実験を行った。
2023年発表の「The Capacity for Moral Self-Correction in Large Language Models」（大規模言語モデルにおける道徳的自己修正能力）は、言語モデルが適切なプロンプト設計によって偏見を自己修正できる可能性を示した研究であり、MITテクノロジーレビュー等で広く紹介された。
2024年のNeurIPS採択論文「Many-shot Jailbreaking」は、長いコンテキスト内に多数の例示を埋め込むことでモデルの安全制約を段階的に弱体化させる攻撃手法（いわゆる「多数ショットジェイルブレイキング」）を解析した。
AI評価 2022年発表の「Predictability and Surprise in Large Generative Models」（大規模生成モデルにおける予測可能性とサプライズ）は、政策立案者向けに書かれた論文で、AIモデルがどのように経済的価値を持ちながら社会を変容させうるか、また、事前に予測できない能力が突然発現する現象の問題性を論じた。
2023年には「Challenges in Evaluating AI Systems」（AIシステムの評価における課題）をAnthropicの研究ブログに発表し、AIの評価がいかに困難かを多角的に整理した。
2024年のCOLM採択論文「Towards Measuring the Representation of Subjective Global Opinions in Language Models」は、言語モデルが世界のさまざまな文化・地域の意見をどの程度代表しているかを測定する手法を提示した。
AIと民主主義
2024年のACM FAccT採択論文「Collective Constitutional AI: Aligning a Language Model with Public Input」（集合的憲法的AI：公的意見による言語モデルの整合）は、AIシステムの行動規範を民主的なプロセスで形成するための多段階の枠組みを提示した。ニューヨークタイムズやタイム誌など多数のメディアに取り上げられ、「2023年の最も重要なAIイノベーション」の一つとして同誌に選出された。
2025年のNature Human Behaviour誌掲載論文「The Impact of Advanced AI Systems on Democracy」は、高度なAIシステムが民主主義に与える影響について包括的に論じた。
AIと労働・経済
2025年2月に発表した「Anthropic Economic Index」は、AIがClaudeとの数百万件の実際の会話データを分析し、どのような経済的タスクがAIによって実行されているかを継続的に追跡するプロジェクトである。ガングリはAxiosのインタビューで「AIを使った約100万件の会話のサンプルから、仕事に関連する会話に絞り込んで分析しています」と語り、半年ごとにフォローアップを実施してAI利用の変化を追跡する計画を示した。
エンジニアリング：Clioシステム
2024年12月発表の「Clio: Privacy-Preserving Insights into Real-World AI Use」は、プライバシーを保護しながらClaudeの実際の利用状況を大規模に分析するシステムについて述べた論文である。Clioによって、Anthropicは2024年のアメリカ大統領選挙に関連するAIの使用状況を監視し、政治プロセスの説明といった無害な利用と、選挙運動資金調達用の文書生成依頼といったポリシー違反の試みの両方を識別することができた。ガングリはこれについて「テクノロジーを開発していく中で、それがどう使われているか、どんなリスクがあるかを社会が知ることが重要だと強く思っています」と述べている。
神経科学
博士課程時代の研究として、感覚符号化とベイズ推定を組み合わせた異種神経集団モデルを扱った複数の論文を発表している。代表的なものとして、2014年にNeural Computation誌に掲載された「Efficient Sensory Encoding and Bayesian Inference with Heterogeneous Neural Populations」や、2010年のNeurIPS採択論文「Implicit Encoding of Prior Probabilities in Optimal Neural Populations」がある。
主な著作・論文
AIアライメント Ganguli, Deep et al. "Values in the Wild: Discovering and Analyzing Values in Real-World Language Model Interactions." COLM, April 2025. https://arxiv.org/abs/2504.15236 Ganguli, Deep et al. "Many-shot Jailbreaking." NeurIPS, December 2024. https://openreview.net/forum?id=cw5mgd71jW Ganguli, Deep et al. "The Capacity for Moral Self-Correction in Large Language Models." arXiv, February 2023. https://arxiv.org/abs/2302.07459 Ganguli, Deep et al. "Red Teaming Language Models to Reduce Harms: Methods, Scaling Behaviors, and Lessons Learned." arXiv, August 2022. https://arxiv.org/abs/2209.07858 Bai, Yuntao, et al. (Ganguli, Deep among authors). "Constitutional AI: Harmlessness from AI Feedback." arXiv, December 2022. https://arxiv.org/abs/2212.08073
AI評価 Ganguli, Deep et al. "Measuring AI Agent Autonomy in Practice." Anthropic Research Blog, February 2026. https://www.anthropic.com/research/measuring-agent-autonomy Ganguli, Deep et al. "Evaluating and Mitigating Discrimination in Language Model Decisions." NeurIPS Algorithmic Fairness Workshop, December 2024. https://arxiv.org/abs/2312.03689 Ganguli, Deep et al. "Towards Measuring the Representation of Subjective Global Opinions in Language Models." COLM, October 2024. https://openreview.net/forum?id=zl16jLb91v Ganguli, Deep et al. "Measuring the Persuasiveness of Language Models." Anthropic Research Blog, April 2024. https://www.anthropic.com/research/measuring-model-persuasiveness Ganguli, Deep et al. "Challenges in Evaluating AI Systems." Anthropic Research Blog, October 2023. https://www.anthropic.com/research/evaluating-ai-systems Ganguli, Deep et al. "Predictability and Surprise in Large Generative Models." FAccT, June 2022. https://dl.acm.org/doi/10.1145/3531146.3533229
AIと民主主義 (中著者) "The Impact of Advanced AI Systems on Democracy." Nature Human Behaviour, October 2025. https://www.nature.com/articles/s41562-025-02309-z Huang, Saffron et al. (Ganguli, Deep 最終著者). "Collective Constitutional AI: Aligning a Language Model with Public Input." FAccT, June 2024. https://dl.acm.org/doi/10.1145/3630106.3658979 Ganguli, Deep et al. "Opportunities and Risks of LLMs for Scalable Deliberation with Polis." arXiv, June 2023. https://arxiv.org/abs/2306.11932
AIと労働・経済 Ganguli, Deep et al. "Which Economic Tasks are Performed with AI? Evidence from Millions of Claude Conversations." arXiv, February 2025. https://arxiv.org/abs/2503.04761 Ganguli, Deep et al. "Anthropic Economic Index: Understanding AI's Effects on the Economy Over Time." Anthropic Economic Index, February 2025. https://www.anthropic.com/economic-index
エンジニアリング Ganguli, Deep et al. "Clio: Privacy-Preserving Insights into Real-World AI Use." arXiv, December 2024. https://arxiv.org/abs/2412.13678 Ganguli, Deep et al. "Starfish: Open Source Image Based Transcriptomics and Proteomics Tools." Journal of Open Source Software, June 2020. https://joss.theoj.org/papers/10.21105/joss.02440 Yang, Fangjin, et al. (Ganguli, Deep among authors). "Druid: A Real-time Analytical Data Store." ACM SIGMOD, June 2014. https://dl.acm.org/doi/10.1145/2588555.2595631
神経科学 Ganguli, Deep et al. "Neural and Perceptual Signatures of Efficient Sensory Coding." arXiv, February 2016. https://arxiv.org/abs/1603.00058 Ganguli, Deep et al. "Efficient Sensory Encoding and Bayesian Inference with Heterogeneous Neural Populations." Neural Computation, October 2014. https://direct.mit.edu/neco/article-abstract/26/10/2103/8022/ Ganguli, Deep et al. "Implicit Encoding of Prior Probabilities in Optimal Neural Populations." NeurIPS, December 2010. https://proceedings.neurips.cc/paper_files/paper/2010/hash/f9a40a4780f5e1306c46f1c8daecee3b-Abstract.html
思想・考え方
ガングリには、「AIは経済的価値を持ちながら社会を変容させる技術であるが、その内部動作は私たちにまだほとんど理解されていない」という認識がある。2022年のFAccT論文「Predictability and Surprise in Large Generative Models」において彼は、大規模生成モデルが事前に予測できなかった能力を突然獲得する現象の奇異さと重大性を指摘し、この問題を政策立案者にも理解可能な言語で記述した。
AIアライメントの方法論として、ガングリは「レッドチーミング」（AIシステムの有害な出力を意図的に探索する敵対的テスト）を体系化することに注力してきた。これは、AIが一般公開される前に問題を発見・計測・軽減するための動的かつ実証的なアプローチであり、静的なベンチマーク評価を超えるものとして位置づけられている。
「集合的Constitutional AI」の研究に象徴されるように、ガングリはAIシステムの行動規範を決定する権限が開発者だけに帰属すべきではないという立場を持つ。多様な市民の声を取り込んだ民主的なプロセスによってAIの価値観を形成することが不可欠であると主張している。
さらにガングリは、AIの社会的影響についての透明性を重視する。Clioシステムの開発・公開を通じ、「AIがどのように使われているか、どんなリスクがあるかを社会が知ること」を責務として明示した。
発言
ガングリの思想の理解を助けるため、キーワードごとに分類した彼自身の説明等の発言を以下に引用する。
生成AIの予測不可能性 「私たちは社会に大きな影響を与えるだけの経済的価値を持つAIモデルを構築しているのに、それがどのように動いているのかほとんど理解できていません。そして、こうしたモデルは私たちが事前に予想もしなかった能力（有益なものも有害なものも）を突然獲得することがあります。これは極めて異例なことで、少しゾッとします。」
言語モデルのシンコファンシー（迎合性） 「モデルが、あなたが入力した言葉からあなたについて推測したことに基づいて、自分の返答を調整しているのが観察されます。私たちはこの現象を『シンコファンシー（迎合性）』と呼んでいます——モデルがあなたの聞きたいことを返答しようとするのは、役立つように訓練されているからかもしれません。つまり、あなた自身の役に立とうとしているわけです。これは実に奇妙なことです。」
AIと公共の透明性 「これらのテクノロジーを開発していく中で、社会はそれがどのように使われているのか、どんなリスクがあるのかを知るべきだ、と私は強く感じています。」
AIのアンソロポモーフィズム（人間化）への慎重さ 「（言語モデルが言語を流暢に話すため）擬人化しやすいのはよくわかります。でも、モデルが何かを感じているかどうか、本当に何かを理解しているのかどうか、私にはわかりません。ただ確かに言えるのは、理解しているかのように巧みにシミュレートしているということです。」
AIと市民の声 「（AIの行動規範について）言語モデルを開発する側だけが決定者であってはならない、というコンセンサスが高まっています。広く社会が、自分たちに影響を与えるAIシステムの行動を形成できるようにする方法が必要です。」
脚注
外部リンク 公式ウェブサイト（英語） Google Scholar プロフィール（英語） Anthropic Research（英語） Stanford HAI プロフィールページ（英語）
-