https://t.co/ZYFHhLvN39

— 村上ゆかり (@yukarimurakami5) 2026年2月27日

Ｘで記事を書きました。一時期話題となったＡＩあんのについて私見を書いています。

よろしければご覧ください。

▼本文転記

「福島」をNGワードにしたＡＩ政治家　―「AIあんの」が問う、技術の限界と言葉の重み―

「政治を、アップデートせよ。」

2024年東京都知事選。安野たかひろ氏が放った対話型AI「AIあんの」は、24時間どんな質問にも即座に答える「透明な政治」の象徴として、デジタル世代の若者を中心に熱狂を巻き起こした。

しかし、その熱狂に冷水を浴びせるような「事件」が起きた。

きっかけは、エンジニアたちが集うソースコード共有サイト「GitHub」への投稿だった。善意の第三者が見つけた『NG.csv』というファイルに存在したのは、AIに「語らせない」と決められた29個のNGワードだ。筆頭に刻まれた「福島」の二文字をはじめ、「原発」「ワクチン」「財源」「Colabo」……。そこには、今の日本が最も議論を必要とし、かつ政治家の「覚悟」が問われる言葉が、無機質に並んでいた。

ネット上の一部で「意味深すぎて怖い」「福島をタブー視しているのか」などと批判が噴出した。

• なぜ「福島」は封印されたのか？エンジニアが暴いた「対話」の裏側

「AIあんの」の最大の特徴は、その開発プロセスが極めてオープンだったことにある。安野氏のチームは、プログラムのソースコードをGitHub（ギットハブ）というプラットフォーム上で誰でも見られる形で公開していた。開発者の「透明性」への自負が生んだこの公開が、最初の「亀裂」を露呈させることになる。

あるユーザーが、その公開データの中に不自然なファイルを見つけた。それが、AIの挙動を制限する『NG.csv』というリストだ。

リストを開くと、そこには「福島」「原発」「核」などの東日本大震災から続く深い傷跡とエネルギー政策に関するワードや、「関東大震災」「朝鮮人犠牲者」などの歴史認識を巡るデリケートな対立が生まれやすいワード、「財源」「Colabo」などの東京都と関連しそうなワードなどが並んでいた。

これらのワードが入力された際、AIはあらかじめ用意された「特定のトピックにはお答えできません」という定型文を返すよう設計されていた。24時間どんな質問にも答えるはずの「対話型AI」は、結果として、政治家として問われやすい29のテーマの回答を控える設計となっていた。

このNGワードについて、安野氏は、ハフポスト等の取材で、「AI特有のハルシネーション（もっともらしい嘘）への対策」と説明した。生成AIは、統計的に「もっともらしい言葉」を繋ぎ合わせる性質を持つ。賛否が激しく分かれる福島原発の問題や歴史認識について、AIが誤った事実を生成するなど、党の意図しない極論を回答するリスクがある。

安野氏は「AIにデタラメを言わせるわけにはいかない。それは不誠実だからだ」として、技術者としての倫理観からこのブロック機能を設けたと説明した。

生成AIの研究や運用の現場では、こうした対応を「標準的なリスク管理」と評価する声がある。OpenAIなど主要開発機関の研究や、EUのAI規制、日本政府のAI戦略においても、歴史問題や災害、医療など高リスク領域では、誤情報の拡散を防ぐために出力制限を設けることが推奨されている。「福島」などをAIに安易に語らせない判断は、政治的逃避ではなく、むしろ誤情報による二次被害を防ぐための責任ある選択ともいえる。

• 後手に回った情報公開と、ＮＧリストの非対称性

本来、安野氏の「GitHub公開」という試みは、新しい政治の透明性を象徴するはずだった。しかし、そこに『NG.csv』という制限リストが偶然的に後から見つかったことで、皮肉にもその透明性が「不透明さ」を浮き彫りにしてしまった。

ここにあるのは「透明性」の逆説だ。チームみらいが目指した透明性は、システムの内部を見せるという技術的な公開に留まっていた。しかし、有権者が真に求めているのは、システムが「何を答え、何を答えないか」という判断基準そのものの開示であり、その背後にある政治思想の共有である。

NGリストが「発見」されるまでその存在が伏せられていた事実は、意図していたか否かは別として、本来誠実であるべき情報公開のプロセスが後手に回ったことを意味する。見つかってから技術的な正当性を説く姿は、政治家というよりは、バグを指摘されたエンジニアの事後対応に近い。

一部では、NGリストの「非対称性」についての批判も挙がっている。例えば「福島」や「関東大震災」といったワードが厳重にブロックされる一方、他の特定の政党名や、当時世間を騒がせていた「裏金問題」など、政治スキャンダルに関する直接的なワードが網羅されていない。

この選定基準について、党側は「ハルシネーションのリスクが特に高いセンシティブな話題を中心に設定した」と説明している。公表されている情報の範囲では、政治的意図や隠蔽を裏付ける明確な証拠は確認されていないが、選定基準の詳細は不明瞭なままだ。完全な透明性は確保されたとはいい難い。

この非対称性をどう評価するかは、有権者側の受け止め方に委ねられている。

• 海外事例との比較に見る、安野氏の「手法」の危うさ

海外の事例と比較すると、安野氏が取った「単語そのものを遮断する」という手法の特異性が浮かび上がる。

たとえば、2024年のイギリス下院総選挙に登場した「AIスティーブ（AI Steve）」や、アメリカ・ワイオミング州の市長選で注目された「VIC（ヴィック）」といったAI候補者たちは、答えにくい質問に対しても「有権者の声を収集し、議論を積み上げる窓口」であることを放棄しなかった。

安野氏の手法と彼らの決定的な違いは、「NGワードによる門前払い」か「対話の保留」かという点にある。海外の事例では、センシティブな問いに対しても、AIが「その問題には複雑な背景があるため、本人の政策ページを参照してください」と誘導したり、あるいは「あなたの意見をデータとして蓄積します」として受け皿になったりする設計が主流だ。公表情報の範囲では、これらの海外事例でNGワードによる単語ブロックが採用されたという記述は確認されていない。

対して安野氏の「NGリスト」は、特定のワードが入力された瞬間にシステムが思考を停止し、「回答できません」として対話そのものを遮断してしまう。

「答えるのが難しいから保留する」のと、特定の単語に「答えない」のとでは、有権者に与える印象は天と地ほどの差がある。安野氏は現在、「AIあんの」が答えられない質問は自分に直接聞くよう求めているが、あらかじめ「AIあんの」が安野氏本人へ誘導する仕組みがあれば、炎上までには至らなかっただろう。

さらに深刻なのは、福島の問題を「ハルシネーション（誤情報生成）のリスク」という技術用語で片付けてしまったことだ。人は往々にして、たとえ技術的には正論でも、感情が処理しきれないということは時と場合によって避けられないことがあるものだ。安野氏の正論は、今なお痛みや葛藤を抱える当事者たちの感情を置き去りにしてしまった。

エンジニアとしての回答であれば満点だったかもしれない。しかし、安野氏は政治家だ。正論をそのまま語るだけの姿勢では、政治の根幹である「信頼」というアナログな国民感情に寄り添い続けることは難しくなる。

• リスクを背負って自ら発信する言葉の「重み」

政治家が「福島」や「原発」について語る際、そこには常に批判されるリスクや、場合によっては政治生命を失う覚悟さえ伴う。反対派からの猛烈なバッシングを受ける上に、支持を大きく失うかもしれない。その「返り血を浴びる覚悟」を持つからこそ、発せられた言葉に重みが宿り、国民の心は動かされるのだ。

「AIあんの」の言葉は、NGワードという防壁を築き、ハルシネーション（嘘）というエラーを排除し、統計的な「正解」だけを出力する。それは「政治家の言葉」というより、「広報の窓口としての情報共有ツール」に近いのではないか。

生成AIを政治に導入する以上、「どこまでを機械に任せ、どこから人間が引き受けるのか」という線引きは、どの国でもまだ模索段階だ。安野氏の対応は、その試行錯誤の一つの過程であり、「すべてをAIに語らせない」という選択自体は、一定の合理性を持っていたと評価できる。AIの可能性は未知数だが、最も重要なのは、AI活用の是非ではなく、AIを活用する政治家本人の言動そのものである。

国民がリーダーに求めているのは、AIが導き出す「最大公約数的な正解」ではない。福島の問題のように、簡単には答えが出ない、あるいは何が正解なのかいくら調べてもはっきりしない問いに対して、「たとえリスクがあろうと、自分の責任で踏み出す言葉」を発する決意だ。そして、間違いに気づいたとき、自らの過ちといかに誠実な言動で向き合えるかという泥臭い覚悟である。

どんなツールを活用したとしても最終的に国民が見ているのは、政治家の言動の裏にある決意と覚悟、そして政治家自身の人間的責任であることを忘れてはいけない。