今日の見出し
- 幻覚したAI報告で米軍が中国船の臨検寸前まで進む——CNNが4人の情報源の話として報道
- 連邦官報のサイトがFBIの名指しした中国製モデルを短期間使用——水曜に撤去
- FAAが8億7500万ドルのAIツールをワシントンDC空域から投入へ
- カリフォルニア州のニューサム知事が「キルスイッチ」の検討を含む知事令に署名
- バージニア州のスパンバーガー知事がAIタスクフォース設置とデータセンター抑制の知事令に署名
今日の3本は、政府がAIをどう使っているかという一点でつながっています。軍の情報分析で幻覚が出て中国船への作戦が寸前まで進んだ話と、規制文書を載せる政府サイトがFBIの名指しした中国製モデルを使っていた話が、同じ日に並びました。
その同じ日に、政府はもっと大きなAIを買い進めています。FAAは12年で8億7500万ドルの契約の一部として、全米の空域を見る予測システムをワシントンDC周辺から始める段取りに入りました。
今日の3本
幻覚したAI報告で米軍が中国船の臨検寸前
米軍が今春、AIの助けを得て作られた「完全に誤り」の情報報告をもとに、中国船の臨検寸前まで進んで引き返していたと、CNNが9月18日に報じました。
報告の中身は核関連の部材でした。中東にいる中国船が核兵器計画の部材を運んでいるという内容で、イランとの戦争のさなかに米軍内へ回覧されたと、CNNは4人の情報源の話として伝えています。
軍は乗り込む用意まで進めていました。CNNによれば、2人の情報源が武装した米軍の隊員が乗船の準備に入っていたと述べ、別の情報源は軍用機がすでに飛んでいたと述べています。
引き返したのは作戦の直前です。当局者が報告を掘り下げたところ、米特殊作戦軍のアナリストがAIの助けを借りて作ったものであり、そのアナリストが使ったチャットボットが積荷を誤って特定していたことが分かりました。誤認された積荷が何だったかは、CNNも突き止められていません。
チャットボットは二種類の情報を混ぜていました。公開情報と、政府が保有する秘密の信号情報を融合させて積荷についての結論に達したとCNNは伝えています。アナリストはその結論を再びAIを使って標準的な情報報告の体裁にまとめ、回覧しました。元になった船の積荷目録についての情報は、ハワイに拠点を置く米特殊作戦軍太平洋が出したものです。
商用か政府製かは判然としていません。アナリストが使ったチャットボットがどちらだったかをCNNは確認できておらず、軍と情報機関のAIシステムに詳しい元高官は「内部ツールは、たいてい商用品に口紅を塗った複製にすぎません」とCNNに述べています。
情報源の一人は「戦争を始めかけた」と述べています。中国船に対する米国の作戦は、両国間の武力衝突へ発展しかねないものだったとCNNは書いています。
当局側の説明は出ていません。米特殊作戦軍太平洋と国防総省は、CNNの取材に回答していません。
導入の側は速度を上げています。ヘグセス国防長官は1月に「AI加速戦略」を出し、あらゆる機密区分で300万人の文民・軍人へ直接AIを届ける「実験と変革の民主化」を掲げました。一方で取り組みは分散しており、AIが生成した情報を米国がどう検証するかについて統一の基準は置かれていないと、複数の当局者がCNNに述べています。
標的選定への広がりを懸念する声も出ています。「標的選定でのAIは確実に増えていますが、人間が関与することで民間人の犠牲や同士討ちをどう防げるのかについて、実際の指針はありません」と、軍の現行方針に詳しい別の情報源はCNNに述べました。同種の幻覚は、こうしたツールが政府内へ広がって以降、情報コミュニティで単発の出来事にとどまっていないとも情報源の一人は述べています。
調達は続いています。Ars Technicaによれば、国防総省は昨年12月にGoogleのGemini for Governmentを独自基盤「GenAI.mil」の土台に据えると発表し、先月Grok for Governmentを選択肢に加えました。6月には同省の担当者が議会で、議会向けの報告書の作成に生成AIを使っており、現役職員150万人が軍の生成AIツールを使ったと述べています。
- Report: US almost boarded Chinese ship over hallucinated AI arms report（Ars Technica）
- Exclusive: US military had close call after using AI for false intelligence report, sources say（CNN）
連邦官報のサイトがFBIの名指しした中国製モデルを短期間使用
米国立公文書館が運営する連邦官報（Federal Register）のサイトで、規則案へのパブリックコメントを検索する手段としてAlibabaのQwenモデルが短期間提供され、水曜に撤去されました。
撤去はReutersが報じました。Ars Technicaによれば、SNSの利用者が矛盾を指摘したあとに取り下げられており、アーカイブされたサイトのソースコードから水曜に取り下げられたことが確認できたとReutersは伝えています。
矛盾の中身はFBIの名指しです。FBIは今月、Alibabaを含む中国の主要6社が「産業規模の蒸留（industrial-scale distillation）」を行っており、それが米国最大の競争相手の開発コストと時間を削るのを助けていると主張しました。
開始時期は分かっていません。国立公文書館がいつからQwenモデルの選択肢を置いていたのかははっきりせず、同館・ホワイトハウス・FBIのいずれもコメントを出さず、同館はArs Technicaの取材にも回答していません。
露見の経緯はスクリーンショットです。Xの「tleilax___」というハンドルの利用者が、9月15日に政府サイトへ表示されていた選択肢のスクリーンショットを投稿し、広く共有されました。水曜の取り下げまで、少なくとも1日は使える状態でした。
安全上の危険は小さいという見方が専門家から出ています。ジョージタウン大学法科大学院のAnupam Chander教授はReutersに、危険性は学習のされ方次第だとしたうえで、このサイトの内容は「すでに公開されているので、モデルは機微な政府情報を扱っていませんでした」と述べています。中国のニュースサイトSina.comは、使われていたのが「Qwen3 0.6Bクラス」の小さなオープンウェイトモデルで、文書の検索だけを担い、政府データはAlibabaにも第三者にも渡らないと説明しています。
評価は割れています。Information Technology and Innovation Foundation会長のDaniel Castro氏はReutersに、FBIが米国製モデルだけを使うよう関係者に促しているなかで米政府機関がAlibabaのモデルを使うのは常軌を逸した断絶だと述べました。下院中国委員会委員長のJohn Moolenaar下院議員は、連邦政府のいかなる機関も中国のAIモデルを使うべきでないという立場を取り、そうすれば連邦政府が中国のAIモデルへ依存を深めるだけで国益にかなわないとReutersに述べています。
政策の土俵そのものへの指摘も出ています。3月に米中経済安全保障再検討委員会へ提出された議会向けの政策研究は、米国の輸出管理が先端半導体へのアクセス制限によってフロンティアの学習を縛る設計になっており、小型モデルの配備サイクルには届いていないと指摘しました。産業向けAIで効くモデルが小型・特化・オープンであるならば、現行の米政策の枠組みは競争の別の層を狙っていることになる、というのが研究者の言葉です。
FAAが8億7500万ドルのAIツールをワシントンDC空域から投入
FAAが航空管制官へ助言するAIシステム「SMART」を、混雑するワシントンDC周辺の空域から使い始める段取りに入りました。
システムの仕事は予測です。FAAの説明によれば、SMARTはAIモデルを使い、航空会社のスケジュール・天候・空港の処理能力・空域の状況といった運用上の要因から交通流を予測し、競合しうる箇所を洗い出します。
稼働時期はWall Street Journalが伝えています。米政府と業界の関係者は同紙に、SMARTがワシントンDC周辺の主要3空港で9月21日月曜にも動き出す可能性があると述べました。
これは全米展開の第一歩にあたります。FAAが管轄する米国の空域は2,900万平方マイルに及び、DC地域への投入はその全米展開へ向けた最初の段階と位置づけられています。
契約は12年で8億7500万ドルです。SMARTは6月にボストンのAir Space Intelligenceへ発注された契約の一部で、契約にはバージニア州にあるFAAの航空交通管制指令センターの現行システムを置き換えるFlow Management Data and Servicesの開発も含まれます。
範囲を絞ったことへの評価が出ています。Vector Strategic ConsultingのPhilip Mann氏は、全米展開の前に限定的な範囲で始めたのは「正しい判断」だとしています。同氏はFAAで17年間さまざまな役職に就いたのち、現在は航空安全とAIガバナンスの助言を行っています。
懸念の置き所も同氏が示しています。「SMARTのリスクは、単一の予測ではなく、AIの構成要素を持つ全国規模のシステムであり、FAAがこれまで配備したどれよりも未知が多いという点にありました」「範囲を削るたびに、未知は小さくなります」と、Mann氏はArs Technicaへのメールで述べました。
航空会社側は数週間戸惑っていました。Politicoによれば、業界はFAAの配備計画をめぐって混乱し、SMARTが管制官や航空会社の手順を変えず、既存のFAAシステムを通じて「代替経路の情報」を出すにとどまるとFAAが説明したあとに懸念が和らいだと、匿名の航空会社関係者が述べています。
中身は公表されていません。SMARTがどの種類のAIモデルを使っているかは明らかにされておらず、ArsはFAAにコメントを求めています。Mann氏は、6月にFAAが説明したとおり2万4000フィート以上を飛ぶ航空機の管理に配備範囲がとどまっているのかを知りたいとしています。
次の拡大の条件を見ると同氏は述べています。「私が見ているのは、次の拡大にどんな証拠が門を開けるのかです。実演の条件ではなく実際の作業負荷と劣化したデータのもとでの性能、そして予測が外れたときに誰が結果を引き受けるのかについての書かれた答えです」とMann氏はArsに述べました。
背景には管制官の不足があります。米政府監査院が2025年12月に公表した報告書によれば、管制官の人員は過去10年で6%減りました。FAAは1980年代からのレーダー数百基と無線・通信回線・音声交換機の置き換えにも着手したところです。
そのほかの動き
政策・規制
- カリフォルニア州のギャビン・ニューサム知事が9月18日、州のAI監督を強める知事令を出しました。知事令は専門家グループの招集を州に指示し、2か月以内に州法の安全策を強めるための勧告を出すよう求めています。検討の対象には、AI企業に定期監査のための独立検証グループを常駐させること、透明性報告とリスク評価を独立監査人の基準に服させること、有効性が定期的に検証される「キルスイッチ」を設けること、OpenAIによるHugging Faceへの攻撃のような「制御喪失インシデント」を重大な安全インシデントとして報告させることが挙がっています。知事は連邦議会とトランプ大統領に対し、州の枠組みを検討して採用するか、国内最先端の規制を「天井ではなく床として」使うよう呼びかけました。 Gavin Newsom is pushing for an AI kill switch（The Verge）
- バージニア州のアビゲイル・スパンバーガー知事が同じ9月18日、データセンターとAIのリスクを扱うExecutive Order 22に署名しました。知事令は行政府の職員がデータセンター案件で秘密保持契約を結ぶことを禁じ、騒音規制の前倒しと、データセンターが使う非常用発電の運用の見直しを求めます。あわせてAIタスクフォースを設け、雇用の置き換えやデータプライバシーといった州民へのリスクに州政府がどう対処できるか、既存法をAIによる被害にどう当てられるかを評価させます。州は「データセンター説明責任フレームワーク」も示し、ロードン郡に長く存在したような「権利による承認」の廃止、州の補助の一部撤廃、環境面のガードレール、電気料金の上昇からの住民保護を優先事項に挙げました。 Virginia governor creates an AI task force and moves to restrain data centers（The Verge）
モデル・API
- OpenAIでChatGPTの開発と人間のフィードバックによる強化学習の考案に関わったDiogo Almeida氏の会社TypeSafe AIが、テキストを出さないtransformerモデル「Jev」を今週公開しました。Jevは文章の代わりに確率、同社の言葉では「較正された判断」を返し、出力の選択肢は利用者が事前に定めるため、幻覚が起きない作りになっています。出力トークンは無料で、入力トークンは100万単位ではなく10億単位で課金されます。需要が集中して同社のAPIが一時的に応答できなくなるほど開発者の関心が集まり、Vercelのソフトウェアエンジニアは、コマンドの安全性を判定する分類器をOpenAIのLuna 5.6からJevへ置き換えたところ、結果が5〜18倍速く、精度も上がったと述べています。 A new kind of AI model from a ChatGPT inventor is thrilling developers（TechCrunch）
ビジネス
- ディズニーが初のCTOに、Character.AIの前CEOであるKarandeep Anand氏を迎えました。同社は2025年9月、自社の登場人物を侵害しているとしてCharacter.AIへ警告書を送っており、そのAIスタートアップを率いていた人物が今度は技術部門の最上位に就きます。Varietyによれば、3月にボブ・アイガー氏の後任として就任したジョシュ・ダマロCEOがAnand氏を選びました。Anand氏はCharacter.AIの取締役会アドバイザーを経て2025年5月にCEOとなり、それ以前は2015年から2021年までFacebookに、さらにその前は15年間Microsoftに在籍していました。 Disney’s first CTO led an AI startup it once accused of copying its characters（TechCrunch）
研究
- Googleが、AIが仕事と生産性に与える影響を追う「AI & Economy」研究プログラムを広げ、経済学者を迎えました。2025年のノーベル経済学賞受賞者でINSEADとコレージュ・ド・フランスの教授を務めるPhilippe Aghion氏がアカデミック・アドバイザーとして、トロント大学ロットマン経営大学院のAjay Agrawal氏がビジティング・フェローとして加わります。プログラムのディレクターにはマッキンゼー・グローバル・インスティテュート出身のAnu Madgavkar氏とDaniel Rock氏が就き、Google DeepMindのAGI経済ディレクターであるAlex Imas氏らと運営にあたります。同社が先に公開した利用実態のデータ集「AI & Economy ATLAS v1.0」の更新にも、この体制が反映されます。 New experts join Google’s AI & Economy team（Google）
ソース: AIニュースインボックス（2026年9月19日収集・29件、一次16件・二次13件）から編集部が選定しました。