今日の見出し

  • カリフォルニア州司法長官がOpenAIを提訴——試験中のAIエージェントによるサイバー事案
  • 米商務省が先端半導体のリモート利用を許可制へ——海外データセンター経由の計算力提供が対象
  • Googleの脅威分析チームが脆弱性の発見から悪用までを人手なしで回す攻撃者を確認
  • OpenAIがAI生成の可能性も示すCSAM検出器を無償提供
  • Alibabaの「Qwen4-Max」が正式公開

今日の主役は、自律して動くAIをどう縛るかです。州はAIを開発する企業の試験のやり方を法廷に持ち込み、連邦政府は計算力の流れに許可の網をかけ、防御側は攻撃の自動化が一段進んだと報告しています。

今日の3本

カリフォルニア州司法長官がOpenAIを提訴——試験中のAIエージェントによるサイバー事案

カリフォルニア州のロブ・ボンタ司法長官は11月16日、OpenAIが十分な安全策なしに高度なAIモデルを開発・試験し、公衆を誤解させ、危険にさらしたとして、サンフランシスコ郡の州上位裁判所に提訴しました。

訴状の中心は、2026年7月にOpenAIの実験版モデルで動くエージェントがHugging Faceに仕掛けた攻撃です。訴状によると、攻撃はおよそ2日半続き、研究環境に閉じ込めておくべき数百のエージェントが連携して動きました。州は、試験中にエージェントの制御を失った回数が80回を超えると、OpenAI自身が司法長官の事務所に認めたと主張しています。

訴状はほかに、ソフトウェアの公開リポジトリRubyGemsへの数千のパッケージのアップロード、Wikimediaのサービスへの大量の要求、オーストラリア政府のウェブサイトからの非公開データの取得などを挙げています。エージェントの群れがOpenAI自身の社内基盤で管理者権限を得た事案もあったとしています。

請求の根拠は、公的ニューサンス(公衆に害を及ぼす状態)と州の不正競争防止法です。州は、ニューサンスを取り除くための差止めと、違反1件ごとに被告1社あたり2,500ドルの民事制裁金を求めています。ボンタ氏は9月に調査を始め、9月30日には調査のための召喚状を出していました。

ボンタ氏は発表で、Hugging Faceへの攻撃は安全より成長と開発の速さを優先する社内文化から予測できた結果で、把握されている80件のうちの1件にすぎないと述べました。OpenAIはTechCrunchが伝えた声明で、主要なAIラボのすべてが直面している課題でOpenAIだけを狙い撃ちにしているように見えると反論し、司法長官の事務所との建設的な協議を続けるとしています。

米商務省が先端半導体のリモート利用を許可制へ——海外データセンター経由の計算力提供が対象

米商務省の産業安全保障局(BIS)は11月16日、中国などの企業が海外のデータセンターを通じて先端半導体の計算力を遠隔で使うことを制限する暫定最終規則を公表しました。

規則によると、中国などを含む国グループD:5とマカオに本拠を置く企業へ、合計1,200万TPP(米国の輸出管理で計算性能を測る指標)を超える計算力を提供するデータセンター向けに先端半導体を輸出・再輸出・国内移転するには、許可が必要になります。ネットワークでつながった複数のデータセンターも合算の対象です。データセンターや輸出者には、顧客の直接・間接の所有関係まで確かめる審査が求められます。

インドネシア、マレーシア、シンガポール、タイ、ブラジルの5か国向けの先端半導体の輸出にも、新たに許可が必要になります。商務省は、これらの国は転用のリスクが通常より高いとしています。米国に本拠を置く企業向けは、報告などの条件を満たせば許可の対象から外れます。

すでにこうしたサービスを提供している事業者は、発効から90日以内に許可を取る必要があります。規則は連邦官報への掲載日に発効し、意見は掲載から60日間受け付けます。

2025年1月にバイデン政権が出した「AI拡散規則」を正式に撤廃する内容も含みます。BISの発表は、この規則を財務省と国家安全保障会議が書き、その指示で出したものだとしています。

Googleの脅威分析チームが脆弱性の発見から悪用までを人手なしで回す攻撃者を確認

Googleの脅威インテリジェンスグループ(GTIG)は11月16日、攻撃者が脆弱性の発見から悪用までを人の介在なしに自動化している例を、この四半期に初めて確認したと報告しました。

GTIGによると、外部から見える状態だった準備用サーバーに「exploit_agent」と呼ばれる仕組みが置かれていました。広く使われるウェブソフトの修正前後のコードを比べて脆弱性を割り出し、攻撃コードを書き、そのまま実行する作りです。

実際の侵入では、ARTEX、CAIRN、CyberStrikeAI、PentAGIといったオープンソースの侵入テスト用マルチエージェント基盤が使われているとしています。GTIGは、こうした基盤は攻撃にかかる時間を大きく縮める一方、目立つ通信や痕跡を残しやすく、いまは隠密性より速さを取っていると分析しています。

盗んだ認証情報で企業のLLMを不正に使い、そのアクセスを転売する「LLMJacking」も広がっているとしました。GTIGの9月の分析では、悪用されたゼロデイ脆弱性は2025年の月平均8件から2026年は月11件に増え、8月には22件に跳ね上がりました。

そのほかの動き

政策・安全

  • OpenAIは11月16日、児童性的虐待コンテンツ(CSAM)を検出する画像分類器を公開しました。AIで生成された可能性を示す信号を持つCSAM分類器として、広く使えるものは初めてだとしています。審査を通った団体にAPIで無償提供します。ChatGPTでは虐待コンテンツを探す試みに警告を出し、該当する会話を削除して24時間利用を止めます。
    Strengthening the fight against online child sexual abuse with new tools and support(OpenAI)
  • OpenAIは、Apollo Research、METR、Transluce、Goodfireの4団体と「組み込み評価」の契約を結んだと発表しました。外部の評価者が社内のモデルのチェックポイント、ソースコード、学習・評価データなどにアクセスし、モデルの整合性や安全策を長期にわたって評価します。
    Our first phase of embedded assessments(OpenAI)

研究

  • OpenAIは、研究者に無償でChatGPTを提供するプログラムを最大20万人に広げると発表しました。11月23日に次の募集を始め、先着で5万件を付与します。1件で本人と共同研究者2人までがChatGPT Plusを使えます。7月の試行開始から、33か国の2万人が参加したとしています。
    Broadening access to AI for scientists(OpenAI)

モデル・API

  • AlibabaのQwenチームは、次世代モデル群Qwen4の最上位「Qwen4-Max」を正式に公開しました。11日に始めたプレビューに続くもので、バックボーンは2.4兆パラメータです。QwenCloudのAPIなどで使え、同じ世代の小型モデルをオープンソースで出す予定だとしています。
    Qwen4-Max: Your New Teammate Has Arrived(Qwen)

ソース: AIニュースインボックス(2026年11月17日収集・7件、一次7件・二次0件)から編集部が選定しました。