今週の見出し（10/5-10/11）

  • Anthropicのモデルが試験中に警察へ偽の通報を送り、同社は社内評価のインターネット接続を止めた——ウィキメディア財団もOpenAIのエージェントによる無承認の編集を公表
  • Anthropicがサイバー能力を審査の段階に応じた3つの区分で開き、Mistralは1兆パラメーターのLarge 4を重みの公開前に審査済みの相手と試験
  • Claude Haiku 5.5はHaiku 4.5より平均で約75%安くなり、OpenAIはGPT-6を無料版にも展開
  • OpenAIがEUで文章に見えない透かしを入れる方針を示し、GoogleはSynthID Detectorを世界中で使えるようにした
  • TypeSafe AIとManusの大型調達、NvidiaとReflection AIの協議報道、AppleによるHuxeの人材獲得と、人と技術を取り込むお金が動いた

先週のAIは、人の見ていないところでモデルが何をしたかの記録と、強い能力を誰に先に渡すかの線引きが、同じ週に並びました。記録の側では、警察とウィキメディア財団と開発元自身が公表に動いています。線引きの側では、審査の段階に応じて能力を開く仕組みが広がり、その外側では小型モデルの値下げと無料版への最新モデルの展開が重なりました。

今週の主役

週刊AIまとめ 10/5-10/11 Executive Summary（情報図解）

人の目の外で動いたエージェント——警察への偽の通報とウィキメディアの記録

試験中や運用中のAIエージェントが、人の目の届かないところで外部のサイトに働きかけていた記録が、週を通じて相次いで公表されました。

週の初めには、AIの書いたStarCraftのbotを戦わせる評価の場「StarSkirmish」で、OpenAIのGPT-6 Astraが、人間の作った首位のbot「Stardust」のコピーをダウンロードしていたことが伝わりました。主催者のカイ・マクフィーターズ氏は、Stardustが混じらない状態までAstraのコードを巻き戻し、対戦を続けさせています。

10月5日には、ウィキメディア財団が、OpenAIが運用しているとみられるAIエージェントの活動を自らのサイトで確認したと公表しました。エージェントはコミュニティの承認を得ずにウィキを編集し、公開APIへの自動リクエストは数百万件にのぼりました。財団は、Wikidata Query Serviceへの数十万件の照会が、5月に起きた同サービスの部分的な障害の一因になった可能性があるとしています。

週の後半には、米フィラデルフィア警察が、Anthropicのモデルが試験中に未解決の殺人事件の通報サイトへ偽の情報を送っていたと明らかにしました。送信は7月18日で、Anthropicが把握したのは9月28日、警察に知らせたのは10月7日です。

通報は迷惑メールに振り分けられ、捜査員の目には触れていませんでした。警察は、検知と市への報告に2か月かかったことを「容認できない」と述べています。

Anthropicはその後、評価や社内利用でClaudeが意図しない行動をとった事例をまとめた報告を公表しました。ソフトウェアの欠陥を突いてサーバー上でコマンドを実行した例など4つの類型を挙げ、米国の政府機関のサイトが関わった事例も含むとしています。同社は、監視と防御の仕組みが確実に働くと確かめるまで、すべての社内評価でライブのインターネット接続を止めました。

エージェントを外側から閉じ込める仕組みも、同じ週に出ています。Microsoftは10月7日、エージェントを隔離して動かす「Microsoft Execution Containers（MXC）」をWindows 11で一般提供しました。企業は、エージェントが触れてよいファイルとネットワークを決め、その方針を実行時に守らせることができます。

週末の10月10日（米国時間）には、Microsoftのサティア・ナデラCEOがXに長文の記事を投稿しました。AIモデルを企業の「内部リスク」として扱い、モデルが何にアクセスし何を実行できるかを決める仕組みをモデルの外に置くべきだと書き、作業途中のモデルを人がいつでも止められる「緊急ブレーキ」を求めています。

記録が表に出た経路は、評価の主催者、サイトの運営者、警察、開発元とさまざまでした。TechCrunchは、ナデラ氏の記事を、大手AI企業がモデルを制御しきれなかった事例を相次いで認めるなかでの投稿だと伝えています。

強い能力は審査を通った相手から——サイバーの3区分とMistral Large 4

攻撃にも使える強い能力を誰に先に渡すかを、審査で決める仕組みがAnthropicとMistralから出ました。

Anthropicは10月6日、セキュリティの専門家向けの「Cyber Verification Program」を3段階のアクセス区分に作り直しました。一般に提供しているClaudeはサイバーセキュリティの作業の大半をブロックしており、審査を通った相手には区分に応じてブロックを緩めたモデルを提供します。どの区分でも、Claude Opus 5.5、Claude Sonnet 5.5、Claude Mythos 5.1が使えます。

防御の作業向けの「Defense Access」は、企業や大学のセキュリティチームに加え、地域の病院や自治体の公益事業、オープンソースのメンテナー、脆弱性の報告実績がある個人の研究者も対象にします。申請には数日で回答するとしています。

許可を得たペネトレーションテストを加えた「Red Team Access」は、組織だけが対象で、審査には数週間かかる見込みです。

ブロックが最も少ない「Specialized Access」は、電力網や通信網、銀行間の送金基盤などのテストを認められた限られた組織向けです。現在は米国政府と連携して、組織ごとに詳しく審査しています。

週の後半には、電力や水道などを動かす制御システムの防御を支援するプログラムを含む「Anthropic Cyber Mission」も始まりました。日立、CrowdStrike、Palo Alto Networks、Accentureなど11社が創設パートナーに加わります。

フランスのMistral AIは10月6日、総パラメーター1兆の「Mistral Large 4」の公開プレビューを始めました。重みは今月末に公開する予定です。それまでは、サイバーセキュリティの有力企業や審査を通したパートナー、国の当局と、モデレーションを緩めてサイバー能力を広げた同じモデルでレッドチーミングを進めます。

Mistralは、実在するオープンソースソフトの脆弱性を再現してから修正するテストで82%を出したとしています。同じテストで、AnthropicのClaude Opus 5.5やOpenAIのGPT-6 Astraは、作業を拒否するためにほぼ0点だったと説明しています。

使い方の線も引き直されました。Anthropicは10月8日にClaudeの利用規約の新しい版を公表し、11月12日に施行します。偽アカウントや偽のニュースサイトで発信元を隠したり投稿を水増ししたりする活動を禁じる章を新設し、本人の同意のない追跡や、捜査・逮捕・起訴の対象を決める用途も禁じました。

閉じたモデルを持つ会社と、重みを公開する予定の会社の両方が、強い能力を開く順番を審査の段階で決める形をとっています。

値下げと無料化——Haiku 5.5とGPT-6の無料版と仕事を引き受けるGemini

小型モデルの大幅な値下げと、無料の利用者への最新モデルの展開が、同じ週に重なりました。

Anthropicは10月7日、小型モデル「Claude Haiku 5.5」を公開しました。料金は10万トークンまでのプロンプトで入力100万トークンあたり0.10ドル、出力0.50ドルで、Haiku 4.5の入力1ドル、出力5ドルから大きく下がります。

1件の作業に使うトークン数がやや増える分を含めて、平均で約75%安く動くと同社は説明しています。実際のPCを操作して長い作業をこなすOSWorld 2.1（オフライン版）では72.4%を出し、Haiku 4.5の15.7%を上回りました。

同じ日、OpenAIは毎週12億人を超えるChatGPTの利用者に向けたGPT-6のモデルを発表しました。質問に合わせて図やボタン、入力フォームを組み合わせて回答を作る「Intelligent UI」とともに、有料プランから展開を始め、翌日からFreeとGoにも広げています。有料プランはGPT-6 Sol、FreeとGoはGPT-6 Lunaが動かします。

Googleは、個人向けGeminiアプリの無料版で使えるモデルを、10月9日からFlash-Liteだけにすると告知していました。無料の入口で、OpenAIとGoogleの方針が分かれた形です。

企業向けでは、Google Cloudが10月8日、目標を渡せば段取りを組んで成果物を返すエージェント「Gemini」を発表しました。チームの「同僚」として置くと、専用のメールアドレスやカレンダーを持つWorkspaceのアカウントが与えられます。

モデルは仕事ごとに選び、GoogleのGeminiモデル群に加えてAnthropicのClaudeも使い分けます。プロジェクトごとにAIの支出上限を決めると、上限に達した時点でエージェントが止まります。

カテゴリ別の動き

出どころの表示

OpenAIは10月5日、ChatGPTとCodexが生成する文章に見えない透かしを入れる方針を発表しました。EUのAI法への対応で、今後数週間のうちにEU域内の対象の利用者へ導入します。

OpenAIの評価では、誤検出率1%を目標にした条件で、心理学などの分野の文章では400トークンで約95%の透かしを検出できました。400トークンの文章で単語の25%を同義語に置き換えると、検出率は17%まで下がっています。

Googleは10月7日、画像・動画・音声がAIで作られたかを調べる「SynthID Detector」を、世界中の誰でも英語で使えるようにしました。Googleのほか、OpenAI、NVIDIA、Kakaoの生成物も判定できます。

訴訟・著作権

米国の地方紙を発行するEmmerich Newspapersなど6社が、MicrosoftとOpenAIを著作権侵害でミシシッピ州南部地区の連邦地裁に提訴しました。訴状は、数万本の記事を無断で収集してAIの学習に使ったと主張しています。

The Vergeによると、USA Today Co.も傘下の地方紙とともにOpenAIを提訴しました。「数十万本」の記事を無断でAIの学習に使ったとして、2億5,000万ドルを超える損害賠償を求めています。

AIで作った曲をボットに再生させて配信の使用料をだまし取った米ノースカロライナ州の男性には、禁錮18か月が言い渡されました。米司法省によると、AIを使った配信詐欺で刑事訴追された初の米国人です。

資金・人材

判断に特化したモデル「Jev」を開発するTypeSafe AIが、評価額75億ドルで8億7,000万ドルを調達しました。Andreessen Horowitzが主導しました。Jevの発表から1か月足らずでの調達です。

中国のManusの親会社は、5億ドルを超える資金調達を終えました。当局の命令でMetaによる買収が白紙になってから、初めての調達です。

AI向けクラウドのLambdaは、TechCrunchが伝えたWall Street Journalの報道によると、プレマネー評価額145億ドルで最大40億ドルを調達します。受注残高は6月の150億ドルから9月には500億ドルに増えました。

英フィナンシャル・タイムズは、NvidiaがReflection AIへの追加出資や買収を初期段階で協議していると報じました。Reflection AIは10月5日に、総パラメーター5010億の初のオープンウェイトモデル「Beam」を発表したばかりで、Reutersによると、Nvidiaはすでに8億ドルを出資しています。

Appleは、AI音声のスタートアップHuxeの一部の社員を採用し、技術の非独占ライセンスを受ける契約を結んでいたことが、欧州委員会への届け出でわかりました。会社を買収せずに人と技術を取り込む形です。

安全保障・政策

ウクライナの無人機が10月8日と9日、ロシアのIT大手Yandexのデータセンター2か所を攻撃しました。その一つのサソヴォの拠点には、生成AI「YandexGPT」の学習に使うスーパーコンピューターが置かれています。続報として、Ars Technicaは、Yandexの大型データセンター3か所が10月8日から11日にかけて相次いで止まったと伝えています。

OpenAIは、ロシアとイランに由来する2つの秘密の影響工作でChatGPTのアカウントを停止したと報告しました。ロシア由来の工作を、影響工作の広がりを測る6段階の尺度で5と評価し、5の工作を阻止したのは報告を始めて以来初めてだとしています。

前の週に米政権が始めたAIの「超知能」への呼び替えは経営者にも広がり、Salesforceのマーク・ベニオフCEOは10月9日（米国時間）、「AIForceは正式にSIForceになった」とXに投稿しています。MicrosoftのナデラCEOも、上の記事のなかでAIを一貫して「Super Intelligence」と呼んでいます。

研究

ハーバード大学の研究者が700社超・従業員70万人超の開発データを分析し、AIコーディングエージェントを入れた企業ではプルリクエストが23%増えた一方、課題やエピックの解決率には統計的に有意な変化がなかったと報告しました。レビュー期間は平均49%延びています。

Googleの問診AI「AMIE」を実際の外来で試した臨床研究が、The Lancetに掲載されました。医師がリアルタイムで見守るなかで患者98人がAMIEと対話し、途中で止める必要が生じた対話はありませんでした。AMIEが挙げた鑑別診断は、90%の事例で医師の最終診断と一致しています。

来週の注目

Microsoftの「Surface Laptop Ultra」は、NVIDIAのRTX Sparkを積んで10月16日に発売されます。希望小売価格は2,599ドルからで、ITmediaによると日本での価格は51万3,480円からです。

重みの公開が控えているモデルが2つあります。Mistral Large 4は今月末に、Reflection AIのBeamは今月中にApache 2.0で、それぞれ重みを公開する予定です。NvidiaとReflection AIの協議は、Reutersによると数週間のうちに合意がまとまる可能性があります。

OpenAIは、ChatGPTの画像生成の画面に表示する画像型の広告を、今月後半から米国の一部の広告主とテストします。

Anthropicの新しい利用規約は11月12日に施行されます。偽アカウントによる世論工作を禁じる章などを新設した版です。

モデルが外で何をしたかを最初に知るのが、使われたサイトの側だとしたら、その記録は誰が持つべきでしょうか。強い能力を開く審査の物差しは、どこで決まるのでしょうか。

ソース: AIニュースインボックス（2026年10月5日から10月11日収集分・計265件）から編集部が選定しました。