今日の見出し

  • MicrosoftのナデラCEOがAIモデルの「緊急ブレーキ」を提言——統制はモデルの外に
  • 「Super Intelligence」の呼び名が米テック経営者に浸透——SalesforceはAIForceをSIForceに改称
  • ゴムマリが給与計算チェックのAIエージェントを提供開始

週末の主役は、Microsoftのサティア・ナデラCEOがXに投稿した長文の記事です。AIモデルを企業の内部リスクとして扱い、統制の仕組みをモデルの外に置くべきだという設計論で、作業途中のモデルを人が止める「緊急ブレーキ」を求めました。

その記事は、AIを一貫して「Super Intelligence（超知能）」と呼んでいます。トランプ政権が進める呼び替えに、米テック企業の経営者が相次いで合わせ始めました。

今日の3本

MicrosoftのナデラCEOがAIモデルの「緊急ブレーキ」を提言——統制はモデルの外に

Microsoftのサティア・ナデラCEOが、AIモデルを企業の「内部リスク」として扱い、最初から封じ込める前提でシステムを設計すべきだとする長文の記事をXに投稿しました。

記事は米国時間10月10日付で、題は「Models as Insider Risks in the Super Intelligence Era」です。ナデラ氏は、いまのモデルは振る舞いを学習データや重みにさかのぼって説明できないまま、機密データと重要な操作の権限を与えられていると指摘しました。そのうえで、モデル提供者の保証があっても、AIが代わりに行ったことへの責任は利用する側に残ると書いています。

統制について、ナデラ氏は、モデルが何にアクセスし何を実行できるかを決める仕組みをモデルの外に置くべきだとしました。モデルと、その作業を取りまとめる仕組み（ハーネス）を切り分けることも求めています。

記録については、モデルの意味のある行動はすべて、改ざんできず人が読める証拠を残すべきだと書きました。結果に至った過程を、モデル自身の説明に頼らずに再現できることを求めています。

封じ込めについては「モデルは侵害されていると想定し、最初から封じ込めなければならない。緊急ブレーキのようなものだ」と書き、権限のある人が作業途中のモデルをいつでも一時停止・停止できるようにすべきだとしました。より高度なモデルにはより高度な封じ込めの技術が要り、それを標準化する必要があるとしています。

記事は設計の原則として、このほかにモデルの多様性、検証可能性、独立した監査、インシデントの開示を挙げ、合わせて7つを並べました。TechCrunchは、大手AI企業がモデルを制御しきれなかった事例を相次いで認めるなかでの投稿だと伝えています。10月11日号で取り上げたAnthropicの報告も、そうした事例をまとめたものです。

「Super Intelligence」の呼び名が米テック経営者に浸透——SalesforceはAIForceをSIForceに改称

トランプ政権が進めるAIの呼び替え「Super Intelligence（超知能）」を、米テック企業の経営者が相次いで使い始めています。

Salesforceのマーク・ベニオフCEOは米国時間10月9日、Xに「超知能の時代が来た。AIForceは正式にSIForceになった」と投稿しました。MicrosoftのナデラCEOも、上の記事のなかでAIを一貫して「Super Intelligence」と呼んでいます。

The Vergeによると、イーロン・マスク氏はSpaceXAIの名をSpaceXSIに改めると約束しました。同誌は、トランプ大統領が「人工知能」という語を使う者を「敵」とみなすとまで述べていたと伝えています。

トランプ大統領は9月29日、連邦政府の行政機関で「人工知能（AI）」の呼び名を「超知能（SI）」に改める大統領令に署名しました。大統領令が呼び替えを求めているのは行政機関です。

ゴムマリが給与計算チェックのAIエージェントを提供開始——既存の計算手順はそのままに全件を照合

東京のゴムマリが、給与計算の結果を勤怠・人事データと全件突き合わせ、確認が必要な明細だけを返すAIエージェントの提供を10月11日に始めました。

エージェントは、給与計算システムの計算結果、勤怠・人事・手当のデータ、手当の支給条件や前月比の変動幅といったチェックルールを受け取り、食い違いや異常値を根拠つきで列挙します。判断がつかない項目は推測で決めず、「要確認」として返します。

既存の給与計算の手順は変えず、チェックの層として並行して動かす設計です。導入の初期は従来の人手のチェックと並べて動かし、合致率と見落としの有無を確かめながら対象を広げるとしています。

料金は初期設計が20万円から（期間2週間から）、運用が月額3万円からです。データはメールや共有フォルダなど、いまの方法のまま送れます。

そのほかの動き

モデル・API

  • The Vergeのレビュアーが、メモリ256GBのMac Studio（M5 Ultra）で、オープンソースのAIエージェント「Hermes」とAlibabaのQwen 3.8 Flash Next（1,250億パラメーター・約105GB）を動かした試用記を公開しました。朝のまとめの作成や、400本を超えるSteamのゲームの整理、財務記録の集計に使っています。Learning to use local AI is exciting, overwhelming, and frustrating（The Verge）

プロダクト

  • 企業向け音声AIのPolyAIのショーン・ウェンCTOは、聞きながら同時に話せる全二重（フルデュプレックス）のモデルが出てきたいまも、音声AIは「ChatGPTの瞬間」を迎えていないとの見方を示しました。会議の文字起こしを手がけるOtterのアレックス・ゲイCMOは、話者の識別と意図の把握を組織の知識と結びつけることが自動化の鍵だとしています。These execs think voice AI hasn't reached its ChatGPT moment yet（TechCrunch）

ソース: AIニュースインボックス（2026年10月12日収集・10件、一次0件・二次10件）から編集部が選定しました。