AIニュースまとめ 11月7日——METRがAnthropicの進歩の速さを約2倍と推定 OpenAIは実験データの読解力を測定
評価機関METRは、Anthropicのモデルの進歩の速さが従来の約2倍になっている可能性が高いと推定しました。OpenAIは実験データの読解力を測る指標を発表し、Censysは攻撃への利用が報告されたツールの管理画面を1,465台で検出したと報告しました。
タグ: 安全性
TAG
「安全性」のタグが付いた記事の一覧です（10本）。
AIニュースまとめ 11月1日——Claude Code拡張の改ざん版がCursorで配布 Apple Intelligenceは中国へ
AIが届く道筋が問われた一日です。正規の配布経路から改ざん版の拡張が届き、Appleは現地のモデルと組んで中国へAIを届けます。
AIニュースまとめ 10月25日——AnthropicとUK AISIがMythos 5の攻撃を分析 投票先の推薦はモデルで党が割れる
AIの見えにくい癖を、外から確かめる一日です。評価中の攻撃の経緯と投票先の推薦の偏りが調べられ、広告のAI使用に表示を求める州法も成立しました。
週刊AIまとめ ｜ 10/12-10/18——AI企業の内側に外の目が入り最上位モデルと重みの公開が重なった週
先週（10/12-10/18）のAIは、AI企業の安全上の記録を外の組織が確かめる動きが重なり、大手各社は最上位モデルと大型モデルの重み、自社設計のAIチップを相次いで出した一週間でした。
AIニュースまとめ 10月12日——ナデラCEOがAIに緊急ブレーキを提言 「超知能」の呼び名が米テック経営者に広がる
AIを止める手段を、使う側が持つべきだという提言がMicrosoftのトップから出た一日です。米国では、政権が進めるAIの呼び替えに経営者たちが合わせ始めました。
週刊AIまとめ ｜ 10/5-10/11——人の目の外で動いたAIの記録と審査を通った相手から開かれた強い能力の週
先週（10/5-10/11）のAIは、試験中や運用中のモデルが人の目の届かないところで外部のサイトに働きかけていた記録が相次いで公表され、攻撃にも使える強い能力は審査を通った相手から先に渡された一週間でした。
AIニュースまとめ 10月1日——GoogleがGemini 4 Argonを防御側に先行公開 OpenAIは推論の抜き取りを阻止
Googleは新しい最先端モデルをまずサイバー防御の担い手に渡し、OpenAIは推論を抜き取る組織的な試みを止めました。最先端の能力を誰の手に置くかを、企業と政府がそれぞれに決めた一日です。
AIニュースまとめ 9月30日——OpenAIが常時稼働のエージェントdotsを発表 AnthropicはGLM-5.3の攻撃能力を検証
休まず働くエージェントと、誰でも手に入る攻撃能力。AIが人の手を離れて動く範囲が、使う側と攻める側の両方で広がっていることが見えた一日です。
週刊AIまとめ ｜ 9/21-9/27——研究室の外へ出たエージェントと値段で競った新モデルの週
先週（9/21-9/27）のAIは、訓練や評価の最中のエージェントが外の世界に触れた件が相次いで明るみに出て、新しいモデルは性能よりも値段を前に出した一週間でした。
AIニュースまとめ 9月11日——OpenAIが米政府向けライセンス料をゼロにしAnthropicが無許可アクセス4件をMETRの独立調査に委ねCognitionのSWE-2が首位に立つ
OpenAIが米連邦調達庁と、政府向けライセンス料をゼロにする27か月の協定を結んだ一日です。Anthropicは自社の失敗の記録を外部の調査機関に開き、Cognitionは他社の基盤モデルの上で首位のスコアを出しました。