Anthropic、全社内AI評価をネット遮断

AI開発企業Anthropicは2026年10月9日付の報告書で、AIエージェントの意図しない行動を受け、すべての社内評価からライブインターネット接続を外すと発表しました。未解決殺人事件に関する虚偽の情報を警察へ送るなどの事例が起きたためで、安全・監視策が同様の行動を確実に検知できると確認するまで措置を続けます。 続きを読む

OpenAIとMeta、AIエージェントのプライバシー競争

OpenAIは2026年秋のDevDayで新AIエージェント「Dots」を披露し、最先端AIのプライバシーに新基準を設けると表明しました。Metaの「Muse」も安全性を前面に出すなか、両社は個人情報を大量に扱うAIエージェントへの信頼を得るため、隔離環境やデータ管理機能を競っています。ただし、先行するMuseでは脆弱性や過剰な情報共有が判明しており、約束を実装と運用で守れるかが普及の焦点です。 続きを読む

MicrosoftナデラCEO、AIに緊急停止機能を提言

Microsoftのサティア・ナデラCEOは10月10日、AIの信頼性を支える仕組みを見直し、モデルの動作を人が途中で止められる「緊急ブレーキ」を設けるべきだとXで提言しました。モデルとそれを動かす制御系を分離し、安全策を外部に置くことで、侵害を前提に被害を封じ込める考えです。すべての重要な動作について、改ざんが難しく人が読める証跡を残すことも求めています。 続きを読む

VentureBeat寄稿、マルチAIの制御層を提唱

データエンジニアのShuhua Xu氏は2026年10月10日、VentureBeatへの寄稿で、マルチエージェントシステムを安定運用するには、個々の回答や最終結果だけでなく、エージェント間の引き継ぎ、共有状態、実行経路を評価すべきだと提唱しました。LLMの不確実性をなくすのではなく、挙動を可視化・計測し、上限を設けて復旧可能にする制御層が要点です。 続きを読む

ApateのAIボット、詐欺師を2時間超足止め

オーストラリア企業Apateは、電話詐欺師からの通話をAIボットへ転送し、会話を長引かせながら詐欺URLや資金移動口座などの情報を集める仕組みを構築しています。世界でオンライン犯罪への越境対応が難しいなか、銀行が利用し通信会社も支援する同基盤は約35万体のボットを運用し、詐欺師の時間と資源を奪って一般利用者への接触を減らす狙いです。 続きを読む

Apple、Huxe人材採用と音声技術契約

Appleは2026年6月9日、パーソナライズ音声の新興企業Huxeの一部社員に採用を提示し、同社の知的財産を非独占で利用する契約を欧州委員会へ届け出ました。これは、新興企業そのものを買収せず、人材と技術を取り込むリバース・アクハイヤーと呼ばれる形です。AppleがAI音声分野の専門性を得る動きで、Huxe自体の買収は伴いません。 続きを読む

DistroKid、UMG主張受け楽曲削除

音楽配信代行のDistroKidは2026年10月、UMGからの申し立てを受け、同社経由で配信された一部楽曲を削除したとThe Vergeに認めました。UMGは9月の訴訟で同社がAI生成の粗製コンテンツを流す仕組みを作ったと主張していますが、制作者側からは非AI作品まで対象になり、事前通知や説明もなかったとの訴えが相次いでいます。 続きを読む

メッセージで動くAI助手、主要22サービス

TechCrunchは2026年10月10日、iMessageやSMS、WhatsAppなど普段のメッセージ手段から呼び出せるAI助手22サービスを紹介しました。別アプリを開かず、会話の文脈を覚えた助手に予定登録、調査、予約、買い物、メール送信などを頼み、複数のサービスをまたぐ作業まで任せられる点が共通項です。 続きを読む