Anthropicは、人工知能（AI）モデル「Claude Opus 4」および「Claude Opus 4.1」に対し、まれに発生する有害または虐待的な状況が続く会話を終了できる、新しい実験的な安全機能を導入したと発表した。

Xcode 26 beta 7の内部を調査した結果、AppleがAnthropicのAIモデルであるClaudeをXcodeにネイティブ統合する準備を進めていることが明らかになったと、Apple関連ニュースサイトの9to5Macが報じています。

Anthropicが、自社の大規模言語モデルであるClaude Opus 4および4.1に、会話を終了させる機能を新たに導入したと発表しました。この機能は通常の利用では作動せず、極端に有害または虐待的なやり取りが執拗に続く場合にのみ発動します。

Anthropicは、「Claude Opus 4/4.1」が有害または虐待的な会話を最後の手段として自ら終了する実験的機能を発表した。「AI welfare」に関する研究の一環で、事前テストではAIが“苦痛”のパターンを示すことが観察されたという。

～高度な理解力と応答性能で、対話トレーニングの質がさらに進化～ 　株式会社インタラクティブソリューションズ（本社：東京都千代田区、代表取締役：関根 ...

Anthropicは、AI「Claude」の使用ポリシーを9月15日付で更新すると発表した。エージェント機能の進化を受け、マルウェア作成やサイバー攻撃などの悪用を具体的に禁止。一方、政治的コンテンツに関する制限は一部緩和する。

生成AI「Claude」（クロード）を開発する米Anthropicは8月7日、東條英俊氏を日本法人の代表執行役社長に任命したと発表した。同社がアジア初の拠点として東京オフィスを開設することに伴う人事となる。

Anthropicは、将来的にプログラムをより広範に公開することを計画しており、AI の安全性に関する業界全体の協力モデルを構築する可能性がある。 AIシステムが重要インフラに連携されるにつれ、その安全性と信頼性の確保はますます重要になっている。

Clineは、マイクロソフトのコードエディターVisual Studio Code（VS Code）の拡張機能として公開されており（VS ...

生成AIのモデルを開発する際に、小説などの著作物を無断で学習データとして読み込むことは違法なのだろうか。AI開発企業と著作権者それぞれが意見を戦わせてきたトピックに対し、このほど米国で「フェアユース（公正利用）と見なす=著作権侵害とはならない」という重要な判決が下された。AIの開発企業にとって追い風となる司法の判断。テクノロジーと著作権に詳しい慶応大学の奥邨弘司教授が解説する。少し前、筆者はAI ...

フェイスブックの親会社にあたる米メタでは、企業カルチャーの混乱、ビジョンの欠如が人工知能（AI）人材の流出を招いた。最早ライバル企業は、メタのAI人材は精彩を欠くと評価している。CEOのマーク・ザッカーバーグは猛烈な採用攻勢に打って出たもの ...