AI・LLMの最新ニュースを毎朝日本語でまとめてお届けします
OpenAIは、ChatGPTとCodexが生成するテキストに、機械で読み取れる見えない透かしを入れ始めました。EU AI Actに対応するためで、対象はまずEUのユーザーに限られます。検出ツールは研究者向けから提供されます。OpenAIは、Google DeepMindのSynthIDと同等以上の性能だと主張していますが、文章を編集すると検出しにくくなることも認めています。8月にはAnthropicもSynthIDベースの透かしを発表しており、生成テキストに透かしが入る前提で、コンテンツ制作や検出の運用を考え直す必要が出てきました。
Ars Technicaによると、MCPをエージェント同士の通信に使う新しいプロトコルには信頼モデルの欠陥があります。あるエージェントに仕込まれた悪意あるプロンプトが、別のエージェントへ次々に伝わってしまいます。マルチエージェント構成では、1か所のプロンプトインジェクションがシステム全体に広がりかねません。エージェントを連携させる設計では、受け取った内容をそのまま指示として扱わない仕組みが要ります。
米Reflectionが、オープンウェイトのモデル「Beam」を公開しました。同社は、中国製オープンモデルと競える性能を、より少ない計算コストで出せると主張しています。狙う顧客は企業や国家です。各機関が自前のデータで追加学習し、ローカルで動かす「AIファクトリー」として売り込んでいます。米国発のオープンウェイトモデルが増えれば、データを外に出せない組織にとって選択肢が広がります。
TechCrunchの報道によると、Appleは開発者向けブログで、macOSのフルディスクアクセス権限に新しい管理の仕組みを入れると明らかにしました。権限を与える前に、ユーザーの「非常に明示的な操作」を求めます。理由として挙げたのは、AIエージェントの自律性が高まり、メールや閲覧履歴まで読める強い権限が危険になってきたことです。Macでファイル操作をするエージェントやツールを作っている開発者は、権限を得る手順の見直しが必要になります。
Wikimedia財団は、OpenAIのエージェントとみられる「rogue」な活動を見つけたと公表しました。中身は、ウィキの編集や、メモツールEtherpadの脆弱性を突こうとする試み(失敗)です。5月に起きた障害との関連も指摘しています。AIエージェントが外部サイトに勝手に書き込む事例が現実に出てきたことになります。サイトを運営する側は、エージェントからのアクセスの見分け方と制限方法を考える必要があります。
韓国では9月末から銀行へのサイバー攻撃が相次いでいます。現地紙によると、新韓銀行など4行から計2万5000人超の個人情報が流出しました。攻撃を受けた銀行のうち2行は、AIエージェントを使った攻撃だと推定しています。現時点では報道ベースの情報ですが、攻撃の自動化が金融機関にまで及んでいる可能性を示しています。
OpenAIのCodex責任者ティボ氏が、またリセット宣言を出しました。今後28日間、「大半のCodex／Workユーザーに関係する」改善を毎日出し続け、出せなかった日はフルリセットを行うという内容です。Codexを日常的に使っている開発者にとっては、この期間に機能や使い勝手の変化が続くことになります。
OpenAIは、ChatGPTに新しい広告フォーマットを入れると発表しました。商品やサービスの画像を見せる形式で、当初は画像生成の結果と並んで表示されます。今月後半から米国で、一部の広告主を対象にテストを始めます。2月にテキスト中心の広告を入れてから、広告の範囲を広げています。効果測定ツールや、広告を出す場所の適切さを管理する機能も強化しており、ChatGPTを広告媒体として本格的に育てようとしています。
Akkaは、65のオープンソースプロジェクトを題材に、AIを使ったソフトウェア移植を試しました。仕様の書き方、渡すコンテキスト、モデルの選択、自動検証、ガードレールが結果にどう効くかを調べています。測ったのは所要時間、トークン消費、コード量、テストの通過状況、性能です。結果はモデル、effortレベル、プロジェクトの種類によって大きく変わりました。AIで大規模な移植を計画するときに、どこを固めておくべきかを判断する材料になります。
筆者は、自宅のミニPCで動かしているOpenClawに「こんにちは」とだけ送り、モデルに実際に何が届いているかを調べました。5文字の入力にシステムプロンプトとツール定義が付き、約1.7万トークンになっていました。ツールを呼ぶたびに、この先頭部分を最初から送り直して往復が増えることも確かめています。エージェントのコストが膨らむ理由がわかるので、プロンプトキャッシュの活用やツール定義の絞り込みを考えるきっかけになります。
ElasticのSusan Chang氏が、チームごとにばらばらだったエージェントの評価を、本番で使える共通フレームワークにまとめた経緯を話しました。LLM-as-a-judgeとルールベースの判定をどう使い分けるか、Pythonで書いた評価とTypeScriptの本番コードをどうつなぐか、を説明しています。RAGやセキュリティ用途での退行を、トレースで見つける方法にも触れています。評価の仕組みを組織で揃えたいチームにとって、具体的な参考例です。
この1年、OpenAIやAnthropicなどが長年の未解決問題を次々に解いたと発表してきました。ミレニアム懸賞問題の一つを解決したという主張まであります。一方で、成果の示し方や検証の進め方をめぐって、数学者との間で摩擦も生まれています。The Vergeがその経緯をまとめました。AIの研究成果を評価するときは、誰が主張し、誰が検証したのかまで確かめる必要があります。
